结合ollama gemma2:2b大模型来实现数据分析系统的智能交互

本文主要是介绍结合ollama gemma2:2b大模型来实现数据分析系统的智能交互,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

在最近的人员风险行为分析系统开发过程中,需要解决一个问题:在缺乏GPU资源的情况下,如何提升智能交互能力。​我们探索并研究了集成gemma2:2b模型的可行性,这一举措旨在在有限的硬件条件下,为我们的系统注入更高级别的智能性,从而增强用户体验并提高数据分析效率。
具体可分为如下几个步骤:

  1. 定义用户可能提出的问题类型
  2. 结合大模型设计接口,以便根据用户的问题提取实体信息
  3. 实现数据检索机制以提取相关信息返回给用户

如下,是系统页面原型,
在这里插入图片描述
交互时,用户输入自己的问题,我们无法预测用户输入什么,但是我们可以定义系统能处理什么类型的问题。在本功能里,我们定义如下系统可以交互的问题分类:

  1. 人员的基本信息
  2. 联网设备(应用系统、数据库资产、终端设备资产、服务器资产等)的基本信息
  3. 人员日常操作风险(从告警列表里读取)
  4. 和知识图谱的交互线索,例如共用终端风险线索(从知识图谱里查到用户使用两个以上终端设备的图数据)

接着我们要用大模型把用户问题里的实体抽取出来,这就需要我们定义prompt,并利用提示词让大模型帮我们把用户的问题解读成我们可继续执行的实体行为。代码如下:

@app.route('/chat', methods=['POST'])
def chat():data = request.jsonprompt = data.get('prompt', '')payload = {"model": "gemma2:2b","prompt": BASE_PROMPT + prompt}response = requests.post(f"{OLLAMA_API_BASE}/generate", json=payload)response.headers['Content-Type'] = 'application/json; charset=utf-8'if response.status_code == 200:try:result = response.content.decode('utf-8')# 尝试解析每一行responses = [json.loads(line) for line in result.strip().split('\n')]# 提取所有响应中的 'response' 字段combined_response = ''.join(r.get('response', '') for r in responses if 'response' in r)# 使用正则表达式提取括号内的内容pattern = r'\((.*?)\)'matches = re.findall(pattern, combined_response)result_list = []for match in matches:# 使用defaultdict来处理重复键result_dict = defaultdict(list)# 使用逗号分割键值对,允许逗号前后有空格pairs = re.split(r'\s*,\s*', match)# 遍历每个键值对for pair in pairs:# 使用冒号分割键和值,允许冒号前后有空格key_value = re.split(r'\s*:\s*', pair, maxsplit=1)if len(key_value) == 2:key, value = key_value# 去除键和值两端的空格,并将值添加到对应的键的列表中result_dict[key.strip()].append(value.strip())# 将defaultdict转换为普通字典,对于只有一个值的键,直接使用该值而不是列表final_dict = {k: v[0] if len(v) == 1 else v for k, v in result_dict.items()}result_list.append(final_dict)return jsonify({"response": result_list})except json.JSONDecodeError as e:return jsonify({"error": f"Failed to parse JSON response: {str(e)}"}), 500else:return jsonify({"error": "Failed to get response from Ollama"}), 500

代码里的关键部分是BASE_PROMPT,我找了GPT帮我润色,如下,感觉可以写的更好一些。

BASE_PROMPT = """您的任务是仔细分析用户提供的文本,并从中提取关键实体信息。请特别关注以下四类实体:1. 用户相关信息:- 姓名- 身份证号码- 所在公司- 其他相关的个人识别信息2. 设备相关信息:- IP地址- MAC地址- 操作系统- 机器名称- 其他可识别的设备特征3. 事件相关信息:- 网络事件- 风险事件- 其他值得注意的事件4. 时间相关信息:- 时间段- 开始时间- 结束时间- 其他时间请仔细阅读文本,识别并提取上述实体信息。将提取的信息以(key:value)的格式整理,多个实体之间用逗号分隔。key只能从IP、姓名、身份证、电话号码、操作系统、事件、时间这几个词里选择。例如:(姓名: 张三, 身份证: 310123199001011234, IP: 192.168.1.100, 操作系统: Windows 10, 事件: 异常登录, 时间: 前天)如果某类实体在文本中未提及,则无需包含在结果中。请确保提取的信息准确且与原文相符。如果文本中包含其他重要的实体信息,也请一并提取。请现在开始分析下面用户提供的文本,并按上述格式返回提取的实体信息:"""

可以看看测试结果如下,
在这里插入图片描述
这样我们就可以根据response进行进一步的拆解,按姓名、按事件、按时间来整理数据并最终返回给用户。

这篇关于结合ollama gemma2:2b大模型来实现数据分析系统的智能交互的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1119119

相关文章

Java枚举类实现Key-Value映射的多种实现方式

《Java枚举类实现Key-Value映射的多种实现方式》在Java开发中,枚举(Enum)是一种特殊的类,本文将详细介绍Java枚举类实现key-value映射的多种方式,有需要的小伙伴可以根据需要... 目录前言一、基础实现方式1.1 为枚举添加属性和构造方法二、http://www.cppcns.co

使用Python实现快速搭建本地HTTP服务器

《使用Python实现快速搭建本地HTTP服务器》:本文主要介绍如何使用Python快速搭建本地HTTP服务器,轻松实现一键HTTP文件共享,同时结合二维码技术,让访问更简单,感兴趣的小伙伴可以了... 目录1. 概述2. 快速搭建 HTTP 文件共享服务2.1 核心思路2.2 代码实现2.3 代码解读3.

MySQL双主搭建+keepalived高可用的实现

《MySQL双主搭建+keepalived高可用的实现》本文主要介绍了MySQL双主搭建+keepalived高可用的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,... 目录一、测试环境准备二、主从搭建1.创建复制用户2.创建复制关系3.开启复制,确认复制是否成功4.同

Java实现文件图片的预览和下载功能

《Java实现文件图片的预览和下载功能》这篇文章主要为大家详细介绍了如何使用Java实现文件图片的预览和下载功能,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... Java实现文件(图片)的预览和下载 @ApiOperation("访问文件") @GetMapping("

使用Sentinel自定义返回和实现区分来源方式

《使用Sentinel自定义返回和实现区分来源方式》:本文主要介绍使用Sentinel自定义返回和实现区分来源方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录Sentinel自定义返回和实现区分来源1. 自定义错误返回2. 实现区分来源总结Sentinel自定

Java实现时间与字符串互相转换详解

《Java实现时间与字符串互相转换详解》这篇文章主要为大家详细介绍了Java中实现时间与字符串互相转换的相关方法,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录一、日期格式化为字符串(一)使用预定义格式(二)自定义格式二、字符串解析为日期(一)解析ISO格式字符串(二)解析自定义

opencv图像处理之指纹验证的实现

《opencv图像处理之指纹验证的实现》本文主要介绍了opencv图像处理之指纹验证的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学... 目录一、简介二、具体案例实现1. 图像显示函数2. 指纹验证函数3. 主函数4、运行结果三、总结一、

Springboot处理跨域的实现方式(附Demo)

《Springboot处理跨域的实现方式(附Demo)》:本文主要介绍Springboot处理跨域的实现方式(附Demo),具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不... 目录Springboot处理跨域的方式1. 基本知识2. @CrossOrigin3. 全局跨域设置4.

Spring Boot 3.4.3 基于 Spring WebFlux 实现 SSE 功能(代码示例)

《SpringBoot3.4.3基于SpringWebFlux实现SSE功能(代码示例)》SpringBoot3.4.3结合SpringWebFlux实现SSE功能,为实时数据推送提供... 目录1. SSE 简介1.1 什么是 SSE?1.2 SSE 的优点1.3 适用场景2. Spring WebFlu

基于SpringBoot实现文件秒传功能

《基于SpringBoot实现文件秒传功能》在开发Web应用时,文件上传是一个常见需求,然而,当用户需要上传大文件或相同文件多次时,会造成带宽浪费和服务器存储冗余,此时可以使用文件秒传技术通过识别重复... 目录前言文件秒传原理代码实现1. 创建项目基础结构2. 创建上传存储代码3. 创建Result类4.