结合ollama gemma2:2b大模型来实现数据分析系统的智能交互

本文主要是介绍结合ollama gemma2:2b大模型来实现数据分析系统的智能交互,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

在最近的人员风险行为分析系统开发过程中,需要解决一个问题:在缺乏GPU资源的情况下,如何提升智能交互能力。​我们探索并研究了集成gemma2:2b模型的可行性,这一举措旨在在有限的硬件条件下,为我们的系统注入更高级别的智能性,从而增强用户体验并提高数据分析效率。
具体可分为如下几个步骤:

  1. 定义用户可能提出的问题类型
  2. 结合大模型设计接口,以便根据用户的问题提取实体信息
  3. 实现数据检索机制以提取相关信息返回给用户

如下,是系统页面原型,
在这里插入图片描述
交互时,用户输入自己的问题,我们无法预测用户输入什么,但是我们可以定义系统能处理什么类型的问题。在本功能里,我们定义如下系统可以交互的问题分类:

  1. 人员的基本信息
  2. 联网设备(应用系统、数据库资产、终端设备资产、服务器资产等)的基本信息
  3. 人员日常操作风险(从告警列表里读取)
  4. 和知识图谱的交互线索,例如共用终端风险线索(从知识图谱里查到用户使用两个以上终端设备的图数据)

接着我们要用大模型把用户问题里的实体抽取出来,这就需要我们定义prompt,并利用提示词让大模型帮我们把用户的问题解读成我们可继续执行的实体行为。代码如下:

@app.route('/chat', methods=['POST'])
def chat():data = request.jsonprompt = data.get('prompt', '')payload = {"model": "gemma2:2b","prompt": BASE_PROMPT + prompt}response = requests.post(f"{OLLAMA_API_BASE}/generate", json=payload)response.headers['Content-Type'] = 'application/json; charset=utf-8'if response.status_code == 200:try:result = response.content.decode('utf-8')# 尝试解析每一行responses = [json.loads(line) for line in result.strip().split('\n')]# 提取所有响应中的 'response' 字段combined_response = ''.join(r.get('response', '') for r in responses if 'response' in r)# 使用正则表达式提取括号内的内容pattern = r'\((.*?)\)'matches = re.findall(pattern, combined_response)result_list = []for match in matches:# 使用defaultdict来处理重复键result_dict = defaultdict(list)# 使用逗号分割键值对,允许逗号前后有空格pairs = re.split(r'\s*,\s*', match)# 遍历每个键值对for pair in pairs:# 使用冒号分割键和值,允许冒号前后有空格key_value = re.split(r'\s*:\s*', pair, maxsplit=1)if len(key_value) == 2:key, value = key_value# 去除键和值两端的空格,并将值添加到对应的键的列表中result_dict[key.strip()].append(value.strip())# 将defaultdict转换为普通字典,对于只有一个值的键,直接使用该值而不是列表final_dict = {k: v[0] if len(v) == 1 else v for k, v in result_dict.items()}result_list.append(final_dict)return jsonify({"response": result_list})except json.JSONDecodeError as e:return jsonify({"error": f"Failed to parse JSON response: {str(e)}"}), 500else:return jsonify({"error": "Failed to get response from Ollama"}), 500

代码里的关键部分是BASE_PROMPT,我找了GPT帮我润色,如下,感觉可以写的更好一些。

BASE_PROMPT = """您的任务是仔细分析用户提供的文本,并从中提取关键实体信息。请特别关注以下四类实体:1. 用户相关信息:- 姓名- 身份证号码- 所在公司- 其他相关的个人识别信息2. 设备相关信息:- IP地址- MAC地址- 操作系统- 机器名称- 其他可识别的设备特征3. 事件相关信息:- 网络事件- 风险事件- 其他值得注意的事件4. 时间相关信息:- 时间段- 开始时间- 结束时间- 其他时间请仔细阅读文本,识别并提取上述实体信息。将提取的信息以(key:value)的格式整理,多个实体之间用逗号分隔。key只能从IP、姓名、身份证、电话号码、操作系统、事件、时间这几个词里选择。例如:(姓名: 张三, 身份证: 310123199001011234, IP: 192.168.1.100, 操作系统: Windows 10, 事件: 异常登录, 时间: 前天)如果某类实体在文本中未提及,则无需包含在结果中。请确保提取的信息准确且与原文相符。如果文本中包含其他重要的实体信息,也请一并提取。请现在开始分析下面用户提供的文本,并按上述格式返回提取的实体信息:"""

可以看看测试结果如下,
在这里插入图片描述
这样我们就可以根据response进行进一步的拆解,按姓名、按事件、按时间来整理数据并最终返回给用户。

这篇关于结合ollama gemma2:2b大模型来实现数据分析系统的智能交互的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1119119

相关文章

python实现svg图片转换为png和gif

《python实现svg图片转换为png和gif》这篇文章主要为大家详细介绍了python如何实现将svg图片格式转换为png和gif,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录python实现svg图片转换为png和gifpython实现图片格式之间的相互转换延展:基于Py

Python利用ElementTree实现快速解析XML文件

《Python利用ElementTree实现快速解析XML文件》ElementTree是Python标准库的一部分,而且是Python标准库中用于解析和操作XML数据的模块,下面小编就来和大家详细讲讲... 目录一、XML文件解析到底有多重要二、ElementTree快速入门1. 加载XML的两种方式2.

Java的栈与队列实现代码解析

《Java的栈与队列实现代码解析》栈是常见的线性数据结构,栈的特点是以先进后出的形式,后进先出,先进后出,分为栈底和栈顶,栈应用于内存的分配,表达式求值,存储临时的数据和方法的调用等,本文给大家介绍J... 目录栈的概念(Stack)栈的实现代码队列(Queue)模拟实现队列(双链表实现)循环队列(循环数组

C++如何通过Qt反射机制实现数据类序列化

《C++如何通过Qt反射机制实现数据类序列化》在C++工程中经常需要使用数据类,并对数据类进行存储、打印、调试等操作,所以本文就来聊聊C++如何通过Qt反射机制实现数据类序列化吧... 目录设计预期设计思路代码实现使用方法在 C++ 工程中经常需要使用数据类,并对数据类进行存储、打印、调试等操作。由于数据类

Python实现图片分割的多种方法总结

《Python实现图片分割的多种方法总结》图片分割是图像处理中的一个重要任务,它的目标是将图像划分为多个区域或者对象,本文为大家整理了一些常用的分割方法,大家可以根据需求自行选择... 目录1. 基于传统图像处理的分割方法(1) 使用固定阈值分割图片(2) 自适应阈值分割(3) 使用图像边缘检测分割(4)

Android实现在线预览office文档的示例详解

《Android实现在线预览office文档的示例详解》在移动端展示在线Office文档(如Word、Excel、PPT)是一项常见需求,这篇文章为大家重点介绍了两种方案的实现方法,希望对大家有一定的... 目录一、项目概述二、相关技术知识三、实现思路3.1 方案一:WebView + Office Onl

C# foreach 循环中获取索引的实现方式

《C#foreach循环中获取索引的实现方式》:本文主要介绍C#foreach循环中获取索引的实现方式,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下吧... 目录一、手动维护索引变量二、LINQ Select + 元组解构三、扩展方法封装索引四、使用 for 循环替代

Spring Security+JWT如何实现前后端分离权限控制

《SpringSecurity+JWT如何实现前后端分离权限控制》本篇将手把手教你用SpringSecurity+JWT搭建一套完整的登录认证与权限控制体系,具有很好的参考价值,希望对大家... 目录Spring Security+JWT实现前后端分离权限控制实战一、为什么要用 JWT?二、JWT 基本结构

Java实现优雅日期处理的方案详解

《Java实现优雅日期处理的方案详解》在我们的日常工作中,需要经常处理各种格式,各种类似的的日期或者时间,下面我们就来看看如何使用java处理这样的日期问题吧,感兴趣的小伙伴可以跟随小编一起学习一下... 目录前言一、日期的坑1.1 日期格式化陷阱1.2 时区转换二、优雅方案的进阶之路2.1 线程安全重构2

Android实现两台手机屏幕共享和远程控制功能

《Android实现两台手机屏幕共享和远程控制功能》在远程协助、在线教学、技术支持等多种场景下,实时获得另一部移动设备的屏幕画面,并对其进行操作,具有极高的应用价值,本项目旨在实现两台Android手... 目录一、项目概述二、相关知识2.1 MediaProjection API2.2 Socket 网络