生成式人工智能:网络攻击者手中的破坏性力量

2023-11-05 07:52

本文主要是介绍生成式人工智能:网络攻击者手中的破坏性力量,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

2022 年底,公开可用的生成式人工智能工具的推出使我们进入了人类历史上最大的技术革命之一。

一些人声称它的影响与互联网、手机、智能手机和社交媒体的引入一样大,甚至更大。这些新的生成式人工智能技术的采用和发展速度是我们以前从未见过的。

虽然这场人工智能革命有很多影响,但让我们关注网络安全世界。

生成式人工智能工具旨在成为熟练的副驾驶。当谈到道德黑客或白帽子时,许多人已经承认依靠人工智能来自动化任务、分析数据、识别漏洞等。

我们可以假设黑帽也正在使用人工智能。尽管我们无法真正调查黑帽,但有证据表明他们正在使用人工智能来查找应用程序和平台中的漏洞,快速运行侦察操作以查找零日漏洞并分析其数据。

随着生成式人工智能聊天机器人消化每一条数据,它们的数据库呈指数级增长并且变得更加准确。这样,它们就可以被操纵以暴露应用程序、平台、软件以及安全工具和机制中的漏洞。他们甚至可以编写代码来绕过应用程序的安全层。

当生成式人工智能落入坏人之手时,它可以被用于各种恶意目的。这些只是不良行为者招募人工智能作为副驾驶的几种方式:

网络钓鱼攻击:人工智能强大的编辑能力使其成为生成网络钓鱼活动的完美副驾驶。人工智能可用于生成写得好的、看起来真实的电子邮件、登陆页面、URL 和短信。

因此,它为更多非英语恶意行为者进入游戏打开了大门。例如,在人工智能的帮助下,他们现在可以更轻松地在全球范围内发起更有说服力、更高质量的网络钓鱼攻击。

在人工智能出现之前,我们经常会因为语法不正确或措辞异常而发现恶意登陆页面、电子邮件或短信。现在,区分合法内容和人工智能生成的虚假内容变得更加困难。考虑到这一点,我们预计未来不仅会看到更多的网络钓鱼活动,而且会出现更成功的活动。

恶意代码库的分发:生成式AI也可以作为副驾驶,加速代码开发。不过,我的建议是,如果您在构建应用程序时使用 AI Chat 工具下载代码库,请谨慎行事。

不良行为者正在用恶意代码库淹没人工智能数据库,并将它们传播到开发环境中。这就是为什么在使用库之前通过检查创建日期和下载计数来仔细审查库尤为重要。

请记住,即使具有多次下载历史的库也可能是恶意的。我强烈建议避免完全使用人工智能工具来下载代码库和包。这根本不值得冒这个风险。

更聪明的机器人。。。还有更多:在人工智能副驾驶的帮助下,恶意行为者现在可以操纵人工智能聊天,轻松构建新的高级机器人脚本,也称为零日机器人。

似乎这还不够,新的人工智能聊天工具是专门为邪恶目的而设计的,并在暗网上提供。这些工具可帮助黑客和欺诈者生成新的自动化脚本以实现其恶意网络目的。

随着人工智能的出现,我们可以预见这种糟糕的机器人情况将会变得更糟。如今,30% 的互联网流量是由恶意机器人驱动的,这个数字未来肯定会上升。

标准机器人防护工具将无法防御这些新的人工智能生成的机器人脚本数量和种类不断增加的情况。随着更复杂的人工智能生成的机器人绕过传统的验证码挑战,验证码也可能会消亡。

为了充分保护组织,需要一种新的检测形式,无论是独特的自定义挑战、基于区块链的加密挑战、新的证明和基于身份的用户验证服务,甚至是人工智能生成的用于机器人缓解的挑战。

生成式人工智能工具落入坏人之手是一个严重的威胁,这就是为什么必须对其使用进行适当的监管。有了人工智能副驾驶,黑客就会变得更聪明、更快十倍。他们可以将发现漏洞所需的时间缩短 90%,并在修补旧漏洞时随时推出新漏洞。

不幸的是,监管落后于技术。为了填补这一空白,安全团队必须部署先进的应用程序保护解决方案,使用行为算法在零日攻击发生之前实时自动检测和阻止它们。

这篇关于生成式人工智能:网络攻击者手中的破坏性力量的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/348453

相关文章

基于人工智能的图像分类系统

目录 引言项目背景环境准备 硬件要求软件安装与配置系统设计 系统架构关键技术代码示例 数据预处理模型训练模型预测应用场景结论 1. 引言 图像分类是计算机视觉中的一个重要任务,目标是自动识别图像中的对象类别。通过卷积神经网络(CNN)等深度学习技术,我们可以构建高效的图像分类系统,广泛应用于自动驾驶、医疗影像诊断、监控分析等领域。本文将介绍如何构建一个基于人工智能的图像分类系统,包括环境

Linux 网络编程 --- 应用层

一、自定义协议和序列化反序列化 代码: 序列化反序列化实现网络版本计算器 二、HTTP协议 1、谈两个简单的预备知识 https://www.baidu.com/ --- 域名 --- 域名解析 --- IP地址 http的端口号为80端口,https的端口号为443 url为统一资源定位符。CSDNhttps://mp.csdn.net/mp_blog/creation/editor

ASIO网络调试助手之一:简介

多年前,写过几篇《Boost.Asio C++网络编程》的学习文章,一直没机会实践。最近项目中用到了Asio,于是抽空写了个网络调试助手。 开发环境: Win10 Qt5.12.6 + Asio(standalone) + spdlog 支持协议: UDP + TCP Client + TCP Server 独立的Asio(http://www.think-async.com)只包含了头文件,不依

poj 3181 网络流,建图。

题意: 农夫约翰为他的牛准备了F种食物和D种饮料。 每头牛都有各自喜欢的食物和饮料,而每种食物和饮料都只能分配给一头牛。 问最多能有多少头牛可以同时得到喜欢的食物和饮料。 解析: 由于要同时得到喜欢的食物和饮料,所以网络流建图的时候要把牛拆点了。 如下建图: s -> 食物 -> 牛1 -> 牛2 -> 饮料 -> t 所以分配一下点: s  =  0, 牛1= 1~

poj 3068 有流量限制的最小费用网络流

题意: m条有向边连接了n个仓库,每条边都有一定费用。 将两种危险品从0运到n-1,除了起点和终点外,危险品不能放在一起,也不能走相同的路径。 求最小的费用是多少。 解析: 抽象出一个源点s一个汇点t,源点与0相连,费用为0,容量为2。 汇点与n - 1相连,费用为0,容量为2。 每条边之间也相连,费用为每条边的费用,容量为1。 建图完毕之后,求一条流量为2的最小费用流就行了

poj 2112 网络流+二分

题意: k台挤奶机,c头牛,每台挤奶机可以挤m头牛。 现在给出每只牛到挤奶机的距离矩阵,求最小化牛的最大路程。 解析: 最大值最小化,最小值最大化,用二分来做。 先求出两点之间的最短距离。 然后二分匹配牛到挤奶机的最大路程,匹配中的判断是在这个最大路程下,是否牛的数量达到c只。 如何求牛的数量呢,用网络流来做。 从源点到牛引一条容量为1的边,然后挤奶机到汇点引一条容量为m的边

配置InfiniBand (IB) 和 RDMA over Converged Ethernet (RoCE) 网络

配置InfiniBand (IB) 和 RDMA over Converged Ethernet (RoCE) 网络 服务器端配置 在服务器端,你需要确保安装了必要的驱动程序和软件包,并且正确配置了网络接口。 安装 OFED 首先,安装 Open Fabrics Enterprise Distribution (OFED),它包含了 InfiniBand 所需的驱动程序和库。 sudo

【机器学习】高斯网络的基本概念和应用领域

引言 高斯网络(Gaussian Network)通常指的是一个概率图模型,其中所有的随机变量(或节点)都遵循高斯分布 文章目录 引言一、高斯网络(Gaussian Network)1.1 高斯过程(Gaussian Process)1.2 高斯混合模型(Gaussian Mixture Model)1.3 应用1.4 总结 二、高斯网络的应用2.1 机器学习2.2 统计学2.3

网络学习-eNSP配置NAT

NAT实现内网和外网互通 #给路由器接口设置IP地址模拟实验环境<Huawei>system-viewEnter system view, return user view with Ctrl+Z.[Huawei]undo info-center enableInfo: Information center is disabled.[Huawei]interface gigabit

基于人工智能的智能家居语音控制系统

目录 引言项目背景环境准备 硬件要求软件安装与配置系统设计 系统架构关键技术代码示例 数据预处理模型训练模型预测应用场景结论 1. 引言 随着物联网(IoT)和人工智能技术的发展,智能家居语音控制系统已经成为现代家庭的一部分。通过语音控制设备,用户可以轻松实现对灯光、空调、门锁等家电的控制,提升生活的便捷性和舒适性。本文将介绍如何构建一个基于人工智能的智能家居语音控制系统,包括环境准备