本文主要是介绍“Morris II.“的AI病毒悄然登场,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
每周跟踪AI热点新闻动向和震撼发展 想要探索生成式人工智能的前沿进展吗?订阅我们的简报,深入解析最新的技术突破、实际应用案例和未来的趋势。与全球数同行一同,从行业内部的深度分析和实用指南中受益。不要错过这个机会,成为AI领域的领跑者。点击订阅,与未来同行! 订阅:https://rengongzhineng.io/
最近,一个由科技前沿的研究团队开发的名为“莫里斯二代”的AI蠕虫引起了广泛关注。这个团队由来自康奈尔科技的本·纳西、以色列理工学院的斯塔夫·科恩和Intuit的罗恩·比顿组成。他们以1988年那个在全球范围内引发麻烦的第一代计算机蠕虫“莫里斯”命名,旨在探索这一全新代的AI蠕虫能够对当前流行的AI应用程序和AI驱动的电子邮件助手造成何种影响。
“莫里斯二代”利用了对抗性的自我复制提示,通过这种方式,它能够在被生成式AI模型处理时复制输入内容,并进行恶意活动。更加狡猾的是,这些输入还能够利用生成式AI生态系统内的连通性,迫使代理将它们传播给新的代理。这个团队展示了“莫里斯二代”在两种场景下(发送垃圾邮件和窃取个人数据)、两种访问设置(黑盒和白盒访问)、两种输入数据类型(文本和图像)对生成式AI驱动的电子邮件助手的应用。
这项研究的发现对于那些试图利用这种技术挖掘包括信用卡详情和社会安全号码在内的机密信息的不法行为者来说,无疑是一个巨大的警钟。对此,作为负责任的研究人员,他们已经向谷歌和OpenAI报告了他们的发现。当《连线》杂志联系谷歌寻求评论时,谷歌拒绝评论这项研究,但OpenAI的一位发言人回应称,“他们似乎找到了一种通过依赖未经检查或过滤的用户输入来利用提示注入类型漏洞的方法。”OpenAI的代表还表示,公司正在使其系统变得更加强大,并补充说开发者应使用确保他们不处理有害输入的方法。
就像是在一部充满惊险与科技较量的电影中,我们正见证着科技世界中的一场紧张而又刺激的“猫鼠游戏”。在这场游戏中,信息安全是守护我们数字世界平安的关键。随着技术的不断进步,我们也需要不断提升我们的防御策略,确保在这个充满可能性的新时代中能够安全前行。
请见: https://sites.google.com/view/compromptmized
这篇关于“Morris II.“的AI病毒悄然登场的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!