七个 LLM 的狼人杀之夜;马斯克的星链残骸会“砸死人”?OpenAI 安全漏洞曝光丨RTE开发者日报 Vol.66

本文主要是介绍七个 LLM 的狼人杀之夜;马斯克的星链残骸会“砸死人”?OpenAI 安全漏洞曝光丨RTE开发者日报 Vol.66,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

开发者朋友们大家好:

这里是「RTE 开发者日报」,每天和大家一起看新闻、聊八卦。我们的社区编辑团队会整理分享 RTE (Real Time Engagement) 领域内「有话题的新闻」、「有态度的观点」、「有意思的数据」、「有思考的文章」、「有看点的会议」,但内容仅代表编辑的个人观点,欢迎大家留言、跟帖、讨论。

本期编辑:@Asui,@CY


01 有话题的新闻

1、OpenAI 安全漏洞曝光,使用不常见语言可轻易绕过 ChatGPT 的限制

布朗大学的计算机科学研究人员发现了 OpenAI 的 GPT-4 安全设置中的新漏洞。他们利用一些不太常见的语言,如祖鲁语和盖尔语,即可以绕过 GPT-4 的各种限制。研究人员使用这些语言来写通常受限的提示词(prompt),发现得到回答的成功率为 79%,而仅使用英语的成功率不到 1%。

研究人员承认发布这项研究可能会造成危害,并给网络犯罪分子提供灵感。值得一提的是,在向公众发布之前,该研究团队已经与 OpenAI 分享了他们的发现,以减轻这些风险。(@IT之家)

2、担心数据安全,美国太空部队禁用生成式 AI 工具

10 月 12 日消息,在最新泄露的备忘录中,美国太空部队已经决定暂时禁止使用基于网络的生成式人工智能工具和所谓的大语言模型,理由是数据安全和其他方面的担忧。这份日期为 9 月 29 日的备忘录是写给“守卫者”的,这是对美国太空部队成员的内部称呼。

在备忘录中,美国太空部队禁止其成员在基于网络的生成式人工智能工具上使用任何政府数据,这些工具可以根据简单的提示创建文本、图像或其他形式的内容。备忘录中称,除非特别批准,否则上述工具“没有被授权”在政府系统上使用。(@网易科技)

3、HTC 要放弃 VR?官方回应:不可能,绝对不可能

日前,市场研究公司 CCS Insight 在一份报告中提出了预测——由于市场的不确定性,HTC 将于 2026 年卖掉 VR 业务并退出 VR 市场。HTC 方面对此发表声明否认该传闻,并表示 VR、AR 以及 AI 技术将与人性融合,释放人类想象力,改变世界。(@雷科技)

4、台积电南京厂将获美国豁免:为期一年,不得进行技术升级

据《华尔街日报》援引熟悉美国政府运作的人士报道,台积电也预计将获得与去年一样的另一项为期一年的豁免。报道补充说,美国已告诉台积电,只要不进行重大技术升级,它就可以在可预见的未来维持在中国的业务。

目前尚不清楚台积电是否会像三星和 SK 海力士那样被指定为“经过验证的最终用户”。但是,美国已向芯片合约制造商明确表示,虽然它可以运行当前的运营,但位于南京的 Fab 16 的任何重大技术进步目前都无法实现。目前尚不清楚进步是否意味着产能升级、工艺技术升级或两者兼而有之。(@EETOP)

5、马斯克的星链残骸会“砸死人”?SpaceX 激烈回应:荒谬

近期,美国联邦航空管理局(FAA)向美国国会提交了一份报告,称太空技术探索公司(SpaceX)卫星系统存在“严重风险”,可能导致航空事故和人员伤亡。在最新的报告中,FAA 表示,到 2035 年为止,星链计划中使用的运载火箭和卫星将产生大量残骸,其中有 2.8 万个残骸可能会冲破大气层并坠落到地面。届时地球上平均每两年就会有一个人被残片“砸死或砸伤”。

SpaceX 公司 9 日对该报告进行了激烈回应,声称这份报告“荒谬、不合理、不准确”,请求联邦监管部门对其进行“修正”。SpaceX 首席工程师戈德斯坦批评报告内容存在“严重缺陷”,称他们的结论是基于“猜测、假设和过时的研究方法”。(@搜狐科技)

6、今年上半年国内 VR 头显出货量同比下降 56%

10 月 12 日消息,根据市场调查机构 Counterpoint Research 公布的最新统计报告,2023 年上半年我国 VR 头显设备出货量大幅下降 56%,结束了 2021-2022 年的连续两年增长。

扩大到全球市场,今年上半年全球 VR 市场出货量同比下降 39%,中国市场跌幅更大。2023 年第 2 季度,中国在全球 VR 出货量中的占比仅为 10%,相对较低,而在智能手机中份额达到了 20-30%。(@IT之家)


02 有思考的文章

1、《机器学习即代码的时代已经到来》(@Huggingface)

到底是 AI 会吃掉软件还是软件会吃掉 AI?为了 job security,工程师应该把宝押在哪儿?这篇 2021 年的文章提供的一些视角似乎印证了它现在的流行,有点“运筹于帷幄之中,决胜于数年之后”的意思,颇值得软件架构师和产品经理们内省一番。

2、《七个 LLM 的狼人杀之夜》(@深度学习自然语言处理)

在最新一篇论文中,研究团队让一群大语言模型(LLM)开了一局狼人杀游戏。通过多种 Prompt 方法集成,LLM 不仅成功地参与了游戏,还涌现出了信任、欺诈和领导力等团体能力。


写在最后:

我们欢迎更多的小伙伴参与「RTE 开发者日报」内容的共创,感兴趣的朋友请通过开发者社区或公众号留言联系,记得报暗号「共创」。

对于任何反馈(包括但不限于内容上、形式上)我们不胜感激、并有小惊喜回馈,例如你希望从日报中看到哪些内容;自己推荐的信源、话题、活动等;或者列举几个你喜欢看、平时常看的内容渠道;内容排版或呈现形式上有哪些可以改进的地方等。

素材来源官方媒体/网络新闻

这篇关于七个 LLM 的狼人杀之夜;马斯克的星链残骸会“砸死人”?OpenAI 安全漏洞曝光丨RTE开发者日报 Vol.66的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/493741

相关文章

Ilya-AI分享的他在OpenAI学习到的15个提示工程技巧

Ilya(不是本人,claude AI)在社交媒体上分享了他在OpenAI学习到的15个Prompt撰写技巧。 以下是详细的内容: 提示精确化:在编写提示时,力求表达清晰准确。清楚地阐述任务需求和概念定义至关重要。例:不用"分析文本",而用"判断这段话的情感倾向:积极、消极还是中性"。 快速迭代:善于快速连续调整提示。熟练的提示工程师能够灵活地进行多轮优化。例:从"总结文章"到"用

OWASP十大安全漏洞解析

OWASP(开放式Web应用程序安全项目)发布的“十大安全漏洞”列表是Web应用程序安全领域的权威指南,它总结了Web应用程序中最常见、最危险的安全隐患。以下是对OWASP十大安全漏洞的详细解析: 1. 注入漏洞(Injection) 描述:攻击者通过在应用程序的输入数据中插入恶意代码,从而控制应用程序的行为。常见的注入类型包括SQL注入、OS命令注入、LDAP注入等。 影响:可能导致数据泄

[论文笔记]LLM.int8(): 8-bit Matrix Multiplication for Transformers at Scale

引言 今天带来第一篇量化论文LLM.int8(): 8-bit Matrix Multiplication for Transformers at Scale笔记。 为了简单,下文中以翻译的口吻记录,比如替换"作者"为"我们"。 大语言模型已被广泛采用,但推理时需要大量的GPU内存。我们开发了一种Int8矩阵乘法的过程,用于Transformer中的前馈和注意力投影层,这可以将推理所需

京东物流查询|开发者调用API接口实现

快递聚合查询的优势 1、高效整合多种快递信息。2、实时动态更新。3、自动化管理流程。 聚合国内外1500家快递公司的物流信息查询服务,使用API接口查询京东物流的便捷步骤,首先选择专业的数据平台的快递API接口:物流快递查询API接口-单号查询API - 探数数据 以下示例是参考的示例代码: import requestsurl = "http://api.tanshuapi.com/a

LLM系列 | 38:解读阿里开源语音多模态模型Qwen2-Audio

引言 模型概述 模型架构 训练方法 性能评估 实战演示 总结 引言 金山挂月窥禅径,沙鸟听经恋法门。 小伙伴们好,我是微信公众号《小窗幽记机器学习》的小编:卖铁观音的小男孩,今天这篇小作文主要是介绍阿里巴巴的语音多模态大模型Qwen2-Audio。近日,阿里巴巴Qwen团队发布了最新的大规模音频-语言模型Qwen2-Audio及其技术报告。该模型在音频理解和多模态交互

Matter.js:Web开发者的2D物理引擎

Matter.js:Web开发者的2D物理引擎 前言 在现代网页开发中,交互性和动态效果是提升用户体验的关键因素。 Matter.js,一个专为网页设计的2D物理引擎,为开发者提供了一种简单而强大的方式,来实现复杂的物理交互效果。 无论是模拟重力、碰撞还是复杂的物体运动,Matter.js 都能轻松应对。 本文将带你深入了解 Matter.js ,并提供实际的代码示例,让你一窥其强大功能

LLM应用实战: 产业治理多标签分类

数据介绍 标签体系 产业治理方面的标签体系共计200+个,每个标签共有4个层级,且第3、4层级有标签含义的概括信息。 原始数据 企业官网介绍数据,包括基本介绍、主要产品等 企业专利数据,包括专利名称和专利摘要信息,且专利的数据量大。 LLM选型 经调研,采用Qwen2-72B-Instruct-GPTQ-Int4量化版本,占用显存更少,且效果与非量化相当,

How can I load the openai api configuration through js in html?

题意:怎样在HTML中通过JavaScript加载OpenAI API配置 问题背景: I am trying to send a request through js in my html so that openai analyzes it and sends a response, but if in the js I put the following: 我正在尝试通过HTM

Creating OpenAI Gym Environment from Map Data

题意:从地图数据创建 OpenAI Gym 环境 问题背景: I am just starting out with reinforcement learning and trying to create a custom environment with OpenAI gym. However, I am stumped with trying to create an enviro

OpenAI澄清:“GPT Next”不是新模型。

不,”GPT Next” 并不是OpenAI的下一个重要项目。 本周早些时候,OpenAI 日本业务的负责人长崎忠男在日本 KDDI 峰会上分享了一场演讲,似乎在暗示一个名为 “GPT Next” 的新模型即将出现。 但OpenAI的一位发言人已向Mashable证实,幻灯片中用引号括起来的”GPT Next”一词只是一个假设性占位符,旨在表明OpenAI的模型如何随着时间呈指数级进化。发言人