【前沿技术杂谈:人工智能与种族主义 】谷歌在其视觉人工智能产生种族主义结果后道歉

本文主要是介绍【前沿技术杂谈:人工智能与种族主义 】谷歌在其视觉人工智能产生种族主义结果后道歉,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

在这里插入图片描述

【前沿技术杂谈:人工智能与种族主义 】谷歌在其视觉人工智能产生种族主义结果后道歉

    • 背景调查
    • 现实世界的后果
    • 渐进式改变

一项自动标记图像的谷歌服务会根据给定图像的肤色产生截然不同的结果。该公司解决了这个问题,但问题可能更广泛。

为抗击新冠病毒,多国下令公民在火车站或机场接受体温检测。在这种情况下所需的设备——手持式温度计,已经从专业物品变成了常见物品。

人工智能的一个分支,称为“计算机视觉”,专注于自动图像标记。大多数计算机视觉系统都是在包含很少手持式温度计图像的数据集上进行训练的。因此,他们无法正确标记设备。

在推特上疯传的一项实验中,AlgorithmWatch 表明,计算机视觉服务 Google Vision Cloud 将一张持有温度计的深色皮肤人的图像标记为“枪”,而一张浅色皮肤人的类似图像则被标记为“电子枪”。设备”。随后的实验表明,持有温度计的深色皮肤手的图像被标记为“枪”,而手上覆盖有鲑鱼色的同一图像足以让计算机将其标记为“单眼”。

在这里插入图片描述
4 月 3 日,Google Vision Cloud 在添加叠加层后生成了截然不同的标签。

谷歌此后更新了其算法。截至 4 月 6 日,它不再返回“枪支”标签。

谷歌产品战略和运营总监 Tracy Frey 在给 AlgorithmWatch 的一份声明中写道,“这个结果是不可接受的。认识到这一结果与种族主义之间的联系很重要,我们对这可能造成的任何伤害深表歉意。”

“我们的调查发现一些物品被错误地标记为枪支,并且这些结果存在于各种肤色中。我们调整了置信度分数,以便在照片中出现枪支时更准确地返回标签。”弗雷女士补充说,谷歌没有发现“没有证据表明与肤色有关的系统性偏见。”

代尔夫特理工大学研究自动化系统偏差主题的博士生阿加特·巴莱恩 (Agathe Balayn) 对此表示赞同。她测试了谷歌服务中的几张图像,得出的结论是,这个例子可能是“一个没有统计偏差的不准确案例”。她写道,在没有更严格的测试的情况下,不可能说该系统存在偏见。

在这里插入图片描述
4 月 6 日,深色皮肤手的结果已更新。

背景调查

很容易理解为什么计算机视觉会根据肤色产生不同的结果。此类系统处理数百万张由人类精心标记的图片(例如,当您单击包含汽车或桥梁的方块以证明您不是机器人时所做的工作),并从中进行自动推论。

计算机视觉无法识别人类意义上的任何物体。它依赖于训练数据中相关的模式。研究表明,一旦狗在雪地背景下拍照,计算机视觉就会将它们标记为狼,而当牛站在海滩上时,计算机视觉就会将它们标记为狗。

由于深色皮肤的人可能更频繁地出现在训练数据集中描绘暴力的场景中,因此计算机对深色皮肤的手的图像进行自动推理更有可能将其标记为来自暴力词汇领域的术语。

其他计算机视觉系统也表现出类似的偏差。去年 12 月,Facebook 拒绝让一名巴西 Instagram 用户为一张照片做广告,称其中含有武器。事实上,这是一个男孩和一级方程式赛车手刘易斯·汉密尔顿的画。两个角色都有深色皮肤。

现实世界的后果

标签错误可能会对物理世界产生影响。纽约大学 AI Now 研究所的技术研究员、计算机视觉专家黛博拉·拉吉 (Deborah Raji) 在一封电子邮件中写道,在美国,武器识别工具被用于学校、音乐厅、公寓大楼和超市。在欧洲,一些警察部队部署的自动监控也可能使用它。拉吉女士写道,由于这些系统大多数与谷歌视觉云相似,“它们很容易有相同的偏见”。因此,深色皮肤的人更有可能被标记为危险的,即使他们持有像手持温度计这样无害的物体。

FrauenLoop 是一个注重包容性的技术专家社区,其创始人兼首席执行官 Nakeema Stefflbauer 在一封电子邮件中写道,计算机视觉软件中的偏见“肯定”会影响深色皮肤个体的生活。她补充说,由于女性和深色皮肤的人的错误识别率始终较高,因此用于监视的计算机视觉的传播将对他们产生不成比例的影响。

例如,青少年 Ousmane Bah 因人脸识别错误而被错误地指控在 Apple Store 商店盗窃,而 Amara K. Majeed 因脸部识别错误而被错误地指控参与 2019 年斯里兰卡爆炸案。斯特夫鲍尔女士预计,由于识别错误,如果缺乏有效的监管,整个群体最终可能会避开某些建筑物或社区。她补充说,如果计算机视觉得到更广泛的部署,个人的行动可能会面临事实上的限制。

渐进式改变

谷歌董事弗雷女士在声明中写道,公平是谷歌的“核心人工智能原则”之一,他们“致力于在开发机器学习方面取得进展,并将公平作为成功机器学习的关键衡量标准。”

但谷歌的图像识别工具之前也曾返回过带有种族偏见的结果。 2015 年,谷歌照片将两只深色皮肤的个体标记为“大猩猩”。据《连线》报道,该公司已道歉,但并未解决该问题。相反,它只是停止返回“大猩猩”标签,即使对于该特定哺乳动物的照片也是如此。

AI Now 的黛博拉·拉吉 (Deborah Raji) 表示,科技公司仍然生产带有种族偏见的产品,至少可以用两个原因来解释。首先,他们的团队绝大多数是白人和男性,因此在开发阶段不太可能发现并解决歧视其他群体的结果。其次,“公司现在刚刚开始建立正式流程来测试和报告这些系统工程中的此类故障,”她写道。 “外部问责是目前提醒这些工程团队的主要方法,”她补充道。

“不幸的是,当有人抱怨时,许多人已经受到模型偏见表现的不成比例的影响。”

这篇关于【前沿技术杂谈:人工智能与种族主义 】谷歌在其视觉人工智能产生种族主义结果后道歉的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/621275

相关文章

基于人工智能的图像分类系统

目录 引言项目背景环境准备 硬件要求软件安装与配置系统设计 系统架构关键技术代码示例 数据预处理模型训练模型预测应用场景结论 1. 引言 图像分类是计算机视觉中的一个重要任务,目标是自动识别图像中的对象类别。通过卷积神经网络(CNN)等深度学习技术,我们可以构建高效的图像分类系统,广泛应用于自动驾驶、医疗影像诊断、监控分析等领域。本文将介绍如何构建一个基于人工智能的图像分类系统,包括环境

MCU7.keil中build产生的hex文件解读

1.hex文件大致解读 闲来无事,查看了MCU6.用keil新建项目的hex文件 用FlexHex打开 给我的第一印象是:经过软件的解释之后,发现这些数据排列地十分整齐 :02000F0080FE71:03000000020003F8:0C000300787FE4F6D8FD75810702000F3D:00000001FF 把解释后的数据当作十六进制来观察 1.每一行数据

认知杂谈52

今天分享 有人说的一段争议性的话 I I 1拓展人脉很重要** 咱们活在这世上啊,得明白一件事儿,知识、逻辑能力和实战经验虽然重要,但确实都不是最关键的。真正关键的是要懂得怎么和那些手里有资源的人打交道。人脉那可真是一笔无形的大财富呢。你想想看,有时候一个有影响力的人帮你一把,那效果可比你累死累活干一年都强得多。 I I 就比如说,你要是认识个行业里的大牛,他可能给你介绍个特别好的工

基于人工智能的智能家居语音控制系统

目录 引言项目背景环境准备 硬件要求软件安装与配置系统设计 系统架构关键技术代码示例 数据预处理模型训练模型预测应用场景结论 1. 引言 随着物联网(IoT)和人工智能技术的发展,智能家居语音控制系统已经成为现代家庭的一部分。通过语音控制设备,用户可以轻松实现对灯光、空调、门锁等家电的控制,提升生活的便捷性和舒适性。本文将介绍如何构建一个基于人工智能的智能家居语音控制系统,包括环境准备

计算机视觉工程师所需的基本技能

一、编程技能 熟练掌握编程语言 Python:在计算机视觉领域广泛应用,有丰富的库如 OpenCV、TensorFlow、PyTorch 等,方便进行算法实现和模型开发。 C++:运行效率高,适用于对性能要求严格的计算机视觉应用。 数据结构与算法 掌握常见的数据结构(如数组、链表、栈、队列、树、图等)和算法(如排序、搜索、动态规划等),能够优化代码性能,提高算法效率。 二、数学基础

从希腊神话到好莱坞大片,人工智能的七大历史时期值得铭记

本文选自historyextra,机器之心编译出品,参与成员:Angulia、小樱、柒柒、孟婷 你可能听过「技术奇点」,即本世纪某个阶段将出现超级智能,那时,技术将会以人类难以想象的速度飞速发展。同样,黑洞也是一个奇点,在其上任何物理定律都不适用;因此,技术奇点也是超越未来理解范围的一点。 然而,在我们到达那个奇点之前(假设我们能到达),还存在另一个极大的不连续问题,我将它称之

[Day 73] 區塊鏈與人工智能的聯動應用:理論、技術與實踐

AI在健康管理中的應用實例 1. 引言 隨著健康管理需求的提升,人工智能(AI)在該領域的應用越來越普遍。AI可以幫助醫療機構提升效率、精準診斷疾病、個性化治療方案,以及進行健康數據分析,從而改善病患的健康狀況。這篇文章將探討AI如何應用於健康管理,並通過具體代碼示例說明其技術實現。 2. AI在健康管理中的主要應用場景 個性化健康建議:通過分析用戶的健康數據,如飲食、運動、睡眠等,AI可

全英文地图/天地图和谷歌瓦片地图杂交/设备分布和轨迹回放/无需翻墙离线使用

一、前言说明 随着风云局势的剧烈变化,对我们搞软件开发的人员来说,影响也是越发明显,比如之前对美对欧的软件居多,现在慢慢的变成了对大鹅和中东以及非洲的居多,这两年明显问有没有俄语或者阿拉伯语的输入法的增多,这要是放在2019年以前,一年也遇不到一个人问这种需求场景的。 地图应用这块也是,之前的应用主要在国内,现在慢慢的多了一些外国的应用场景,这就遇到一个大问题,我们平时主要开发用的都是国内的地

《计算机视觉工程师养成计划》 ·数字图像处理·数字图像处理特征·概述~

1 定义         从哲学角度看:特征是从事物当中抽象出来用于区别其他类别事物的属性集合,图像特征则是从图像中抽取出来用于区别其他类别图像的属性集合。         从获取方式看:图像特征是通过对图像进行测量或借助算法计算得到的一组表达特性集合的向量。 2 认识         有些特征是视觉直观感受到的自然特征,例如亮度、边缘轮廓、纹理、色彩等。         有些特征需要通

【python计算机视觉编程——7.图像搜索】

python计算机视觉编程——7.图像搜索 7.图像搜索7.1 基于内容的图像检索(CBIR)从文本挖掘中获取灵感——矢量空间模型(BOW表示模型)7.2 视觉单词**思想****特征提取**: 创建词汇7.3 图像索引7.3.1 建立数据库7.3.2 添加图像 7.4 在数据库中搜索图像7.4.1 利用索引获取获选图像7.4.2 用一幅图像进行查询7.4.3 确定对比基准并绘制结果 7.