您的位置:首页>频道 > 关注 >

环球关注:Google的Cloud Vision API将图片标记为人物以阻止偏见

2023-01-24 17:50:34    来源:关注网


(资料图片)

人工智能工具,谷歌提供了开发者将不只是他们如何看的照片,添加性别标签图像了,说一个人的性别不能确定商业内幕报道。

该公司今天通过电子邮件向开发人员发送了有关其广泛使用的Cloud Vision API工具的更改的信息,该工具使用AI分析图像并识别人脸,地标,显式内容和其他可识别的功能。Google会使用“人物”等标签来标记此类图像,而不是使用“男人”或“女人”来识别图像,这是其更大努力的一部分,以避免将AI算法灌输给人为偏见。

“不能通过外貌来推断一个人的性别”

据《商业内幕》报道,在发给开发者的电子邮件中,谷歌引用了自己的AI准则。“鉴于不能通过外貌来推断出一个人的性别,我们决定删除这些标签,以符合Google的人工智能原则,特别是原则2:避免造成或加强不公平的偏见。”

过去,人工智能图像识别一直是Google的棘手问题。2015年,一位软件工程师指出,Google Photos的图像识别算法将他的黑人朋友归类为“大猩猩”。谷歌承诺将解决此问题,但Wired在2018年的一份后续报告中发现,谷歌已阻止其AI识别大猩猩,并且没有做很多其他事情来解决其核心问题。

谷歌在2018年发布了AI原则,以回应谷歌员工的强烈反对,抗议该公司在五角大楼无人机项目上的工作。该公司承诺不开发人工智能驱动的武器,并且还概述了一些原则,例如上面提到的原则,以解决其技术未来发展中的偏见,监督和其他潜在的道德问题。



关键词: 人工智能 一个人的 电子邮件

相关阅读