科技网

当前位置: 首页 >自媒体

谷歌Photos应用用户怒了黑人照片被标

自媒体
来源: 作者: 2019-06-09 13:27:13

宝宝发烧反反复复是什么原因
小儿紧急退烧方法
小儿紧急退烧方法

谷歌堪称人工智能和机器学习领域的领导厂商,据最新科技报道但该公司本周发布的Photos应用却犯下了大错,表明他们的电脑仍有很多东西需要学习。

Web开发者杰基·阿尔西尼(JackyAlcine)发现,这款应用将两位黑人用户的照片标记为“大猩猩”,并将截图发布在Twitter上。他在推文中写道:“GooglePhotos,你太混蛋了。我朋友不是大猩猩。”

谷歌随后对此道歉,并表示将调整算法,以修复这一问题。

“我们对此感到震惊,并致以真诚的歉意。”谷歌发言人说,“图片自动标记功能显然还有很多改善空间,我们希望今后能避免此类错误再次发生。”

“大猩猩”标签出现在谷歌Photos应用的搜索功能中,这是谷歌几周前发布的一款产品。当用户搜索照片时,谷歌会推荐几个由机器学习自动归纳的类别,该公司已经移除了“大猩猩”这一类别,因此同样的建议之后不会再次出现。

“我们正在做很多工作,还有很多问题有待解决。但我们会努力的。”谷歌首席社交架构师YonatanZunger通过Twitter向阿尔西尼回复道。他还补充说,谷歌正在努力改善肤色识别技术,在给照片中的人添加标签时将会更加小心。

此事凸显出人工智能和机器学习技术的不足,尤其是用于普通消费市场时。谷歌通常会发布一些仍然存在瑕疵的产品,然后逐步通过软件更新修正问题。这种模式可以尽快向用户推出产品,但如果出现严重漏洞,也会引发用户的不满。

谷歌今年早些时候推出了一款YouTubeKids应用,使用自动过滤器、用户反馈和人工评估的方式过滤成人内容。但该系统仍然放过了一些不当视频,引发了用户的不满。谷歌发言人当时称,“几乎不可能实现100%的精确度。”

谷歌推出Photos应用时也承认该应用并不完美,但“大猩猩”标签却集中凸显了这套系统的短板。

“我们需要彻底改变机器学习系统,以便提供更多的背景信息,使之理解人类所看重的文化敏感问题。”人工智能创业公司SentientTechnologies首席科学家巴巴克·霍加特(BabakHodjat)说。

他表示,机器学习并不理解不同错误之间的差异,把黑猩猩错看成大猩猩没有问题,但如果把人错看成黑猩猩,就会非常冒犯。

谷歌的系统或许没有“看过”足够多的大猩猩图片,未能了解具体差异,也无法明白这种错误的严重性。

“人类对于具有重要文化意义的偏差非常重视。”霍加特说,“机器却无法做到这一点,他们无法理解这种背景信息。”

为谷歌机器学习系统提供更多图片可以起到一定的帮助,但也必须在特定的设置下对这类系统展开更加谨慎的训练。

谷歌表示,随着更多的图片加载到Photos中,加之越来越多的人修复错误标签,这套照片归类算法的效果将逐步提升。谷歌表示,该公司之所以发布这款应用,一定程度上是为了让人们为其提供更多照片,以便提升整体识别率。

科技获悉谷歌的语音搜索功能也采用了类似的模式。该服务最初有很多识别错误,但随着使用量的加大,识别率已经逐步改善。

(科技责编:杜娟)

王卓实的老婆是谁 传李玉刚签约曾与王卓实翻脸
沈阳刘老根大舞台火爆依旧 游客:挺喜欢赵本山-刘老根大舞台-剧场
《幸福双黄线》曝剧照 颖儿跑龙套成励志故事

相关推荐