香港水产病害研究联盟

谷歌的AI竟然将一只乌龟认成了一杆枪……

DeepTech深科技 2020-03-30 15:24:03

年度订阅用户可加入科技英语学习社区,每周科技英语直播讲堂,详情查看“阅读原文”


不知不觉中,AI 技术以各种各样的形式融入了人们的生活,并逐渐赢得了当今人类社会的信任。但是,这些技术应用起来还是会出现各种差错。就以我们熟悉的“机器视觉识别”技术来举例,它虽然十分耐用且擅长捕捉细节,但是距离百分百精确还是有很长的路要走。近日,谷歌的一款专用于进行机器视觉识别的神经网络就闹出了天大的笑话,它将玩具乌龟认成了一杆枪。



这只乌龟可不是一只普通的乌龟,它是由 3D 打印机打印出来的,也是“对抗性图像”的一种实例。这种图像内嵌着一些特殊的纹理,是专门用来测试 AI 的视觉辨别精准度的,就如同“光幻觉”对于计算机一样。我们也可以使用该技术来做出一副“对抗性”眼镜,戴上它,就可以骗过面部识别系统了。虽然对于人类的肉眼来说并没有特别大的区别,但对于 AI 来说这便有天壤之别了。

 

如何消除“对抗性纹理”对于机器视觉的影响,可以说是近年来比较热门的研究项目了。研究表明,虽然这些纹理对于 AI 影响很大,但是解决这一问题的方法其实很简单。对于“对抗性图像”,我们可以通过放大或者旋转的方式来让 AI 正确地识别出图像的真面目。但是为什么这只乌龟还是会骗过系统呢?是因为这只乌龟是一个 3D 物体,它身上的“对抗性纹理”对 AI 进行了多角度的干扰。


研究报告的作者、麻省理工学院(MIT)学生组织 Labsix 在报告中提到:“拿自动驾驶汽车来举例,人类肉眼中的街边小摊,在 AI 视觉中就很可能变成了行人正在横穿马路。‘对抗性纹理’对于 AI 的影响应该得到相应的重视,否则在神经网络的应用中可能会对人类造成很大的影响,甚至带来危险。”Labsix 将他们的方法称为“Expectation over Transformation”,详情可以在他们的报告中参考。除了这只乌龟以外,他们还做出了被 AI 认成茶杯的棒球。


Labsix 将他们做出的“对抗性图像”放在 Inception-v3(谷歌研发的一款图像识别器)下测验。虽说这次测试并不是完全针对机器视觉软件,但是到目前为止,还没有可以完全解决“对抗性图像”问题的方法。谷歌并没有对 Labsix 的报告发表任何评论,但是谷歌的一位发言人说,他们的研究员们已经将一些针对“对抗性图像”的解决办法上传至互联网。


-End-


编辑:Yicheng Pan   

参考:

https://www.theverge.com/2017/11/2/16597276/google-ai-image-attacks-adversarial-turtle-rifle-3d-printed


Copyright © 香港水产病害研究联盟@2017