有趣的是,谷歌AI认定乌龟是一种武器。

2019-09-10 09:49
中国电视台TheVerge于11月5日报道,从自动驾驶到智能监控摄像头,人类社会正慢慢学会相信人工智能。
但人们也知道他们不能完全信任电脑。
事实上,谷歌的人工智能最近开玩笑并将玩具龟识别为步枪。并再次证明AI不是100%可靠。
这种以3D打印的玩具龟实际上非常逼真,其功能是作为计算机神经网络训练的“对立图像”。
什么是“敌对形象”?
也就是说,它被设计为在视觉上欺骗并训练AI以获得更准确的识别性能。
通常,尽管该方法非常有效,但是识别图像并不是特别困难,这意味着图像的轻微放大或旋转基本上是可识别的。
所以这只3D龟看起来很特别。因为它显示了对抗攻击在现实世界中的运作方式。
当AI从多个角度看到图像时,它有时会被欺骗。
这种情况对现实的影响也很大。
例如,一辆自动驾驶汽车经过一条道路,那条道路有一个非常一般的图标,但它可以被视为汽车AI的另一个对象,这肯定会影响自动驾驶。
麻省理工学院的研究小组Labsix最近发布了一份报告,指出“拮抗成像”是人们应该考虑的主题。因为AI和神经网络变得更加普遍并且可能增加风险。
Labsix正在开发一种新算法来解决这个问题。
他们还创造了更多“阻力图像”模型,包括咖啡胶囊,棒球球等,以及不断训练的人工智能。
Labsix还测试了由谷歌开发的图像分类器,但不幸的是,谷歌尚未修改其对图像的防御。目前,谷歌尚未就此现象发表意见。
简而言之,人们必须彻底解决人工智能在现实中识别物体的问题。
人类社会将越来越依赖人工智能和机器学习,所以如果这个问题得不到解决,未来将会引发更多的连锁反应。
资料来源:Theverge
文字结束,您可以按Alt + 4进行评论


相关阅读