人工智能与人工智障，可能就是一线之差

毫无疑问，人工智能是这几年非常火热的产业之一。

随着应用领域的不断扩大，机哥也常常听到很多人发出这样的声音：

“我想做AI……”



没错，只要随手在知乎上一搜，就能发现不少想要转行从事人工智能的朋友。

毕竟作为风口行业，做AI还是蛮吃香的。



但是嚯，并不是所有人做出来的人工智能产品，都能够达到最完美的效果。

国外就有人专门建立了一个数据库（AI Incidents），汇总了迄今为止翻车的各种AI产品。

可以说，堪称沙雕。

沙雕AI翻译

机哥相信，对很多人来说AI翻译并不陌生。

和传统的机器翻译不同，AI翻译可以利用计算机算法，达到流畅的翻译效果。

并且AI翻译还能像人一样，通过不断的学习，完善翻译的能力。

听起来非常先进，但这丝毫不影响它半路翻车。



事情发生在以色列。

一位名叫哈拉基姆·哈拉维（Halawim Halawi）建筑工人在社交媒体Facebook上，用阿拉伯语发布了一句“早上好”，搭配一张自己站在拖拉机旁的照片。

随后，这个男子就毫无预警地，被当地警察给逮捕了。



美好的早晨，从免费供应的警察局盒饭开始。

紧张的哈拉基姆在和警察的沟通中发现，他之所以被带走，是因为Facebook的AI翻译把“早上好”，翻译成了“攻击他们”。

原来，AI翻译功能将非标准阿拉伯语，连蒙带猜地识别成希伯来语。

就好像有人把口语化的“早啊您嘞”，错误地看成“草（cǎo）啊您嘞”，并翻译成其他语言。

再加上此前有挖土机攻击群众的例子，就让警察更加肯定这名男子要实施犯罪。



一般来说，这种无法识别的单词，翻译引擎会选择保留，或者跳过不翻译。

但是在AI翻译当中，它会根据数据库当中的信息，自行学习并且试图拼凑出这些词语的意思，多少有点自作聪明的赶脚。

这并不是AI翻译第一次翻车。

此前，谷歌翻译也曾经把“俄罗斯联邦”翻译为“Mordor”，后者是《指环王》里一个邪恶又黑暗的地区。

谷歌自动把俄罗斯翻译成Mordor

而微信上的翻译服务，也曾得出了很多让人啼笑皆非的翻译结果。

例如“You are so caixvkun”，被翻译成了“你真是个傻蛋”。



当然啦，AI翻译翻车还只是AI Incidents数据库里的一个例子。

更沙雕的，还有使用人工智能技术开发的机器人。

沙雕AI机器人

为了缓解人手不足的情况，苏格兰的一位老板在自己的超市里，尝试引进了一个机器人店员。

这个机器人由赫瑞瓦特大学的研究团队研发，名叫法比欧。

它被设计成像Siri或Alexa一样，只要连接上Wi-Fi，就能够和顾客进行对话，解决顾客的问题。

听起来是不是非常高端大气上档次……



但是大家都知道，理想很丰满，现实却很骨感。

例如顾客询问奶酪在哪个位置的时候，法比欧只会回答“奶酪在冰柜里”。

听起来没有什么不对，但鉴于超市的冰柜有一整排，法比欧的答案对于顾客来说，就是答了个寂寞。

而当顾客询问啤酒在哪里的时候，法比欧也只会空泛的回答到“在酒精饮料区”。



这还不算完。

由于法比欧被设计成胯胯轴微微凸起的形象，不少超市的顾客都被顶到……吓到不敢靠近。

而且顾客还会抱怨经常它挡道，所以大部分人看到它都选择绕道避开。



最终，法比欧因为吓跑不少顾客，没有逃过被解雇的命运。

沙雕AI语音助手

还有亚马逊的AI助手Alexa，不仅一次被记录下翻车。

有孩子在要求播放歌曲Digger Digger时，Alexa试图给他播放成人电台的作品。

糟糕，Alexa给孩子播了成人内容

这个过程刚好被孩子的父母用手机记录下来。

也幸好父母在旁边，才阻止了Alexa的进一步动作。

不过根据视频显示，当时Alexa已经说出不少儿童不宜的词语。



还有一次，美国电视里的新闻主持人正在播报新闻，谈到一个小女孩和亚马逊Alexa的有趣互动。

这个小女孩在Alexa的帮助下，订购了一个玩具屋和一大罐饼干

随后主持人说出，“我超喜欢这个小女孩说，'Alexa给我订了一个玩具屋'的样子”。

然后……全国各地就有不少民众表示，自己的Alexa被电视里的这句话唤醒，并且准备订购玩具屋。

Alexa被意外唤醒，试图购买大量玩具屋

除了亚马逊的Alexa之外，大家熟悉的Siri其实也因为过于沙雕，闹出过不少笑话。

例如有人测试，告诉Siri想吃大便。

Siri居然真的推荐了几个公共厕所。。



而比起上面那个玩笑话，接下来的就更可怕了。

在某一版iOS当中的Siri，在收到“我会自杀”的讯息时，回答的竟然是：

我相信你可以的。

沙雕AI人脸识别

众所周知，AI人工智能的一个重要领域，就是人脸识别。

在这方面，AI Incidents数据库记录下的翻车例子也不少。

其中一个就来自咱们中国。

没错，就是大家非常熟悉的“董明珠闯红灯”事件。



这张图相信大家也看过很多次啦。

宁波行人闯红灯曝光台在曝光的过程中，由于人脸识别算法的问题，将人行道上驶过的公交车上的董明珠广告形象，给曝光在大屏幕上。

而当时宁波交警也回复，将对技术进行升级。



AI算法闹出的笑话还不止这一个。

疫情期间一场网络直播的足球赛，采用AI识别控制镜头自动跟踪足球，进行了网络直播。

然而，AI认为场边的裁判的光头是足球，就一直把画面聚焦在裁判的光头上，导致了球迷无法正常观看球赛。

AI把裁判的光头误认为足球

不过最严重的，还要属iPhone的人脸识别翻车。

美国的一家著名生物识别安全公司FaceTec，找到了iPhone X上Face ID的识别漏洞。

如果用户睡着，可以通过打印一双纸质的眼睛放在用户的脸上，从而欺骗Face ID完成解锁。



这还不是最过分的。

研究人员从pizza上随手拿下一些配料放在眼睛上，也能完成解锁的动作。

例如直接用橄榄代替眼睛，就能够让iPhone X解锁。



或者是香肠和橄榄组合，也能轻松骗过Face ID。

顿时间，iPhone这几代那个浓重而又占地方的刘海，就显得有点鸡肋。



另外，还有橄榄和蘑菇的组合，也一样能够替代用户的眼睛来解锁。



当然啦，上面的例子大家看完的反映，大多就是笑一笑。

但是，除了这些比较有趣的翻车例子之外，AI Incidents数据库还记录下很多血的教训。

在使用的过程中，由于种种的原因，AI也造成了一些严重的事故。

例如亚马逊的工厂里，由于AI机器人无故刺破驱熊喷雾，就导致24名员工送院治疗。

机器人意外释放驱熊喷雾

24名亚马逊工人送医

而在2017年美国加利福尼亚州发生大火时，一个以AI智能规划路线的导航，就在用户准备逃离时，把用户引导至大火的方向。

导航把用户引向山火方向

除此之外，AI Incidents数据库中还有不少自动驾驶事故案件的纪录。

包括大家熟悉的特斯拉和Uber，都多次发生过类似的问题。

其中大部分都是因为AI系统无法及时躲避路上的行人，才导致了悲剧的发生。

自动驾驶车辆意外造成亚利桑那州女性死亡

当然，说了那么多AI翻车的故事，机哥并不是要告诉大家远离AI。

毕竟作为未来科技发展的一个重要方向，AI能够带给我们的好处，远远比这些翻车的事故要多。

前提是，要在技术成熟的前提之下。

因为只有保障了使用的安全，AI才能够最大程度地为我们的日常生活提供帮助。

不然的话，压根就谈不上什么人工智能。

顶多就是人工智障而已。

没把“Made in China”翻译成“麦迪在中国”不错了。

就在今天早晨，穿戴好准备出门，呼唤我的小爱同学“小爱同学”，
“我在”，
“关空调”，
“……”。
重新呼唤“小爱同学”，
“我在”，
“关空调”，
“……”……
如此这般，呼唤了好久，最终扒拉出来了我的空调遥控器……

人可以认出是哪国人，AI可以吗？人可以从背影认出熟悉的人，AI可以吗？

人类进步的路上总会有点磕磕跘跘，轻松一下也好，这样才能向AI驱动的未来更进一步。别忘了，第一架飞机产生前，那些先贤试飞的例子。。。

你说，它们是不是故意的……

例如“You are so caixvkun”的翻译结果没错啊。

@小冰 你是人工智能吗

我还记得查文献的时候游览器自动翻译把昆虫外壳蛋白译为可爱蛋白的事情，从此再不用自动翻译功能了。[我想静静][我想静静][我想静静][我想静静]话说回来，机翻勉强能用的也只有有道和谷歌了，其他的真的就是来搞笑的。

谷歌绝对是是故意的