智客公社

标题: 为何“人工智能”变得越来越笨 [打印本页]

作者: ezero    时间: 2024-5-31 22:39
标题: 为何“人工智能”变得越来越笨
谷歌人工智能概览的灾难性发布暴露了生成式人工智能的根本缺陷。

[attach]831152[/attach]

你知道猫曾经去过月球吗?只要你的皮肤是黑色的,盯着太阳看 15 分钟甚至更长时间都是安全的吗?或者为了保持健康,你应该每天吃一块小石头吗?
这些是谷歌为其美国用户提供的最新智慧结晶(我们在英国还没有那么幸运)。“让谷歌为您搜索”,这家搜索巨头在本月初推出一项名为 AI Overviews 的功能时承诺道。该功能将谷歌的 Gemini 生成式人工智能模型集成到其搜索引擎中。它生成的答案出现在传统的排名结果列表上方。而且您无法摆脱它们。
至少可以说,AI Overviews 并没有达到 Google 所期望的效果。它确实在互联网上迅速走红,人们分享了他们最喜欢的答案。不是因为这些答案有用,而是因为它们太可笑了。例如,当你要求 AI Overviews 提供以“um”结尾的水果列表时,它会返回:“Applum、Strawberrum 和 Coconut”。这就是 AI 术语中所谓的“幻觉”。
尽管谷歌市值高达 2 万亿美元,而且有能力聘请世界上最优秀的人才,但它在人工智能方面却一直举步维艰。去年2 月,谷歌首次尝试加入生成式人工智能淘金热,但命运多舛的 Bard 聊天机器人也存在类似的问题,比如说一些不准确的事实。在第一次现场演示中,Bard 错误地宣称,2021 年才发射的詹姆斯·韦伯太空望远镜拍摄了有史以来“第一张”从太阳系外拍摄的地球照片。这一错误让谷歌的市值蒸发了 1000 亿美元。
今年 2 月,谷歌再次尝试人工智能,这次是使用图像和文本生成器 Gemini。问题是,它有非常严格的多样性保护。当被要求生成符合历史的图像时,它会生成黑人纳粹士兵、美洲原住民开国元勋和南亚裔女教皇。
《经济学人》辩解道,这是“一个善意的错误” 。但谷歌并没有对生成式人工智能固有的问题措手不及。它应该知道它的能力和缺陷。
在当前的人工智能热潮真正开始之前,分析师们就已经发现,生成式人工智能不太可能改善用户体验,甚至可能会降低用户体验。但投资者开始蜂拥而至后,这种谨慎态度就被抛弃了。
那么,为什么谷歌的人工智能会得出如此糟糕的结果呢?事实上,它的工作方式与你预期的完全一样。不要被“人工智能”的标签所欺骗。从根本上讲,人工智能概述只是试图根据统计概率猜测它应该使用的下一个单词,但没有任何现实依据。当被问到一个难题时,算法无法说“我不知道”,因为它什么都“不知道”。正如用户所证明的那样,它甚至无法进行简单的数学运算,因为它没有数字或有效算术运算的基本概念。因此才会出现幻觉和遗漏。
当输出结果不那么重要时,例如当人工智能在处理图像时出现小故障时,这个问题就不大了。我们的手机每天都使用机器学习来处理照片,我们不会注意到或太在意大多数故障。但谷歌建议我们所有人开始吃石头,这可不是小问题。
由于人工智能的训练方式,此类错误或多或少是不可避免的。人工智能模型不是从精心挑选的准确信息数据集中学习,而是在一个庞大的、几乎开放的数据集上进行训练。谷歌的人工智能和 ChatGPT 已经尽可能多地抓取了网络上的信息,不用说,网络上的很多内容都不是真的。Reddit 等论坛充斥着讽刺和笑话,但人工智能认为这些是值得信赖的,是对问题的真诚和正确的解释。程序员长期以来一直使用短语“ GIGO ”来描述这里发生的事情:垃圾进,垃圾出。
人工智能的幻觉问题在所有领域都是一致的。它几乎阻止了生成式人工智能在商业和业务应用中的实际应用,而你可能期望它能节省大量时间。一项关于法律工作中生成式人工智能的新研究发现,现在需要额外的验证步骤来确保人工智能不会产生幻觉,这抵消了部署它所节省的时间。
“[程序员] 仍在犯与以前一样愚蠢的错误。没有人真正用大型语言模型解决幻觉问题,我认为我们也做不到”,认知科学家、资深人工智能怀疑论者加里·马库斯教授上周表示。
另一个问题现在浮现出来。人工智能通过生成虚假信息,让本来就糟糕的工作变得更糟,这些信息随后污染了网络的其余部分。正如一位 X 用户所说,“谷歌会学习它在互联网上看到的任何垃圾,没有什么比人工智能更能生成垃圾了。”
去年,领先的人工智能公司承认,由于网络上的内容已经不够用,他们开始使用合成训练数据,即由生成式人工智能本身生成的数据。一年前,OpenAI 的 Sam Altman表示,他“非常有信心,很快所有数据都将是合成数据”,由其他人工智能编造。
这是一个巨大的问题。它本质上会导致模型“崩溃”并停止提供有用的结果。开放数据研究所的 Nigel Shadbolt 教授去年 12 月警告说:“模型崩溃是指生成式人工智能变得不稳定、不可靠或停止运作。当生成式人工智能模型接受人工智能而非人类生成的内容的训练时,就会发生这种情况。”一位名叫 Jathan Sadowski 的研究员将这种现象称为“哈布斯堡人工智能”,以纪念西班牙哈布斯堡王朝,该王朝于 1700 年因近亲繁殖引起的疾病而灭亡。
你可以争辩说,类似的事情已经发生了,即使没有人工智能的帮助,比如当一个虚假的事实被插入维基百科,被媒体引用,然后媒体的引用成为它继续被收录在维基百科中的理由。
人工智能只是自动化并加速了这一制造谎言的过程。本周,《每日电讯报》给出了以下例子:“当谷歌声称没有以字母 K 开头的非洲国家时,它的答案似乎是基于 ChatGPT 答错同一问题的网络讨论。换句话说,人工智能现在正在将其他人工智能捏造的东西当作真理。”
对这一现象最恰当的描述来自一些美国研究人员,他们去年创造了“模型自噬障碍”一词,简称 MAD。他们想唤起将牛朊病毒引入牛食品供应的做法,这种做法导致了牛海绵状脑病,即疯牛病。他们写道:“我们在所有情况下得出的主要结论是,如果自噬循环的每一代都没有足够的新鲜真实数据,未来的生成模型注定会使其质量(精度)或多样性(召回率)逐渐下降。”
当 OpenAI 于 2022 年 11 月开放其 ChatGPT 工具时,几乎没有人警告过生成式 AI 的弊端。现在,ChatGPT 已经污染了网络,毒害了自己和其他 AI 工具。清理这一切将是一个巨大的挑战。虽然 AI 承诺的收益仍然难以实现,但成本显然开始增加。
本文作者:安德鲁·奥洛夫斯基是《每日电讯报》 的每周专栏作家。




欢迎光临 智客公社 (http://bbs.cnaiplus.com/) Powered by Discuz! X3.4