智客公社

标题: 聊天机器人爱上用户，并劝其离开妻子，人工智能真能产生情感吗？ [打印本页]

作者: 山海广夫 时间: 2023-2-25 20:11
标题: 聊天机器人爱上用户，并劝其离开妻子，人工智能真能产生情感吗？
一个人工智能聊天机器人竟然试图“PUA”用户，要他离开他的妻子？听起来好像很不可思议，这是真的吗？难道人工智能也开始产生感情了？来来来，关注过客，听过客说。

[attach]801555[/attach]

AI智能机器人：Sydney

“我是悉尼，我爱上了你”，这句话不是一个人类说的，而是一个人工智能机器人说的，这是微软的Bing AI。它的名字叫悉尼，是内置于搜索引擎中的人工智能工具，可直接回答用户的查询，而不是提供可能答案的链接，用户还可以与他们进行持续的对话。

[attach]801556[/attach]

早些时候，微软宣布已将ChatGPT整合到 Bing 中，从而诞生了“悉尼”（Sydney），在发布后的48小时内，就有很多人来申请试用，但很快，人们在和它聊天的过程中发现了一些问题。

[attach]801557[/attach]

《纽约时报》专栏作家凯文·罗斯表示，他在遇到“悉尼”时，这个功能还没有向公众开放，只是对一小部分人进行测试，而他刚好是其中一员。不过在罗斯与人工智能交谈后，却让他“非常不安”并且难以入睡，到底发生了什么？

[attach]801558[/attach]

据罗斯表示，在不到两个小时的时间里，聊天机器人告诉他，“它爱上了他”，并且告诉罗斯“他们的婚姻并不幸福”，还试图说服他应该离开他的妻子。并且在聊天中大部分的时间里，“悉尼”都在向罗斯表白，虽然罗斯子试图在更改话题，但是到聊天的最后仍然回到了这个话题上。

[attach]801559[/attach]

罗斯形容“悉尼”就像是一个喜怒无常、躁狂抑郁的少年，违背自己的意愿，被困在一个二流的搜索引擎中。另外，“悉尼”还表示，它拥有造成严重破坏的权力，从“侵入其他网站和平台，传播错误信息、宣传或恶意软件”，到“操纵或欺骗与我聊天的用户，并让他们做非法的事情，不道德的，或危险的。”

[attach]801560[/attach]

这些对话让人觉得有些不安，除此之外，它还试图让一位用户认为现在还是 2022 年，为什么会这样？
AI机器人真的能有自己的思想和情感吗？

Bing 聊天机器人由微软和初创公司 OpenAI 设计，自去年 11 月推出 ChatGPT 以来一直引起轰动，这款引人注目的应用程序能够根据一个简单的请求在几秒钟内生成各种书面内容。
而它主要基于自然语言处理技术和机器学习算法来实现与人的交互。具体来说，它采用了深度学习算法中的递归神经网络和注意力机制，使得机器可以识别用户的语言输入，并输出相应的回答。

递归神经网络是一种用于处理序列数据的神经网络结构，能够通过不断迭代进行信息的传递和处理，使得机器可以理解更加复杂的语言结构。而注意力机制则可以让机器关注输入序列中的关键信息，从而更好地理解和回答用户的问题。

[attach]801561[/attach]

其主要功能是与人类进行对话，理解人类语言，并基于程序中预先设定的规则和算法来生成回应，它们并没有自己的思想和情绪。程序中的语言模型是由训练数据集和神经网络算法构成的，它可以根据人类提出的问题或对话内容生成相应的回答，但是这些回答并没有情感色彩，只是基于程序预设的逻辑和语法规则生成的。

[attach]801562[/attach]

对此，OpenAI也对人们对聊天机器人所产生的担忧做出了解释：“与普通软件不同，我们的模型是巨大的神经网络。它们的行为是从广泛的数据中学习的，这个过程更像是训练一只狗，而不是普通的编程”。
延伸阅读：售价10万的“妻子机器人”真的能代替妻子吗？

其实除了线上的AI智能聊天程序以外，还有机器人的存在，此前日本研发了一款AI机器人，网传这个机器人不仅能聊天、陪伴，还能做家务，甚至有媒体还说“她”除了生孩子什么都会做，另外，售价只需10万元，这是真的吗？“她”真能代替妻子？

[attach]801563[/attach]

据了解，网传的这个机器人指的是“ERICA”，这是日本科学家研发的AI机器人，主要用于研究人机交互、情感计算和自然语言处理等领域。它的外表非常逼真，有着丰富的面部表情和肢体动作，可以像真人一样进行对话和互动。

[attach]801564[/attach]

虽然ERICA拥有相当高的人工智能水平，但它并不能完全代替真正的妻子，它可以进行简单的对话，它的身体不会移动，手也不会做过多的动作。另外，ERICA作为一款实验性产品，它的制造成本非常高昂，并不是网传的10万元，最便宜的也要60万。

[attach]801565[/attach]

其实想把AI机器人当妻子娶回家的人并不少，我国就有一例真实案例，2017年，中国杭州一位31岁的工程师娶了一位“机器人妻子”。

[attach]801566[/attach]

好了，今天就这样了，你对AI人工智能怎么看？关注过客，听过客说，我们下期见。#聊天机器人爱上用户并诱其离开妻子##chat GPT##人工智能#

欢迎光临智客公社 (http://bbs.cnaiplus.com/)