太危险！马斯克等千名大佬联名呼吁：暂停开发高级AI

据路透社报道，一群人工智能专家及行业高管联名发表公开信，呼吁所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统至少六个月，理由是这种系统对社会和人类构成潜在风险。


这封信由非营利组织未来生命研究所（Future of Life Institute）发布，1000多名科技界和人工智能重量级人物签署，包括美国电动汽车巨头特斯拉和社交媒体巨头推特的总裁马斯克、苹果公司联合创始人沃兹尼亚克（Steve Wozniak）、Stability AI总裁莫斯塔克（Emad Mostaque）、人工智能企业DeepMind的多名研究员。







信中写道，广泛的研究显示，具有与人类竞争智能的人工智能系统可能对社会和人类构成深远的风险。最近几个月人工智能实验室陷入失控的竞赛，争着开发和部署更为强大的数字大脑，但没人（包括它们的创造者）能理解、预测或可靠地控制这些系统，也没有相应水平的规划和管理。


信中说，现在人工智能足以在一般任务上与人竞争，人类必须问自己：“我们是否应该把所有的工作都自动化，包括那些有成就感的工作？我们是否应该开发非人类的大脑，它最终可能比人类还多，比人类聪明，淘汰并取代人类？”


信中呼吁所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统至少六个月。这种暂停应该是公开的、可核查的。如果不能迅速实施这种暂停，政府应介入并实行暂停。


信中要求暂停先进的人工智能开发，直至制定和实施一套共同的安全协议，并由独立专家进行审查。“只有当我们确信强大的人工智能系统，其效果是积极的，风险是可控的，才可以开发。”







公开信最后说，“让我们享受一个漫长的人工智能夏天，而不是毫无准备地匆忙进入秋天。”


但也有人对这封公开信提出质疑。康奈尔大学数字和信息法教授詹姆斯·格里梅尔曼 (James Grimmelmann) 表示：“考虑到特斯拉一直在努力为其自动驾驶汽车中，有缺陷的人工智能追究责任，埃隆·马斯克 (Elon Musk) 签署协议是非常虚伪的。”


他表示：“暂停是个好主意，但这封信含糊不清，没有认真对待监管问题。”


特斯拉上个月不得不召回超过 362,000 辆美国汽车来更新软件，此前美国监管机构表示驾驶员辅助系统可能会导致撞车，促使马斯克在推特上表示，“召回”一词用于无线软件更新是“不合时宜的，完全错误的！”

欧洲刑警组织：ChatGPT或被滥用在网络犯罪

欧洲刑警组织星期一（3月27日）警告，人工智能聊天机器人ChatGPT可能被滥用于“网络钓鱼”、网络犯罪和散播虚假信息。ChatGPT由人工智能研究公司OpenAI开发，它去年推出市场之后，其竞争者也加速开发类似的语言处理工具。


目前，OpenAI公司创始人阿尔特曼还没在公开信上签名，OpenAI没回应，微软也拒绝对这封信发表评论。

OpenAI创始人兼CEO山姆·阿尔特曼

公开信签署人之一纽约大学名誉教授马克斯说：“这封信并不完美，但其精神是正确的：我们必须放慢脚步，直至我们更清楚了解后果……人工智能可能造成严重伤害……大公司对他们正在做的事情越来越保密，这使得社会很难抵御可能出现的任何伤害。”


来源丨环球网、联合早报、路透社

让全世界停止，美国不会停止研究。

这说明中国在这方面有优势了!

你猜美国公司会不会停止研究？！

霍金老先生曾说过，地球要毁在地球人的手上…

一切为了专利权.恐吓别人停手，让自已先成审得专利

别被他们忽悠瘸了，他们又想制定规则？

不要听外国人说什么？我们的人工智能是为人类服务的！他可以解决我们的工业问题，如柔性制造系统；也可以解决我们的社会问题，如家庭服务系统；还可以解决我们的教育问题，如辅助教学系统；还可以解决我们的国内安全问题，如智慧社区和道路安全系统；还可以保护国家安全和领土问题，如智能边防，武器体系升级等等！这是我们国家的优势，是单一政府对各种智能系统的应用的市场控制力和效益的把握能力的最好体现，也是投入产出的巨大推动力！

美国人有核武器了就叫全世界科学家都不要再继续研究制造核武器[呲牙]

人工智能深度发展是人类最高风险的游戏。