一文看懂什么是AGI通用人工智能将重塑场景、行业和产业格局

巴菲特：无法预判人工智能的前景
周鸿祎谈Sora：意味着 AGI (通用人工智能) 实现或从 10 年缩短至 1-2 年
巴菲特说的没错，人工智能武器化的话确实可怕。





一是从技术发展看，已经朝着强人工智能（通用人工智能）发展了。或者说，人工智能已经开始表现出形成智慧的能力，这是非常可拍的。


二是从技术应用看，目前美国一直在将人工智能应用于军事领域了。俄乌冲突可以看出来，美国将人工智能应用于情报收集和指挥控制领域了。美国提出的马赛克战，更是打算将人工智能应用于作战了。


三是人工智能在智慧化和武器化的基础上，一旦控制不好，反向操控人类，也是有可能的。



总结，人工智能是堪称比核武器更厉害的技术，毕竟人工智能监管更难，技术大规模扩散的成本低太多了。
通用人工智能将重塑场景、行业和产业格局

朱松纯中国政协杂志2024-05-04 17:11北京2人听过



人类正在跨入智能时代，通用人工智能的未来充满无限可能，但也遍布多种挑战。





人工智能作为新一轮科技革命和产业变革的重要驱动力，正在深刻地改变着我们的生产方式和生活方式。当前，人工智能技术正加速从感知、认知、理解世界向通用人工智能跃迁。以“通用智能体”为代表的通用人工智能技术，作为新质生产力重要引擎，正在引领新一轮科技革命浪潮，将从以下三个层面重塑场景、行业和现代产业格局。



人工智能场景：北京，中国科技馆，一个机器人正在弹奏古筝。（视觉中国/图）
一是加快“人工智能+场景”应用速度。过去多年来，人工智能的产业应用局限于处理一些简单的重复性任务场景，无法理解人类意图，难以认知场景中的任务，因此未能实现自主任务规划。通用人工智能作为新质生产力的典型代表，强调价值和数据的双轮驱动。北京通用人工智能研究院打造的通用智能体“小女孩——通通”已经具备了类人的基础能力，具有高度的自主性和泛化性，未来可以像人一样快速进入各行业的不同场景。目前，研究院已经联合大型央国企业打造了一批行业智能体，包括应急管理智能体、人才培养智能体、综合治理智能体、医疗康养智能体等，在应急、政务、康养、教育等领域已经实现了成熟的落地应用，推动传统人工智能向新型智能体转化升级。
二是提高“人工智能+行业”生产效率。目前大模型技术在可解释性、可靠性等方面还不够成熟，受限于两个因素：安全性——面临数据不出域的限制；实时性——实现云端协同实时处理。通用智能体是由认知架构顶层设计，以场景认知理解、自主任务规划、严肃知识管理、具身智能等为关键技术突破点，在行业的成长性高，未来能实现自主完成任务，甚至是无限个不同性质的任务，能极大缓解行业内模型“用不好、不敢用”的现状。比如，在政务、医护、法律等严肃知识领域，通过可解释AI算法建模，实现应用场景中辅助决策的可溯源、可解释、可调整、可信任，解决单纯大模型因“幻觉”问题在严肃领域产生的信息概率性失真问题。将进一步降低人工智能在产业中的风险和成本，充分激活行业价值。
三是重塑“人工智能+产业”发展格局。通用人工智能要构建开放包容的创新生态，其发展依赖于不同背景和领域的研究者、开发者以及企业之间的合作，加速实现产业链、创新链、资金链、人才链四链融合。在发改委、教育部、科技部和北京市等的指导和支持下，我们率先打造“通用人工智能协同攻关计划”人才战略力量、“通用人工智能全重实验室”科技战略力量、“通用人工智能新质生产力基金”资金战略力量和“通用人工智能产业生态”智能体生态战略力量等，构筑人才、技术、产业、投资四大生态体系，推动通用人工智能可持续发展。
人类正在跨入智能时代，通用人工智能的未来充满无限可能，但也遍布多种挑战。希望通过本次协商会，能够进一步促进各方加强交流、凝聚通用人工智能发展共识，共同推动我国现代产业创新发展，为提升人类福祉作出更大贡献。
作者：朱松纯全国政协委员北京通用人工智能研究院院长北京大学智能学院院长编辑：杨 灵校对：蒲水涵审核：史慧玲来源：《中国政协》2024年第9期







AI知识5 | 一文看懂什么是AGI



AGI，即通用人工智能（Artificial General Intelligence），是一种能够执行与人类相当或超越人类的广泛认知任务的人工智能系统。与专注于特定任务的窄人工智能（Narrow AI）不同，AGI的目标是具备广泛的认知能力，能够在多种不同的任务和环境中表现出高度的灵活性和适应性。AGI被认为是强人工智能的一种形式，旨在实现类人智能和自学能力，使其能够执行训练或开发目的之外的任务。
AGI的研究领域包括理解和响应非语言线索，如语气、面部表情和手势，以进行更有意义、更有效的沟通。此外，AGI的目标不仅是理解任意通用任务，而且还要以人类的智力水平执行这些任务，除了“自我意识”的生成外。尽管AGI的概念较为宽泛，没有一个特别严格准确的标准，但普遍理解的AGI定义是AI系统能够在多个认知领域进行理解和推理，达到或超过人类智力水平。
创建AGI是AI研究的主要目标之一，也是许多公司如OpenAI、DeepMind和Anthropic等的研究重点。AGI的发展可能会对社会产生深远的影响，包括质疑现有的意义和目的，扩展知识，并重新定义人性和命运。因此，利益相关者必须考虑并解决这些影响和风险，包括研究人员、开发人员、政策制定者、教育工作者和公民。
AGI研究进展
通用人工智能（AGI）的当前研究进展主要集中在以下几个方面：

• 具身智能的研究：国内外的大厂及高等学府，如微软、谷歌、斯坦福等，都在开展具身智能的相关研究。人形机器人被认为是AGI的最佳载体，业界的研究进展正在加速。
  
• 基于图神经网络的研究：上海交大洪亮课题组发表了基于微环境感知图神经网络构建指导蛋白质定向进化的通用人工智能的最新研究成果，这表明在生物信息学领域，AGI的研究也在取得进展。
  
• 元学习和模型泛化能力的提升：现阶段，元学习已经取得了一定的研究进展，但如何提升模型的泛化能力，在不同任务之间进行平衡和优化仍是未来技术攻破的主要方向。
  
• 数据剪枝的重要性：斯坦福和Meta AI的新研究表明，在实现AGI的道路上，数据剪枝比我们想象得更重要，这意味着在机器学习的多个领域中，训练数据、模型大小或计算资源的有效利用对于提高AGI的能力至关重要。
  
• 大模型智能体的研究：整理了52篇2023年最新的大模型智能体相关的论文，这些研究涵盖了LLM-based Agent的构建、应用、评估等方面，显示了在AI Agent领域的最新研究进展[XX]。
  
• 深度学习的基础科学问题：面向以深度学习为代表的人工智能方法的鲁棒性差、可解释性差、对数据的依赖性强等基础科学问题，正在挖掘机器学习的基本原理，发展可解释、可通用的人工智能方法[7]。
  
• AGI的发展阶段：谷歌提出了AGI的完整路线图，将AGI的发展分为6大阶段，每个阶段都有对应的深度（性能）和广度（通用性）指标，这为理解AGI的发展提供了框架[9]。
  

通用人工智能（AGI）的当前研究进展涵盖了具身智能、图神经网络、元学习与模型泛化能力的提升、数据剪枝的重要性、大模型智能体的研究、深度学习的基础科学问题以及AGI的发展阶段等多个方面。
AGI技术挑战



通用人工智能（AGI）开发中面临的主要技术挑战包括但不限于以下几个方面：

• 泛化能力：下一代通用人工智能技术急需突破的问题是如何实现"泛化"，即让AI能够在不同的场景、任务和环境中有效学习和应用所学知识。
  
• 数据偏差：在AGI的发展过程中，数据偏差是一个重要挑战。
  
• 计算效率：提高计算效率是AGI开发中的另一个关键挑战。
  
• 道德影响：AGI的发展还必须考虑到其对社会的影响，包括伦理道德问题。
  
• 输入、规则、拟人模型、控制力、计算力：这些是传统通用人工智能需要解决的几个基本问题，它们共同构成了AGI技术的基础。缺乏其中任何一个都可能导致AGI无法达到预期的效果。
  
• 人机边界模糊：随着AGI技术的发展，机器在语言理解等方面已达到甚至超越人类的水平，导致人机边界的日益模糊，这是构建新型人机和谐关系时需要高度警惕的一个挑战。
  
• 交互性：AGI系统与其环境的交互性也是一个主要障碍。如何使AGI能够更好地与外部世界互动，是推动其研究和应用进展的关键。
  

AGI开发面临的主要技术挑战包括泛化能力、数据偏差、计算效率、道德影响、基本技术要素（输入、规则、拟人模型、控制力、计算力）、人机边界模糊以及交互性等方面。
AGI主要影响



通用人工智能（AGI）对社会、经济和伦理方面可能产生的影响主要包括以下几个方面：

• 经济影响：AGI将创造更多跨业态、多元化、高效率的商业模式，使一些工作自动化并创造出新的就业机会和领域，进而改变就业结构。这可能会推动全球经济增长，预计在未来10年内推动全球GDP增长7%。同时，AGI的发展也可能导致某些行业和企业无法适应新的技术变革而被淘汰。
  
• 社会影响：AGI的发展将开启一个新时代，标志着人工智能具有广泛的学习能力并在大多数领域达到或超过普通人类的水平，其社会影响将巨大而深远。这包括生产方式、生活方式和治理方式的变革。
  
• 教育影响：AGI将进一步拓展教育空间，提升教育效果，优化教育管理，促进教育数字化发展，推动教育现代化发展进程。
  
• 伦理和道德挑战：随着AGI的发展，我们需要面对一系列伦理和道德问题，如责任归属、隐私保护、数据安全、人机交互等。为了确保AGI的安全和公平应用，政府、企业和研究机构需要合作制定相应的政策、法规和道德准则。
  
• 地缘政治和军事考虑：AGI可能具有重要的经济影响，即达到广泛劳动替代的必要标准，以及与AGI可能提供的经济优势有关的地缘政治影响，同时还涉及军事考虑。
  

通用人工智能（AGI）对社会、经济和伦理方面的影响是多方面的，既包括积极的推动作用，也包括需要认真对待的挑战和问题。
AGI探索者们
目前哪些机构或公司正在积极研究通用人工智能（AGI），并且他们的主要目标和成果是什么？

目前，正在积极研究通用人工智能（AGI）的机构或公司包括北京通用人工智能研究院（通研院）、OpenAI、DeepMind、Anthropic以及Facebook（扎克伯格领导的公司）。这些机构和公司的主要目标是开发出能够自主学习、与人类多模态交互并实现技能和知识持续成长的通用人工智能系统。
北京通用人工智能研究院（通研院）是专注于通用人工智能研究的重要机构。他们主办了“迈向通用人工智能前沿科技成果展”，并在展览中展示了他们的技术突破和原创性科研成果，如通过自主环境探索和与人类多模态交互等方式实现技能和知识持续成长的通用人工智能体“通通”。此外，通研院还提出了UV双系统理论、TongTest、TongVerse等一系列科研成果。
OpenAI、DeepMind和Anthropic是全球领先的人工智能研究公司，它们将AGI作为研究的最终目标之一。这些公司的研究成果对科幻小说和未来研究产生了深远影响。
Facebook（扎克伯格领导的公司）也宣布了其下一个目标是研究出AGI，并为此购入了大量英伟达AI芯片。这表明Facebook对于AGI的研究投入了大量的资源和期望。
东方证券在其研报中提到，AI Agent作为探索通用人工智能AGI的重要方向，具备大模型规划、记忆和工具等核心能力，在探索AGI的道路上取得了显著进展。
这些机构和公司正在通过不同的技术和理论框架，如自主学习、多模态交互、大模型规划等，积极研究和推进通用人工智能的发展。他们的主要目标是开发出能够像人类一样具有广泛认知能力和适应性的通用人工智能系统，以实现技术的重大飞跃和应用的广泛扩展。
参考文献
1. Artificial general intelligence - Wikipedia
2. 什么是AGI？（Artificial General Intelligence）通用人工 ... - AI工具集 [2023-04-18]
3. 什么是AGI？（Artificial General Intelligence）通用人工智能的定义和 ... [2023-04-14]
4. 知识科普：什么是AGI？- 知乎专栏 [2023-02-17]
5. 通用人工智能(Artificial General Intelligence，AGI)概述 - CSDN博客 [2024-02-17]
6.AGI通用人工智能如何一步步改变我们的未来生活？- 投资界 [2022-07-12]
7. AGI新突破！52篇论文尽览大模型Agent最新研究进展！- Bilibili [2023-10-17]
8. 可通用的下一代人工智能方法重大研究计划2024年度项目指南 - 科研院 [2024-03-19]
9. ChatGPT只算L1阶段，谷歌提出AGI完整路线图 - 澎湃新闻 [2023-11-09]