“AI发展现状反思”笔谈｜智能技术发展中的需求嵌入与欲望脱嵌机制

【主持人语：刘永谋（中国人民大学吴玉章讲席教授）】近年来，以大模型为代表的AI技术发展迅猛，掀起一波席卷全球的AI发展热潮。关注AI发展状况的人不限于AI的研发者、推广者和AI发展的评论者、人文社科研究者，更包括深感生活将被AI深刻影响的普通公众。AI发展的问题不再是纯粹技术问题，而是成为某种意义上的公共议题。在最近OpenAI发布Sora、马斯克开源Grok等一系列相关事件中，这一点表现得非常清楚。在各种相关公共讨论中，AI发展现状尤其受到关注，其中的基本问题是：当前AI发展的大方向是否有问题，未来应该朝什么方向前进。为此，组织计算机、经济学、马克思主义理论和哲学等领域的八位学者，对AI发展现状进行跨学科反思以期抛砖引玉，求教于方家。

本系列文章共8篇，转载自《科学·经济·社会》2024年第8期，本文《智能技术发展中的需求嵌入与欲望脱嵌机制》为第8篇。在文中，樊姗姗从需求和欲望的角度反思AI发展,认为智能技术核心“需要”为数据、算法与算力，在现实中被异化为以消费为导向的“欲望”，应建立“以人为本”的欲望脱嵌机制。



ChatGPT技术方兴未艾，OpenAI公司在2024年春节期间又抛出Sora这一重磅炸弹，标志着生成式人工智能技术从强大的文字、图片生成领域拓展到了更加复杂、精细、生动的视频领域。随着ChatGPT、Sora的爆火，生成式人工智能作为新兴技术亦成为大众关注的焦点。生成式智能技术能够借助已有数据生成全新的答案体现了类人的创造性，这可能会取代大部分重复性脑力劳动，技术逐渐由替代体力劳动逐渐深入到替代脑力劳动，带来新的“思维革命”。这场“思维革命”背后智能技术发展中的真实“需要”是什么？智能技术发展中看似价值中立的、基本的“需要”又如何异化为了一种“技术欲望”？这是本文希望反思的核心问题。

一、智能技术发展中的“需要”理论

智能技术的“需要”与人的“需要”不同。关于人的“需要”问题，马克思的需要理论与马斯洛的需要层次理论都做了经典的论述。马克思在《德意志意识形态》中指出“他们的需要即他们的本性”，旨在说明个人总是处于自己的需要状态之中。马克思认为，需要是联系生产和消费之间的媒介，因为生产本身就是为了满足需要而存在的。为了满足生活需要，人们要获取食物、饮水、住所、衣物以及其他必需品。当然，马克思并未把人的需要仅仅理解为“自然的、生物的”需要，在他看来需要还是社会的、历史的发生、发展和满足。根据需要的来源，马克思将需要分为“自然的需要”与“历史形成的需要”。“自然的需求”可以理解为人类本身必要的再生产需求，“历史形成的需要”则是超越本能需要的欲望。而根据需要的层次，马克思将人的需要划分为自然需要、社会需要与精神需要。自然需要即上述维持生存所需的基本的衣食住行等，社会需要则指社会交往的需求，精神需要则被看作是最高层次的发展与享受的需要。在描述共产主义社会时，他也提出“各尽所能，各取所需”。在马克思的基础上，马尔库塞、弗洛姆等区分了真实的需要和虚假的需要。在马尔库塞看来，现代社会中的多数需要都属于虚假的需要。因为这种需要不是从自身产生的，而是外部强加在个人身上的。这种“强加”往往是基于“特定的社会利益”。比如人们的消费往往按照广告宣传的方式来进行，人们的喜欢与憎恶也往往是根据他人的喜好与憎恶来进行取舍，人们的休闲、娱乐、运动的方式也都是基于媒体或他人的观念来进行选择。虚假需求不是个人自主选择的，而是通过外部力量强加给个人的，个人的满足和发展受外部力量的支配，个人只能在顺从中接受它，人们千篇一律地按照广告和传播媒介所宣传的方式来消费和生活。无论是马克思的需求理论，还是马尔库塞、弗洛姆以及马斯洛的需求理论，这些理论都说明“需要”是人实践活动的内在动力。

那么，智能技术发展中的真实“需要”是什么？它与人的需要有什么区别，又有什么特点？简言之，深度科技化的时代，智能技术的核心“需要”可以被归纳为“数据、算法与算力”。

首先，数据对于人工智能，就如食材对于人的身体。数据可以被理解为以电子化形式对人和世界的记录。在智能时代，柏拉图、亚里士多德讨论的“理念”“实体”变为了“数据”，笛卡尔的“我思故我在”也被“数据即存在”所替代。几乎家家都有的移动智能终端设备、随处可见的监控与传感技术装置，小区、医院等地方的生物信息采集设施以及实验室里大型的科技数据装置，它们无时无刻不在采集着数据，对人的行为、状态进行记录与整理。当前，各种类别的数据正在以人们意想不到的方式呈指数级增长。每个人、每件事都为智能技术提供着多样化的数据。智能技术发展依赖于海量的数据，据此，我们可以将数据定义为智能技术的“自然”。

其次，算法对于人工智能就如劳动工具与人的关系。算法是智能技术得以实现的根本方法与途径。算法如同智能世界中的望远镜和显微镜，能对收集回来的数据进行高效挖掘。也因为算法这一工具，人类看待整个世界的自然图景的方式由原来物理的形式更多地转化为了数字的形式。智能技术的主要算法为机器学习算法，而机器学习算法又可以分为传统方式与神经网络算法方式。当前，神经网络算法中发展最快、最热门的当属深度学习。而无论是哪一种模式的算法，其主要的工作机制为从给定的或一类数据中进行分析后发现规律、利用规律，以便对未知的数据进行预测或干预。算法在今天的城市治理、社会治理、环境治理等方面已经崭露头角。算法先将个体与群体活动中的数据进行量化透视，在做记录、分类、标签、解析的基础上，进一步引导、预测与控制人们的活动，以便形成对个人或社会的管理与治理。算法不同于数据，它的操作每一步都体现着技术发展的内在目的。

最后，智能技术除了依赖数据满足自身的“自然需求”和算法提供的“动力需求”，它的发展还需要能处理数据、推动算法运作的强大计算能力，即算力。算力对于人工智能，就如大脑对于人类智能一样。海量的大数据和复杂的算法能够顺利地不间断地进行训练，这依赖于智能技术背后有成熟的、过硬的、牢靠的计算系统。因此，算力体现着智能技术的计算能力。数据与算法的实施，需要算力为其提供计算能力的支撑。换句话说，算力为智能技术的发展提供基础设施的支撑。没有强大的算力，智能技术的发展就没有强有力的后盾。算力不同于数据与算法，它是智能技术进步与否的衡量标志。

如果说数据可以看作技术的“自然需要”，算法与算力在智能技术发展的过程中更体现的是“历史需要”。智能技术的核心“需要”就其关系而言，大数据为智能技术提供基本食材，也就是智能技术发展中的原料。算力相当于智能技术发展过程中的发动机，算法就相当于智能技术发展中的基本方法，算法和算力也就是产生动力的生产引擎。有了生产原料和生产引擎，就可以在不同的应用场景下生产出智能世界所需要的不同东西。

总之，与人类的“自然的需要”“历史形成的需要”不同，智能技术的各种需要都蕴藏在大数据、算法与算力之中。如同人类通过实践不断获得各种技能，智能机器通过不断地、大量地收集数据、训练技能，在此基础上通过强大的算法与算力进一步总结规律，去应用到新的场景与样本上。当然，如果在过去的数据与训练中，智能技术从未对某些场景进行过学习，那么它得出的结论也基本上处于瞎猜的状态，正确率也就可想而知了。

二、智能技术发展中“需要”的异化

无论智能技术“自然需要”，还是它的“历史的需要”，智能技术的“需要”具有独特性。这种独特性也是智能技术的“需要”往往被异化为“欲望”的直接原因。该特性表现为智能技术的“需要”依赖于人的“身体”作为其数据、算法、算力来源的载体。智能技术需要将人作为其“代具”“义肢”或“有形的身体”。斯蒂格勒在其著作中指出就技术与人的关系而言，技术是人的“代具”、“义肢”。事实上，在智能时代，技术发展需要将人变为其收集数据、生成数据、算法与算力执行过程中的“代具”“义肢”或“有形的身体”。弗洛里迪在《第四次革命》中指出，与哥白尼革命、达尔文革命、神经科学革命等前三次革命类似，第四次革命（即图灵革命）消除了人类关于自己独一无二的错误观念，进而提供了从观念上修正自我认识的方法。因为，第四次革命让我们深刻认识到人类既不是上帝的信奉者，也不必是牛顿的追随者，同时他们既不是独立存在的智能体，也不是地球孤岛上的“鲁滨逊”。在弗洛里迪看来，人类在第四次革命的影响下，其本质应该被定义为“信息有机体”或可以简称为“信息体”。弗洛里迪将人不再看作独立的智能体，而将其定义为“信息体”，这一新的称呼也能侧面反映智能时代技术依托人这一现象。

智能技术只有“需要”是不够的，根据马克思对于需要的论述，需要往往会被异化为欲望。欲望在马克思的理论视域中可以被理解为一切与最大化地维持人类自身生命体无关的索求。人类的“自然需要”在智能技术的辅助下，该需求会被不断地、最大化地得到满足。同时“自然需要”与“历史形成的需要”之间也逐渐模糊，比如，借助智能技术来实现更健康的食物与作息、更舒适的居住环境与衣物、更利于个人全面发展的工作种类与运动方式等。同时，不仅是“自然需要”与“历史形成的需求”之间交叉互动频繁，而且在追求人的“自然需要”的最大化过程中，需要与欲望的界限会被不断模糊化。它们交织在一起，彼此区分变得困难，甚至以往我们认为需要满足之后才会产生、衍生出欲望的情况被颠覆，日趋普遍出现的是人的需要被直接跨越过去并以欲望的形式被展现。类似的生成逻辑，智能技术的需要也与欲望往往交织在一起，并且以更加规模化、数据化、全方位、全时间段的形式被呈现。智能技术发展中，数据、算法与算力发展的基本需要，往往在现实使用中会出现异化现象，会将技术发展的“需要”推向“欲望”。AI娱乐化发展趋势就是智能技术发展中的“需要异化”的典型代表，其背后的逻辑是“消费”。

智能技术中的“数据需求”往往被异化为了以消费为导向的“数据欲望”。数字资本依托智能技术将人的行为“数据化”，并对其进行私人定制式的消费内容推送，致使数据收集、整理行为变为了数据消费与数据控制。数据的开发、收集本应是满足技术自身发展需要而开展的一项活动，但在一定的条件下，数据往往被用来引导消费。智能技术的深度学习能力是涵括各种主题和知识领域的信息数据库或在巨大的文本语料库基础上进行预训练的大型语言模型，这使得智能技术更加迎合个体的需求与喜好，快速提升个人的舒适感，进而使得个体忽视对其反思与审视。在此基础之上，数字资本依托智能技术可以将人的行为“数据化”，再据此进行数据的分析、预测与控制，最终通过“断数识人”的方式来操控人的消费行为。

智能技术中的“算法需求”往往被异化为以消费为导向的“算法欲望”。算法指令的批量推送不间断地侵入人们的日常生活，将其从个性化的、惬意的模式变为统一的、平庸化的消费行为。德勒兹就用“分格”（DividualS）这一概念来说明智能技术将人体消解为一个个精细的信息颗粒。在德勒兹看来，智能时代的这种“分格”无处不在。以往的社会中，人们的行为会在家庭、学校和社会等具体的场所中得到关注与规训，他们也能找到自己独有的空间免于管控来放松自己。但是，在智能管控的社会里，人们仿佛是被放在了一个巨大的网格之中，无处藏身。在数据化的超精致社会中，新自由主义所谓的方法论的个人主义已经被指数化所取代，个体仅仅将其自身视为某种超量化的事物。智能算法在精细的信息颗粒度层面对主体的数据标注与画像已然将其转化为无限多维的数据集，主体的个体性随之被消解为算法上可区分的特征数据，以便于推广针对性的消费信息。

智能技术中的“算力需求”往往被异化为以消费为导向的“算力欲望”。算力作为智能技术背后的助推器，对精神世界进行了新渗透，主体批判性的、创造性的思想被大量连续的智能推送所侵蚀。这将使得主体面临斯蒂格勒所说的“新”的无产阶级化问题。可以说，智能技术强大的算力能力将带来新的“思维革命”，消解并重构主体的思维能力。弗洛里迪将图灵革命后的人定义为“信息有机体”，旨在说明信息革命在将人们从费神的工作中解放出来的同时，也让人在信息圈中失去了其原来唯一智慧智能体的中心地位。斯蒂格勒的无产阶级化并不是使人贫穷化，而更像是“废人”化。斯蒂格勒视“废人”为那些失去知道怎么做（know-how）的知识的人，因为他们不再拥有可以自给自足的知识。智能技术本是为了将人类从费神的工作中解放出来，去更多地从事创作、进行自由全面的发展。然而事实上，它却在逻辑推理、信息处理、智能行为等多个领域将人类本来所具有的独特能力一一代替，同时迫使人类无意识地抛弃自己的智能，最终将原有的个性化的、富有想象力的、丰富创造力的思维模式更多地被驯服为数据化和程序化的消费流程。

三、智能技术发展中的“脱嵌”对策

可以看出，智能时代，技术发展的需要与技术发展的欲望关系被颠倒了，欲望反而成了技术发展过程中普遍化了的一般需要。在马克思的论述中，需要是在人们实践的过程中产生的。在需要满足的最大化过程中衍生出了欲望。需要与欲望的关系，原本应该是前者是后者的来源、基础。但是智能时代，这种关系的颠倒呈现一种普遍化趋势。技术发展的欲望已经不是建立在技术发展服务于人的需要的基础之上了，反而是因为有了欲望才有了发展技术的需要。也正是因为智能技术发展中需要与欲望的颠倒，才进一步导致了人们种种的娱乐化、消费化的异化行为。为此，生成式人工智能的出现，促使我们重新反思人的处境问题。在这场深刻的“思维变革”中，良好的人机关系建立需要进一步锚定“以人为本”的价值取向。

数据收集应注重“以人为本”的价值考量。正如技术哲学家彼得·保罗·维贝克（Peter-Paul Verbeek）指出的，传统认为技术是被动的、缺乏意向性的、无法成为道德行动者的，但是事实上，技术是负载道德的，并有意无意地塑造着人的行动与思维。在机器如何担当道德主体这一问题上，科林·艾伦（Colin Allen）和温德尔·瓦拉赫（Wendell Wallach）更进一步分析了人工道德智能体（AMAs）的种种可能性。虽然人工智能给人提供了诸多便利，但也形成了“科技拜物教”。尼克·斯尔尼塞克就曾经指出，数据资源既是所有数字价值的来源，又是一种获得租金的手段。可见，智能时代，数据已经成为该时代重要的生产资料，它如同新经济体系中的“石油”。社会再生产一般有两个重要环节:生产与消费，生产往往是再生产的起点，消费则被看作是目的。因此，面对“数据需求”被异化为了以消费为导向的“数据欲望”问题，智能技术的数据收集过程需要嵌入“以人为本”的理性价值，便于主体真正了解自身的真实需要，避免坠入“数据消费”的陷阱。

算法的设计需要有“以人为本”的伦理考量。生成智能时代，算法指令的批量推送不间断地侵入人们的日常生活，并持续地将智能技术中的“算法需求”异化为以消费为导向的“算法欲望”。不同于斯蒂格勒强调技术是“人”的“代具”“义肢”，事实上，智能技术需求的实现依赖于人成为其“代具”。对于智能技术而言，大量的数据太重要了，而且需要覆盖各种可能的场景。智能时代，无时无刻不依赖于“身体”产生大数据并在此基础上进行搭建算法。人手一部的手机、无处不在的摄像头和传感器等设备都在产生和积累着数据，这些数据形式多样化，大部分都是非结构化数据。大数据需要进行大量的预处理过程（特征化、标量化、向量化），处理后的数据才能为人工智能算法与算力所用。而这些数据的收集方式却极其依赖于人的“身体”，为其获取各种数据提供条件和数据来源。以智能手表为例，手表要对人进行量化，就一定需要依赖于“身体”佩戴它。也正是依赖于人的身体，智能技术基于“需求”的开发，往往被异化为以引导人消费的技术“欲望”。为此，算法的设计需要嵌入“以人为本”的伦理取向，这样主体才能避免片面地被分格为“单向度的人”。

算力的发展也应促成“人”的全面发展。毋庸置疑，人的需要是从动物的需要发展而来的，比如与外界进行物质、能量、信息交换和新陈代谢等功能，但人的需要与动物的需要又有质的差别——人的需要满足主要依赖于能动的生产活动。主体不单单以观念的方式认识世界，还能在实践与认识互动的基础上加深认知与提高改造世界的能力。智能体尽管不如人类聪明，但它们却可以轻而易举地超越我们，并且承担越来越多的任务。尽管当下ChatGPT还没有形成其自身思维能力的迹象，但随着ChatGPT的应用场景不断推广，人工智能对主体的思维能力所产生的反作用却越来越大。人们越来越多地将自己的记忆、日常安排、决定与其他活动，以一种不断融合的方式委派给智能技术去打理。然而，如果将这种认识、改造世界的方法完全让渡给机器，那么人类将成为孤立于知识世界之外的存在，进而失去传承、生成文化成果的基础。德勒兹采用倒置隐喻，指出“资本”是“无器官身体”。它可以借助人类的“欲望机器”进行不断地再生产。德勒兹的这一隐喻或可贴切地形容以ChatGPT、Sora为代表的智能机器“反客为主”的现象。凡此种种都更加深刻地说明:智能时代，技术的研发应该以能培养人的思维能力、批判能力为导向，来实现人的真正的全面发展。

未来的智能技术发展需要“以人为本”的价值引导，以便搭建起一个人机共存的、“真善美”的智能社会。在这一共生的社会中，人的需要与技术的需要将得到和平、公正地发展与满足。该氛围下，智能机与智能人不是非此即彼，机器人与自然人也不是剑拔弩张。人机共存的智能社会中，期待技术与人的需要能恰如其分地得到满足，期待人机携手走向至善。