张钹院士：建立完备的人工智能基础实际（转载）
作者：沈春蕾 来源：中国迷信报 发布工夫：2021/6/9 16:36:52
http://news.sciencenet.cn/htmlnews/2021/6/459306.shtm
张钹院士：建立完备的人工智能基础实际
作为引领第四次科技革命的战略性技术，人工智能（AI）给社会建设和经济发展带来了严重而深远的影响，但数据隐私、算法成见、技术滥用等安全成绩正给社会公共管理与产业智能化转型带来严峻应战。
第一个成绩是科技发展的共性成绩。科技是发展的利器，也能够成为风险的源头，人工智能也不例外。首先，AI的发展将引发新一轮的产业革命。一方面是传统产业的智能化，比如网络搜索中采取引荐算法、用户画像等等，提高服务的效率和质量。另一方面是智能技术的产业化，催生了新的产业，如智能交通、智慧医疗、智慧城市、自动驾驶等。与此同时，AI的发展也带来了新的风险和安全隐患，因此，我们既要抓AI的创新发展，又要抓AI的管理，两手都要抓。
第二个成绩是人工智能发展与管理中的特殊性，详细表如今算法层面、数据层面与运用层面。
在算法层面看，现有的AI算法较脆弱，泛化才能较差，这意味着假如将算法运用到与训练场景区别很大的实践场景中，就会存在安全成绩。以无人驾驶为例，AI训练的时分不能够穷尽一切的情形，当遇到新的突发事情便无法处理，就会形成AI技术的误用，有能够是无看法的误用。同时，这种脆弱性还使得人工智能系统容易被攻击、被诈骗，给AI技术的滥用形成无隙可乘。
从数据层面看，如古人工智能运用效果很大程度上依赖数据质量，但由此会带来隐私走漏、数据确权等成绩，假如处理不好数据安全的成绩，人工智能产业也不能够健康的发展。
在运用层面，人工智能技术曾经逐渐对人们的生活形成冲击，比如售楼处看房带头盔、困在算法里的外卖骑手等等，还有深度伪造之类能够对社会形成严重影响的技术，都必须保证安全可控。
AI的创新发展是大道理，纵观信息科技的发展历史，虽然信息科技发展异常迅猛，但基本上安全可控。而人工智能发展却缓慢迂回，安全成绩层出不穷。这两者的差别在于，从信息革命末尾，信息的三大实际就曾经建立，即图灵机实际（1936）、香农的通讯实际（1948）、维纳的控制论（1948）。正由于有了坚实的实际基础，从而引导信息技术健康的发展。但是人工智能的发展则相反，它的基础实际至今没有建立。虽然阅历了第一代AI的符号主义模型（知识驱动）和第二代AI的亚符号（衔接）主义模型（数据驱动），但它们均具有很大的局限性，不能构成AI的实际基础。由于缺乏实际指点，AI的发展处于难以控制的场面。
当前，必须处理“卡脖子”的基础实际成绩，因此建立AI的实际基础是我们提出“第三代人工智能”的初衷。所谓的“第三代人工智能”，其发展途径是交融第一代的知识驱动和第二代的数据驱动的人工智能，在前两代实际的基础上发展第三代人工智能基础实际，建立一个完备的人工智能基础实际。详细的思绪上，应用知识、数据、算法和算力4个要素，建立新的可解释和鲁棒的AI实际和方法，从而发展安全、可信、牢靠和可扩展的AI技术。这样发展第三代AI和AI管理一同抓，以达到相反相成共同发展。
人工智能刚刚拉开序幕，更精彩的大戏正要演出。全世界应该勾结起来，共同来发展安全可控的第三代人工智能，让人工智能真正造福于人类。
（本报记者沈春蕾根据中国迷信院院士张钹在2021北京智源大会上的讲话整理）
| 
