“一个担任任的人工智能体系不只需有效率，还有公平和安全。”近日，清华大学人工智能管理研讨院副院长梁正在北京智源大会“AI安全与产业管理”论坛上说。
梁正过去半年不断在关注数字劳工成绩，从外卖骑手“困在”系统里这个案例他看到，算法背后指向的是一个综合性的社会成绩，需求各方的参与才能达到一种平衡。
梁正以为，平台在开发、设计、部署相关算法的时分要把相关利益方的利益思索到，包括对人的尊重，如何保护弱势群体。同时，还要区分哪些成绩是算法本身的，哪些是由于算法的不当运用形成的，找到问责主体，区分处理。
安全成绩也是论坛上专家们极为关注的。其中，虽然算法安全成绩目前仍处于刚“兴起”阶段，但它的危害不容小觑。瑞莱智慧RealAI结合创始人刘荔园说，去年她看到行业里很多人脸辨认的运用遭到了攻击，相关黑产给用户形成了大规模损失。这些破绽除了是由深度学习技术本身的缺陷导致，还有恶意攻击者对数据或样本停止“投毒”（经过在训练数据里加入假装数据、恶意样本，进而导致训练的算法模型决策出现偏向），故意影响AI模型的攻击行为。
阿里安全资深算法专家何源则观察到，以电商场景为例，算法的破绽能够导致非原创图片逃逸检测，还能够要挟到网站安全和商家权益。自动驾驶场景遭到攻击的后果则更为严重。百度安全主任架构师包沉浮泄漏，模型鲁棒性（模型面对一定变化时的表现能否波动）的完善将导致自动驾驶系统在对抗环境或光线、天气条件多变的复杂环境中发生错误辨认。这甚至会危害到生命安全。
处理人工智能的安全可控成绩变得越来越迫切。论坛时期，清华大学结合阿里安全、瑞莱智慧发布了首个片面的AI攻防对抗基准平台，该平台可完成对AI防御和攻击算法的自动化评价。
当越来越多的算法深度介入人们的生活中，必然带来相关的社会成绩。但要让人工智能愈加安全可控，仅有技术支撑还不够，这背后还需求行业标准、法律规范等配套的基础设备。（文／AI财经社 唐煜 编／赵艳秋）
|
