人工智能广泛运用，算法公平性重要性突显

近日，高考考生考场用小猿搜题的事闹得沸沸扬扬，高考的公平性被应战，高考公平与否，不只关系到考生能否对等地享有高等教育的退学机会，甚至关乎其他考生的命运。


高考的公平性也一度成为人们关注的焦点，成为考生和家长们心中敏感脆弱、不能触碰的红线。


假如公平性出现偏向，则会形成很严重的社会后果，对于人工智能来说也是一样。随着AI算法在社会各行业的广泛落地运用，作为辅助人们决策的重要工具，算法的公平性成绩正遭到越来越多的关注。


近日，腾讯优图实验室结合厦门大学人工智能研讨院发布《2021十大人工智能趋向》报告中显示，算法公平性研讨将推进AI运用走向普惠无成见。

由于数据偏向、算法本身缺陷、甚至是人为成见的存在，现有AI算法普遍存在对于某些特定人群效果不公平的"歧视性现象"。


随着人工智能的发展，机器学习的技术来协助人们停止决策，其潜在的影响力曾经变得越来越大，特别是在具有重要影响力的范畴。


因此，思索一个机器学习系统在做决策时，尤其是有高影响力的决策时，能否会对弱势群体形成愈加不利的影响，至关重要。


过去的几年业界已在逐渐探求一些针对性的处理方案，包括构建更公正的数据集、算法训练中引入公平性约束损失、提高机器学习算法的可解释性等。


但是，想要确保一个公正、公平而又合乎伦理的结果，不只仅要面对来自数据迷信的应战，还需求设置人工智能学习程序的人，有宏大的责任和坚韧的信心，以设置出最为公平的程序。