智客公社

标题: 硬币的两面——人工智能助推职场归属感的前景探讨 [打印本页]
作者: 铃歌哒哒    时间: 2022-10-19 21:52
标题: 硬币的两面——人工智能助推职场归属感的前景探讨
[attach]791444[/attach]



导读

Foreword







当人们遇到棘手问题时，常会求诸于科学技术。面对职场多元、公平、包容和归属感（Diversity, Equity, Inclusion, and Belonging，DEIB）的呼吁，AI技术正在成为解决职场归属感的途径之一。然而，正如一个硬币的两面，以解决职场归属感为出发点的AI工具，也存在诸多有待思虑的地方。在本文中，作者基于对34款工具的调研基础，对职场归属感AI工具类型与前景进行了归纳，同时以具体的案例向我们说明了其中可能存在的隐忧。值得强调的是，面对新事物我们需要保留“问题意识”。而对于这些问题的答案，也许还需要交给时间与实践。







[attach]791445[/attach]

图片:iStock/Who_I_am


想象一下这些场景：在周四上午11点，你收到一条来着Slack（译者注：Slack为一款基于云端运算的即时通讯软件）的专属推送，提示你该去和久未谋面的老同事叙叙旧。接着，在中午的Zoom远程团队会议中，系统向你发送了参会人员中发言较少的成员名单，据此你可以去邀请他们再多讲两句。再晚些时候，你正在撰写报告，一个人工智能插件发出提示你在行文中应使用 "chairperson（负责人） "而不是 "chairman（尤指男负责人）"。第二天，在准备季度员工述职时，你查阅着一个数字仪表盘，团队成员的工作情况已跃然其上。（来自员工脉冲调查及文本分析、视频和随机调研等“调研工具”的数据表明，你的团队凝聚力很高，但是他们有些疲惫。）
欢迎来到一个数字化监测与人工智能办公的新时代，你准备好了吗？
身处后新冠时期，许多职场人的工作场景由线下转变成为了远程办公，会议和工作沟通突然间均需以数字化的方式来进行。而这为收集、分析和利用大量办公数据提供了新的可能。随着这些员工数据的产生，以对员工参与度评估和绩效管理为目的的数字化信息采集工具也呈现出增长之势。与此同时，各组织也在努力去响应针职场应当更加多元、公平、包容和归属感（Diversity, Equity, Inclusion, and Belonging，DEIB）的呼吁——在组织中，特别是在领导岗位上，持续存在着与代表权相关的差异，这在某种程度上会进一步强化和展现社会和组织中因种族、性别、性取向、社会经济地位等因素而长期存在的系统性不平等。基于这个背景与需求，科技公司已开始去探索技术和最新产生的数据库在衡量和/或强化机构DEIB工作、增强员工归属感方面可以发挥的作用。
归属感（Belonging）比包容（Inclusion）更进一步：它是一种员工与组织有意义地联系在一起并成为组织的一部分的感觉，其重要性不言而喻。在过去，人类的生存实际上十分依赖于与他人建立联系以去克服威胁和压力，因此人类在进化过程中需要归属感。在过去的几年里，孤立与归属感缺失加剧了人们日益严重的心理健康危机，而缺乏归属感则被认为是近年来“离职潮”背后的一个关键驱动因素。
人工智能驱动的职场监控工具会是增强员工“归属感”的方法吗？这些工具有哪些，它们满足了哪些需求又创造了哪些机会？如果使用它们，会带来哪些预料之外的后果？这些工具在多大程度上是“向好的”？对员工的过度监控是否合理？我们能否确保这类DEIB工具可以真正促成公平和公正的结果？

[attach]791446[/attach]



▍职场归属感AI工具的发展前景


用于监管员工生产力的数字监控工具，在仓库和物流工人或UPS司机群体中已十分普及。（译者注：UPS，United Parcel Service, Inc,为全球快递承运商和包裹运送公司，其主张时间就是金钱，信奉着用数据来提升生产力的原则。车内的传感器会对司机的一举一动进行实时监控。）而现在，这类监控工具正在知识型工作者中快速渗透。据《纽约时报》所报道，在美国最大的10 家私营雇主中就有8家在追踪员工生产力。其中一些工具正在构建与推进组织内与DEIB相关的方面，而新开发的工具则更加明确地聚焦于DEIB目标的实现。
鉴于“归属感”在促进职场公平方面的核心作用，我们对这些职场技术工具（尤其是采用了AI技术的工具）的分析主要聚焦于那些以“归属感”为目标的工具。我们所调研的34种工具在规模和领域上不尽相同，但它们均以“归属感”为出发点，且业务覆盖全球多地员工和工作场所。其客户也遍及各行各业：从员工人数低于1000人的初创公司（如Axios）到拥有5至10万员工的全球公司（如Spotify、Twilio和维珍航空（Virgin Atlantic）），以及诸如微软（Microsoft）、联合利华（Unilever）和沃达丰（Vodafone）等拥有逾10万员工的大型公司。
这些工具可以被概括为以下三种类型
衡量或评估归属感的数据分析工具，可以为组织收集员工实时信息，以便了解员工与谁联系和沟通，他们对工作的包容度、参与度以及他们的感受。为此公司采用了一系列工具来实现这一目标，这些工具可以提供调研和评估反馈，定期开展员工脉冲调查和/或会议数据追踪等服务。技术上更为复杂的服务还包括：追踪和分析沟通元数据（如从内部电子邮件和信息到Glassdoor等网站上的外部评论），使用情绪分析来评估定性调查数据中的情绪，以及分析员工关系网络以评估谁在与谁相谈甚欢。虽然目前仅有部分工具采用了人工智能技术，但越来越多的工具正在探索将人工智能纳入其解决方案。
寻求增强归属感的行为改变工具，通常通过使用数字化“推送（nudges）”来促成行为改变。“助推理论”（Nudge theory）是一个行为经济学概念，其通过正面强化和间接建议来影响人们的行为和思维。这些通过电子邮件、短信、Slack等方式推送的信息，是可以被定制与场景化的。大多数的数字化助推工具会利用机器学习技术，根据个人通信、会议信息和其他内部数据对员工发送个性化推送。这些推送可以针对DEIB及福祉相关的不同主题来设置建议：如促进包容性的职场关系的行为，或围绕DEIB主题的学习，以及促进针对特定角色或职能包容性语言和工作的实践。除了“助推”之外，一些工具还为员工和管理者提供一个平台，去让他们分享对彼此工作的认可、赞扬和其他形式的积极激励。

[attach]791447[/attach]



▍有前景亦有隐忧
这些技术为更好地理解和推进组织内的DEIB工作提供了可能性，同时也使DEIB工作开展更高效、更经济、更可扩展。然而，基于抓取个人数据信息以获得洞察及个性化推送的工具，尚存在诸多有待商榷的问题。
1. 数据隐私 | 这些工具向我们展现了一系列数据隐私获取途径。并非所有工具都会提供机会让员工去确认他们的哪些数据正在被收集，并且不同的工具对于其获取的个人信息及洞察数据保护方面存在着很大差异。以Cultivate为例，个人用户只能授权平台访问其全部类型的数据（即他们的聊天记录、电子邮件和日历的全部内容）。而Medallia，它虽然允许员工选择仅分享某些特定信息，比如他们的通话记录。然而，该平台会自动从日历和电子邮件元数据中采集信号，而员工并没有拒绝（平台收集这些数据）的机会。在大多数情况下，员工甚至不知道他们的哪些数据正在被收集，更遑论选择的机会。而且，即使有信息匿名化等保障措施，管理者或不法分子也可能访问如电子邮件内容等个人数据。
2. 透明度 | 员工对他们的数据将被如何使用有多了解？提供“推送”以促进行为改变的工具在“推送”的开发方式方面具有不同程度的透明度。例如，微软的VIVA为个人员工提供了“推送”建议所依据的数据的来源。Humu也采用了类似方法，在每次推送时，它都会附带超链接去说明这条推送是基于哪些数据源生成的以及员工收到这条推送的原因。然而，大多数提供“推送”的工具并未向其员工提供这些信息，尽管各种工具都在通过对个人特征和人力资源数据进行分层处理以获得更全面的洞察，但尚不清楚其员工是否知晓他们的个人特征或人力资源数据正在以这种方式被使用。
3.偏见 | 偏见可能会在人工智能工具的不同阶段产生。特别是人工智能系统会根据其预先设置的数据做出决策，但这些数据本身可能就存在偏见。例如，我们知道，女性在职场中的关系网不如男性强大，研究显示，女性通常最终会与同级或更低级别的员工形成关系网，并可能因照顾责任而错失搭建关系网的机会。因此，基于现有网络而去拓展职场联系的工具可能会加剧这些不平等，并使性别网络差距和趋势持续存在。以微软VIVA为例，这款软件会根据互动数据，如谁向谁表示了认可或做出了积极反馈，来促进员工间的相互联系。而这可能无意中强化了现有网络。不过，也有一些工具正在致力于使组织内部的网络多样化。例如Slack的一款应用程序Donut，它可以使员工能够更加随机地与跨部门、跨地区和跨级别的同事建立起联系，并会尝试介绍那些原本不会互动的人们产生交流。
4.断章取义 | 对于 "归属感 "的含义以及哪些变量应该作为归属感的考量值，这些工具往往缺乏清晰而基于循证地理解。例如，Medallia在评估“归属感”时考虑的变量之一是：员工在获得酬劳后并未把钱存起来，而是立马休假。除了与归属感的微弱联系之外，身为父母的员工可能会出于许多不同的理由休假。据此去对“归属感”来进行评估，对于父母尤其是那些往往承担大部分照顾工作的母亲来说，可能会造成潜在影响。相应地，由于Cultivate是通过通信元数据进行解析，其会通过追踪管理者“表达怀疑、寻求反馈和分享意见”的频率来判断他们是否推动了员工心理安全（psychological safety）建设。然而，虽然这些追踪性的领导行为与心理安全相关，但它们不一定能解释员工是否真正感受到了心理上的安全感。
5. 滑坡谬误｜此类工具在某种程度上代表着一个庞大且快速增长的市场已经形成，同时也意味着更多创新即将产生，比如用于监控和检测远程工作者认知和情绪状态的人工智能工具。以英特尔（Intel）和Classroom Technologies正在开发的新型虚拟学校软件为例，该软件可以分层应用于Zoom，其有望通过评估学生的面部表情和互动来检测他们是否感到无聊、分心或困惑。类似技术正在通过视频和数字通信平台在虚拟工作场所进行测试和部署。虽然开发此类工具的意图看似积极，但捕捉和评估情绪和面部表情却充满争议，而且并没有可靠的科学依据。
在更高层面上，我们对以DEIB的名义进行的过度监视感到担忧。虽然这些工具正在收集数据以推进DEIB的积极目标，但它们仍然充当着个人空间中的监视工具。即使是出于“向好”目的而开发，监控也可能是对隐私的侵犯，并最终演变为对职场的管控。此外，长期以来，监控不成比例地针对边缘化社区，尤其是美国的黑人和棕色人种社区，从而导致更精确的歧视。
需要明确的是，并非我们调研的每种工具都会成为上述这些问题的牺牲品。比如，Everyday Inclusion就为员工提供了非定制的、基于科学依据的“包容推送”，而Donut只是随机化分配员工的联系，因此，像这样的工具并未引起我们在此列述的担忧。当工具开始利用个人数据来获取洞察并推动个性化行为改变时，我们敦促领导者们，在考虑其潜力的同时，也请考虑潜在的隐患。

[attach]791448[/attach]



▍社会变革领导者能做什么？
社会变革的领导者必须关注在DEIB名义下使用、支持、投资或资助的不同类型的技术与工具，即使这些工具在提升归属感的方面确有帮助，为了能促成产生更为公正和公平的结果，对这些工具的开发和管理也必须慎之又慎。基于此，社会变革的领导者需要认真思考下述问题：
1. 该工具可能在无意中强化了哪些权力与偏见？对于建立职场关系网络而言，该工具是否会助推不平等现象长期存在？该工具如何评定哪些员工可以获得表扬/认可？该工具及其开发团队如何看待并努力确保所有员工都有平等的机会被看到和听到？
2. 我们是否已尽职尽责去确保所有员工可以获得公平的结果？
3. 该工具是否构建自合理的科学依据并适用于多元身份、社区和文化？以及是否预设过它可能带来的意外后果？
4. 该工具的开发和管理背后是否有一支多元化的团队（包括不同的种族和跨学科背景）？该团队是否有能力主动考虑人们如何以不同的方式使用和体验这些工具？
5. 该工具是否内置了健全的隐私保护措施？我们是否考虑过管理人员或不法分子可能通过使用这些工具（刻意或无意地）延续偏见和歧视的风险？
6. 个人数据的收集和使用是否应对员工保持公开？他们能否有机会去选择同意或拒绝数据收集？
人们很容易相信，技术可以解决一系列棘手问题，包括职场中的身份不平等与缺乏归属感。然而，我们必须谨慎看待技术和人工智能的设想。诸如此类工具的确有所帮助，但作为社会变革的领导者，我们必须要求更多并提出关键问题，以便更好地了解此类工具的潜在影响，以及权力是如何在这些技术内部被复制和流通的。我们可以选择去支持那些从设计到管理都以正义为核心价值和优先事项的创新和团队。
归根结底，以DEIB名义增强监控和人工智能是一场危险游戏。其发展需要思虑周全、有探索欲的和有意愿的社会变革领导力和投资来推动，如此，才能去创造一个更公正公平的职场未来。但在某些情况下，首先需要慎重考虑的问题是：这个工具到底应不应该被开发？

[attach]791449[/attach]

吉纳维芙·史密斯（Genevieve Smith）是加州大学伯克利分校哈斯商学院公平、性别与领导力中心（EGAL）的副主任。十多年来，她一直在性别平等、公正和技术的交叉领域进行研究。她是EGAL关于减轻人工智能偏见和促进职场归属感攻略的主要作者。


伊西塔·鲁斯塔吉（Ishita RustagiIshita）是加州大学伯克利分校哈斯商学院公平、性别与领导力中心（EGAL）的高级分析师，她支持资源、工具和思想领导力的开发，以促进多样性、公平和包容。她是EGAL关于减轻人工智能偏见和促进职场归属感攻略的合著者。




来源：《斯坦福社会创新评论》英文网站2022年9月14日


原标题：Workplace AI Wants to Help You Belong

[attach]791450[/attach]
作者: rblian    时间: 2022-10-19 21:53
感谢分享。
作者: 麦客卡尔布鲁氏    时间: 2022-10-19 21:54
謝谢分享，
作者: 宋少    时间: 2022-10-19 21:54
谢谢分享
作者: 梦萍    时间: 2022-10-19 21:54
谢谢分享



欢迎光临 智客公社 (http://bbs.cnaiplus.com/) Powered by Discuz! X3.4