负责任地使用AI如何创造更安全的在线空间

在计算机进步、数据科学和庞大数据集的可用性的推动下，人工智能 (AI) 已成为强大的日常现实和商业工具。大型科技公司如谷歌、亚马逊和Meta现在正在开发基于人工智能的系统。该技术可以模仿人类语言、检测疾病、预测犯罪活动、起草法律合同、解决可访问性问题，并比人类更好地完成任务。对于企业而言，人工智能有望预测业务成果、改进流程并以大幅节省成本的方式提高效率。

但人们对人工智能的担忧仍在增加。

人工智能算法已经变得如此强大，一些专家将人工智能标记为有感知能力以至于任何腐败、篡改、偏见或歧视都可能对组织、人类生活和社会产生巨大影响。

人工智能决策越来越大规模地影响和改变人们的生活。不负责任地使用它们会加剧现有的人类偏见和歧视性措施，例如种族定性、行为预测或性取向识别。之所以会出现这种固有的偏见，是因为 AI 的好坏取决于我们可以提供的训练数据量，而这很容易受到人类偏见的影响。

当机器学习算法在未充分代表某些族群（例如女性、有色人种或特定年龄人口统计数据的人）的数据上进行训练和测试时，也会出现偏差。例如，研究表明，有色人种特别容易受到面部识别技术算法偏差的影响。

使用中也会出现偏差。例如，为特定应用设计的算法可能会用于非预期目的，这会导致对输出的误解。

人工智能主导的歧视可能是抽象的、不直观的、微妙的、无形的和难以察觉的。源代码可能会受到限制，或者审计人员可能不知道算法是如何部署的。进入算法以查看其编写方式和响应方式的复杂性不容小觑。

当前的隐私法依赖于通知和选择；因此，很少有人阅读由此产生的要求消费者同意冗长的隐私政策的通知。如果将此类通知应用于人工智能，将对消费者和社会的安全和隐私产生严重后果。

虽然真正的人工智能恶意软件可能还不存在，但假设人工智能恶意软件会增强攻击者的能力并不牵强。可能性是无穷无尽的——从环境中学习以识别和利用新漏洞的恶意软件、针对基于人工智能的安全性进行测试的工具或可以用错误信息毒害人工智能的恶意软件。

由人工智能操纵的数字内容已经被用于实时创建超逼真的个人合成副本（也称为 伪造）。因此，攻击者将利用 伪造来制造针对性很强的社会工程攻击、造成经济损失、操纵舆论或获得竞争优势。

“人工智能主导的歧视可能是抽象的、不直观的、微妙的、无形的和难以察觉的。源代码可能会受到限制，或者审计人员可能不知道算法是如何部署的。”—Steve Durbin，信息安全论坛首席执行官

由于人工智能决策越来越大规模地影响和影响人们的生活，企业有道德、社会和信托责任以合乎道德的方式管理人工智能的采用。他们可以通过多种方式做到这一点。

道德 AI 遵守明确定义的道德准则和基本价值观，例如个人权利、隐私、非歧视，重要的是，非操纵。组织必须建立明确的原则来识别、衡量、评估和减轻人工智能主导的风险。接下来，他们必须将它们转化为实用的、可衡量的指标，并将其嵌入日常流程中。

拥有正确的工具来调查偏见的来源并了解决策中公平的影响对于开发道德人工智能绝对至关重要。识别使用机器学习的系统，确定它们对业务的重要性，并针对 AI 引起的偏差实施流程、控制和对策。

组织应建立一个跨领域伦理委员会，监督组织和供应链中人工智能系统引入的风险的持续管理和监控。委员会必须由来自不同背景的人组成，以确保对所有道德问题的敏感性。

算法的设计必须考虑到专家的意见、情境知识和对历史偏见的认识。必须在关键领域（例如在金融交易中）强制执行人工授权流程，以防止它们被恶意行为者破坏。

培育一种文化，使个人能够在不扼杀创新的情况下提出对人工智能系统的担忧。通过透明地处理角色、期望和责任来建立对 AI 的内部信任和信心。认识到对新角色的需求并积极提升技能、重新技能或雇用。

如果需要，可以通过提供更好的控制权和对追索权的访问来授权用户。强大的领导力对于赋予员工权力和将负责任的人工智能提升为业务必要性也至关重要。

程序化检查是评估人类公平性的传统方法，可以通过在人类决策过程中运行算法、比较结果并解释机器主导决策背后的原因来从人工智能中受益。另一个例子是麻省理工学院关于打击系统性种族主义的研究计划，该计划致力于开发和使用计算工具在社会的许多不同部门创造种族平等。

生成海报

免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。