谷歌Ethical AI人工智能伦理研究小组前负责人玛格丽特·米切尔(Martaret Mitchell)将加入人工智能创业公司Hugging Face,开发工具确保算法的公平性。今年2月,米切尔因为一篇共同撰写的批评论文而被谷歌解雇。
Hugging Face维护一个代码库,用户可以通过这个代码库分享人工智能模型并展开合作。这是个开源平台,已经被5000多家组织使用,包括谷歌、Facebook和微软。米切尔计划从10月份开始,首先开发一套工具,确保用于训练人工智能算法的数据集不存在偏见。目前,用来训练模型进行预测或决策数据集往往由于原始数据的不完整而在某个人群中表现不佳,例如女性、少数族裔和老年人。
米切尔和Hugging Face此前已经有合作关系。为了确保人工智能模型的公平性,Hugging Face此前已建议工程师和科学家在发布项目后,使用米切尔在谷歌开发的Model Cards工具进行评估,分析优缺点。Hugging Face联合创始人及CEO克莱门特·德兰格(Clement Delangue)表示,在发布至Hugging Face的2万个项目中,有约1/4使用了Model Cards工具。
米切尔在一次采访中表示,对于用软件评估人工智能系统,“应该有非常严肃和积极的工作去做”。“这对我来说是个很酷的机会,可以帮助模型开发者更好地理解,他们正在开发模型的危害和风险”。
在从谷歌离职后,米切尔表示,她希望在一家规模较小的公司工作,从而可以从一开始就将人工智能伦理纳入在考虑范围内。她说,Hugging Face“已经建立了很多基本的伦理价值观”,“很明显,我不需要强行插手或改造类似伦理流程之类的东西”。
谷歌Ethical AI研究团队此前经历了动荡。去年,谷歌解雇了该团队的另一名联合负责人蒂姆尼特·格布鲁(Timnit Gebru),原因是她拒绝撤回与米切尔及他人合著的一篇论文。这篇论文涉及对谷歌技术的批评。在格布鲁退出后,作为团队负责人的米切尔开始对谷歌及其管理层展开激烈的批评,包括谷歌未能认真对待外界对其人工智能产品的担忧,以及格布鲁遭到了不公的待遇。在人工智能研究领域,格布鲁是为数不多的知名黑人女性之一。谷歌则表示,米切尔违反了公司的行为准则和信息安全政策。
谷歌的员工对于公司处理此事的方式感到愤怒。今年早些时候,对十多名在职员工和前员工,以及人工智能学术研究人员的采访显示,由于处理骚扰、种族主义和性别歧视的方式,谷歌在人工智能领域的工作在过去两年多的时间里一直备受争议。
Hugging Face的工具部分免费,部分收费。目前该公司有300多家付费客户,其中包括英特尔和高通。虽然Hugging Face的50多名员工中也有几名其他的人工智能伦理专家,但CEO德兰格希望所有员工都能往这个方向努力。
他说:“我们不想只是建立辅助性质的人工智能伦理团队,而是让这件事成为公司的核心,并确保深入至每个人的工作中。米切尔不会组建一个包含几名成员,只是偶尔提供咨询建议的团队。”
- 蜜度索骥:以跨模态检索技术助力“企宣”向上生长
- 中国移动硬件防火墙产品扩容集采:华为、新华三、迪普中标
- 德国电信携手高通和Skylo,完成GEO卫星短信试验
- 5G成印度中产必备 为高速网络付费意愿强烈
- 工业和信息化部等十二部门关于印发《5G规模化应用“扬帆”行动升级方案》的通知
- 首枚“熊猫晶圆”诞生的背后:英特尔提效本土供应链 与产业聚力共赢
- 千家早报|华为全屋智能升级为华为鸿蒙智家;霍尼韦尔13.25亿美元出售个人安全防护设备业务——2024年11月27日
- 您准备好迎接颠覆性技术时代了吗?
- IT基础设施如何帮助配送中心实现仓库自动化
- 人工智能如何引领净零建筑的可持续发展
- 下一代网络:探索智能路由器在数据中心的实用性
免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。