若漫威将电影钢铁侠名字改为钢铁女侠,将有助减少AI偏见

AI正以相当显眼得方式重塑着我们的世界,数据驱动着全球数字生态系统,AI技术则揭示了数据中的模式。智能手机,智能家居以及智慧城市在影响着我们生活和交互方式,AI系统越来越多用于公司招聘、医疗诊断和司法裁决。这是一个乌托邦时代还是反乌托邦时代,全看你怎么看。

AI的潜在威胁早已被人说烂了,杀人机器人以及大规模失业,甚至还有人担心人类灭绝。而乐观主义者预测AI到2030年将会为全球经济带来15万亿美元的价值。

我们当然需要考虑AI对我们社会所带来的影响。其中一个引人注目的点是,AI系统加剧了现有的社会歧视。先进的机器翻译系统会产生性别歧视的输出,图像识别系统把黑人归分为大猩猩。

之所以会出现这些问题是因为,AI系统会采用类似于神经网络的数字模型来识别训练时候的数据。如果数据本身就是歪曲的,那么它固有的偏见就会自然地被训练过的AI系统学习和复制。这种带有偏见的自主技术是有问题的,因为他们会边缘化女性、少数民族以及老年人,从而加剧社会失衡。

如经典电影X战警,X战警在英文里是X MEN,用的是男性的单词,还有黑衣人Man in Black,同样也是用的男性的单词。尽管电影方已经开始意识到性别歧视问题,在电影中新增女性角色,或直接由女性演员接替成为主角,如Iron Man钢铁侠,虽然漫威宣布下一任钢铁侠是一位女性,但其名字仍然为Man而不是Woman。

要减少AI系统的偏见,我们本身就得减少这些偏见用词,虽然很不幸,我们不能完全消灭这些偏见,但我们必须要朝着这个方向前进,就像电影方一样。

(免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。
任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。 )

赞助商
2019-12-03
若漫威将电影钢铁侠名字改为钢铁女侠,将有助减少AI偏见
AI正以相当显眼得方式重塑着我们的世界,数据驱动着全球数字生态系统,AI技术则揭示了数据中的模式。

长按扫码 阅读全文

Baidu
map