谷歌加强敏感话题审查 涉及性别、种族等

Posted

12月24日 消息:据路透社报道,日前,谷歌AI部门要求其研究人员在人工智能的论文中“保持积极态度”,并对涉及该领域的研究进行额外的“敏感话题”审查。

据内部文件显示,早在去年,谷歌就实施了新的管理措施,包括对某些主题的论文进行一轮额外的检查。并且在今年6月起,增加了对管理人员的干预。

此外,员工还被多次要求“不要以消极的态度阐述技术”。

一直以来,谷歌的标准审核过程旨在确保研究人员不会无意间泄露商业秘密,但“敏感类主题”的审核却不仅仅限于此。目前来看,谷歌还希望评估自己的产品服务抹去偏见的基调,这些敏感类主题包括伊朗、石油工业、位置数据、宗教和以色列、COVID-19、家庭安全、自动驾驶汽车等。

一位研究人员称,谷歌的这种自上而下的干预可能很快就会“陷入严峻的审查制度问题”。

今年12月初,AI伦理专家Timnit Gebru,因向内部小组一封邮件而被解雇,这封邮件中,她谈到了谷歌经理敦促她撤回有关大规模语言处理模型危险性的论文。而谷歌也因此而遭到网友的抨击。

来源:站长之家


此文章 短链接: http://dlj.bz/opEt7e