谷歌CEO皮查伊：人工智能需要被监管 技术无法保证美德

1月20日，谷歌及母公司Alphabet首席执行官（CEO）桑达尔·皮查伊（Sundar Pichai）在英国金融时报发表署名文章，称“人工智能需要被监管”。文中，皮查伊阐述了好的监管需要兼顾的条件，并表达了希望与监管部门合作的愿望。

在这篇题为《为什么谷歌认为我们需要监管人工智能》的评论文章中，皮查伊说：“毫无疑问，人工智能需要被监管，怎么都不为过。唯一的问题是我们的手段是什么。”

“历史上充斥着许多案例，技术无法保证美德。”皮查伊说：“人工智能的负面后果需要被切实关注，从deepfakes换脸视频到面部识别技术的不当滥用。”

为了解决这些问题，皮查伊认为，“国际协作对让全球标准生效至关重要。”他还认为，欧洲的《通用数据保护条例》（GDPR）是一个“坚实的基础”。

“好的监管框架能够兼顾安全性、可解释、公平和问责制，以确保我们用正确的方法开发出正确的工具。明智的监管必须兼顾相称的方法、在潜在的危害和社会机遇之间取得平衡，尤其是在高风险的领域。”皮查伊这样写道。

据9to5Google当天报道，在具体的案例中，皮查伊指出，现有医疗框架中应用人工智能辅助的心脏监护仪是“很好的起点”，同时自动驾驶汽车也要求政府“制定考虑到相关成本和收益的恰当新规”。前者是谷歌健康（Google Health）和Alphabet旗下生命科学部门Verily正在积极研发的领域；Alphabet旗下自动驾驶公司Waymo也已经在美国凤凰城开展了自动驾驶商业运营。

2018年，谷歌的云部门利用AI（人工智能）技术帮助美国军方识别无人机图像，招致了公司内部激烈的批评，并引发了数千名员工激烈抗议，反对谷歌与军方合作，以及将谷歌技术用于战争或违反人权的用途。舆论压力下，谷歌在2018年6月宣布，将不会续约与美国国防部合作的Maven项目，并于当月推出了谷歌对人工智能工具的新道德准则，旨在评估公司要发展的人工智能项目。新道德准则中，谷歌的人工智能软件被禁止用于武器及违反国际监控和人权惯例的服务。

2018年10月，谷歌进一步宣布，放弃竞标美国军方价值100亿美元的云计算业务合约JEDI，部分原因是因为该项目与公司的新道德准则不符。

皮查伊在文章中也提到，上述人工智能道德准则“AI Principles”。

皮查伊说，该准则“帮助我们避免偏见，严格地进行安全测试、设计时将隐私置于最先，并让技术对人们负责。它还明确了我们不能设计和应用人工智能的领域，如支持大规模监视或侵犯人权。”

文章结尾处，皮查伊表达了谷歌希望和监管部门一起合作的愿望。

“当出现不可避免的紧张局势和权衡取舍时，我们希望能成为监管部门有帮助的、共同参与的合作伙伴。提供我们的专业知识、经验和工具，共同解决这些问题。”皮查伊说。(本文来自澎湃新闻，更多原创资讯请下载“澎湃新闻”APP)

新闻推荐

中国研究人员在单层石墨烯力学性质研究中取得进展

新华社伦敦1月18日电中国研究人员日前在英国《自然·通讯》上发表报告说，他们借助新开发的技术，实现了对单层石墨烯的定量...