白宫首次公布减少 AI 风险的举措:将拨款 1.4 亿美元建立研究中心

人工智能(A.I.)的发展日新月异,给人类带来了巨大的便利,也引发了各种风险和挑战。为了应对这些风险,美国白宫周四宣布了一系列新的举措,包括拨款 1.4 亿美元建立专门的 A.I.研究中心,制定政府机构使用 A.I.的指导原则,几家人工智能公司已经同意在8月的一次网络安全会议上提供他们的产品供审查

AiPeak 5 月 4 日消息,人工智能(A.I.)的发展日新月异,给人类带来了巨大的便利,也引发了各种风险和挑战。为了应对这些风险,美国白宫周四宣布了一系列新的举措,包括拨款 1.4 亿美元(AiPeak备注:当前约 9.67 亿元人民币)建立专门的 A.I.研究中心,制定政府机构使用 A.I.的指导原则,几家人工智能公司已经同意在 8 月的一次网络安全会议上提供他们的产品供审查。

白宫首次公布减少 AI 风险的举措:将拨款 1.4 亿美元建立研究中心

当天下午,美国副总统哈里斯和其他政府官员还将与谷歌、微软、OpenAI、Anthropic 等 A.I.领域的知名企业的 CEO 举行会面,讨论 A.I.的发展方向和社会责任。白宫一位高级官员周三表示,政府希望向这些企业传达一个信息:他们有义务解决 A.I.带来的新问题。

A.I.是指能够模仿人类智能行为的计算机系统。近年来,随着 OpenAI 等公司推出了能够生成流畅文本和逼真图像的聊天机器人(chatbot),A.I.引起了公众的广泛关注和使用。一些大科技公司也纷纷将聊天机器人融入他们的产品,并加速了 A.I.的研究。同时,风险投资者也大量投资于 A.I.领域的创业公司。

然而,A.I.的繁荣也带来了诸多问题,比如如何改变经济、影响地缘政治、防止犯罪活动等。批评人士担心,许多 A.I.系统虽然功能强大,但却缺乏透明度,可能导致歧视性的决策、取代人类的工作、传播虚假信息,甚至自行违反法律。

美国总统拜登近日表示,A.I.是否危险“还有待观察”,他任命的一些高级官员承诺,如果以有害方式使用该技术,他们将进行干预。联邦贸易委员会主席汗在周三发表在《纽约时报》上的客座文章中说,美国正处于一个“关键的决策点”,她将 A.I.的最新发展比作谷歌和 Facebook 等科技巨头的诞生,并警告说,如果没有适当的监管,这项技术可能巩固这些公司的权力,并给骗子提供一个强有力的工具。

白宫周四宣布的举措是在之前监管 A.I.的努力基础上进行的。去年,白宫发布了一份名为“A.I.权利法案”的蓝图,其中规定自动化系统应该保护用户的数据隐私、避免歧视性结果,并明确说明采取某些行动的原因。今年 1 月,美国商务部也发布了一份旨在降低 A.I.开发风险的框架,这份框架已经筹备了多年。

聊天机器人的出现,如 OpenAI 的 ChatGPT 和谷歌的 Bard,给政府采取行动带来了巨大的压力。欧盟已经在商讨对 A.I.的监管,但面对新的技术发展,也有人要求监管范围扩大到更多的 A.I.系统,而不仅仅是那些被视为高风险的系统。在美国,包括参议院多数党领袖舒默在内的一些国会议员,已经开始起草或提出立法来规范 A.I.,但限制这项技术的具体措施更有可能首先来自华盛顿的执法机构。今年 4 月,一组政府机构承诺“监督自动化系统的开发和使用,并促进负责任的创新”,同时惩罚利用该技术违反法律的行为。