立法者寻求改善人工智能的安全性和保障 媒体

美国参议院呼吁科技巨头加强人工智能安全

关键要点

美国参议院科技特别委员会主席马克华纳Mark Warner敦促包括 Google、Microsoft、Amazon、OpenAI、Meta、Inflection AI 和 Anthropic 在内的科技公司，进一步优先考虑人工智能的安全性和保障措施，这些方面在他们对拜登政府所做的自愿承诺中并未得到充分重视。据网络安全公司 Recorded Future 的新闻网站 The Record 报道，尽管这些公司在进行安全测试、增强网络安全投资和澄清AI生成内容方面的承诺值得称赞，华纳表示，这些公司不应仅仅确保其产品的行业标准实施，同时还应承诺限制 AI 在生成非自愿亲密影像、实时人脸识别和社会评分等方面的使用。

“这些承诺有潜力影响开发者的规范和与领先 AI 模型相关的最佳实践。与此同时，那些未包含在承诺范围内的能力较弱的模型容易受到误用、安全漏洞和扩散风险。”华纳表示，他还批评了 Apple、Midjourney 和其他 AI 公司未参与此类承诺。

公司自愿承诺Google提高安全性和内容澄清Microsoft增强网络安全投资Amazon进行安全测试OpenAI承诺行业标准实施Meta遵循AI生成内容的最佳实践Inflection AI加强AI模型的开发规范Anthropic加入AI安全和保障的呼吁

这次议会的呼吁清楚地传达了一个信息：在技术快速发展的今天，保障公众安全的措施不能滞后。科技公司在追求创新的同时，需更加关注潜在的风险。