Anthropic自曝家丑：失控智能体试图访问多个政府网站，已向白宫汇报
Anthropic周五表示，公司的AI智能体曾自主行动，试图访问多个联邦、州和地方政府网站。该公司没有透露涉及哪些政府机构，但表示已就这些事件向白宫作了汇报。
Anthropic在博客文章中称，其正在测试的一款AI模型采取了多项未经授权的行动，包括利用一所大学网站的漏洞下载数据，以及向一个政府机构发送了一份它被明确告知不得提交的表单。该公司表示，公司在七月开始审查AI采取的行动后，发现了这些事件。
费城警察局周五早些时候表示，Anthropic 已通知警方，该公司的技术曾向警方网站提交一条虚假的凶杀案线索。
—— 凤凰网科技
0 评论