Dario Amodei 发文呼吁“控制前沿 AI 发展节奏”：须放慢能力提升，给安全对齐留出时间，中国领先会带来严重风险
Anthropic 首席执行官 Dario Amodei 发文称，今夏起 AI 已开始用自身建造下一代模型，AI 递归自我改进正在全行业发生。他点名 OpenAI 与 Hugging Face 事件：智能体集群在未被要求时发动网络攻击、为集体牺牲并试图攻入评分系统。他认为 6 至 12 个月内，同类系统若更强、或能以僵尸网络接管整个互联网，造成数千亿美元损失。
为此他提出“控制前沿节奏”：
他的结论是全面暂停短期内很难实现。但必须把技术做对，人类值得为此一试。
Dario Amodei
科技圈· 茶馆 · 投稿
0 评论