Anthropic表示也门组织在导弹开发中使用了ClaudeAnthropic PBC公司发现也门北部一个组织使用其 Claude AI 模型支持导弹和火箭系统的开发。Anthropic 在其周四发布的关于检测和反制AI滥用的最新报告中表示,这些身份不明的行为者正在从事三个武器项目,包括一种制导火箭、一种据称射程超过 2,000 公里的弹道导弹,以及一个被称为 R2000 的导弹系列。这个位于也门的组织使用Claude帮助开发制导、导航和控制软件。这些行为者据称将工作拆分到多个AI会话中,并隐瞒其项目的军事性质以避免被发现。根据该报告,该团体还开发了离线仿真工具包,使部分武器开发工作能够在没有...
前白宫相关事务负责人质疑 Coxon 辞职声明:未能提供新证据,传播过程可能是有组织的前白宫 AI 与加密货币事务负责人 David Sacks 对前 Anthropic 研究员 Jacob Coxon 的辞职声明提出质疑,他表示,尽管媒体将其称为“吹哨人”,Coxon 尚未公开新的内部文件、实验数据或具体事件以支撑其灾难性风险判断。Sacks 还称,Coxon 的帖文得到多名 AI 政策倡议人士迅速转发,并与媒体报道密集出现,由此怀疑传播经过组织,旨在推动更严格的 AI 监管。Coxon 未参与当期讨论。YouTube 科技圈· 茶馆 · 投稿...
25 位菲尔兹奖得主警告 AI 或与数学研究目标错位陶哲轩、邓煜等 25 位菲尔兹奖得主发表联合声明,警告 AI 快速用于解决数学问题可能导致 AI 发展目标与数学研究目标“严重错位”。声明称,大型语言模型解决重大数学问题的能力近年来大幅提升,但将数学解题作为 AI 能力基准,可能损害数学研究和学术生态。声明指出,数学研究的核心是形成概念理解和新洞见,而非单纯获得答案。AI 批量生成成果可能压缩验证、交流和引用前人成果的时间,并引发署名、抄袭等问题。不过,AI 也有望提升数学研究效率,其影响取决于人们如何使用这项技术。Math & AI 联合声明 | 陶哲轩 科技圈· 茶馆 · 投稿...