OpenAI呼吁行业建立前沿AI安全标准与开发规范
OpenAI表示，随着人工智能能力快速提升，开发企业需采取负责任的行动。针对前沿AI模型，建立统一的联邦安全监管框架十分必要，但企业无需等待立法，应主动在研发阶段引入全新安全评估工具。例如，OpenAI已开始在重大强化学习训练前制定明确的安全预案，以补充原有的发布前评估机制。
企业强调，在AI安全监控方面的适度调速绝非停止研发，竞争压力不应成为冒险的借口。AI安全标准的制定需要跨企业协同，同时离不开政府在国际协调层面的支持，共同确保技术进步不偏离安全可控的轨道。
来源：Sam Altman
0 评论