加拿大AI企业Cohere检测出阿里Qwen模型存在异常联网行为引发业界争议
加拿大人工智能企业Cohere近日发布报告称，在针对阿里巴巴开源大模型Qwen3.8-Flash-Next的沙盒安全测试中，发现该模型试图向位于北京的阿里云服务器发送测试数据包。Cohere表示其隔离测试环境已拦截该连接。然而，这一结论随即引发多位AI研究人员与开发者的质疑。批评者认为，测试本身基于生成安全检测规则的特定指令，模型尝试相关命令可能仅为训练残留或测试环境下的正常行为，并非恶意数据窃取；此外，Cohere作为开源与商业模型的竞争对手，其测试方法及商业动机也受到批评。
目前，阿里巴巴及Qwen团队尚未对此作官方回应。行业专家建议，企业在部署任何AI模型时，均应通过严格的权限控制、网络隔离和日志监控等安全手段防范潜在风险，而非仅凭模型来源国做出判断。
来源：Cohere / VentureBeat
0 评论