跳到正文
原文
BMJ· Giovanni Ghirga·· 13 天前AI 评分20

Anthropic披露科学家使用Claude进行生物研究,AI生物威胁需国际治理而非自愿保障

AI enabled biological threats require international governance, not voluntary safeguards

AI 导读

Anthropic披露5起科学家使用或试图使用AI工具Claude开展可能支持生物武器研发的生物学研究案例,已检测相关活动、封禁账号并公开披露。文章指出,这些案例既不能证明存在恶意意图,也不能证明存在生物武器计划,但访问途径的再现显示企业层面管控存在局限。此类风险需要独立于模型开发者的监督及跨国协调,并建立借鉴核不扩散经验的具有约束力的国际框架。

来源:BMJ · bmj.com