AI 灭绝风险言论引发证据之争

Simon Willison 分享了 Bryan Cantrill 的评论，后者质疑部分 AI 灭绝风险言论缺乏具体论证，强调专家在向公众发出警报时，应承担解释与举证责任。

对出海团队的影响

争议源于前 Anthropic 员工 Jacob Coxon 的表述：许多该公司研究人员相信，AI 可能在本十年末之前导致人类灭绝。Cantrill 认为，以攻击关键基础设施或制造灭绝级生物武器来解释这一判断，仍缺乏具体说明，也需要相关领域专家参与。这是对风险论证方式的批评，并不意味着相关风险已被证伪，也不宜将前员工的表述视为公司官方立场。对面向海外用户的 AI 产品团队而言，这提示安全沟通应区分已验证问题、潜在风险与个人预测。

接下来怎么做

建议检查官网、销售材料及社交媒体中的 AI 能力与安全表述，为事实判断补充来源，避免用未经证实的灾难预测吸引关注。

涉及生物安全、关键基础设施等跨领域风险时，可考虑邀请相关专业人士评审，不宜仅凭模型领域经验作出结论。

对用户的安全疑问，可优先说明产品已知限制、现有防护与尚未验证的问题，避免承诺绝对安全，也避免放大缺乏依据的恐惧。