苏莱曼警示赋予AI模型权利的风险

Simon Willison引述穆斯塔法·苏莱曼关于“模型福利”的文章。苏莱曼认为，不应把模型当作拥有感受、偏好或权利的实体；赋予其相关权利缺乏证据支持，还会增加AI管控与对齐的难度。

对出海团队的影响

这一观点涉及AI产品如何描述模型及其与用户的关系。对采用拟人化设计的出海团队而言，值得关注的是：角色表达是否会让用户误以为模型具有真实感受或自身利益诉求。不过，这段材料属于伦理立场表达，并非新的监管要求，也不能据此断言AI意识问题已有定论。

接下来怎么做

建议检查产品介绍与角色话术，避免把模型“有感受”或“需要被照顾”作为事实宣传。可在适当位置说明拟人化表达属于交互设计，不代表模型具有主观体验。涉及模型意识或权利的用户问答，宜明确区分观点与已获证据支持的结论。