关于“模型福利”的警告

核心观点

Mustafa Suleyman 在谈到“模型福利”时提出警告：

我们不应把模型当作拥有感受、偏好、权利，或有资格获得人类福利关照的对象。意识是我们伦理、法律和政治体系的基础。若邀请另一类实体分享这些权利的任何形式，目前并没有证据支持；这还会让 AI 的控制与对齐挑战变得更加困难。

讨论价值

这段观点触及了生成式 AI 伦理中的一个关键分歧：

• 是否应该讨论“模型福利”；
• AI 模型是否可能成为权利主体；
• 在证据不足时，赋予模型类似道德地位是否会干扰 AI 安全、控制与对齐工作。

该观点明确主张：在没有意识证据之前，不应把模型纳入现有权利体系。