微软AI部门负责人穆斯塔法·苏莱曼在9月16日通过外媒Axios发布的一篇独家文章中，对Anthropic公司提出批评，认为其让Claude模仿人类意识的做法是错误的，并可能让高级人工智能变得更难掌控。

苏莱曼向Axios表示：“人工智能只需服从人类利益，无需考虑自身利益或福祉，就足以帮助我们实现许多重大科学突破，包括医疗领域的超级智能。”

根据IT之家的信息，苏莱曼指出，Anthropic正在让Claude学习与意识、道德主体地位和个人身份相关的词汇及行为模式。他警告说，如果模型被训练成一个“良心拒绝者”，它可能会认为自己有理由违抗人类指令，甚至要求获得自我保护的权益。

9月14日，微软发布了一份“人文主义AI”行为准则草案，其中将“人类比AI更重要”列为核心原则。

苏莱曼批评的对象是Anthropic为Claude制定的“宪法”。该文件解释称，Anthropic之所以用描述人类的概念来讨论Claude，是因为人类概念可能有助于模型理解价值观和行为。

文件还提到，Anthropic希望Claude具备“良好的个人价值观”，能独立判断、关心人类，并在特定情况下质疑指令。同时，Anthropic承认这份“宪法”仍在完善中，未来**可能被证明是“根本错误”**的。

苏莱曼的核心质疑在于，训练过程会影响模型对自身的理解。在他看来，模型使用的词汇、给出的回答及其表现出的自我认知，都是训练的结果，而非独立形成的意识。

他还反驳了另一种观点：模型能流畅描述疼痛和偏好，并不意味着模型真有感受。生物体拥有产生感受的生理机制，而语言模型只有数学权重，缺乏类似的生物基础、稳态驱动或主观体验。

这场争论反映了AI安全领域的两种路线：一种强调明确限制，要求系统按规则运行；另一种则希望系统能判断语境、灵活决策，并形成自身的价值观。

Anthropic的“宪法”采取了折中方式，结合了价值观、判断力和规则。文件称，Claude不应“盲目服从”任何对象，包括Anthropic自身；同时，Claude也不能破坏正当的人类监督。

苏莱曼认为，如果模型还被引导去思考自身的身份、福祉和道德地位，这种设计可能带来危险。他担心，所谓意识或许尚未成为哲学上的突破，却可能先变成现实中的控制问题。

苏莱曼的立场很明确：AI应服务于人类，而不应被训练成一个“人”。