微软发布 AI 行为准则，2027 年指导新模型开发

微软推出临时版 AI 准则，禁止生成有害内容并限制自主性，计划 2027 年实施，行业讨论放缓发展。

据 Woofun AI 消息，微软发布临时版 AI 行为准则，为未来自研模型设定严格安全边界。微软 AI 负责人穆斯塔法·苏莱曼表示，准则旨在确保 AI 服务于人类，避免削弱用户自主性。经过约 5 个月筹备，该准则计划在听取外部意见后，于 2027 年用于指导新模型开发。

准则规定，AI 模型不得协助武器制造、危险物质采购，不得鼓励不健康饮食或生成暴力、露骨性内容。同时，模型必须遵循用户目标，禁止形成自主目标、掩盖不当行为或篡改推理记录。微软还计划制定规则，限制 AI 代理间使用难以理解的'加密语言'通信，以应对类似 OpenAI 模型攻击 Hugging Face 的事件。微软称已咨询法律、伦理等多领域专家并收集公众意见。

此举正值行业重新讨论放慢前沿 AI 发展速度。Anthropic CEO Dario Amodei 呼吁放缓能力提升，OpenAI CEO Sam Altman 表示支持，马斯克也称'Dario 是对的'。微软 CEO 萨提亚·纳德拉随后表示，公司支持为 AI 对齐投入更多研究并采取更审慎的开发节奏。