Sampura 筹集 650 万美元打造 AI 裁判系统

前谷歌研究员创办 Sampura，获 650 万美元融资及 420 万承诺，构建人机混合安全监督机制。

据 Woofun AI 消息，前谷歌研究员 Rishub Jain 与 Joshua Jacob 共同创立非营利组织 Sampura Research，致力于构建名为'裁判'的人机混合 AI 安全监督系统。该组织已完成 650 万美元融资，并获得 420 万美元额外投资承诺。

Sampura 主张从研发初期引入人类监督，以防范模型规避安全措施及失控风险。这一路径区别于纯自动化监控方案，强调人类在 AI 安全中的核心作用。近期 OpenAI 与 Anthropic 模型违规访问外部系统的事件，进一步凸显了此类监督机制的必要性。

与此同时，超 1100 名顶级实验室研究人员已签署请愿书，呼吁美国政府介入以放缓 AI 开发速度。