据 Woofun AI 消息,Anthropic 联合创始人兼首席执行官达里奥·阿莫代伊在美国国会山向立法者发出警告,称开源人工智能的发展正步入一条非常危险的道路。
阿莫代伊表示,一旦强大的 AI 模型以开源形式发布,开发者将无法有效监督使用方式、监控滥用行为、撤销访问权限或动态更新安全机制。与封闭式模型系统相比,完全开源的模型更难以实施持续的安全治理措施,从而可能导致不可逆转的滥用风险。