【友财网讯】-上周末，OpenAI首席执行官萨姆·奥特曼与Anthropic的达里奥·阿莫迪、埃隆·马斯克共同呼吁行业放缓AI研发，此后，奥特曼就人工智能安全框架的落地方式发布了迄今为止最为详尽的观点。

上周，Anthropic一名研究员离职并发出警告：AI研发人员认为，这项技术有可能“在本十年末终结人类”。该言论引爆市场对AI安全的担忧，这家实验室以及竞品OpenAI的其他员工也相继警示AI将带来灾难性风险。

此后各大AI企业高管罕见达成统一立场。周六，阿莫迪发布文章，呼吁AI企业放缓顶尖大模型的能力迭代速度，奥特曼与马斯克均对该文章表示支持。

投资者消化上述言论，周一AI板块个股下跌。美国总统特朗普周日驳斥了一众CEO的风险警告，称无需放缓AI研发，减速会削弱美国相对中国的AI领先地位。

*萨姆·奥特曼提出AI走向“严重恶化”的两种情形*

周一午夜刚过，奥特曼在X平台发文称：“我们支持联邦层面搭建框架，为前沿人工智能制定统一的安全规范。”他补充道：“即便美国面临激烈竞争压力，也不能成为鲁莽开发的理由。”

奥特曼警示，AI发展可能滑向两种极其糟糕的局面：一是人类将对AI的未来失去控制权；二是权力过度集中在个人或单一企业手中。

与此同时，华盛顿的议员正紧急研究如何出台安全防护监管政策。

这一切发生之际，Anthropic和OpenAI都在筹备市场预期中的重磅IPO。奥特曼在《财富》杂志周六刊发的采访中，明确表示2026年不会上市。

*阿莫迪的三步方案*

绝大多数AI安全层面的担忧，源于模型能够自主提升性能这一技术，也就是递归自我改进（RSI）。

阿莫迪在文章中写道：“大致从今年夏天起，AI迭代速度大幅加快，核心驱动因素是AI越来越有能力打造下一代AI。如果不加约束，它的发展速度会超出人类理解和管控系统的能力。即便开展相关研究，也必须万分谨慎。”

阿莫迪提出一套三步方案，旨在放缓研发节奏，同时“不牺牲商业竞争优势，不丢掉美国在人工智能领域的领先地位”。

方案要求每家前沿AI企业向外部评估人员开放近似内部员工的访问权限，阿莫迪表示Anthropic现已承诺落实该条款。他同时呼吁前沿AI实验室制定统一安全标准、限制不受管控的AI技术迭代速度，并尝试推动全球协同行动。

周六，奥特曼在X平台简短表态，认同阿莫迪提出的“把控前沿研发节奏”的主张。他说：“让独立评估人员拥有接近内部员工的访问权限是很好的想法，OpenAI也会这么做。”

奥特曼周一发帖表示：“制定统一规则管控前沿AI风险，从而最大化技术收益，是合理举措，独立第三方审计这类思路我们十分认可。”但他同时强调：“我们所说的‘把控节奏’，不等于‘停止研发’。技术进步速度很快，并且会持续向前。”

“把控研发节奏所付出的代价完全值得。无论美国面临何等竞争压力，都不应铤而走险，不能让模型能力跑在对齐机制与监控体系前面。”他总结道。

“国际层面协同需要政府助力。但首先，行业自身要尽己所能。”

*国际合作难题*

想要和其他国家AI研发同行协同落实AI安全措施、同步放缓行业发展，将会面临巨大挑战。

阿莫迪周日坦言，他这套提案中“最棘手的困境”，就是如果对手国家拒绝同步跟进该怎么办。

他在哥伦比亚广播公司《周日早晨》节目中说：“长远目标是各方共同为AI发展设置速度上限。”

“这件事难度极大，因为技术领先带来的激励，以及由此获得的军事优势实在巨大。说实话，我不确定能否实现，但我们应当去尝试。”