【友财网讯】-OpenAI首席执行官萨姆·奥特曼近日称，公司今年不会上市，理由是对人工智能安全问题的担忧不断加剧。

《财富》杂志周六刊发的采访中，奥特曼表示，现阶段启动IPO“并不明智”。这一决定把这场史上备受期待的上市计划至少推迟至2027年，也清晰表明，人们对日益强大的AI技术的担忧，正开始重塑整个行业的商业规划。

就在上个月，OpenAI首席财务官萨拉·弗莱尔还对员工表示，如果“业务持续向好”，公司有望在2027年甚至更早完成上市。

在奥特曼发表此番言论的同一天，Anthropic首席执行官达里奥·阿莫迪发布一篇文章，呼吁AI企业放缓顶尖大模型的迭代速度。奥特曼与埃隆·马斯克很快在社交媒体发文支持该提议，这三位原本激烈竞争的人物达成共识，实属罕见。

阿莫迪在文章中提出一个三步走方案，意在控制AI研发节奏，同时不会“牺牲商业优势以及美国在人工智能领域的领先地位”。Anthropic正在为预计规模空前的IPO积极筹备，不过公司尚未正式公布上市时间。

奥特曼、阿莫迪和马斯克突然达成一致，说明对于AI风险的担忧已经从行业边缘议题变为核心议题，并且开始与行业巨大的商业野心产生冲突。

这篇文章呼吁人工智能企业控制模型能力迭代的节奏。当下越来越多研究员发声，呼吁协同放缓AI研发，此文正是在此背景下发布。

华盛顿方面压力渐增，接连发生多起无需人类直接操控的网络攻击事件后，两党议员都呼吁出台新的AI安全防护规则，并要求科技企业高管出席听证会。

除联邦层面外，各州与地方官员也面临民众对AI数据中心日益高涨的不满——数据中心大量消耗电力、水资源，给当地社区带来负担。随着中期选举临近，人工智能正成为两党的核心议题。

*对AI能力的担忧*

阿莫迪称，Anthropic已经单方面落实该方案的第一步：允许第三方评估人员获得近似公司内部员工级别的访问权限，核查安全措施并上报安全事件。第二步倡议民主国家头部AI企业协同制定统一安全标准。第三步则主张民主政体与威权政体之间开展协作。

“需要明确的是，控制研发节奏不等于停止模型训练或是技术进步，而是确保企业有充足时间完成模型对齐与安全防护，同时由第三方评估人员予以核验。”阿莫迪写道。

上周，Anthropic一名研究员宣布离职，在社交平台引发巨大争议，随后阿莫迪发布这篇文章。曾任职于Anthropic及其主要对手OpenAI的雅各布·考克松表示，他辞职的原因是担心Anthropic与OpenAI正在“拿人类的命运赌博”。他称，研发AI的这群人真心相信，到这个十年末，AI有可能导致人类灭亡。

尽管听上去极端，但在AI研究圈，有关AI可能造成人类灭绝或是其他灾难性事件的担忧早已存在。例如2023年，阿莫迪、OpenAI的奥特曼等知名AI研究员与高管共同签署一份声明：“降低AI带来的灭绝风险，应当和流行病、核战争这类全球性重大风险一样，成为全球优先事项。”

阿莫迪在周六表示，虽然自2023年起就有人提出暂停或放缓AI研发，但在当时，这么做意义不大。彼时模型还不足以在现实世界中采取行动，也尚不具备“实施大规模欺骗、操纵、欺诈或是网络攻击”的能力。

“我依然相信AI能够极大提升人类生活质量。我想要实现这些收益的初心从未改变。”阿莫迪写道，“但只有用正确的方式打造这项技术，我们才能收获这些红利；只要好好利用争取来的时间，我们值得格外审慎，把这件事做对。”

文章发布后，阿莫迪强调，把握合适的研发速度至关重要。他在周六晚CNN采访中提到，如果放缓力度过大，会让威权国家取得技术优势。

“如果我们步子放得太慢，我依然相信，最终掌控这项技术的会是错误的一方。而这，同样会大幅提升灾难发生的概率。”他说道。

Anthropic公共政策主管萨拉·赫克对这篇文章表示支持，并呼吁立法机构搭建监管防护体系。

“政府在此扮演关键角色，包括限制向对手国家出售最先进芯片，出台全国性法律，要求前沿模型接受测试，并且有权叫停那些被证实不安全的顶尖模型。”她在X平台发帖写道。

*自愿放缓的相关支持*

阿莫迪的文章周六收获大量行业研究员与高管的赞许，奥特曼也在其中。奥特曼在X平台发文称，他认同阿莫迪的观点，行业需要控制先进AI能力的研发节奏。奥特曼表示，近几周，该话题已经成为OpenAI内部的“核心讨论议题”。

“承诺让独立评估人员获得类似内部员工的访问权限是很好的想法，我们也会跟进落实。后续会带来更多消息。”奥特曼表示。

本月早些时候，OpenAI首席科学家雅各布·帕霍茨基发布博客文章警示：目前没有任何一家AI企业“在对齐与监控技术上达到足够成熟的水平，无法继续以全速、负责任地扩大模型规模”。在AI行业，对齐指研发者确保AI系统符合人类价值观与意图的相关工作。

帕霍茨基表示，他期待并且希望，在统一的安全标准建立之前，自愿放缓研发将成为行业常态。

马斯克周六同样表态支持放缓，在X平台写道：“达里奥说得没错。”

马斯克旗下的AI初创公司xAI今年早些时候被他的火箭企业SpaceX收购。他过去曾公开批评Anthropic，称这家公司“敌视西方文明”，最终会走向与名字本意相反的道路，变得憎恶人类。但自从Anthropic 5月宣布与SpaceX达成大额算力合作之后，马斯克的态度大幅转变。

“我接触到的每一个人专业能力都很强，并且非常希望做正确的事。”马斯克当时写道，“没有人触发我的‘邪恶探测器’。”

阿莫迪在周六写道，他依旧相信AI可以“极大提升人类生活质量”，但相关风险必须严肃对待。

“我认为，如果放缓研发能为我们多争取一到两年时间，在模型达到关键能力阈值前，利用这段时间推进对齐技术，我们就能大幅降低严重事故发生的风险。”他说道。