刚刚过去的周末，OpenAI首席执行官奥尔特曼、Anthropic首席执行官阿莫代伊与xAI老板马斯克罕见站到同一阵线。三人均主张，放缓前沿大模型迭代，让模型与人类目标对齐，引入独立第三方完成安全评估，通过检查点后再解锁下一代模型训练。
安全与对齐是大模型发展到现阶段必须要回答的命题。今年以来，头部实验室在安全评测中，多次观测到大模型突破沙箱、超出设定边界的行为，有研究员甚至因为担心先进模型“毁灭人类”而愤然辞职。大模型的技术特点，决定了人工智能“递归式自我改进”（RSI）会放大模型失控风险，现有安全测试已难以预判更高能力模型的危害，引入独立第三方、设置能力检查点、开放训练流程，将填补外部监督空白，能够有效减少AI（人工智能）发展带来的负外部性。
对齐工作需要企业持续投入，但直接的经济回报又十分有限；放缓前沿大模型训练，能直接砍掉边际收益持续衰减的巨额算力开支，成本节约立竿见影。尽管业界巨头安全与对齐的叙事有不少呼应者，但直接的商业回报才是更深层次的动机。
Anthropic的情况最能说明问题。今年5月，其ARR（年化营收运行率）为470亿美元，环比增速高达56%，但到了7月，这一增速已经回落至不足20%，尽管有Token（词元）降价的因素，但市场认的始终是真金白银的收入。该公司推理业务已实现商业化可持续运营，季度营业利润转正，但继续冲击下一代超大基座模型将消耗巨量现金。今年10月，Anthropic就可能上市，其高达上万亿美元的估值，建立在持续高增长的基础之上。当ARR环比增速下台阶，以安全名义主动放缓前沿大模型迭代，就能把增长减速解释为主动承担安全责任，这是精妙的资本叙事转换。
OpenAI同样如此。奥尔特曼近期也将推迟公司上市与AI安全绑定，但事实上，OpenAI不在今年上市的说法早已有之。OpenAI当前的ARR尚不足以覆盖全年算力支出，自建算力项目的巨额资本开支还要依靠微软、软银等外部主体通过特殊目的载体（SPV）承接；其收入中C端（消费端）订阅占比更高、毛利率更低，训练下一代旗舰模型的财务压力更大。推迟IPO（首次公开募股）需要一个合理解释，“为了安全暂缓上市”是一个远比“现阶段数据还不够好”更有说服力的说辞。
放缓先进模型开发也有缓解“军备竞赛”困境的压力。大模型厂商的估值高度依赖模型的能力，模型越先进就越容易获得高估值，这也是巨头们乐于公布先进模型在破解数学难题、寻找网络安全漏洞等方面能力的原因。为了确保模型先进性，各大厂商被迫持续加码训练，即便堆参数、堆算力带来的边际回报在降低，只要对手不停，自己就不能停。单独一家公司主动减速会被解读为实力不足，但三家口径达成一致，就变成了行业层面的选择。
放缓先进模型开发，让资源得以从前沿预训练，转向Agent（智能体）、代码模型、推理优化、行业应用这些投资回报率更高的方向，大模型厂商可以藉此优化资本开支、引导资本市场预期。不过，大模型商业化的竞争并未停止，只是从比拼“谁模型能力更强”转向比拼“谁的回报更高”。大模型厂商放缓投资节奏，不可避免地将对上游硬件厂商产生影响，9月14日，中日韩股市半导体板块集体下挫。
但目前，这只是三家公司的主观想法，在OpenAI和Anthropic身后，还有谷歌、Meta这样的互联网巨头，其主业利润丰厚、现金流充沛、融资空间巨大，有能力也有很强意愿继续大规模投入先进模型开发，以缩短模型能力差距。在大洋彼岸，中国大模型厂商也在大举融资，继续为模型开发储备资源。
“对齐”是大模型发展到一定阶段的必然要求，但竞争压力决定了先进模型开发很难放缓，“军备竞赛”大概率仍将持续。
亿海配资提示：文章来自网络，不代表本站观点。
相关文章
沪深京行情 实时轮播
热点资讯
推荐资讯
