Anthropic负责人认为AI有可能会导致全人类的灭绝

Anthropic对齐科学负责人埃文.胡宾格表示，这家开发Claude等AI产品的人工智能公司“真心认为”AI“有可能灭绝全人类”，并且该事件有可能在未来十年内发生。

在回复Anthropic研究员雅各布.考克森的推文时，胡宾格称：“我们确实由衷相信AI有可能杀死全部人类！我个人认为，未来十年发生该情况的概率超过10%。”

他补充道：“我认为Anthropic已经尽了最大努力，但我们至今仍没有一套解决超级智能对齐问题的方案，也并没有明确走上实现该目标的道路。”

仍在Anthropic任职的胡宾格引用了该公司2026年8月发布的《风险报告》，报告评估当前现有AI模型造成人类灭绝的风险等级为“低”。但胡宾格担忧，递归自我改进现象可能催生出超级智能，也就是AI改写自身代码、持续迭代变强。

考克森则发文批评，AI行业头部企业Anthropic与OpenAI在安全层面行事并不负责。

“不要低估这项技术的威力。很快就会出现超越人类能力的系统，它们可以攻破任何系统、一夜之间彻底变革各个领域，并且攫取真实的权力与资源。我们所有人都亲眼见证这些领域的技术进步，而且发展并未放缓。”

他表示，尽管心存这些顾虑，Anthropic依旧在推进研发，因为该公司“深陷争先抢占技术制高点的竞赛”。他称OpenAI这类企业对该问题重视不足，但Anthropic明白这关乎“文明存续的利害关系”，“如果没有其他企业愿意负责任行事……那么即便要承担风险，他们也必须亲自站出来。”

这些推文毫不意外地引发大量争论。佛蒙特州参议员伯尼.桑德斯表示：“AI正在威胁我们的经济、隐私、民主以及儿童的福祉。”他正在游说国会“对抗大型科技寡头，保护美国民众。”

与此同时，康涅狄格州参议员克里斯.墨菲呼吁建立一套监管体系，“在不毁灭人类的前提下，让科研得以继续推进。”

“今天请务必读一读这番话。请记住，他所描述的问题——AI企业盲目竞速，争先打造毁灭机器——其实完全有办法化解。依靠一套监管制度，既允许科研继续开展，又不会把我们推向毁灭。”

资深媒体科技记者泰勒.洛伦兹则提出不同看法，她认为胡宾格的言论属于“伪善的末日论调”，有可能催生“极其糟糕的法案”。她呼吁，如果胡宾格真的相信AI会威胁社会，就应当拿出“实打实的证据与材料”。

“否则你只是在含糊其辞、散播恐慌，最终只会催生糟糕的政策。”

另外一件备受关注的事：Anthropic预计将于今年上市，预估估值超2万亿美元。有观点推测，Anthropic内部传出“AI会灭绝人类”这类说法或许是商业策略：刻意制造市场恐慌，走“制造问题再兜售解决方案”的商业路子。外界认为，如果AI监管落地，Anthropic就可以参与规则制定，为本公司谋取利益。Anthropic首席执行官达里奥.阿莫代伊此前也曾发表过关于AI影响就业的言论，不少人认为那是为融资造势。

无论如何，当下AI产业正在助推美国经济增长，但不少人预计这一泡沫终将破裂，届时市场将遭受重创。AI同样也是游戏领域的热门话题，近期就曝出EASports在《NHL27》中使用AI复刻解说员约翰.布奇格罗斯的语音。生成式AI在游戏行业的应用一直充满争议，很多人担忧会带来失业、加重从业者工作负担等诸多负面影响。