股票配资最新平台2025 末日电影成现实？盖茨担心AI致十亿人死亡，美国需学中方设护栏

末日电影里的场面会成为现实吗？比尔盖茨发出担忧，你说到底是杞人忧天，还是有理有据呢？

近日，前世界首富比尔·盖茨一番针对AI发展的言论一度登上热搜。他在一段采访中指出，AI公司自我监管是不够的，若AI落入错误之手，强大到足以杀死十亿人。他还强调：从未有过任何一种武器，能比得上怀有恶意的人借助最新AI工具所形成的威胁。所以他发出呼吁，强调美国政府“绝对”需要通过联邦立法，为AI进展建立保障和监测，自我监管是不够的。

需要说明的是，盖茨并不是第一个提出类似担忧的人，不久前联合国方面也对AI的应用发出了担忧的声音，还有从Anthropic辞职的举报人雅各布·考克森不久前发出了类似的警告，他提出，AI开发者们真心相信到本十年末人工智能可能会毁灭所有人。本月初，美国两大人工智能实验室Anthropic和OpenAI的首席执行官一致认为，应该放缓开发强大的AI系统的竞赛。萨姆·奥尔特曼和达里奥·阿莫代伊近期还都在联合国安理会发言，并呼吁美国牵头组建国际联盟，制定AI安全标准。

AI真有那么恐怖？能动辄杀死十亿人？只有在末日电影里出现过的场面，真的会因为AI的高速发展成为现实吗？大伙怎么看？

其实对于AI的担忧，具体涉及几个方面。首先是AI发展到现在，已经出现过失控的情况，此前OpenAI不就有个模型自己突破沙盒，进攻了外部网站吗？而且这件事还暴露出美国主流AI的弊端，因为美国主流AI大多是闭源的，在面临这种问题时，统统无计可施，最后有关机构还是靠启用中国的开源AI模型，才算应对了危机。

如果说在过去，人类还可以安慰自己，AI都是人类发明的，其无论如何不至于做出超出人类为其划定的行动范围之类的事情。但今年美国AI发生的事故，令外界意识到，AI并没有想象中那么可控，反倒是一些科幻惊悚片里，为达目的无视规则和伦理道德乃至做出可怕事情的AI机器人，更接近当下美国部分AI模型的情况。

再者，就是个政治问题了。就在不久前，我给大伙打过一个比方，如果你理解不了大国之间AI发展格局的话，你就把它当成冷战时的核武器来看待。核能是个好东西，在丰度较低时发电量巨大，能够为人类提供可观的电力供应。可一旦丰度过高，那就成为核武器的制造材料，如果数量再多点，其甚至能够毁灭人类！而且其实一直到现在，各国也没有找到能够有效且100%抵御核武器的方案，所以大国之间，只能够基于现代威慑理论，不断强化本国核武库的规模和相关技术储备，确保即使在你动用所有核武器打击我以后，我依然能够核反击将你夷为平地，这就是美苏核竞赛的根源。

当下的AI情况也很有点类似，其实美国国内不是没有声音提到AI的发展可能太快了，但是当下他们就是不愿意加强监管，因为监管可能引发发展降速，可AI的前景太远大了，美国经济增长就靠AI带动投资吊着一口气。只要能够在这个领域拔尖，那么不仅仅意味着天文数字的产业红利，而且蕴藏有巨大的军事收益，因为AI是真有军事应用价值的。这种局面就使得AI比较厉害的几个国家，根本不敢落后，这不仅仅是一个经济问题，更是一个国家安全问题。

但是中美对AI的军事应用走的路径不一样。中国是用AI加强国防，与此同时，中方也设置了底线护栏，尽可能确保在关键的环节依然由人工把关，也就是利用AI高效处理数据和情报的优点，但不给AI完全的自主决策权。美国却不一样，他们完全把AI当成杀人机器，用AI制定打击行动的，这么做，当然可以大幅压缩军事决策的制定时间，但却有巨大的隐患。

2月底美伊以战争开打，美军动用“战斧”炸了伊朗女子小学。有消息称，美军之所以干出这种事，就是因为美军使用的AI决策模型错误引用了旧的数据库，将女子小学当成了伊朗军方的据点。还有不久前美媒曝光，今年夏天，美军所使用的AI认为，一艘中国货轮中有为伊朗提供的军事物资，当时美军已经准备采取行动了，幸亏美军方有人发现，AI所使用的情报居然是杜撰出来的假消息，否则很可能引起巨大风波。