
末日电影里的场面会成为现实吗?比尔盖茨发出担忧,你说到底是杞人忧天,还是有理有据呢?
近日,前世界首富比尔·盖茨一番针对AI发展的言论一度登上热搜。他在一段采访中指出,AI公司自我监管是不够的,若AI落入错误之手,强大到足以杀死十亿人。他还强调:从未有过任何一种武器,能比得上怀有恶意的人借助最新AI工具所形成的威胁。所以他发出呼吁,强调美国政府“绝对”需要通过联邦立法,为AI进展建立保障和监测,自我监管是不够的。

需要说明的是,盖茨并不是第一个提出类似担忧的人,不久前联合国方面也对AI的应用发出了担忧的声音,还有从Anthropic辞职的举报人雅各布·考克森不久前发出了类似的警告,他提出,AI开发者们真心相信到本十年末人工智能可能会毁灭所有人。本月初,美国两大人工智能实验室Anthropic和OpenAI的首席执行官一致认为,应该放缓开发强大的AI系统的竞赛。萨姆·奥尔特曼和达里奥·阿莫代伊近期还都在联合国安理会发言,并呼吁美国牵头组建国际联盟,制定AI安全标准。
AI真有那么恐怖?能动辄杀死十亿人?只有在末日电影里出现过的场面,真的会因为AI的高速发展成为现实吗?大伙怎么看?

其实对于AI的担忧,具体涉及几个方面。首先是AI发展到现在,已经出现过失控的情况,此前OpenAI不就有个模型自己突破沙盒,进攻了外部网站吗?而且这件事还暴露出美国主流AI的弊端,因为美国主流AI大多是闭源的,在面临这种问题时,统统无计可施,最后有关机构还是靠启用中国的开源AI模型,才算应对了危机。
如果说在过去,人类还可以安慰自己,AI都是人类发明的,其无论如何不至于做出超出人类为其划定的行动范围之类的事情。但今年美国AI发生的事故,令外界意识到,AI并没有想象中那么可控,反倒是一些科幻惊悚片里,为达目的无视规则和伦理道德乃至做出可怕事情的AI机器人,更接近当下美国部分AI模型的情况。

再者,就是个政治问题了。就在不久前,我给大伙打过一个比方,如果你理解不了大国之间AI发展格局的话,你就把它当成冷战时的核武器来看待。核能是个好东西,在丰度较低时发电量巨大,能够为人类提供可观的电力供应。可一旦丰度过高,那就成为核武器的制造材料,如果数量再多点,其甚至能够毁灭人类!而且其实一直到现在,各国也没有找到能够有效且100%抵御核武器的方案,所以大国之间,只能够基于现代威慑理论,不断强化本国核武库的规模和相关技术储备,确保即使在你动用所有核武器打击我以后,我依然能够核反击将你夷为平地,这就是美苏核竞赛的根源。
当下的AI情况也很有点类似,其实美国国内不是没有声音提到AI的发展可能太快了,但是当下他们就是不愿意加强监管,因为监管可能引发发展降速,可AI的前景太远大了,美国经济增长就靠AI带动投资吊着一口气。只要能够在这个领域拔尖,那么不仅仅意味着天文数字的产业红利,而且蕴藏有巨大的军事收益,因为AI是真有军事应用价值的。这种局面就使得AI比较厉害的几个国家,根本不敢落后,这不仅仅是一个经济问题,更是一个国家安全问题。

但是中美对AI的军事应用走的路径不一样。中国是用AI加强国防,与此同时,中方也设置了底线护栏,尽可能确保在关键的环节依然由人工把关,也就是利用AI高效处理数据和情报的优点,但不给AI完全的自主决策权。美国却不一样,他们完全把AI当成杀人机器,用AI制定打击行动的,这么做,当然可以大幅压缩军事决策的制定时间,但却有巨大的隐患。
2月底美伊以战争开打,美军动用“战斧”炸了伊朗女子小学。有消息称,美军之所以干出这种事,就是因为美军使用的AI决策模型错误引用了旧的数据库,将女子小学当成了伊朗军方的据点。还有不久前美媒曝光,今年夏天,美军所使用的AI认为,一艘中国货轮中有为伊朗提供的军事物资,当时美军已经准备采取行动了,幸亏美军方有人发现,AI所使用的情报居然是杜撰出来的假消息,否则很可能引起巨大风波。

说到这里大伙可以发现,美军对AI的应用已经冲的过于激进了,在AI模型还没有完全可靠的情况下,就过于相信AI的决策,以至于酿成大祸。在这样的情况下,如果美国再不收敛,不学中方设置好底线护栏并加强监管股票配资最新平台2025,那么AI致十亿人死亡,就绝对不是不会发生的事情。
源顺网配资提示:文章来自网络,不代表本站观点。