敬请点击上面“真正的人工智能”关注本公众号,看AI独家观点
特朗普任总统时美国为了围堵中国发动了三大战役——贸易战、科技战、金融战,目前看来贸易战美国是全面失败了,科技战也基本失败,金融战美国因为通胀和加息现在还在硬扛,而国债已经达到35万亿,感觉它扛不了多久了。
科技战上美国虽然已显出颓势,然而它还有一项较大优势,那就是在人工智能上的领先,美国也非常希望在这上面全面压制住中国,以期能有翻盘的机会。
人工智能领域又分两个方面,软件和硬件,软件主要是基础大模型,这方面以OpenAI公司为代表处于领先地位;硬件主要是算力芯片,这方面以英伟达的GPU为代表处于领先地位。
大模型和算力芯片又是密不可分的,也就是说算力芯片对大模型的发展有着非常重要的作用,尤其英伟达的GPU是这方面的主力,因此美国全力在这方面封堵中国,限制英伟达高端GPU对中国的出口,这确实给中国人工智能大模型的发展带来了不小的困难,为此不少国人认为中国在人工智能上赶超美国是没有机会了,一些别有用心之人也在那暗戳戳地幸灾乐祸。
但是这里想告诫某些人,别高兴得太早了!
首先,中国也有着自己的优势,而且优势还不小,那就是人工智能论文的数量和专利上都超越了美国成为了世界第一,尤其是顶级论文的数量中国也远超美国(参考阅读:2023年中国人工智能顶级论文数量和专利授权均高于美国 (baidu.com)。
至于卡脖子的GPU芯片确实是一个比较大的问题,不过中国也不是只能坐以待毙。
中国这么大的市场,英伟达可舍不得放弃,他们一直在与美国商务部玩猫捉老鼠游戏,美国商务部不准英伟达卖给中国最高端的GPU,英伟达就专门为中国市场设计性能略低的芯片,美国对性能略低的芯片也禁,英伟达就再推出另一款芯片,同时提高连接速度等方面以弥补性能的不足,最近还推出专门设计的服务器,在其中放入更多芯片来提高整体性能。(参考阅读:《老黄再出奇招!首推「特供版」GB20服务器,或将明年上市》)
即使是最高端的GPU也不是完全买不到,没错,这些芯片正在从非正规渠道(你懂的)源源不断进入中国,想必国家对这种“进口”会睁只眼闭只眼,笔者就有朋友在做这方面的生意。
可能有朋友会问:从非正规渠道进来的会不会是杯水车薪,也就是说数量不够而无法满足需求?
但GPU不像烟、酒、食品等商品需求量是无限的,虽然现在训练大模型往往需要很多GPU,但毕竟还是有限的,像meta或马斯克的xAI这种世界最顶级的人工智能公司,需求量也不过是几万到十万个GPU,那么国内的一些比较大的企业可能也就需要几百、几千个就够了。要知道这玩意不是你电脑中显卡上用的GPU,它可不便宜,一个就是几万美元,人民币要十几万元,甚至是几十万元,想要更多那也得买得起呀。
因此,从非正规渠道进来的GPU也能在较大程度上弥补市场需求,且它会一直不断地进来。
国产的人工智能芯片也在紧追不舍,比如华为的昇腾,虽然整体性能上不如英伟达最顶级的GPU,但是并不比英伟达特供中国市场的芯片差,且比顶级GPU的价格低很多,那么同样可以从数量上去弥补性能的不足。
当然,芯片数量多考验的就是系统集成的能力,也就是工程能力,这方面中国并不比美国差,中国超级计算机技术本就是世界一流的,曾经连续六年位居世界第一,超级计算机就是需要将成千上万的CPU集成为系统。
这个系统集成可是有相当大空间的,你不要以为用来训练大模型的超级计算机与你的电脑一样,像蓝屏这样的故障是“千年见一回”,那这些超级计算机的故障率有多高呢?不说不知道,说出来一定会吓你一大跳,《1.6万块H100训Llama 3.1,每3小时故障1次!罪魁祸首竟是GPU和HBM3显存》,意外不意外?惊喜不惊喜?
看看文章是怎么说的:
据Meta最近公布的研究显示,Llama 3.1训练持续了54天,在此期间集群遇到了419次意外组件故障,平均每3小时发生一次!
……
在超算领域,有一句古老的谚语,「大规模系统唯一可以确定的事就是发生故障」。
一个由成千上万个处理器、数十万个其他芯片和数百英里的电缆组成的超算集群,是极其复杂的。这样复杂的系统不可避免地会发生故障,甚至以几个小时为间隔单位都很正常。
试想,假如你的工程能力更强一些,能把3小时发生一次故障降低到4小时一次,估计GPU性能上的差距就补回来了,更不要说如果你能进一步降低故障率。中国这方面有足够的人才,想想淘宝电商系统顶住双十一、铁路订票系统顶住春运,只要发扬出中国人的聪明才智和艰苦奋斗的精神,中国人一定能把优秀的工程能力移植到人工智能领域中来。
还有很重要的一点,笔者前不久就写文章讲过,算力并不是制约人工智能发展最重要和关键的因素,你们看到上面文章说Meta训练一次Llama 3.1大模型用了54天,我的整体算力不如你也只不过把训练时间延长一些而已,如果只是延长了几天或十几天,自然不是什么大问题,或者就算延长了几十天,也不会就是天塌下来那么不得了,更不代表我在整体的应用及社会效益上就不如你。(参考阅读:《语言与智能》)
至于应用(推理)方面,同样可以用芯片数量去弥补性能的不足,这里就不展开讲了。
综上所述,就像当年的解放战争和抗美援朝,小米加步枪也能打赢敌人的飞机大炮,咱们一定不要妄自菲薄,不要被美国在算力上对我们卡脖子吓破了胆,相信中国人的科技能力和拼搏精神,就像曾经被我们一一摘下的那些所谓西方工业皇冠上的明珠,人工智能这颗明珠也最终会被我们摘下!
我的书《人工智能启示录》经过两年的不断反复审核、修改,终因观点太过尖锐、内容太过敏感,且我不愿过于妥协,因而过不了出版社方面的最终审核,故放到网上供大家免费阅读,其中有很多内容是从未在网上发表过的。(想看点击文末“阅读原文”)
点评 | 《达沃斯聚焦人工智能 以“善治”促“善智”成共同呼声》