您的位置 首页 得到头条

068|GPT-4发布:AI发展的“限速器”是什么?

今天,我将从两个话题出发,为你提供知识服务。第一个是,GPT-4本周发布,能力大幅升级。第二个是,比尔·盖茨投资的环境技术公司,要碳中和一亿头牛。

先来看今天的第一条。就在前两天,OpenAI的新一代通用人工智能GPT-4正式发布。这是基于上一代的GPT-3.5的升级版。这件事用万众期待来形容,一点都不过分。毕竟,上一代的ChatGPT有多火,咱们已经不用多说。那么,这回更新一代的GPT-4,到底怎么样呢?

最近你可能会看到很多相关的报道。但其实,我们了解这么三件事大概就够了。

第一,GPT-4是一个多模态大模型。这个词乍一听好像挺专业。简单说,多模态,指的就是有很多种信息输入的方式。过去的ChatGPT,只支持文字输入。但是这回,不仅支持文字,还支持图片。你没发现,前面那个chat没了吗?意思就是,你不仅可以跟它聊天,还可以给它看图,通过图片来下达指令。比如,你可以手绘一个代码草稿,交给它,它就能把完整的代码给你写出来。

第二,GPT-4比它的上一代更聪明。比如,在律师模拟考试中,上一代的ChatGPT排名在倒数10%左右。而GPT-4的排名在前10%。什么概念?相当于几个月没见,它一下从学渣变成了学霸,而且水平超过了90%的人类考生。

第三,说了那么多优点,GPT-4也有局限。比如,它对于一些刚刚发生的事实,缺少数据。要是涉及这些内容,它可能会答得乱七八糟。也就是,上一代ChatGPT就一直存在的,一本正经地胡说八道的问题,在这回的GPT-4身上,依然部分存在。

但是,不管怎么说,大家对GPT-4,总体还是很看好的。据说OpenAI的一位联合创始人还很有自信地说了一句话,它并不完美,但你也一样。意思是,能做到这个程度,已经很不错了,还要啥自行车啊。

当然,有人踩油门,就有人踩刹车。也有很多人担心,照这个速度发展下去,人类是不是离失业就不远了?

其实,要想知道AI会不会一直快速发展下去,我们得先弄清,到底是哪些因素,有可能限制AI的发展?乍一听这个问题,你可能觉得答案很明显。限制AI发展速度的,当然是技术了。

但事实上,除了技术,AI的发展,还面临一个更明显的刚性约束,那就是硬件。最近网上不是流行那么句话吗?一切恐惧,最终都来源于火力不足。意思是,在打仗这种硬碰硬的事情面前,战术之类的智力因素都往后放,火力之类的硬件才是最重要的。放在AI的发展上,也一样。它能不能快速发展,很大程度上也取决于硬件资源能不能跟上。

AI发展,到底都需要哪些硬件资源呢?我们从中选三个重点说说。

第一个,是芯片。要知道,GPT对芯片的需求是极大的。大到什么程度?比如上一代的GPT3.5,训练它需要用到一种英伟达的高端GPU芯片,叫A100。一颗A100的成本,大概是8万人民币。而完成整个训练过程,大概需要三万颗A100芯片。你可能会说,听起来也还行,能接受啊。但问题的关键是,GPT在长大的过程中,它的胃口可不是线性增长的,而是指数级增长的。你看,当年战胜李世石的AlphaGO,训练它也只用了176颗GPU。而照这个速度成长下去,将来GPT的胃口能大到什么程度?芯片能不能跟上?这些都是问题。

最近就有新闻说,本来今年第二季度订单不足,产能过剩的台积电,突然忙起来了。就是因为接到了大量用于AI的芯片订单。这也是为什么总有人说,AI的尽头,其实还是半导体。

第二个,是能源。过去一提到AI,我们的第一反应,好像总觉得,它就是一台大电脑。一台电脑,能用多少电?但事实上,AI对电的消耗,非常大。大到什么程度?

比如,ChatGPT,仅仅是训练一次,就要消耗90多万度电。相当于1200个中国人,一年的生活用电量。要知道,训练它可不是一次就够,需要很多次。而现在,它仅仅是维持日常运转,每天的电费大概就要5万美元。

早在2019年,美国马萨诸塞州大学阿默斯特分校的一个团队就研究过。当时训练一个AI模型,过程中因为发电而排放的二氧化碳量,大概相当于五辆燃油车,从生产到报废,整个生命周期产生的二氧化碳总和。

美国的一个人工智能公司,叫Numenta,还专门提出过,要改进人工智能的底层设计,让人工智能模拟人脑思考,来降低能耗。毕竟,人脑虽然也很消耗能量,但总归比AI能耗低得多。但是,这也只是一个设想,具体怎么做,他们自己也还在研究。

第三,AI发展,不仅耗电、耗芯片,还特别耗人。注意,这说的可不仅是科学家,也包括AI训练中,一个更基础的工种,叫数据标注师。在AI模型训练之初,就需要大量的数据标注师。比如,当年,2006年,AI不会识别猫,怎么办?就让人来手工标注。在图片上,把猫标出来,让AI一个一个去认。直到它能弄明白,到底什么是猫。

当年,训练AI,靠的就是海量的人工标注图片。据说当时,普林斯顿大学的华人科学家李飞飞,为了训练一个AI,通过亚马逊的在线众包平台,在全世界167个国家,雇佣了5万人,一共标注了1500万张图片。

直到今天,AI训练依然需要大量的数据标注师。比如ChatGPT,它的训练分三个阶段,只有第三阶段不需要标注,前两个阶段都需要大量的人工标注。而且因为ChatGPT的数据是从网上采集的,里面什么数据都有,也可能包含一些暴力、犯罪或者反人类的内容。怎么把这些内容过滤掉?也得靠人来手工标注。今年1月,美国《时代周刊》还报道过,帮ChatGPT标注有害内容的,主要是肯尼亚人。他们平均每人每天要标注将近200段文字。还有人专门做了个估算,截止到2022年,全球从事数据标注的人数,已经有500万。将来这个数字还会继续增加。

你看,过去一提到技术,我们都觉得,决定它发展的首要因素,是科学水平。但事实上,硬件资源才是更底层的刚性基础。

好,刚才咱们说了三个,AI发展中必备的资源要素,芯片、能源、人力。最后,给你讲个好玩的事。在18世纪的奥地利,有人发明了一台自动下棋机。据说下棋水平比真人还高。你可能会觉得奇怪,18世纪,哪来这么先进的技术?当时大家也纳闷。后来一查才发现,原来这个机器里面,藏着一个真人棋师。我觉得这个故事也许是想说,很多看起来神乎其技的技术,它的能力,也许是来自很多未被察觉到的,特别基础的,人的努力。

再来看今天的第二条。今年年初,比尔·盖茨创立的突破能源基金,领投了一个澳大利亚的气候技术公司,名叫Rumin8。这家公司的主要业务是环保科技。

这件事本来算不上新闻。但是,跟前面GPT的新闻连起来看,就特别好玩。

GPT的发展,告诉我们,技术总能在你想象不到的地方,产生对资源的消耗。而Rumin8告诉你,我们也总能在你想象不到的地方,去开展环保。

那么,Rumin8到底是用什么方式做环保的呢?角度特别刁钻,是从牛的打嗝放屁下手,来减少温室气体的排放。顺便一说,这家公司的名字Rumin8,用英文念出来,发音跟反刍动物一样。反刍,指的就是,把东西吃到胃里之后,消化一半,再从胃里返回口腔继续咀嚼。牛不就是反刍动物吗?说白了,人家明摆着,就是要跟牛之类的反刍动物较劲。

你可能会说,牛打嗝放屁而已,能产生多少温室气体?至于跟它较劲吗?你别说,还真至于。

首先,全球温室气体排放中,占比最高的是二氧化碳。这跟牛倒是关系不大。但是,占比第二高的,是甲烷。这跟牛关系就大了。根据去年联合国粮农组织的报告,全世界的甲烷排放中,农业甲烷占比达到40%。而排放的主力,就是牛。

而且要知道,甲烷引发温室效应的能力,比二氧化碳要强得多。有人曾经计算过,全球气温每升高1.1摄氏度,其中就有0.5摄氏度是甲烷造成的。换句话说,减少甲烷排放,也许是减缓温室效应最高效的方法。因此,让牛少打嗝,少放屁,是一个特别严肃的环保课题。

那么,应该怎么做呢?Rumin8的做法是,往牛的饲料里加一种从海藻中提取的添加剂。一旦牛吃进去,就能在很大程度上,减少甲烷呼出。具体的技术细节,咱们就不展开说了。直接上结果,在这种添加剂的作用下,牛的甲烷排放,能减少85%。

目前Rumin8的计划是,到2030年,覆盖一亿头牛。什么概念?该技术所产生的效益,相当于每年能减排两亿吨碳。这个数字,是人类所有碳排放的0.4%。

当然,既然牛的打嗝问题这么关键,那么,做这个技术的公司,肯定也少不了。前段时间,一个科技媒体,叫硅兔赛跑,专门做了相关的梳理。总体看下来,大家正在做这么几类技术。

第一类,就是跟Rumin8一样,做饲料添加剂。只不过大家用的成分不一样。有的用海藻,有的用别的。

第二类,是做过滤装置。说白了,牛,该打嗝还打嗝。但打完嗝之后,用一个过滤装置,把气体收集起来,再通过化学加工,把其中的甲烷变成二氧化碳排出去。比如,有个英国公司,给牛研发了一种过滤口罩,据说今年就能上市。再比如,还有个丹麦公司,直接给整个牛棚的通风管道,设计了过滤器,据说也是今年就投产。

第三类,我们可以归类为,其他。也就是一些还处在设想阶段,尚未产品化的设计。比如,有人想从基因下手,专门找甲烷产量低的牛,配种繁育,逐渐取代甲烷排放高的牛。

最后,还有更开脑洞的。比如,新西兰在去年公布了一项草案,计划从2025年开始,对农场主征收牛羊打嗝税。当然,草案一公布,当地农民就极力反对,能不能推行,还是个未知数。再比如,《柳叶刀》杂志还建议,减少需求,就能减少供应。要想少让牛打嗝,大家少吃牛肉,少养牛不就得了。

根据当年《巴黎协定》中设定的目标,本世纪全球平均温度升高,不得超过1.5摄氏度。这个难度可不低,我们已经能明显看到,大家正在穷尽办法,实现这个目标。大到能源产业,小到牛羊打嗝,努力无处不在。

最后总结一下,今天我们说了两个话题。GPT发展所需要的资源支持,以及怎样从牛打嗝入手来缓解温室效应。假如你的身边有人对AI行业,或者环保话题感兴趣,推荐你把今天的节目分享给他。

好,以上就是今天的内容。《得到头条》,下周见。

发表回复

返回顶部