′能?制Chat-GPT
图片来源@视??
钛媒体注:本文来源于??号远川研究所(ID:caijingyanjiu),作€|陈彬,编辑|刘芮,钛媒体经授权发布€?/p>
Chat-GPT背后的明星企业OpenAI,?于几??谷极客想?ldquo;?人类的疯狂念头€?/p>
2014年,特斯拉?在为产能??焦头烂?,来?求援的马?顺便做???《?话€栏??杨元庆灵魂拷?2013年联想一共卖出了1.15亿台设?,特?卖了几辆车?
同一时期的美国,AI取代人类成为了?谷new money的关?,这让结?″?、生?0??子的?克深感不安€谷歌创始人拉里·佩?就曾批评?克是€?ldquo;物?主义?rdquo;,不愿用?rdquo;创€新物??/p>
2015年?天,?克找到了他的知音——萨?·阿尔特曼?/p>
这位名字也能翻译?ldquo;奥特?rdquo;的帅哥,?业?化器Y Combinator的新任掌?也是€?准的科技狂,拥有两?核聚变企业和€家区块链??/p>
2009年,YC创?人曾在博?分享了过?0年最有趣?位创始人?4岁的阿尔特曼与乔布斯、谷歌创始人、赛??导体CEO和Gmail之父并列?/p>
在一次?人聚会上,两位明星企业?宣布掏出10亿美元,筹?€家非盈利导向的AI实验?penAI?ldquo;让人类以更接近于安全的方式构建真正的AI?/p>
–hat-GPT?出世之前,绝大?数人都不知道这?站在人类智商密度高地上的?都做了些€么,到底花掉了?少钱?/p>
这是€段用美元堆出来的理想主义故事?/p>
′:AGI神教
OpenAI诞生的那场聚会上,马?几乎没有招到人€现场所有人都在追问€?题:此时谷歌、Facebook、百度早已把世界上最顶尖的AI学€搜?尽,你?€么瓷?
这群野心家不??心,向蒙特利尔大学一位教授?来了€?0人挖角名单,上面写着圈内€有前途的年轻AI研究员€这其中€为重要的挖?对象,是€??利亚·萨特?弗的俄罗??/p>
小萨是AI研究宗师杰夫·辛顿的?生€?012年,辛顿带着27岁的小萨和另€??生发明了€个AI″,?″识别图像的准?高得吓人,在学术界引起了轰动,也直接奠定了小萨产业泰斗的历史地位?/p>
这也让谷歌等企业迅€意识到:AI终于有搞头了,直接把小萨挖走了€?/p>
OpenAI给这10人挨?电话,所有人都表示,除非?人都答应才入伙€为了搞定小萨一行人,OpenAI将他?去了当地的一?萄酒之乡,好生伺候了€天€最终,9?上了贼船?/p>
?在马?与阿尔特曼准备召€新闻发布会时,小萨却反悔了€?/p>
为了留住小萨,谷歌先给小萨的?翻了€?数字是OpenAI的两到三倍,但?方不为所动€随后,谷歌采取了另€条策略:加更多的钱€?/p>
此时的OpenAI急得像热锅上的蚂蚁,但€虑到自??涩,?天天发短信求小萨谈理想€直到阿尔特曼召€新闻发布会的那一天,小萨才决定加?penAI,从谷歌的心腹变成了心腹大患?/p>
小萨的决定其实出于一?些难以启齿的理想:他想实现AGI(€用人工智能)€?/p>
€谓AGI,即超级智能,接近?幻电影中万能的人工智能;与之形成对比的是人脸识别、翻译€下围?等只能完成单€任务的人工智能€?/p>
即便2012年,杰夫·辛顿和小萨的论文让AGI的可行€跨出了€大?,但以当代的科研基?,谈论AGI,依旧就像谈论?何长生不老一样民科€?/p>
科?家all in AGI,赌??在教科书里与比肩牛顿;赌输,成为美版知乎Quaro的民科代表€?/p>
但企业all in AGI,大概只有一?€——成为先烈。庞大的资本?,?无???ldquo;专?算法的IBM,还?ldquo;深度学习神教的谷歌€百度,无?″?何?AI?,巨头们的一切AI研究,都为产业化服务?/p>
愿意成为这个冤大头的,只有OpenAI€家€?/p>
阿尔特曼将OpenAI打€成了一?牙?:在实验室成立的?5?,OpenAI都没€??研究?。平日里,马?便带€这群梦想家一起脑暴,探?AGI将?何实现€?/p>
2016?月,时任谷歌首席AI研究员曾参?过OpenAI,?其工作方式相当困惑€他询问OpenAI的目标是€么,没想到难倒了OpenAI?ldquo;我们现在的目标,就是....做点好事[3]?rdquo;
然€在数月之后,这位研究员却毅然辞职加入了OpenAI——€起做点好事€?/p>
毕竟在当时的硅谷?ldquo;放肆做梦?极其€缺的特质。哪怕是AGI曾经的布道€DeepMind,在?歌收?也更实际了些。产业界与??的差异,促使了大批?学??ldquo;叛€?rdquo;?/p>
?017年开始,吴恩达€李飞?等著名AI学€先后回归大学校?€?/p>
此般大环境下,高举理想主义大旗的OpenAI,成功抄到了历史的大底,拉拢了不少顶尖人才€?/p>
2017?月,随着团队越来越庞大,阿尔特曼决定给OpenAI设立€?具体的目标,这时,等待他???消息与一?消息?/p>
接盘:?作理想,写作美元
2017年是OpenAI命运的分水岭?/p>
好消?,谷歌帮OpenAI解决了没有具体目标的困扰?017年,谷歌在一篇?文中€源了Transformer神经网络架构。它的革命€在于可以?AI?人话,€这很可能会?€往AGI的关?匙€?/p>
€直在做好事的OpenAI,瞬间有了攻坚的方向?/p>
€篇改变了世界线的论文
坏消??没钱攻坚了€?/p>
€?知识?如果′?手阔绰的靠山,根?资格搞AI。光算力——也就?片的€€,就?笔巨额成?€从2012年的AlexNet″?017年的AlphaGoZero,算力消耗足足翻?0万€€同期英伟达′翻了整整15倍,黄仁勋做梦笑醒好几回?/p>
早些年,€大批科?家纷纷跳槽去硅谷巨头,就?了找靠山?010年,还在?福的吴恩达研究出€套新算法,却发现大?的算力条件远远不够€他从美国东海岸找到西海岸,发现?谷歌符合′?/p>
2017年,Transformer?出世后,AI进入大模型阶段€所谓大″,背后支撑的?算力、大数据以及大算法,而这也意味着烧大钱€?/p>
?penAI的GPT-3″为例,有机构做过测算,发现?练一个GPT-3,需要至?024张A100显卡持续运转足足€?[7]。€A100显卡€便宜的版??769美元?/p>
也就??,什么还没算,就先给英伟达交?00万美元入场费,这还没算搭建机房的成本和后?源不?电费?/p>
如今,ChatGPT?€次的成本高达1千万美元,这??业无法承受的。小冰公司CEO李笛算过€笔账?ldquo;如果按照ChatGPT成本来€量的话,每天我要烧3亿人民币,一年?烧一千?亿€?rdquo;
回到2017年,仍是非盈利机构的OpenAI,根?力负担这些费用€原?大靠山马?也在2018年初宣布辞职,原因是避免与特?AI业务有所冲突?/p>
风雨飘摇之际,阿尔特曼悄悄修改了OpenAI非盈?rdquo;的使命,€始给OpenAI另谋靠山?/p>
此时,既无?研成果,又无大牛坐镇的微?进入了阿尔特曼的视野?/p>
作为美国高?€领域老牌列强,微?AI上的决心不可谓不强,但长期?谷歌的DeepMind来回摩擦?/p>
2019年,恨铁不成钢的?遇?人才济济的OpenAI。当时,比尔·盖茨?并不相信OpenAI会成?mdash;—投资谈判?他很直白地?其发展路线表达了悲?,?为Transformer这类大?€″在过去五年都′么进展,′知道它会有什么价值€?/p>
但话虽?此,?还是爽快的掏出了10亿美元€?/p>
这?接盘,很?会成为微?史上€成功的一笔抄底€?/p>
2022?2月,OpenAI沿着Transformer?€发出了最新?AI,名为Chat-GPT??后,Chat-GPT的全球月活突破了1亿€?/p>
这回,??谷歌′€觉了?/p>
突围:难以?刻的??/p>
Chat-GPT登上?之后,公众常常会讨?€?题:为什么又在美国?
事实上,复刻€个Chat-GPT并非难事。Chat-GPT的本?其实?PT-3″为?架,通过对话这一场景,搭建了€?通用户也能使用的AI应用,两者之间的€?步并不算大€?/p>
如果翻一翻前两年的新闻能发现,早在GPT-3时代,中国公司已经在如法?,大?必?各??版Chat-GPT冷嘲??。在?的技???企业落后的并不太多€?/p>
我们回到€€始,大模型发展的三?素:算法、算力€数?€?/p>
算法,?同人类大脑,决定了AI的?习能力€?/p>
€?内主流?点是,尽管没有率先做出来Transformer、GPT-3,但国内企业在大″上的€?距?ChatGPT的差距其实也仅在半年到两年之间€?/p>
比?GPT-3发布之后,百度€腾?€阿里等企业诸?€€、M6、混元等十万亿参数级?大模型也很快跟进?/p>
算力,这意味€€种资源,决定了算法的运?效率?/p>
AI?高度依赖英伟达A100、H100等AI专用显卡。常见的消费级显卡€常会将部分算力让渡于光追等功能,相比之下,A100的特点则??设?到软件配?all in AI?/p>
尽??022年开始,美国已经限制英伟达向?大陆€售A100/H100显卡,但很快英伟达也推出了A800,成为中国特供版A100平替?/p>
数据,?练算法的优质教材,决定了AI会?到哪些知识€?/p>
站在OpenAI背后的,?座数?矿,即丰富的高质量英文文??€例如在全球€大的百?网站维基百?上,拥有€多百科文章的?正是英文?/p>
除?之?,英文互联网还有众?类似Github这样的专业?坛€海量的图书、???文€专业新闻等数据。尽管,?互联网的文本质量有待提升,但数据总量却是碾压级别的优势€?/p>
无??法的调教,还?力的堆积,本质都?钱砸人€在这方??其实并不落后于美国€?如百米赛跑中,冠军和亚军的差距往€不到€秒钟?/p>
然€不到一秒钟的差距,却决定了鲜花与掌声的归属,这?也是Chat-GPT?ldquo;?版Chat-GPT的差?€?/p>
OpenAI的诞生似乎?不开无数偶然的堆?但也有着同样多的必然?ldquo;造?人类的AGI神教,聚集了世界上最有才华的青年AI学€;适时出现的技?破?OpenAI的路径有迹可??的出现组成了€后一块拼图€?/p>
Chat-GPT的昂贵之处,既在于天文数字的投资和令人心生畏惧的烧钱速度,也在于€?够包容疯狂想法的商业??。?如阿尔特曼所说:
成千上万的创业公司在做社交软件,?不到20家公司致力于核聚变€然而伟大的事情实际上更容易,因为?向太空是每一?的梦想€?/p>
梦想并不昂贵,但?梦想的勇气却?件奢侈品?/p>
参€资料:
[1] 深度学习革命,凯?middot;梅茨[2]Why Elon Musk fears artificial intelligence,Vox[3] SAM ALTMAN’S MANIFEST DESTINY,The NewYorker[4] Inside OpenAI, Elon Musks Wild Plan to Set Artificial Intelligence Free,Wired[5] The messy, secretive reality behind OpenAI’s bid to save the world,MIT Technology Review[6] AI的十年熬赢往事,Tech对?线[7]浅谈ChatGPT工作的底层€辑[8] How Microsoft’s Stumbles Led to Its OpenAI Alliance,The Information[9] ?如何缺席ChatGPT盛?,红博士?/p>