2023年顯然是無(wú)可爭議的AI大年，如果對ChatGPT、OpenAI、生成式AI、LLM（大語(yǔ)言模型）等概念一頭霧水，那你可能就OUT了。甚至自1956年達特茅斯會(huì )議上人工智能（AI）這一概念誕生以來(lái)，AI從未距離大眾如此之近。所以自然而然的，圍繞AI的一切也引發(fā)了大量的關(guān)注，特別是對于站在浪潮之巔的巨頭們關(guān)于A(yíng)I的只言片語(yǔ)，也總能引發(fā)諸多的熱議。
被稱(chēng)為“AI教父”的杰弗里·辛頓繼不久前從谷歌離職后，隨即就加入了“AI批評者”的行列，并大談AI未來(lái)可能會(huì )帶來(lái)的風(fēng)險，甚至還表示，“我對畢生所研究的東西感到后悔”。
就在他態(tài)度180°大轉彎激起、由“不明真相吃瓜群眾”對AI危險性的討論尚未落幕之時(shí)，一個(gè)據稱(chēng)是谷歌高級軟件工程師Luke Sernau所寫(xiě)的內部信又激起波瀾。而這份被泄露的文件中其實(shí)只有一個(gè)核心主旨，那就是谷歌、OpenAI都沒(méi)有護城河，開(kāi)源AI將會(huì )摘取這個(gè)賽道最后的勝利果實(shí)。
(相關(guān)資料圖)
在這一場(chǎng)生成式AI的“大戰”中，谷歌顯然只是不折不扣的追趕者。雖然作為阿爾法狗的創(chuàng )造者，多年來(lái)谷歌一直扮演著(zhù)“AI布道者”的角色，但在生成式AI領(lǐng)域，ChatGPT無(wú)疑才是領(lǐng)路人。緊隨其后的Google Bard公開(kāi)演示翻車(chē)、導致谷歌市值一度蒸發(fā)千億美元后，好不容易推出將生成式AI整合到工作場(chǎng)景的Workspace后，微軟融合了GPT-4的Microsoft 365 Copilot又很快把風(fēng)頭搶走了。
所以在外界看來(lái)，如今焦慮一詞或許才是谷歌在面對生成式AI、LLM時(shí)，最為真實(shí)的寫(xiě)照。
與此同時(shí)，領(lǐng)導谷歌前進(jìn)的CEO皮查伊持有保守傾向、并且也受到了不少的掣肘，以至于谷歌的AI路線(xiàn)圖目前并不清晰。在這樣的情況下，公司內部的“有識之士”當然也就會(huì )心急如焚。
那么問(wèn)題就來(lái)了，作為在生成式AI賽道落后的谷歌有危機感、內部傳出悲觀(guān)論調再正常不過(guò)，但為什么會(huì )扯上OpenAI呢，或者說(shuō)為什么開(kāi)源AI才是最終的勝利者？
鮮花著(zhù)錦烈火烹油，無(wú)疑是當下OpenAI的境況。別看這家公司現在幾乎是最炙手可熱的投資標的，但據相關(guān)海外科技媒體在近期曝光的新一輪融資文件顯示，OpenAI的估值來(lái)到了290億美元?？梢赖氖?，目前在A(yíng)股，僅僅寒武紀和昆侖萬(wàn)維這兩家AI概念的市值，就已經(jīng)接近這個(gè)數字。換而言之，一手點(diǎn)燃了生成式AI這把火的OpenAI，其實(shí)并沒(méi)有被投資者給出一個(gè)驚人的估值。
在許多業(yè)內人士看來(lái)，OpenAI目前的問(wèn)題在于缺乏一個(gè)清晰的商業(yè)模式，他們現階段唯二可以確定的收入，是一個(gè)月20美元的ChatGPT Plus訂閱服務(wù)，以及1k tokens/0.002美元的ChatGPT API，但這兩者顯然還不足以讓OpenAI盈利。甚至有觀(guān)點(diǎn)認為，OpenAI現在像極了世紀之交的QQ，盡管同樣都是站在相關(guān)領(lǐng)域的最前沿，但也同樣缺乏一個(gè)明朗的商業(yè)化前景。但后來(lái)QQ等來(lái)了QQ秀，目前OpenAI卻暫時(shí)還看不到解決商業(yè)化難題的契機。
事實(shí)上，讓谷歌公司的內部人士對谷歌、OpenAI悲觀(guān)的核心，是生成式AI、或者說(shuō)LLM本身其實(shí)并沒(méi)有太深的護城河。沒(méi)錯，別看ChatGPT、文心一言這類(lèi)產(chǎn)品表現得如此智能，但實(shí)際上打造一個(gè)生成式AI并沒(méi)有大家想象的那么難。
LLM的理論其實(shí)非常簡(jiǎn)單，即通過(guò)分析大量文本數據進(jìn)行訓練，從而學(xué)習語(yǔ)言的結構和模式，其所使用的架構也是是長(cháng)短時(shí)記憶網(wǎng)絡(luò )（Long Short-Term Memory，LSTM）或門(mén)控循環(huán)單元（Gated Recurrent Unit，GRU）等傳統的循環(huán)神經(jīng)網(wǎng)絡(luò )結構。
LLM更像是“力大磚飛”的結果，然而在ChatGPT一鳴驚人前，業(yè)界更青睞的其實(shí)是谷歌的Transformer模型。而后者追求的卻是如何設計出更小、更快，但更準確的神經(jīng)網(wǎng)絡(luò )，甚至于彼時(shí)OpenAI的GPT-3是被業(yè)界作為負面典型進(jìn)行評價(jià)的。當時(shí)就有業(yè)內人士表示，“GPT-3在小樣本學(xué)習中表現出卓越的能力，但它需要使用數千個(gè)GPU進(jìn)行數周的訓練，因此很難重新訓練或改進(jìn)?！?/p>
ChatGPT的成功就成功在它提出了一個(gè)新的思路，畢竟加大參數、加高算力的大模型也是一個(gè)方向，并且真的讓大模型涌現出了智能。但顯而易見(jiàn)的是，這一模式并沒(méi)有護城河。君不見(jiàn)，即使OpenAI對自己基于人類(lèi)反饋的強化學(xué)習（RLHF）技術(shù)秘而不宣，也阻攔不了百度文心一言、阿里通義千問(wèn)、谷歌Bard等等一眾同類(lèi)大模型的出現。
此前李彥宏就曾在百度的內部講話(huà)中提到，“算力不能保證我們能夠在通用人工智能技術(shù)上領(lǐng)先，因為算力是可以買(mǎi)來(lái)的，但創(chuàng )新的能力是買(mǎi)不來(lái)的，是需要自建的”，也就是說(shuō)算力和參數都可以買(mǎi)、技術(shù)壁壘不高。所以也難怪短時(shí)間內國內市場(chǎng)的“百模大戰”就已開(kāi)打，因此先發(fā)優(yōu)勢在這里幾乎不值一提。
當然，如果沒(méi)有Meta的LLaMA模型“意外”在4chan上泄露，LLM的技術(shù)壁壘不高也只是相對大廠(chǎng)而言。但LLaMA模型的被迫開(kāi)源，也讓開(kāi)源社區主導了最近一段時(shí)間針對ChatGPT的“平替”熱潮。
比如說(shuō)來(lái)自斯坦福的Alpaca，借助Llama的預訓練模型為基礎，僅使用來(lái)自GPT模型的一個(gè)小尺寸調優(yōu)數據集（52000個(gè)樣本），就建立了一個(gè)具有對話(huà)功能的LLM。而基于LLaMA模型，以及LoRA （Low-Rank Adaptation of LLM，即插件式的微調）訓練，開(kāi)源社區在不到兩個(gè)月的時(shí)間里已接連發(fā)布了ChatLLaMa、Alpaca、Vicuna、Koala等模型，并且“羊駝家族”們的實(shí)際效果還直追GPT-3.5、甚至不輸GPT-4。
借助社區的力量群策群力，并最終實(shí)現極低成本下的高速迭代，這無(wú)疑就是開(kāi)源AI的優(yōu)勢。就像谷歌這位員工所說(shuō)的那樣，“如果存在一個(gè)沒(méi)有使用限制的免費高質(zhì)量替代品，誰(shuí)還會(huì )為帶有使用限制的谷歌產(chǎn)品買(mǎi)單呢？”
因此從某種意義上來(lái)說(shuō)，谷歌在A(yíng)ndroid上的做法可能才是最佳范例，也就是讓開(kāi)源社區不自覺(jué)地為自己的商業(yè)利益服務(wù)。
所以不得不說(shuō)，LLaMA模型泄露更像是一個(gè)神來(lái)之筆，一下子就讓原本掉隊的Meta實(shí)現了超谷歌、趕OpenAI，畢竟“羊駝家族”就是在Meta的架構之上誕生的產(chǎn)物。
責任編輯：房家輝
分享到：版權聲明：凡注明來(lái)源“流媒體網(wǎng)”的文章，版權均屬流媒體網(wǎng)所有，轉載需注明出處。非本站出處的文章為轉載，觀(guān)點(diǎn)供業(yè)內參考，不代表本站觀(guān)點(diǎn)。文中圖片均來(lái)源于網(wǎng)絡(luò )收集整理，僅供學(xué)習交流，版權歸原作者所有。如涉及侵權，請及時(shí)聯(lián)系我們刪除!關(guān)鍵詞：
