ChatGPT 爆火:谷歌、Meta 等壓力大,被迫加快 AI 開(kāi)發(fā)和部署

1 月 29 日消息，谷歌、Facebook 和微軟幫助構建了人工智能的框架，但規模較小的初創(chuàng )公司正在將其推向大眾，這迫使科技巨頭們加快 AI 開(kāi)發(fā)速度。據消息人士透露，由于圍繞 ChatGPT 的關(guān)注激增，Meta 和谷歌內部壓力也在增大，甚至可能為了行動(dòng)更快而撇開(kāi)某些潛在的安全擔憂(yōu)。

早在 AI 研究公司 OpenAI 于 2011 年 11 月份首次推出 AI 聊天機器人 ChatGPT 三個(gè)月前，Facebook 母公司 Meta 就曾發(fā)布過(guò)類(lèi)似的聊天機器人。但 Meta 首席人工智能科學(xué)家雅恩?勒昆（Yann LeCun）表示，與 ChatGPT 立即爆火、上線(xiàn)五天里就有 100 多萬(wàn)用戶(hù)不同，Meta 的 Blenderbot 讓人覺(jué)得很無(wú)聊。

ChatGPT 正在迅速成為主流，因為微軟正在努力將其納入其流行的辦公軟件中，并向其他企業(yè)出售該工具的使用權限。微軟最近向 ChatGPT 開(kāi)發(fā)公司 OpenAI 公司投資了數十億美元。根據對六名離職和在職谷歌、Meta 員工的采訪(fǎng)，對 ChatGPT 的關(guān)注激增正在促使包括這兩家公司在內的科技巨頭內部壓力激增，迫使他們更快地采取行動(dòng)，可能會(huì )擱置對某些潛在安全問(wèn)題的擔憂(yōu)。

(資料圖片)

科技巨頭 AI 工具發(fā)布慢受到質(zhì)疑

其中一人表示，在 Meta，員工最近分享了內部備忘錄，敦促公司加快 AI 項目的審批流程，以便利用最新技術(shù)。而谷歌本身就幫助開(kāi)創(chuàng )了支撐 ChatGPT 的部分技術(shù)，該公司最近發(fā)布了圍繞推出 AI 產(chǎn)品的“紅色代碼”，并提出了所謂的“綠色車(chē)道”，以縮短評估和減輕 AI 潛在危害的過(guò)程。

ChatGPT 以及 Dall-E 2、Stable Diffusion 等文本轉圖像等工具，都屬于所謂的生成性人工智能（AIGC）。它們通過(guò)借鑒現有的、人類(lèi)創(chuàng )造的內容來(lái)確定某些模式，以此來(lái)創(chuàng )作自己的作品。這項技術(shù)是由谷歌等大型科技公司首創(chuàng )的，但它們近年來(lái)變得更加保守，只發(fā)布新的模型或演示版本，而對整個(gè)產(chǎn)品保密。與此同時(shí)，像 OpenAI 這樣的研究實(shí)驗室迅速發(fā)布了他們的最新版本，這引發(fā)了人們對谷歌語(yǔ)言模型 Lamda 等企業(yè)產(chǎn)品的質(zhì)疑。

自從像微軟 AI 聊天機器人 Tay 等失敗以來(lái)，科技巨頭們始終都感覺(jué)很緊張。2016 年發(fā)布僅僅不到一天，Tay 就發(fā)布種族歧視等不當言論，導致微軟立即將其關(guān)閉。Meta 為 Blenderbot 進(jìn)行了辯護，并在其發(fā)表種族歧視言論后放棄了它。去年 11 月，另一款名為 Galactica 的 AI 工具因其不夠準確、有時(shí)存在偏見(jiàn)而受到批評，也在短短三天后被下線(xiàn)。

谷歌 AI 部門(mén)的一名員工表示：“人們覺(jué)得 OpenAI 的技術(shù)比這些老牌公司更新、更令人興奮，而且犯下的錯誤更少，他們現在可以逃脫諸多指責?！彼傅氖枪娫敢庠诓荒敲磭栏竦那闆r下接受 ChatGPT。有些 AI 領(lǐng)域的頂尖人才已經(jīng)跳槽到機制更靈活的初創(chuàng )公司，比如 OpenAI 和 Stable Diffusion 等。

有些 AI 倫理學(xué)家擔心，在信任和安全專(zhuān)家能夠研究這些風(fēng)險之前，大型科技公司匆忙進(jìn)入市場(chǎng)可能會(huì )讓數十億人面臨潛在的危害，比如分享不準確的信息、生成假圖像或讓學(xué)生有能力在學(xué)?？荚囍凶鞅?。該領(lǐng)域的其他人也認同 OpenAI 的理念，即向公眾發(fā)布工具是評估現實(shí)世界危害的唯一途徑。在減輕了某些可預測的風(fēng)險后，向公眾發(fā)布工具通常名義上處于“測試期”。

創(chuàng )企搶先發(fā)布 AI 工具獲巨大優(yōu)勢

Meta 基礎 AI 研究部門(mén)董事總經(jīng)理喬爾?皮諾（Joelle Pineau）說(shuō)：“AI 的發(fā)展速度快得令人難以置信，我們一直在關(guān)注這個(gè)領(lǐng)域，并確保我們擁有高效的審查流程，但當務(wù)之急是做出正確的決定，并發(fā)布最適合我們社區的 AI 模型和產(chǎn)品?！?/p>

谷歌發(fā)言人林莉莉 (Lily Lin) 表示：“我們相信，AI 是一項基礎性和變革性技術(shù)，對個(gè)人、企業(yè)和社區都非常有用。我們需要考慮這些創(chuàng )新可能產(chǎn)生的更廣泛的社會(huì )影響。我們繼續在內部測試我們的 AI 技術(shù)，以確保它能提供幫助，并能夠安全使用?！?/p>

微軟通信主管弗蘭克?肖（Frank Shaw）稱(chēng)，當微軟在其產(chǎn)品中使用 DALE-2 等 AI 工具，并將與 OpenAI 合作時(shí)，該公司將構建額外的安全措施。他說(shuō)：“微軟多年來(lái)始終在致力于推動(dòng) AI 領(lǐng)域的發(fā)展，并公開(kāi)指導如何以負責任和符合道德的方式在我們的平臺上創(chuàng )建并使用這些技術(shù)?！?/p>

美國佐治亞理工學(xué)院計算機教授、機器學(xué)習專(zhuān)家馬克?里德?tīng)枺∕ark Riedl）表示，ChatGPT 背后的技術(shù)不一定比谷歌和 Meta 開(kāi)發(fā)的技術(shù)更好，但其發(fā)布語(yǔ)言模型供公眾使用的做法給了它巨大優(yōu)勢。里德?tīng)栒f(shuō)：“在過(guò)去的兩年里，他們始終在利用一群人類(lèi)向 GPT 提供反饋，比如對不合適或不滿(mǎn)意的答案給予‘否定’，這個(gè)過(guò)程被稱(chēng)為“從人類(lèi)反饋中強化學(xué)習”。

科技巨頭愿意冒險加速部署 AI 工具

在科技股暴跌之際，硅谷突然愿意考慮承擔更多的聲譽(yù)損失風(fēng)險。當谷歌上周裁員 1.2 萬(wàn)人時(shí)，其首席執行官桑達爾?皮查伊（Sundar Pichai）寫(xiě)道，該公司已經(jīng)進(jìn)行了嚴格的審查，將重點(diǎn)放在最優(yōu)先事項上，并兩次提到了其對 AI 的早期投資。

十年前，谷歌成為 AI 領(lǐng)域無(wú)可爭辯的領(lǐng)導者。2014 年，谷歌收購了尖端 AI 實(shí)驗室 DeepMind，并于 2015 年開(kāi)源了其機器學(xué)習軟件 TensorFlow。到 2016 年，皮查伊承諾將谷歌轉變?yōu)橐患摇癆I 優(yōu)先”的公司。次年，谷歌發(fā)布了轉換器，這是其軟件架構的關(guān)鍵部分，掀起了當前的生成式 AI 浪潮。

谷歌不斷推出更先進(jìn)的技術(shù)，推動(dòng)整個(gè)領(lǐng)域向前發(fā)展，在語(yǔ)言理解方面取得了許多突破，幫助改進(jìn)了谷歌搜索。在大型科技公司內部，審查尖端 AI 道德影響的制衡體系沒(méi)有確保隱私或數據安全那么成熟。通常，由 AI 研究人員和工程師組成的團隊會(huì )就他們的發(fā)現發(fā)表論文，將他們的技術(shù)整合到公司現有的基礎設施中，或者開(kāi)發(fā)新產(chǎn)品，這一過(guò)程有時(shí)可能會(huì )與其他負責 AI 開(kāi)發(fā)的團隊產(chǎn)生沖突，因為他們面臨著(zhù)將創(chuàng )新更快推向公眾的壓力。

谷歌在 2018 年發(fā)布了其著(zhù)名的 AI 原則，此前員工曾抗議 Project Maven（為美國國防部無(wú)人機提供計算機視覺(jué)的合同），消費者對 Duplex（可以呼叫餐廳并進(jìn)行訂餐的 AI 系統）的演示也表示強烈反對。去年 8 月，谷歌開(kāi)始通過(guò)其應用程序 AI Test Kitchen 向消費者提供限量版 LaMDA。前谷歌軟件工程師布萊克?萊莫因（Blake Lemoine）聲稱(chēng)，他相信 LaMDA 存在感知能力，但該功能還沒(méi)有完全向公眾發(fā)布，谷歌計劃在 2022 年底這樣做。

但這些技術(shù)進(jìn)步背后的頂尖 AI 人才卻正變得焦躁不安。在過(guò)去 1 年左右的時(shí)間里，谷歌許多頂級 AI 研究人員離職，成立了圍繞大型語(yǔ)言模型的初創(chuàng )公司，包括 Character.AI、Cohere、Adept、Inflection.AI 以及 Inworld AI 等。此外，還有使用類(lèi)似模型開(kāi)發(fā)聊天界面的搜索初創(chuàng )公司，例如由谷歌前高管斯里達爾?拉馬斯瓦米（Sridhar Ramaswamy）運營(yíng)的 Neeva。

Character.AI 創(chuàng )始人諾姆?沙澤（Noam Shazeer）幫助發(fā)明了轉換器和其他核心機器學(xué)習架構。他表示，用戶(hù)數據的飛輪效應是無(wú)價(jià)的。當他首次將用戶(hù)反饋應用于 Character.AI 時(shí)，參與度上升了 30% 以上。Character.AI 允許任何人根據對真人或虛構人物的簡(jiǎn)短描述來(lái)生成聊天機器人。

在 Google Brain 工作了三年的尼克?弗羅斯特（Nick Frosst）說(shuō)，像谷歌和微軟這樣的大公司通常都專(zhuān)注于利用 AI 來(lái)改進(jìn)他們龐大的現有商業(yè)模式。弗羅斯特在多倫多與人聯(lián)合創(chuàng )立了 Cohere，這是一家創(chuàng )建大型語(yǔ)言模型的初創(chuàng )公司，可以定制這些模型來(lái)幫助企業(yè)。他的創(chuàng )業(yè)伙伴艾丹?戈麥斯（Aidan Gomez）在谷歌工作時(shí)也幫助開(kāi)發(fā)了轉換器。弗羅斯特說(shuō)：“這個(gè)領(lǐng)域發(fā)展得如此之快，對我來(lái)說(shuō)，領(lǐng)先的都是小公司并不令人感到驚訝?！?/p>

在過(guò)去的十年里，AI 領(lǐng)域經(jīng)歷了幾次炒作周期，但對 Dall-E 和 ChatGPT 的狂熱達到了新的高度。在 OpenAI 發(fā)布 ChatGPT 后不久，推特上的科技網(wǎng)紅開(kāi)始預測，AIGC 將預示著(zhù)谷歌搜索的衰亡。ChatGPT 以一種可訪(fǎng)問(wèn)的方式提供簡(jiǎn)單的答案，并且不要求用戶(hù)在藍色鏈接中搜索。此外，在發(fā)布 25 年之后，谷歌的搜索界面變得臃腫起來(lái)，充斥著(zhù)試圖利用該系統的廣告和營(yíng)銷(xiāo)人員。

技術(shù)專(zhuān)家 Can Duruk 在他的時(shí)事通訊《Margins》上寫(xiě)道：“由于他們的壟斷地位，谷歌已經(jīng)讓他們曾經(jīng)令人難以置信的搜索體驗退化成了垃圾郵件泛濫、搜索引擎驅動(dòng)的地獄?！?/p>

AI 消費產(chǎn)品蘊藏巨大盈利潛力？

在匿名應用 Blind 上，科技工作者發(fā)布了數十個(gè)關(guān)于谷歌能否與 ChatGPT 競爭的問(wèn)題。著(zhù)名研究科學(xué)家 David Ha 在推特上寫(xiě)道：“如果谷歌不采取行動(dòng)，開(kāi)始發(fā)布類(lèi)似應用，他們將被載入史冊：它培養了整整一代機器學(xué)習研究人員和工程師，而這些研究人員和工程師后來(lái)又在其他公司部署了這項技術(shù)?！弊罱?，David Ha 離開(kāi) Google Brain，加盟開(kāi)源文本轉圖像的初創(chuàng )公司 Stable Diffusion。

谷歌的員工們表示，仍留在公司內部的 AI 工程師和他一樣沮喪。多年來(lái)，員工們始終在發(fā)送備忘錄，表示要在搜索中加入 AI 聊天功能。但他們也明白，谷歌有合理的理由不急于改變其搜索產(chǎn)品。如果聊天機器人直接通過(guò)谷歌搜索回答問(wèn)題，如果該答案被發(fā)現是有害的或抄襲的，則可能會(huì )增加它的責任。

像 OpenAI 這樣的聊天機器人經(jīng)常犯事實(shí)性錯誤，并經(jīng)常根據問(wèn)題的提問(wèn)方式改變答案。一位前谷歌 AI 研究員表示，從提供一系列直接鏈接到原始材料的問(wèn)題的答案，轉向使用聊天機器人給出單一、權威的答案，將是一個(gè)重大轉變，讓谷歌內部的許多人感到緊張。這位知情人士說(shuō)，谷歌不想承擔這種提供單一答案的角色或責任。之前的搜索更新，比如添加即時(shí)答案，都是非常緩慢而謹慎進(jìn)行的。

然而，在谷歌內部，對 AI 安全流程的部分失望來(lái)自一種感覺(jué)，即由于擔心負面宣傳，尖端技術(shù)從未作為產(chǎn)品發(fā)布。比方說(shuō)，有些 AI 模型存在偏見(jiàn)。

據一位了解公司內部討論情況的人士透露，Meta 員工還不得不應對公司對糟糕公關(guān)的擔憂(yōu)。在推出新產(chǎn)品或發(fā)表研究成果之前，Meta 員工必須回答有關(guān)宣傳其工作的潛在風(fēng)險問(wèn)題，包括其研究如何可能被誤解。有些項目由公關(guān)人員以及內部合規專(zhuān)家進(jìn)行審查，這些專(zhuān)家確保該公司的產(chǎn)品符合 2011 年聯(lián)邦貿易委員會(huì )關(guān)于如何處理用戶(hù)數據的協(xié)議。

對于非營(yíng)利組織“分布式 AI 研究所”（Distributed AI Research Institute）的執行董事蒂姆尼特?格布魯（Timnit Gebru）來(lái)說(shuō)，谷歌將其負責任 AI 團隊邊緣化的前景并不一定意味著(zhù)權力或安全擔憂(yōu)的轉移，因為那些警告潛在危害的人從一開(kāi)始就沒(méi)有得到授權。

從格布魯的角度來(lái)看，谷歌發(fā)布 AI 工具的速度很慢，因為該公司缺乏足夠強大的商業(yè)動(dòng)機，不愿冒著(zhù)聲譽(yù)受損的風(fēng)險。然而，在 ChatGPT 發(fā)布后，谷歌可能會(huì )看到其從這些消費產(chǎn)品中賺錢(qián)的能力發(fā)生了變化，而不僅僅是為搜索或在線(xiàn)廣告提供動(dòng)力。格布魯稱(chēng)：“現在他們可能認為這對他們的核心業(yè)務(wù)構成了威脅，所以或許他們應該冒險一試?！?/p>

拉姆曼?喬杜里（Rumman Chowdhury）曾領(lǐng)導推特的機器學(xué)習倫理團隊，直到去年 11 月埃隆?馬斯克（Elon Musk）解散了該團隊。她表示，她預計谷歌等公司在爭先恐后地追趕 OpenAI 的過(guò)程中，將越來(lái)越多地將內部批評者和倫理學(xué)家排擠在外。她說(shuō)：“我們原來(lái)以為是中國在推動(dòng)美國 AI 技術(shù)進(jìn)步，但現在看起來(lái)像是初創(chuàng )企業(yè)在背后發(fā)力?！?/p>

權威！全面！便捷！行業(yè)人都在關(guān)注的視頻號 ——

責任編輯：房家輝

關(guān)鍵詞： 初創(chuàng )公司 機器學(xué)習 研究人員