當前熱門(mén)：AI向善之惑:要不要給大模型裝上“紅綠燈”?

隨著(zhù)ChatGPT迅速破圈，AIGC（AI Generated Content)被看作繼PGC、UGC之后新型利用AI技術(shù)自動(dòng)生產(chǎn)內容的生產(chǎn)方式。而AIGC的快速迭代演變，讓大模型應用落地有了新領(lǐng)域，國內企業(yè)紛紛跟進(jìn)大模型研究應用。大模型在帶來(lái)變革性體驗的同時(shí)，也帶來(lái)內容安全、隱私保護、侵權、結果合法性等諸多隱憂(yōu)，在鼓勵創(chuàng )新的同時(shí)，如何規范科技向善？

大突破帶來(lái)新問(wèn)題

(資料圖片僅供參考)

AIGC推動(dòng)人工智能從感知理解世界到生產(chǎn)創(chuàng )造世界。內容創(chuàng )作模式由早期專(zhuān)業(yè)制作（PGC）、用戶(hù)制作（UGC）發(fā)展到AI輔助用戶(hù)制作（AIUGC），再到目前AIGC(人工智能創(chuàng )作內容)。備受關(guān)注的OpenAI近日發(fā)布的GPT-4，即是一個(gè)多模態(tài)大模型（接受圖像和文本輸入，生成文本）。

在國內，大型互聯(lián)網(wǎng)公司早已進(jìn)入大模型研究領(lǐng)域，隨著(zhù)AIGC的火熱，國內企業(yè)在大模型的布局也紛紛浮出水面。我國超大模型不僅不落后于國外同類(lèi)產(chǎn)品，在某些領(lǐng)域還能實(shí)現反超。

專(zhuān)家預測，到2030年，合成數據（Synthetic data）將取代真實(shí)數據成為AI模型所使用數據的主要來(lái)源?！凹軜嫿y一、模態(tài)統一、任務(wù)統一的通用多模態(tài)大模型逐漸成為人工智能研究的一大趨勢?！?strong>京東集團副總裁、IEEE Fellow何曉冬在接受《通信產(chǎn)業(yè)報》全媒體記者采訪(fǎng)時(shí)表示，多模態(tài)大模型是人工智能技術(shù)從限定領(lǐng)域的弱人工智能邁向通用人工智能路徑的重要途徑。通用多模態(tài)大模型將逐漸在人工智能領(lǐng)域扮演著(zhù)基礎模型的角色。

當前人工智能技術(shù)三要素包括數據、算法、算力，然而數據往往是靜態(tài)的、算法是單一任務(wù)驅動(dòng)。何曉冬認為，未來(lái)會(huì )升級為場(chǎng)景、系統、算力新三要素，包括復雜交互智能場(chǎng)景及其產(chǎn)生的動(dòng)態(tài)數據、多任務(wù)協(xié)同和多算法融合的系統和能支撐復雜場(chǎng)景與系統的新型算力，從而讓計算機能深度地理解真實(shí)世界及解決重大的真實(shí)問(wèn)題，提升智能系統的通用性、適應性和任務(wù)完成率。新一代融合性智能需要能基于“活的”交互場(chǎng)景去迭代和發(fā)展，包括人與智能體的交互、以及多智能體之間的交互，將成為人工智能的一個(gè)新發(fā)展趨勢。

盡管大模型本身還存在一些技術(shù)挑戰和不完善，但人們已經(jīng)看到了其威力，甚至已對現行治理帶來(lái)了不利影響。

隱私、偏見(jiàn)、侵權……

全球前2%頂尖科學(xué)家榜單入選者、聯(lián)通數科首席AI科學(xué)家廉士國向《通信產(chǎn)業(yè)報》全媒體記者表示，一方面，它并不是按照人類(lèi)創(chuàng )作內容的方式學(xué)習的，并未學(xué)習到創(chuàng )作的本質(zhì)，貌似有對已有內容的風(fēng)格模仿和元素重組，其產(chǎn)生的內容可能存在版權侵權風(fēng)險。例如，仿照畢加索風(fēng)格繪畫(huà)，仿照某作家風(fēng)格寫(xiě)小說(shuō)，合成一段明星人物的語(yǔ)音，將圖片或視頻中人物面部替換，生成某人的高仿數字化身等。

另一方面，它是以數據驅動(dòng)為主構建的，依然存在深度學(xué)習的不可解釋性、不公平性等問(wèn)題，其產(chǎn)生的內容可能存在不真實(shí)、不合規等的風(fēng)險。例如，同樣的問(wèn)題不同的問(wèn)法，ChatGPT會(huì )給出不同的回答、繪畫(huà)AI會(huì )產(chǎn)生不同的畫(huà)作，甚至會(huì )生成違背事實(shí)的、歧視性的文字/圖畫(huà)內容等。

與PGC、UGC相比，AIGC提升了內容生產(chǎn)效率，但當AIGC內容不可控時(shí)，相應的應用風(fēng)險也會(huì )增大。例如，AIGC技術(shù)讓內容創(chuàng )作更容易了，這也會(huì )降低侵權、造假等的成本，而增加監管的成本；AIGC技術(shù)使得批量快速生成內容成為現實(shí)，這可能帶來(lái)蓄意控制輿情走向的潛在風(fēng)險。

何曉冬表示，隨著(zhù)人工智能應用的深入，其自身的技術(shù)缺陷以及帶來(lái)的隱私倫理、決策偏見(jiàn)、使用安全等問(wèn)題引發(fā)了信任危機。技術(shù)上，算法脆弱易受攻擊帶來(lái)的危險性；黑箱模型導致算法不透明，使得人們無(wú)法直觀(guān)理解決策背后的原因。應用上，訓練數據中存在的偏見(jiàn)導致公平性缺失；以人臉識別技術(shù)為代表的生物識別信息的頻繁使用增加了隱私泄露的可能。倫理上，人工智能系統決策復雜，難以界定責任主體，帶來(lái)倫理安全問(wèn)題。

用AI治理AI

通信行業(yè)法律觀(guān)察家伍霞表示，雖然監管層面已緊密跟蹤了新技術(shù)新業(yè)態(tài)，針對互聯(lián)網(wǎng)信息服務(wù)算法推薦、深度合成等出臺了相關(guān)管理規定，但隨著(zhù)實(shí)踐創(chuàng )新加速，立法與執法都需要結合具體場(chǎng)景加強預判性。

“人工智能領(lǐng)域的專(zhuān)家們已經(jīng)開(kāi)始考慮用技術(shù)手段來(lái)鑒別AI生成的內容?！?/strong>廉士國表示，通過(guò)人工規則來(lái)判斷內容合法性、通過(guò)文本內容統計分析及添加文本水印等方法來(lái)鑒權等。我們相信，除了技術(shù)手段之外，相關(guān)的數字治理制度也將啟動(dòng)建立。

“我們需要構建安全可信的人工智能治理體系”何曉冬表示。

所謂“道高一尺，魔高一丈”，技術(shù)演進(jìn)需要有相應的治理配套技術(shù)的跟進(jìn)。廉士國認為，AIGC的健康發(fā)展依賴(lài)于通過(guò)提升技術(shù)成熟度、升級監管手段、健全政策法規等來(lái)完善可控性，包括AIGC可解釋性技術(shù)創(chuàng )新、AIGC內容合規檢測、AIGC內容盜版監測、AIGC內容溯源、AIGC適用法律法規配套、AIGC用戶(hù)風(fēng)險意識培訓等。

何曉冬認為，加強魯棒性、可解釋性、隱私保護等方面的技術(shù)研究，解決當前應用人工智能時(shí)所遇到的問(wèn)題，增強大眾對人工智能的信任，確保應用和服務(wù)在最大程度上減少偏見(jiàn)，促進(jìn)人工智能健康高質(zhì)量發(fā)展。

此外，國家知識產(chǎn)權局專(zhuān)家王雷表示，大模型健康有序發(fā)展，從專(zhuān)利方面需要從兩個(gè)角度開(kāi)展工作。一是利用專(zhuān)利文獻，梳理AIGC的技術(shù)發(fā)展脈絡(luò )、技術(shù)硬核、技術(shù)未來(lái)發(fā)展的趨勢。通過(guò)專(zhuān)利文獻的梳理具有很大的價(jià)值，可以幫助中國產(chǎn)業(yè)界從全景（Big Picture）看整個(gè)技術(shù)體系，尋找有利的切入點(diǎn)和生發(fā)點(diǎn)。二是專(zhuān)利是一種獨占性的保護權利，其實(shí)施要獲得專(zhuān)利權人的許可。發(fā)展技術(shù)需要早期就關(guān)注到專(zhuān)利權的分布，避開(kāi)雷區和禁區，或者在有利條件下購買(mǎi)專(zhuān)利許可，避免未來(lái)產(chǎn)品和服務(wù)面臨的專(zhuān)利風(fēng)險。

在A(yíng)I等新興技術(shù)應用發(fā)展中，統籌好發(fā)展與安全尤為重要。伍霞認為，網(wǎng)絡(luò )安全方面，當人類(lèi)無(wú)法輕易分辨對話(huà)背后究竟是機器還是真人時(shí)，電信網(wǎng)絡(luò )詐騙等違法犯罪行為打擊的難度和壓力也將陡增。所以，更深層次而言，在A(yíng)IGC的飛速發(fā)展中，還應關(guān)注文化安全。

“有理由相信，AIGC的快速發(fā)展終將會(huì )促進(jìn)人類(lèi)的進(jìn)步”廉士國表示。

科技向善是技術(shù)發(fā)展的基本倫理，我們有理由相信，AI大模型能“善”解人意，我們也應該擁抱大模型，在發(fā)展中完善，在進(jìn)步中規范。技術(shù)沒(méi)問(wèn)題，問(wèn)題只會(huì )出現在用它的人身上。

【關(guān)注】第四屆2023中國智慧屏行業(yè)發(fā)展峰會(huì )正在火熱進(jìn)行中！點(diǎn)擊碼上報名！

責任編輯：房家輝