任何一項科技都有兩面性，在生成式AI快速發展的同時，對于其安全性的擔憂如影隨形，倒逼相關國家和地區加快立法進程，為生成式AI健康發展筑起“護欄”。
今年6月，歐洲議會高票通過《人工智能法案》草案，意味著歐洲議會、歐盟成員國和歐盟委員會將開始“三方談判”，以確定法案的最終條款。美國也在積極探討AI監管相關事宜。
【資料圖】
視線回到國內。今年4月，國家互聯網信息辦公室起草了《生成式人工智能服務管理辦法（征求意見稿）》。今年7月，完成修訂后的《生成式人工智能服務管理暫行辦法》（簡稱《辦法》）正式出臺，將于2023年8月15日起施行，這被認為是全球首部生成式AI立法。《辦法》從技術發展與治理、服務規范、監督檢查和法律責任等方面對生成式人工智能做出具體規定，為我國生成式AI今后發展定下基調。
業內人士認為，《辦法》出臺后，合規已經成為大模型廠商的必選項?！掇k法》會給大模型廠商帶來哪些變化？《IT時報》記者詢問了騰訊、阿里云、百度等近十家大模型廠商，但他們都沒有給出正面回應。
01 生成式AI有法可依
7月13日，完成修訂后的《生成式人工智能服務管理暫行辦法》正式出臺，將于2023年8月15日起施行。
對比3個月前發布的《生成式人工智能服務管理辦法(征求意見稿)》就可以發現，《辦法》做了較大改動。
比如，《辦法》新提出“堅持發展和安全并重、促進創新和依法治理相結合”的原則，主張包容審慎和分類分級監管，將鼓勵條款從征求意見稿的一條擴展到三條。
再比如，《辦法》不再強調利用生成式人工智能生成的內容應當真實準確，僅指出要提高生成內容的準確性和可靠性，尊重了大模型技術的新特點。
同時，《辦法》將必須要求用戶提供真實身份信息的要求變更為“生成式人工智能服務提供者應當與注冊其服務的服務使用者簽訂服務協議，明確雙方權利義務”，擴大了服務空間等。
在不少行業人士看來，對互聯網行業來說，《辦法》相比4月份公布的征求意見稿有了很大的進步?！斑@在一般的法規制定上，是不太常見的?！眳R業律師事務所律師史宇航認為，《辦法》的改動，吸納了相關從業者的意見，表明國家在推動生成式AI發展方面的積極態度。
不過，《辦法》并沒有完全解釋行業關心的問題。史宇航指出，針對數據來源合法性如何認定，對不得侵害他人依法享有的知識產權如何理解等問題，《辦法》并沒有給出詳細解釋，只能在后續司法、執法實踐中去摸索，通過相關判例去明確方向。但在史宇航看來，《辦法》的出臺，至少讓國內生成式AI廠商“有法可依”。
02 合規成為“必選項”
《辦法》的出臺，對于大模型廠商而言，將帶來哪些實際影響？
在史宇航看來，《辦法》的出臺，意味著技術將不再是決定大模型廠商發展的唯一因素，合規也將影響到企業的發展速度。而合規能力將直接決定生成式AI的產品、服務能走多遠。
在最新出臺的《辦法》中，第十七條明確指出，提供具有輿論屬性或者社會動員能力的生成式人工智能服務，應當按照國家有關規定開展安全評估，并按照《互聯網信息服務算法推薦管理規定》履行算法備案和變更、注銷備案手續。也就是說，面向公眾的生成式AI想要投入使用，在絕大多數情況下都需要先過備案和安全評估關。
“這就要求企業提前考慮合規的問題?！笔酚詈浇忉屨f，因為生成式AI的合規鏈條非常長，項目的立項、研發、測試、發布、更新、下架每一個環節都涉及大量的合規控制點以及多個備案、申請的關卡，涉及不同領域的法律法規。而在備案階段，企業就需要針對生成式AI涉及的各個流程提交合規證明。一家大模型初創團隊人士就告訴記者，他們最近正是在研究《辦法》，并融入進自家產品的設計中。
具體到企業內部，合規帶來的改變將不僅僅停留在理論層面，而是涉及企業的方方面面。在史宇航看來，合規性的部署必然會觸動到企業底層機制和內容的變化。從企業內部的體系變革、崗位的設置到組織架構的搭建，從產品設計、測試到研發布局，各環節都需要根據合規要求進行調整?！肮镜牧鞒碳軜嫳仨氉龅浇∪?，至少不能只單純考慮技術研發投入的問題?！笔酚詈秸f道。
但對一些企業而言，合規事宜可能會帶來新的問題。由于合規本身需要成本投入，對于一些資金并不充裕的公司而言，需要在研發和合規之間進行權衡。史宇航說：“這可能會拖累企業研發的進度?！?/p>
03 落地執行面臨挑戰
對大部分大模型廠商而言，合規是他們最關心的一個問題，但目前來看，想要將新規落地仍然困難重重。
林暉（化名）最近就接到了幾家公司的合規方案訂單。
“我們也是被幾個客戶逼著做的?！毙乱幇l布后，應客戶要求，林暉和團隊開始拆解新規，根據客戶產品打造定制化的合規方案。
“指導意見并不代表標準答案?！绷謺煾嬖V記者，目前廠商在合規問題上遇到的最大困難就是缺乏具體的應用場景細則。《辦法》雖然搭好了框架，但仍屬于指導性的意見，無法涵蓋所有應用場景，具體的邊界、尺度的把握仍需要企業根據自身的應用場景去摸索?！斑@是一件微妙的事，比如你根據《辦法》制定了10條合規要求，那超出的部分如果出了問題，算不算違規？”林暉表示。
由于生成式AI合規不僅涉及法律法規，還涉及技術層面的操作，這也給合規方案的落地帶來了難度。在林暉看來，想要根據現有的法律法規推演出合適的方案，方案制定人需要在懂法、懂安全、懂技術架構的同時，對公安、網安、網信、金融等所有監管條例都特別清楚。只有如此，才能基于相關機構的監管習慣，去制定方案?！凹幢闳绱?，也不能保證制定的合規方案是正確的?！绷謺熣f。
而在具體的操作中，一個合規方案往往要包括產品合規、業務整改、隱私條款說明等內容，定制化程度非常高，通常需要做到一企一案。
備案環節同樣存在模糊地帶。史宇航認為，由于算法本身難以描述，在備案過程中，企業需要自行摸索描述算法及其安全性的邊界。而在合規性的審核上，往往采取企業自證的方式進行，企業也需要根據自己的實際情況準備材料。他說：“目前還沒有統一的標準，仍然需要企業自己去摸索?！?/p>
今年6月，國家互聯網信息辦公室發布《關于發布深度合成服務算法備案信息的公告》，共有41個生成式AI完成備案，包括釘釘智能客服算法、達摩院開放域自然對話合成算法、百度文生圖內容生成算法、騰訊會議虛擬背景算法、訊飛語音識別算法等。
不過，大多數大模型廠商對備案和合規的內容仍諱莫如深?！禝T時報》記者嘗試采訪了騰訊、阿里云、百度等近十家大模型廠商，都沒有給出正面回應。即便已經通過相關備案，某大廠回應稱，報備流程等方面還處于一個不可描述的階段，無法做正面回應。
責任編輯：房家輝
分享到：版權聲明：凡注明來源“流媒體網”的文章，版權均屬流媒體網所有，轉載需注明出處。非本站出處的文章為轉載，觀點供業內參考，不代表本站觀點。文中圖片均來源于網絡收集整理，僅供學習交流，版權歸原作者所有。如涉及侵權，請及時聯系我們刪除!關鍵詞：
