ChatGPT的熱浪席卷全球，當人們在討論AI有多強大的同時，也會關(guān)注AI的“可怕之處”——一方面源于技術(shù)本身，人工智能會出現(xiàn)“幻覺”，就是我們所說的“一本正經(jīng)的胡說八道”。另外一方面，源于人類的“濫用”——侵犯知識產(chǎn)權(quán)、傳播虛假信息、違規(guī)使用數(shù)據(jù)等等。如何讓人類與AI更和諧美好地共處，是擺在我們面前越來越嚴峻且復(fù)雜的問題。本期為《AIGC未來指北》系列內(nèi)容第三期，我們和清華的教授聊了將近4個小時，請他分享了人工智能治理中，關(guān)于弱勢群體保護、知識產(chǎn)權(quán)、及數(shù)據(jù)治理等最受關(guān)注的幾個問題，下文為對話精華內(nèi)容整理。

劃重點

● 保護自身辨別能力不足的弱勢群體，研發(fā)AI產(chǎn)品的平臺要做好“守門人”的工作，一方面在產(chǎn)品上標注“識別標記”，如數(shù)字水印等，另外一方面，要讓產(chǎn)品使用軌跡可追溯，責(zé)任能落實到人。

(資料圖片僅供參考)

●對待新技術(shù)的發(fā)展，敏捷治理的思路是，在可控范圍內(nèi)容讓“領(lǐng)先用戶”先順暢地進來，去體驗；同時在公測階段就考慮到“治理的邊界性問題”。

●近日，美歐達成了“人工智能促進公共利益行政協(xié)議”，值得注意的是，美歐雙方此次在AI領(lǐng)域的合作并不以數(shù)據(jù)共享為前提，雙方在數(shù)據(jù)流通上仍有所保留?！皵?shù)據(jù)不動，聯(lián)合建?！?，有可能成為未來各國在數(shù)據(jù)領(lǐng)域合作的新范式。

01 破解“克林格里奇困境”，要靠更敏捷的治理思路

Q1：如何降低利用 AI 傳播虛假信息和敏感信息的風(fēng)險?一旦出現(xiàn)虛假信息如何鑒別，并降低對大眾的影響?

梁正：《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》已經(jīng)2022年11月3日國家互聯(lián)網(wǎng)信息辦公室2022年第21次室務(wù)會議審議通過，并自2023年1月10日起施行。另外，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》已經(jīng)2021年11月16日國家互聯(lián)網(wǎng)信息辦公室2021年第20次室務(wù)會議審議通過，并自2022年3月1日起施行。當前國內(nèi)算法治理的框架已較為清晰，[1]但人工智能產(chǎn)業(yè)發(fā)展尚在早期，相關(guān)規(guī)定怎樣去落實，也還有很多問題需要解決。在人工智能，特別是機器學(xué)習(xí)領(lǐng)域，最典型的特征是不存在放之四海而皆準的通用解決方案。針對AI傳播虛假信息這件事，要分層來看：

①目前ChatGPT只是在公測階段，大家使用它，大部分也都是娛樂性的聊天，它的回應(yīng)到底有多靠譜，可能并沒有太多人去認真追究，頂多會調(diào)侃一句”它在一本正經(jīng)地胡說八道“。

②未來，當ChatGPT真正被使用到專用場景的時候，比如法律服務(wù)、金融服務(wù)的時候，真實性、嚴謹性問題就變得特別重要。

③但是，往往在非專用場景下，大家不太關(guān)注它的嚴謹性和真實性，警惕性放松，更容易被AI迷惑。這時候怎么辦？我認為還是要把責(zé)任歸因到具體的人。首先是使用者，使用了AI的人，應(yīng)該選擇標識出來，這樣，看到AI生成內(nèi)容的人，就可以選擇相信或者不相信。

另外，對一些老年人、未成年人，自身的辨別能力不足，這時候，不僅僅是使用者，也要對服務(wù)的提供方（平臺方），提出具體的要求，從我的平臺生成的內(nèi)容，是需要有明確的標識的，平臺要做好“守門人”的工作。就好像現(xiàn)在的互聯(lián)網(wǎng)電商平臺，我們把“打假”的責(zé)任也給到了平臺方，指望用戶去打假是不現(xiàn)實的。

既然平臺提供了自動化的服務(wù)，就有義務(wù)去幫助用戶鑒別和防范。之前網(wǎng)信辦強調(diào)“要壓實互聯(lián)網(wǎng)主體責(zé)任”，這句話落實的一個點就是，當大平臺“手中有矛”的時候，更要落實自己的責(zé)任。我們看到國外大公司對這點十分看重，我們能注意到，當有新的技術(shù)誕生的時候，其實并不需要出臺一個專門的規(guī)定去約束這種新技術(shù)或新產(chǎn)品。因為國外的法律體系中，如果某個公司的產(chǎn)品出現(xiàn)問題，這個公司肯定是第一責(zé)任人。

Q2：從AI公司的角度來講，如何把好第一道關(guān)？

梁正：對公司來講，最佳解決方案是在產(chǎn)品上標注“識別標記”，數(shù)字水印可能是其中一個解決方案，還可以有其它的辦法，核心是對平臺產(chǎn)生的內(nèi)容做標注：首先可以識別這條內(nèi)容是AI生成的、并不是人類創(chuàng)作的；另外，可以識別這條內(nèi)容是在哪個平臺生成的，由哪個用戶生成并傳播出去的。這樣，有清晰的追溯鏈條，就能更清晰地定義責(zé)任人。我們看到OpenAI實際上已經(jīng)在這樣做了，推出了AI識別的工具，所謂的“用魔法打敗魔法”。

OpenAI針對內(nèi)容的識別并作出判斷，圖源：網(wǎng)絡(luò)

Q3、新技術(shù)發(fā)展初期，如何破解“科林格里奇困境”?監(jiān)管政策如何在確保新技術(shù)發(fā)展空間的同時，有效降低風(fēng)險?

梁正：科林格里奇困境是指，在新技術(shù)發(fā)展的初期，當問題還沒出現(xiàn)時，你無法預(yù)見它會帶來怎樣的問題，但是問題出現(xiàn)以后再去解決又太晚。歷次我們經(jīng)歷新技術(shù)的爆發(fā)，都會碰到這個問題。

我們現(xiàn)在的解決辦法應(yīng)該聚焦在“對新技術(shù)有沒有更敏捷的治理思路”？新技術(shù)在實驗和推廣過程中，可以先控制在可控的范圍內(nèi)，不要一下子大范圍鋪開，比如金融領(lǐng)域已經(jīng)在采用的沙箱監(jiān)管、自動駕駛領(lǐng)域的先行實驗區(qū)。以前我們很少首先考慮到商業(yè)價值，一般更先講到“新技術(shù)到底有什么危害”。但敏捷治理的思路是，應(yīng)該讓所謂的“領(lǐng)先用戶”先順暢地進來，去體驗和探索，然后不斷迭代。就像小米剛剛開始推MIUI的時候，也是先有一批種子用戶，讓用戶參與到產(chǎn)品開發(fā)設(shè)計中來，這個思路可以被推廣到新興技術(shù)的治理上，也就是國外現(xiàn)在講到的負責(zé)任的創(chuàng)新。

其次，之前的所謂的公測階段，更多是從產(chǎn)品體驗、底層代碼等角度考慮，其實應(yīng)該在公測階段就加入“治理的邊界性問題”，也就是同時進行治理規(guī)則的實驗，這種治理不應(yīng)該只是自上而下的，而是更大程度上是由業(yè)界首先意識到，并提出治理的需求和方案，后來才有監(jiān)管者監(jiān)督。業(yè)界要有主動治理的意識，變成企業(yè)社會責(zé)任的一部分。

現(xiàn)在我們又處于一輪新技術(shù)發(fā)展的初期階段，產(chǎn)品設(shè)計上要有價值觀的嵌入，如果不考慮這個因素，它帶來的問題可能很大程度上要靠事后的規(guī)制，這是很難從根本上解決問題的。因為規(guī)則不是從某個個體的角度就能識別出來，必須在應(yīng)用的過程中才能識別出來，應(yīng)當盡量避免造成大面積的傷害之后才能定位到相關(guān)問題上。

Q4：在新技術(shù)誕生之時，國外有沒有成熟的治理經(jīng)驗可以借鑒？

梁正：由于法律體系的不同，在英美法系國家，不需要法律有具體的規(guī)定，法官的判例就可以作為判罰依據(jù)，特別是在新興領(lǐng)域，大量的法律積累就是來源于新的問題出現(xiàn)之后，法官怎么判，宣判以后又可以作為其他法官來判刑的依據(jù)。最終積累很多案例之后，會找到一個共識，那么就會寫入法條，甚至最后形成法典。我們國家是大陸法系，采用的是成文法，習(xí)慣在法律規(guī)定中窮盡可能的情境，這其實在新興技術(shù)治理上很難做到。對新技術(shù)領(lǐng)域用判例去解決，更加敏捷靈活。在美國，如果有用戶認為自己的利益受損，就有權(quán)基于相關(guān)法律、包括憲法賦予的權(quán)利去起訴。所以美國的公司，對于推出新的技術(shù)、產(chǎn)品十分謹慎，因為一旦出現(xiàn)重大失誤，即使沒有相關(guān)的法律法規(guī)推出，只要基于憲法去提起訴訟，最終這家公司因為推出新產(chǎn)品不謹慎而犯下的某個失誤，就有可能給自己造成滅頂之災(zāi)。

02 AIGC內(nèi)容的知識產(chǎn)權(quán)之爭

Q5：利用AI生成內(nèi)容是“高科技剽竊”嗎？

梁正：圍繞AIGC的版權(quán)界定問題，一直是爭論焦點，目前業(yè)界也很難有清晰的答案。本質(zhì)上來講，界定是不是剽竊的唯一標準應(yīng)當是生成新內(nèi)容后新信息的含量。不同國家關(guān)于著作權(quán)的法律規(guī)定當中，新穎性、創(chuàng)造性都是構(gòu)成實體要求的基本條件。目前來看AIGC只能發(fā)現(xiàn)關(guān)聯(lián)性，并不能發(fā)現(xiàn)因果性，所以可能并不能無中生有，創(chuàng)造嚴格意義上的新內(nèi)容。但是未來是否量變會引起更大的質(zhì)變，目前尚很難判定。

引發(fā)爭議的AIGC作品，《太空歌劇院》圖源：網(wǎng)絡(luò)

從產(chǎn)業(yè)發(fā)展的角度來看，如果把AI生成內(nèi)容的著作權(quán)給了使用者，有利于使用者創(chuàng)作優(yōu)質(zhì)內(nèi)容，比如新聞、文學(xué)藝術(shù)創(chuàng)作，可以繁榮創(chuàng)意和創(chuàng)作，激勵創(chuàng)作者，這個創(chuàng)作者是人，基本假定人是創(chuàng)意的來源。但如果大量內(nèi)容都界定給使用者，對于優(yōu)質(zhì)工具的提供者而言激勵不足，也會影響到此類工具開發(fā)者的積極性。

雖然目前在立法上，還沒有明文規(guī)定，但是業(yè)界還是有一定的共識：比如，在科學(xué)研究領(lǐng)域，本來研究成果是為了人類共享，所以對于之前研究的引用，即使是借用了AI，一般標明署名和出處，可追溯就好；而基于商業(yè)目的的創(chuàng)作，把別人的作品打散重組，比如說小說、文學(xué)作品，肯定是不受歡迎的，如果沒有標注或聲明，是有侵權(quán)嫌疑的。

03 探索人工智能領(lǐng)域“數(shù)據(jù)合作”新范式

Q6：隨著AI產(chǎn)業(yè)的發(fā)展，數(shù)據(jù)資源變得無比重要，近日，美國與歐盟達成了一項號稱“關(guān)乎互聯(lián)網(wǎng)未來”的人工智能合作協(xié)議，這對我們的數(shù)據(jù)治理有什么啟示？

梁正：2023年2月，美歐達成了“人工智能促進公共利益行政協(xié)議”，擬在預(yù)測極端天氣和應(yīng)對氣候變化、應(yīng)急響應(yīng)、醫(yī)保事業(yè)、電網(wǎng)運行，以及農(nóng)業(yè)發(fā)展等五大重點領(lǐng)域帶來公共利益。值得注意的是，美歐雙方此次在AI領(lǐng)域的合作并不以數(shù)據(jù)共享為前提，雙方在數(shù)據(jù)流通上仍有所保留。

這件事涉及的領(lǐng)域更大一些，我們一直討論的ChatGPT所使用的底層數(shù)據(jù)，其實更多的是互聯(lián)網(wǎng)領(lǐng)域公共、公開的數(shù)據(jù)。而美國與歐美達成合作協(xié)議所講的數(shù)據(jù)，則可能來源于公共部門和社會領(lǐng)域，涉及到公共安全、個人隱私等，它與公開數(shù)據(jù)不同，但這個合作模式對未來的數(shù)據(jù)治理提供了很大的啟示。

關(guān)于數(shù)據(jù)的流動，從技術(shù)發(fā)展的角度來講，大家最希望能有一個共享的數(shù)據(jù)池，在上面去做訓(xùn)練肯定效果最好，但是這里涉及到數(shù)據(jù)安全、隱私、版權(quán)、產(chǎn)權(quán)等各種復(fù)雜的問題。即使美歐在數(shù)據(jù)問題上經(jīng)過這么長時間談判，也并不能做到“共享數(shù)據(jù)池”

美歐現(xiàn)在達成的“聯(lián)合建?！蹦Ｊ娇赡苁俏磥淼目梢钥紤]的解決方式之一。過去大家的想法是要“讓數(shù)據(jù)動”，但數(shù)據(jù)一動就會帶來一系列問題，如匿名化的問題、數(shù)據(jù)安全的問題等等。其實從公司的角度來講，真正要做到匿名化是做不到的，怎么辦？現(xiàn)在的方向就是往多方可信安全計算、聯(lián)邦學(xué)習(xí)等方向去做。聯(lián)邦學(xué)習(xí)的模式，可以讓數(shù)據(jù)不動，只要最后共同建模，得到分析結(jié)果，就能解決很大的問題。比如在自動駕駛領(lǐng)域，各個國家都很難去分享交通數(shù)據(jù)，但是中國的自動駕駛汽車，如何在美國、歐洲安全地行駛？如果用這個模式，不必非要拿到數(shù)據(jù)，而是通過建模拿到分析結(jié)果就可以使用。

當然，目前這只是一個可能方向，也涉及到技術(shù)實現(xiàn)的問題，比如數(shù)據(jù)量超級巨大，模型如何部署，這方面也需要逐漸達成共識。歐洲目前在推工業(yè)數(shù)據(jù)空間，有100多個相關(guān)的公司企業(yè)參與其中，比如西門子這樣的企業(yè)。歐洲的思路是建立一個沒有流動障礙的統(tǒng)一的、安全的數(shù)據(jù)空間，大家都可以把自己的數(shù)據(jù)放到數(shù)據(jù)空間中，有點類似于數(shù)字銀行，也是思路之一。

這個思路在工業(yè)領(lǐng)域?qū)嵤┫鄬Ω菀?，雖然也有類似于產(chǎn)業(yè)安全等敏感問題，但個人隱私等方面涉及相對較少。在工業(yè)領(lǐng)域，主要關(guān)心的是誰用了我的數(shù)據(jù)，怎么使用的，這個要可追溯，放到數(shù)據(jù)空間中，意味著數(shù)據(jù)可以放心流動和使用，后臺都會有軌跡記錄。

美國的解決思路類似于基礎(chǔ)公共設(shè)施的分層，美國政府開放了大概2000多個高質(zhì)量數(shù)據(jù)集，都是基于政府掌握的公共數(shù)據(jù)。這些數(shù)據(jù)都是清洗好后再向社會去開放。所以現(xiàn)在去回溯ChatGPT的高質(zhì)量數(shù)據(jù)基礎(chǔ)，肯定也是基于這樣一個更堅實的數(shù)據(jù)資源。

我國近年來一直在推廣數(shù)據(jù)交易所，這種思路可能更適合大宗、同質(zhì)化的交易。是不是也可以嘗試一下，和數(shù)字協(xié)議、區(qū)塊鏈等新技術(shù)相結(jié)合，借鑒歐美等國家數(shù)據(jù)治理的經(jīng)驗，獲得一些啟發(fā)？比如上述合作模式完全有可能成為未來的數(shù)據(jù)合作新范式，現(xiàn)在有一種觀點，人工智能到了ChatGPT的出現(xiàn)，才真正進入大規(guī)模產(chǎn)業(yè)化、工程化實施的階段。這個時候一定會有專業(yè)的數(shù)據(jù)服務(wù)商出現(xiàn)，不再是以場內(nèi)交易方式出現(xiàn)，而更多是提供專業(yè)化的服務(wù)。

Q7：中國發(fā)展自己的AI產(chǎn)業(yè)，對數(shù)據(jù)的需求也會日益增加，如何應(yīng)對國際的競爭與合作？

梁正：中國也有自己的大模型，雖然現(xiàn)在表現(xiàn)還沒那么優(yōu)異。大模型的訓(xùn)練目前確實面臨著數(shù)據(jù)共享、數(shù)據(jù)安全、隱私保護等各種難題。從大環(huán)境來看，也迫切要求我國在國際合作中進行一系列思路上的轉(zhuǎn)變。一方面，我國的數(shù)字平臺企業(yè)要爭取走向國際，拓展出更加廣闊的發(fā)展空間；另一方面，從國家的層面而言，仍然要探討如何融入全球創(chuàng)新網(wǎng)絡(luò)，以更加開放的態(tài)度尋求國際間的科技合作與交流。而美歐此次合作恰恰提供了數(shù)字領(lǐng)域國際合作的一種可參考方案——在各國強調(diào)數(shù)字主權(quán)的大背景下，在數(shù)據(jù)不流動的前提下通過多方可信安全計算、聯(lián)邦學(xué)習(xí)等方式實現(xiàn)對數(shù)據(jù)價值的共同發(fā)掘和利用。

關(guān)鍵詞：