Sam Altman走進了國會山。這位在過去幾個月贏得全球最多關注的年輕創(chuàng)業(yè)者，和他身后的OpenAI一起迎來了屬于自己的聽證會時刻。
近日，美國參議院司法機構(gòu)隱私、技術和法律小組委員會舉行名為“AI監(jiān)管：人工智能的規(guī)則（Oversight of AI: Rules for Artificial Intelligence）”的聽證會。在聽證會上，被譽為ChatGPT之父的OpenAI首席執(zhí)行官兼聯(lián)合創(chuàng)始人Sam Altman提出了一個并不常見的訴求——請政府加大對人工智能領域的監(jiān)管力度。
【資料圖】
ChatGPT橫空出世，大型語言模型的驚艷表現(xiàn)讓一條未曾想象的道路在技術與產(chǎn)業(yè)面前徐徐鋪開。然而硬幣的另一面，是科技倫理、知識產(chǎn)權(quán)、數(shù)據(jù)安全等諸多問題亟待監(jiān)管和治理的現(xiàn)實。
梳理發(fā)現(xiàn)，各國政府和監(jiān)管機構(gòu)已開始采取措施加強監(jiān)管，以確保公眾利益和安全。然而，在面對日新月異的人工智能技術，監(jiān)管層面仍面臨多重挑戰(zhàn)，全球也尚未形成通行、共識的人工智能治理規(guī)則和體系。
受訪專家表示，針對人工智能的風險監(jiān)管或者治理，需多方參與，共同型構(gòu)規(guī)制空間，協(xié)力促進人工智能良性發(fā)展。
AI要監(jiān)管：千人聯(lián)名信與國會山里的呼吁
人工智能技術可能使人類歷史迎來一個“印刷機時刻”。5月16日，Sam Altman走入國會山，在聽證會中如是說道。
作為OpenAI的聯(lián)合創(chuàng)始人兼首席執(zhí)行官，Sam Altman在過去幾個月隨著ChatGPT的出現(xiàn)和擴散逐步走到聚光燈下。與此前科技巨頭展露出的攻擊和防備不同，他認同議員們對風險的質(zhì)疑，并積極地給出了自己的解決方案。
在這個以AI監(jiān)管為主題的會議上，圍繞人工智能，對版權(quán)侵害、虛假內(nèi)容、數(shù)據(jù)安全、政府監(jiān)管等諸多活了議題進行了討論。
在聽證會上，Sam Altman表示，人工智能有潛力改善我們生活的方方面面，但同時也會帶來嚴重的風險。“我認為應該對我們施加監(jiān)管壓力?！彼苯亓水?shù)乇硎尽?/p>
擔憂與ChatGPT的火爆相伴相生。泄露機密信息、撰寫虛假文章、剽竊人類創(chuàng)意……ChatGPT似乎打開了“潘多拉魔盒”。
會議上，Sam Altman提供了幾個監(jiān)管建議。首先是成立一個新的機構(gòu)，超過一定規(guī)模的功能研究和應用需要獲得該機構(gòu)的許可才可進行；該機構(gòu)也有將許可收回的權(quán)力。其次是構(gòu)建一套人工智能安全標準，重點關注模型的危險能力評估，模型在部署到外部世界時需要通過具體的測試。另外，他還指出應該踐行獨立審計。在公司或機構(gòu)的自我審查之外，監(jiān)管需要廣泛聽取外部專家的評價意見。
人工智能的應用往往與大量隱私數(shù)據(jù)關聯(lián)，針對被用以研究和計算的數(shù)據(jù)，Sam Altman認為應當設立便捷的退出、刪除機制。用戶有權(quán)決定自己的數(shù)據(jù)是否用戶訓練，也能自由地刪除相關數(shù)據(jù)。
兩天前，OpenAI官網(wǎng)發(fā)布Sam Altman參與寫作的博文，主題仍是人工智能治理，其中提到：“現(xiàn)在是一個開始思考超級智能（Super Intelligence）監(jiān)管的良好時機 —— 未來的 AI 系統(tǒng)將比 AGI 都要強大”。他提出，應當成立類似“國際原子能機構(gòu)”的專門監(jiān)管機構(gòu)對超過一定能力（或計算資源等）超級人工智能進行監(jiān)管。
在Sam Altman走進國會山之前，全球范圍內(nèi)已有多方對當前人工智能技術表達了關切和擔憂。
3月，美國數(shù)千名人工智能領域企業(yè)家、學者、高管發(fā)出了一封題為《暫停大型人工智能研究》公開信，呼吁關注人工智能研發(fā)中產(chǎn)生的安全問題，并敦促各國政府及時介入人工智能的監(jiān)管。同月，人工智能和數(shù)字政策中心向美國聯(lián)邦貿(mào)易委員會投訴，試圖阻止向消費者發(fā)布強大的AI系統(tǒng)。
監(jiān)管進行時：禁用、調(diào)查和立法
各國政府和監(jiān)管機構(gòu)也已采取措施加強監(jiān)管。
3月，意大利隱私監(jiān)管機構(gòu)宣布境內(nèi)暫時禁用ChatGPT。4月，意大利、加拿大等國宣布將對OpenAI展開調(diào)查；同月，美國商務部就ChatGPT等人工智能技術相關的問責措施正式公開征求意見，包括具有潛在風險的新型人工智能模型在發(fā)布前是否應進行核準認證程序；中國國家互聯(lián)網(wǎng)信息辦公室發(fā)布的《生成式人工智能服務管理辦法（征求意見稿）》。
此外，英國、美國、日本、歐盟均在5月針對人工智能有所動作。其中，歐盟《人工智能法案》多個提案在歐洲議會通過，即將進入歐盟委員會、歐洲議會及歐盟理事會的“三方會談”(trilogue)階段。
事實上，人工智能是一把雙刃劍早已成為全球共識。梳理發(fā)現(xiàn)，在此輪AICG浪潮之前，全球范圍內(nèi)關于人工智能已有多份立法及監(jiān)管文件。
在斯坦福大學發(fā)布的《2023年人工智能指數(shù)報告》中提到，對127個國家的立法記錄調(diào)研的結(jié)果顯示，包含“人工智能”的法案被通過成為法律的數(shù)量，從2016年的僅1個增長到2022年的37個。報告還對81個國家2016年以來的人工智能議會記錄的分析也同樣表明，全球立法程序中提及人工智能的次數(shù)增加了近6.5倍。
隨著生成式人工智能研究和使用規(guī)模逐漸增長，建立新型的人工智能監(jiān)管框架十分必要。
對外經(jīng)濟貿(mào)易大學數(shù)字經(jīng)濟與法律創(chuàng)新研究中心執(zhí)行主任張欣就指出，監(jiān)管框架的構(gòu)建能夠保證在推動人工智能的負責任創(chuàng)新的同時化解新興技術應用時蘊含的風險。在市場機制無法很好地發(fā)揮作用的“野蠻生長期”，框架式的監(jiān)管也能為行業(yè)指明健康發(fā)展的方向。
而據(jù)南方財經(jīng)全媒體記者不完全統(tǒng)計，從2019年至今，多個國家、地區(qū)和國際組織就已經(jīng)著手于建立人工智能的監(jiān)管框架。
協(xié)同共治：構(gòu)建多元規(guī)制空間
現(xiàn)如今，新型人工智能監(jiān)管框架的構(gòu)建在各國迅速推進，如何有效推動落地？在采訪中多位專家表示多方參與，協(xié)同共治是關鍵。
“由企業(yè)、第三方團體和公眾所組成的外部監(jiān)督也是構(gòu)成整個監(jiān)管體系的重點?！睆埿乐赋觥?/p>
同濟大學法學院副教授、上海市人工智能社會治理協(xié)同創(chuàng)新中心研究員陳吉棟則表示，社會各主體構(gòu)成的多元規(guī)制很重要，有了多元主體參與才能確定社會權(quán)益的分配邊界和規(guī)則?！翱偟膩碚f，風險的監(jiān)管或者風險社會的治理，是多種規(guī)制力量協(xié)力的結(jié)果，目前看，各方主體需要對話，共同型構(gòu)一個規(guī)制空間。”他表示。
實際上，各方也已在發(fā)力。4月初，OpenAI發(fā)布《我們邁向人工智能安全的路徑》，闡述了他們在安全工作付出的努力，并從建立日益安全的人工智能系統(tǒng)、從實際應用中學習，以改進保障措施、保護兒童、尊重隱私、改善事實準確性、持續(xù)研究和合作七個方面做出了保證。在幾天前國會山的聽證會上，Sam Altman則宣布在未來六個月內(nèi)不會訓練GPT-5，年內(nèi)也可能不會再推出更強大的AI模型。
此外，4月，美國新聞/媒體聯(lián)盟發(fā)布“人工智能原則”，要求生成式人工智能必須尊重創(chuàng)作者對其內(nèi)容的權(quán)利，其生成的內(nèi)容必須對發(fā)布商和用戶透明并負責。
5月，人工智能初創(chuàng)企業(yè)Anthropic結(jié)合聯(lián)合國人權(quán)宣言、若干信任和安全“最佳實踐”等一系列文本制定了人工智能道德原則，并基于此開發(fā)了憲法AI“Claude”。
在我國，抖音也于近期發(fā)布了《關于人工智能生成內(nèi)容的平臺規(guī)范暨行業(yè)倡議》，制定標識水印及元數(shù)據(jù)規(guī)范，呼吁全行業(yè)向公眾提示信息內(nèi)容的合成情況以避免混淆或者誤認。
“監(jiān)管、企業(yè)、媒體和公眾在人工智能治理框架下將扮演不同的角色?！?北京師范大學法學院博士生導師、中國互聯(lián)網(wǎng)協(xié)會研究中心副主任吳沈括指出，“監(jiān)管作為秩序的建立者和維護者的角色，一方面提供關于業(yè)務運行的基本指引規(guī)則，另一方面突出對于紅線風險有效地研判、防范和干預。企業(yè)則通過積極履行主體責任，在合法合規(guī)層面通過有效的技術創(chuàng)新、有效的流程管理和有效的風險防范來構(gòu)筑人工智能治理的生態(tài)底座。媒體和公眾作為監(jiān)督和治理的第三極，發(fā)揮著凝聚共識的重要作用，通過有效均衡的治理結(jié)構(gòu)推進人工智能的良性可持續(xù)發(fā)展?！?/p>
觀往知來，如何處理好監(jiān)管與發(fā)展的雙生博弈，讓我們拭目以待。
統(tǒng)籌：王俊
記者：李潤澤子 馮戀閣 麥子浩
標簽：
