第2024章 AI政策：美國成立AI特別工作組；國資委召開AI專題推進會

 8．英國：發佈關於負責任Ai開發技術的指南 

 2月12日，科學、創新與技術部(dsit)發佈了一份名為《Ai保障入門》(introduction toAiassurance)的指南。dsit強調，該指南旨在支持組織更好地瞭解如何使用Ai保障技術來確保安全和負責任的開發和部署Ai。 

 9．英國尋求與歐盟在人工智能政策框架和版權問題上保持一致 

 2月16日，作為科技關係升溫的一部分，英國人工智能與知識產權部長喬納森·貝里訪問歐盟總部布魯塞爾時使用了積極的語言。然而，歐盟和英國在監管該技術方面仍然採取截然不同的方法。 

 英國政府致力於對人工智能監管採取支持創新的方法，並尋求與包括歐盟在內的國際夥伴就此事密切合作。 

 由於加入了國際條約，英國和歐盟已經就版權作品達成了相互保護協議。英國在脫歐後修改了其版權法，以保留其作為歐盟成員國時有效的大部分利益和保護。 

 英國政府正在根據五項核心原則採用跨部門的人工智能監管方法。其目的是通過將現有的技術中立監管框架應用於人工智能來平衡創新和安全。政府還認識到，未來可能有必要採取立法行動，特別是對於通用人工智能系統。 

 10．日本今年將推動Ai監管立法 

 日本執政黨將提議政府在2024年內出臺一項監管生成人工智能（Ai）技術的新法律。為了解決圍繞Ai的虛假信息和侵權等問題， 日本自民黨Ai項目團隊將為基礎模型開發商（openAi 等）起草初步規則，包括刑事法規。 

 11．第二屆全球人工智能倫理論壇舉行 

 2月5日，第二屆全球人工智能倫理論壇上，聯合國教科文組織表示，與八家全球性科技機構和公司簽署了一項與人工智能相關的協議。根據相關協議，這些機構和公司將結合教科文組織《人工智能倫理問題建議書》中有關Ai倫理的價值觀和原則，設計和使用Ai系統。這是私營企業首次在Ai領域與聯合國合作。協議規定，為符合安全標準，並識別Ai的不良影響，必須進行盡職調查，並採取及時措施預防，減輕或糾正這些影響，使之符合各國法律的規定。協議還強調了前期測試的重要性。但鑑於市場上已有的Ai系統迅速發展，協議還呼籲制定後期的風險評估和風險控制措施。 

 12．全球開源安全組織發佈Ai大模型應用網絡安全治理檢查清單 

 2月19日，全球開源安全組織owAsp（open web Application security project）發佈了《Ai大模型應用網絡安全治理檢查清單（v1.0）》。在這份長達32頁的《檢查清單》中，較完整地介紹了Ai大模型部署應用時的安全原則、部署策略和檢查對照表，適用於那些希望在快速發展的Ai領域中保持領先地位的組織和機構，使他們能夠在制定大型語言模型戰略時，專注於制定一份全面的關鍵領域和任務清單。 

 這份《檢查清單》能夠幫助所有類型的組織和機構在應用Ai大模型時認知到以下四個要點：1）針對生成式Ai的應用，企業需要採用不同的安全保護思維方式；2）Ai技術帶來了不對稱的網絡對抗模型，攻擊者正在利用這些工具加速攻擊；3）大模型工具的應用需要全面考慮的實施策略和方法；4）大模型工具的部署應用，需要使用現有的法律、法規作為部署策略指南，例如歐盟的《通用數據保護條例》（gdpr）和各類隱私安全法規等。 

 在《檢查清單》的第二部分中，詳細概述了實施大模型時需要考慮的具體事項，以避免給組織帶來不必要的安全性風險。這些事項涵蓋了面向業務的措施（包括建立業務案例和選擇合適的大模型解決方案）、風險管理措施（包括威脅建模、監控Ai風險、實施以Ai為重點的安全培訓、Ai紅隊測試等），以及法律監管合規方面的措施（如建立合規要求、實施測試、評估、驗證和驗證過程等）。 

 13．國資委召開中央企業人工智能專題推進會 

 2月19日，國資委召開“Ai 賦能 產業煥新”中央企業人工智能專題推進會。煥新”中央企業人工智能專題推進會。國資委黨委書記、主任張玉卓在會上講話，中國科學院院士鄂維南應邀介紹人工智能創新發展情況。 

 會議強調，中央企業要把發展人工智能放在全局工作中統籌謀劃，深入推進產業煥新，加快佈局和發展人工智能產業。要夯實發展基礎底座，把主要資源集中投入到最需要、最有優勢的領域，加快建設一批智能算力中心，進一步深化開放合作，更好發揮跨央企協同創新平臺作用。開展Ai+專項行動，強化需求牽引，加快重點行業賦能，構建一批產業多模態優質數據集，打造從基礎設施、算法工具、智能平臺到解決方案的大模型賦能產業生態。會議上，10家中央企業簽署倡議書，承諾積極向社會開放Ai應用場景。 

 14．我國編制首部腦機接口研究倫理指引 

 2月6日，國家科技倫理委員會人工智能倫理分委員會編制了《腦機接口研究倫理指引》，系我國在腦機接口研究領域的首部倫理指引，明確開展腦機接口研究應確保研究具有社會價值，應主要致力於修復型腦機接口技術，強調通過技術的發展服務公眾的健康需求。指引強調，在人體上開展腦機接口研究，應根據《涉及人的生命科學和醫學研究倫理審查辦法》等相關法規申請並通過倫理審查，需根據手術植入物、有源植入物指導原則和相關標準，進行安全性和有效性充分驗證，包括提供生物相容性檢測報告、型式檢測報告、大動物安全性有效性報告等。 指引還進一步明確了開展腦機接口研究的一般要求，強調開展腦機接口研究需符合我國相關法律法規規定，遵循國際公認的倫理準則，以及科學共同體達成的專業共識和技術規範。 

 《指引》對腦機接口技術中的術語和技術分類做了明確的界定與劃分，澄清了倫理審查工作中可能遇到的概念模糊。《指引》還提出腦機接口研究的六項基本原則，分別是保障健康、提升福祉；尊重被試、適度應用；堅持公正、保障公平；風險管控、保障安全；信息公開、知情保障；支持創新、嚴格規範。