AI安全行業(yè)監(jiān)管及標(biāo)準(zhǔn)發(fā)展現(xiàn)狀如何？

隨著人工智能 AI 技術(shù)的快速發(fā)展，各行業(yè)專家希望通過AI 來加速本行業(yè)信息技術(shù)與業(yè)務(wù)能力的建設(shè)，但與此同時(shí)安全性保障也開始被大家關(guān)注起來。

1.AI 安全的監(jiān)管生態(tài)

1.1 法律法規(guī)

美國(guó)白宮 2023 年 10 月 30 日發(fā)布拜登簽署的《關(guān)于安全、可靠和可信的 AI 行政命令》，以確保美國(guó)在把握 AI 的前景和管理其風(fēng)險(xiǎn)方面處于領(lǐng)先地位。作為美政府負(fù)責(zé)任創(chuàng)新綜合戰(zhàn)略的一部分，該行政令以美國(guó)總統(tǒng)之前采取的行動(dòng)為基礎(chǔ)，包括促使 15 家領(lǐng)軍企業(yè)自愿承諾推動(dòng)安全、可靠和可信的 AI 發(fā)展的工作。該行政令包含 8 個(gè)目標(biāo)： （1）建立 AI 安全的新標(biāo)準(zhǔn)； （2）保護(hù)美國(guó)民眾的隱私； （3）促進(jìn)公平和公民權(quán)利； （4）維護(hù)消費(fèi)者、病患和學(xué)生的權(quán)益；（5）支持勞動(dòng)者； （6）促進(jìn)創(chuàng)新和競(jìng)爭(zhēng)； （7）提升美國(guó)在海外的領(lǐng)導(dǎo)力； （8）確保美國(guó)政府負(fù)責(zé)任且有效地使用 AI。

美國(guó)《2020 年國(guó)家人工智能倡議法案》（National AI Initiative Act of 2020）頒布于 2021 年 1 月，旨在強(qiáng)化和協(xié)調(diào)各聯(lián)邦機(jī)構(gòu)之間的人工智能研發(fā)活動(dòng)，確保美國(guó)在全球人工智能技術(shù)領(lǐng)域的領(lǐng)先地位。《2020 年國(guó)家AI 倡議法案》通過將美國(guó) AI 計(jì)劃編入法典以幫助增加研究投資、改善計(jì)算和數(shù)據(jù)資源的獲取、設(shè)置技術(shù)標(biāo)準(zhǔn)、建立勞動(dòng)力系統(tǒng)并跟盟友展開合作。其中關(guān)鍵措施有： ? 設(shè)立國(guó)家人工智能倡議辦公室，屬于白宮科技政策辦公室，承擔(dān)監(jiān)督和實(shí)施美國(guó)國(guó)家人工智能戰(zhàn)略等職責(zé)。 ? 設(shè)立國(guó)家人工智能咨詢委員會(huì)，委員會(huì)應(yīng)由商務(wù)部部長(zhǎng)任命，代表廣泛跨學(xué)科的學(xué)術(shù)機(jī)構(gòu)、私營(yíng)企業(yè)、非盈利機(jī)構(gòu)等，并就人工智能相關(guān)事項(xiàng)向總統(tǒng)和國(guó)家人工智能辦公警示提供建議，幫助美國(guó)保持在人工智能領(lǐng)域的領(lǐng)導(dǎo)地位。 ? 加大人工智能研發(fā)投入，命令聯(lián)邦機(jī)構(gòu)在其研發(fā)任務(wù)中優(yōu)先考慮人工智能投資的方式，保持美國(guó)對(duì)高回報(bào)、基礎(chǔ)性人工智能研發(fā)的長(zhǎng)期且強(qiáng)有力的重視。 ? 開放人工智能資源，要求相關(guān)機(jī)構(gòu)將聯(lián)邦數(shù)據(jù)、模型向美國(guó)人工智能和計(jì)算資源研發(fā)專家、研究人員和產(chǎn)業(yè)開放，增強(qiáng)公眾對(duì)人工智能技術(shù)的信任,提高這些資源對(duì)人工智能研發(fā)專家的價(jià)值,同時(shí)確保數(shù)據(jù)安全、保護(hù)公民自由與隱私權(quán)又不失機(jī)密性。? 設(shè)定人工智能治理標(biāo)準(zhǔn)。聯(lián)邦機(jī)構(gòu)將通過建立適用于不同領(lǐng)域的技術(shù)工業(yè)部門的人工智能發(fā)展指南來增強(qiáng)公眾對(duì)人工智能系統(tǒng)的信任，幫助聯(lián)邦監(jiān)管機(jī)構(gòu)制定一套人工智能技術(shù)的治理方法。該倡議還要求美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究所領(lǐng)導(dǎo)制定人工智能系統(tǒng)的適當(dāng)技術(shù)標(biāo)準(zhǔn)，使其可靠、安全、便捷、可互操作。

依據(jù)此法案，美國(guó)白宮科學(xué)技術(shù)政策辦公室（OSTP）宣布成立國(guó)家人工智能倡議辦公室和國(guó)家人工智能咨詢委員會(huì)，并建立或指定一個(gè)機(jī)構(gòu)間委員會(huì)，以更健全完備的組織機(jī)構(gòu)推動(dòng)“國(guó)家人工智能計(jì)劃”實(shí)施。該法案顯示了兩黨對(duì)美國(guó)政府在 AI 領(lǐng)域長(zhǎng)期努力的大力支持，并將美國(guó)政府現(xiàn)有的許多AI 政策和舉措編入法律并加以擴(kuò)展。例如，將美國(guó) AI 計(jì)劃確立的5 項(xiàng)關(guān)鍵任務(wù)（加大人工智能研發(fā)投入、開放人工智能資源、設(shè)定人工智能治理標(biāo)準(zhǔn)、培養(yǎng)人工智能勞動(dòng)力，以及國(guó)際協(xié)作和保護(hù)美國(guó)人工智能優(yōu)勢(shì)）納入法律，擴(kuò)大2018年成立的人工智能專責(zé)委員會(huì)并使其成為常設(shè)機(jī)構(gòu)，承認(rèn)2020 年成立的國(guó)家AI 研究所的合法地位，規(guī)定要對(duì) 2019 年發(fā)布的國(guó)家 AI 研發(fā)戰(zhàn)略規(guī)劃進(jìn)行定期更新，將白宮 2019 年指導(dǎo)的關(guān)鍵 AI 技術(shù)標(biāo)準(zhǔn)活動(dòng)擴(kuò)展至包括AI 風(fēng)險(xiǎn)評(píng)估框架等。

美 國(guó) 《 人 工 智 能 權(quán) 利 法 案 藍(lán) 圖 》

2022 年 10 月美國(guó)白宮科技政策辦公室發(fā)布了《人工智能權(quán)利法案藍(lán)圖：讓自動(dòng)化系統(tǒng)為美國(guó)人民服務(wù)》。該文件目的是支持制定政策，在自動(dòng)化系統(tǒng)的建設(shè)、部署和治理中保護(hù)公民的權(quán)利和促進(jìn)民主價(jià)值。核心內(nèi)容如下：? 安全和有效的系統(tǒng)。自動(dòng)化系統(tǒng)應(yīng)該通過咨詢不同的社區(qū)、利益相關(guān)者和領(lǐng)域?qū)＜遥源_定系統(tǒng)的關(guān)注點(diǎn)、風(fēng)險(xiǎn)和潛在影響。算法歧視的保護(hù)。系統(tǒng)應(yīng)該以公平的方式使用和設(shè)計(jì)，當(dāng)自動(dòng)化系統(tǒng)導(dǎo)致人們因其種族、膚色、民族、性別（包括懷孕、性別認(rèn)同等）、宗教、年齡、國(guó)籍、殘疾、退伍軍人身份或其他任何法律保護(hù)的分類而受到不合理的待遇或影響時(shí)，就會(huì)發(fā)生算法歧視。 ? 數(shù)據(jù)隱私保護(hù)。系統(tǒng)應(yīng)該通過內(nèi)置的保護(hù)措施，以免受到濫用數(shù)據(jù)行為的影響，而且應(yīng)該確保用戶應(yīng)該對(duì)關(guān)于自己數(shù)據(jù)的使用方式擁有自主權(quán)。自動(dòng)系統(tǒng)的設(shè)計(jì)者、開發(fā)者和部署者應(yīng)該以適當(dāng)?shù)姆绞讲⒃谧畲蟪潭壬汐@取用戶的同意，并且尊重用戶關(guān)于收集、使用、訪問、轉(zhuǎn)移和刪除用戶數(shù)據(jù)的決定。 ? 告知和解釋。自動(dòng)化系統(tǒng)的設(shè)計(jì)者、開發(fā)者和部署者應(yīng)該提供可訪問的通俗語言文件，包括對(duì)整個(gè)系統(tǒng)功能和自動(dòng)化所起作用的清晰描述，關(guān)于這些系統(tǒng)使用的告知，負(fù)責(zé)該系統(tǒng)的個(gè)人或組織，應(yīng)當(dāng)對(duì)結(jié)果給出清晰、及時(shí)和可訪問的解釋。

歐 洲

歐洲擬議的《人工智能法》主要側(cè)重于加強(qiáng)圍繞數(shù)據(jù)質(zhì)量、透明度、人類監(jiān)督和責(zé)任的規(guī)則。它還旨在解決從醫(yī)療和教育到金融和能源等各個(gè)領(lǐng)域的道德問題和實(shí)施挑戰(zhàn)。《人工智能法》的基礎(chǔ)是一個(gè)分類系統(tǒng)，用來明確人工智能技術(shù)可能對(duì)個(gè)體的健康和安全或基本權(quán)利構(gòu)成的風(fēng)險(xiǎn)水平。該框架包括四個(gè)風(fēng)險(xiǎn)等級(jí)：不可接受的、高的、有限的和最低的。具有有限和最低風(fēng)險(xiǎn)的人工智能系統(tǒng)，如垃圾郵件過濾器或視頻游戲等是允許使用的，除了透明度義務(wù)外，沒有什么要求。而如政府的社會(huì)評(píng)分和公共場(chǎng)所的實(shí)時(shí)生物識(shí)別系統(tǒng)會(huì)被認(rèn)為構(gòu)成不可接受的風(fēng)險(xiǎn)的系統(tǒng)，禁止使用且?guī)缀鯖]有例外。高風(fēng)險(xiǎn)的人工智能系統(tǒng)是被允許的，但開發(fā)者和使用者必須遵守規(guī)定，要進(jìn)行嚴(yán)格的測(cè)試，對(duì)數(shù)據(jù)質(zhì)量進(jìn)行適當(dāng)?shù)挠涗洠⒅贫ㄔ敿?xì)的人類監(jiān)督問責(zé)框架。被視為高風(fēng)險(xiǎn)的人工智能包括自動(dòng)駕駛汽車、醫(yī)療設(shè)備和關(guān)鍵基礎(chǔ)設(shè)施機(jī)械，以上僅為枚舉。擬議的法案還概述了圍繞所謂的通用人工智能的規(guī)定，這些人工智能系統(tǒng)可用于不同的目的，具有不同程度的風(fēng)險(xiǎn)。此類技術(shù)包括，例如，像 ChatGPT 這樣的大型語言模型生成型人工智能系統(tǒng)。《人工智能法》提出了嚴(yán)厲的違規(guī)處罰措施。對(duì)于公司來說，罰款可高達(dá) 3000 萬歐元或全球收入的 6%。向監(jiān)管機(jī)構(gòu)提交虛假或誤導(dǎo)性文件也會(huì)導(dǎo)致罰款。

歐 盟 GDPR 法 規(guī)

歐盟通用數(shù)據(jù)保護(hù)監(jiān)管法（GDPR）是為個(gè)人的數(shù)據(jù)在處理和數(shù)據(jù)流動(dòng)方面提供保護(hù)。該監(jiān)管法于 2016 年 5 月 24 日生效，并于2018 年5 月25日開始在歐盟所有成員國(guó)都具有約束力并直接適用。GDPR 要求從事個(gè)人數(shù)據(jù)處理的所有人必須遵守其規(guī)定，并賦予個(gè)人數(shù)據(jù)正在處理的個(gè)人一些重要的權(quán)利。參與個(gè)人數(shù)據(jù)處理的自然人和法人，包括公司和政府機(jī)構(gòu)，都被要求按照 GDPR 行事。潛在的不合規(guī)行為可能導(dǎo)致高額罰金，并導(dǎo)致法院訴訟和名譽(yù)損害的后果。GDPR 適用于在歐盟設(shè)立的參與個(gè)人數(shù)據(jù)處理的自然人和法人。但是，對(duì)于位于歐盟以外國(guó)家的公司、機(jī)構(gòu)和個(gè)人，當(dāng)他們處理歐盟公民或居民的個(gè)人數(shù)據(jù)時(shí)，他們須按照 GDPR 開展活動(dòng)。該法案重點(diǎn)保護(hù)的是自然人的“個(gè)人數(shù)據(jù)”，號(hào)稱史上最嚴(yán)的數(shù)據(jù)保護(hù)法案。根據(jù)該法案規(guī)定的“市場(chǎng)地原則”，只要數(shù)據(jù)的收集方、數(shù)據(jù)的提供方（被收集數(shù)據(jù)的用戶）和數(shù)據(jù)的處理方（比如第三方數(shù)據(jù)處理機(jī)構(gòu)）這三方之中，有任何一方是歐盟公民或法人，就將受到該法案管轄。這就是說，任何企業(yè)只要是在歐盟市場(chǎng)提供商品或服務(wù)，或者收集歐盟公民的個(gè)人數(shù)據(jù)，都將受到這部法律的管轄。對(duì)于違法企業(yè)的罰金，最高可達(dá)2000 萬歐元（約合 1.5 億元人民幣）或者其全球營(yíng)業(yè)額的 4%，以這二者中高者為準(zhǔn)。

中 國(guó)

中國(guó)在第三屆“一帶一路”國(guó)際合作高峰論壇提出了《全球人工智能治理倡議》

互 聯(lián) 網(wǎng) 信 息 服 務(wù) 算 法 推 薦 管 理 規(guī) 定

近年來，隨著中國(guó)《網(wǎng)絡(luò)安全法》、《數(shù)據(jù)安全法》、《個(gè)人信息保護(hù)法》等相關(guān)法律的不斷完善，人民群眾對(duì)于個(gè)人信息、數(shù)據(jù)安全以及網(wǎng)絡(luò)安全不斷重視。黨中央在《法治社會(huì)建設(shè)實(shí)施綱要（2020-2025 年）》明確提出制定完善對(duì)算法推薦等新技術(shù)應(yīng)用的規(guī)范管理辦法。2021 年九部委出臺(tái)《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》，為《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡(jiǎn)稱“《規(guī)定》”）的制定奠定了良好的法制基礎(chǔ)。 中國(guó)國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國(guó)家市場(chǎng)監(jiān)督管理總局聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡(jiǎn)稱《規(guī)定》），自 2022 年 3 月 1 日起施行。 《規(guī)定》明確，應(yīng)用算法推薦技術(shù)，是指利用生成合成類、個(gè)性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等算法技術(shù)向用戶提供信息。

《規(guī)定》明確了算法推薦服務(wù)提供者的信息服務(wù)規(guī)范，要求算法推薦服務(wù)提供者應(yīng)當(dāng)建立健全用戶注冊(cè)、信息發(fā)布審核、數(shù)據(jù)安全和個(gè)人信息保護(hù)、安全事件應(yīng)急處置等管理制度和技術(shù)措施，定期審核、評(píng)估、驗(yàn)證算法機(jī)制機(jī)理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等；建立健全用于識(shí)別違法和不良信息的特征庫(kù)，發(fā)現(xiàn)違法和不良信息的，應(yīng)當(dāng)采取相應(yīng)的處置措施；加強(qiáng)用戶模型和用戶標(biāo)簽管理，完善記入用戶模型的興趣點(diǎn)規(guī)則和用戶標(biāo)簽管理規(guī)則；加強(qiáng)算法推薦服務(wù)版面頁(yè)面生態(tài)管理，建立完善人工干預(yù)和用戶自主選擇機(jī)制，在重點(diǎn)環(huán)節(jié)積極呈現(xiàn)符合主流價(jià)值導(dǎo)向的信息；規(guī)范開展互聯(lián)網(wǎng)新聞信息服務(wù)，不得生成合成虛假新聞信息或者傳播非國(guó)家規(guī)定范圍內(nèi)的單位發(fā)布的新聞信息；不得利用算法實(shí)施影響網(wǎng)絡(luò)輿論、規(guī)避監(jiān)督管理以及壟斷和不正當(dāng)競(jìng)爭(zhēng)行為。 《規(guī)定》要求，具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者應(yīng)當(dāng)在提供服務(wù)之日起十個(gè)工作日內(nèi)通過互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)填報(bào)備案信息，履行備案手續(xù)；備案信息發(fā)生變更的，應(yīng)當(dāng)在規(guī)定時(shí)間內(nèi)辦理變更手續(xù)。算法推薦服務(wù)提供者應(yīng)當(dāng)依法留存網(wǎng)絡(luò)日志，配合有關(guān)部門開展安全評(píng)估和監(jiān)督檢查工作，并提供必要的技術(shù)、數(shù)據(jù)等支持和協(xié)助。

互聯(lián)網(wǎng)彈窗信息服務(wù)管理規(guī)定

中國(guó)國(guó)家互聯(lián)網(wǎng)信息辦公室于 2022 年 9 月 9 日，《互聯(lián)網(wǎng)彈窗信息推送服務(wù)管理規(guī)定》（以下簡(jiǎn)稱“規(guī)定”）正式發(fā)布，已于2022 年9月30 日正式施行。《規(guī)定》總共十條，條文簡(jiǎn)短，影響重大。《規(guī)定》明確了提供信息彈窗的介質(zhì)包括操作系統(tǒng)、應(yīng)用軟件和網(wǎng)站，這也糾正了部分人的認(rèn)知誤區(qū)，《規(guī)定》的主要適用主體和監(jiān)管對(duì)象不僅是PC 端桌面和網(wǎng)站彈窗，還包括移動(dòng) APP、小程序、電腦軟件等各種應(yīng)用軟件。這對(duì)企業(yè)來說，尤其要注意，以各種操作系統(tǒng)或硬件類型（例如智能穿戴設(shè)備、智慧電視等）為載體的應(yīng)用軟件，通過所有對(duì)外接口進(jìn)行的彈窗信息，均應(yīng)當(dāng)符合《規(guī)定》的要求。其中，《規(guī)定》第三條明確互聯(lián)網(wǎng)彈窗信息推送服務(wù)應(yīng)當(dāng)遵守的法律法規(guī)明確為“憲法、法律和行政法規(guī)”。事實(shí)上，隨著近兩年互聯(lián)網(wǎng)行業(yè)法律法規(guī)的不斷出臺(tái)，與互聯(lián)網(wǎng)彈窗廣告、信息內(nèi)容安全和用戶權(quán)益保護(hù)相關(guān)的上位法體系已比較完善，此類調(diào)整給監(jiān)管實(shí)務(wù)與企業(yè)合規(guī)治理過程中，提供了更加清晰的合規(guī)指向。《規(guī)定》第五條第五款：提供互聯(lián)網(wǎng)彈窗信息推送服務(wù)的，應(yīng)當(dāng)健全彈窗信息推送內(nèi)容管理規(guī)范，完善信息篩選、編輯、推送等工作流程，配備與服務(wù)規(guī)模相適應(yīng)的審核力量，加強(qiáng)彈窗信息內(nèi)容審核。

美國(guó)人工智能監(jiān)管側(cè)重于人工智能反對(duì)歧視欺詐濫用，立法關(guān)注應(yīng)對(duì)人工智能帶來的危害，敦促企業(yè)遵守相關(guān)法律法規(guī)。歐洲人工智能監(jiān)管側(cè)重于可審計(jì)可理解，要求于人類交互的人工智能系統(tǒng)需要符合透明度規(guī)則，對(duì)于情感識(shí)別系統(tǒng)或者生物分類系統(tǒng)，系統(tǒng)提供者應(yīng)將系統(tǒng)的運(yùn)營(yíng)情況和結(jié)果告知使用者，高風(fēng)險(xiǎn)類型的人工智能在上市前，需要進(jìn)行風(fēng)險(xiǎn)評(píng)估。 中國(guó)人工智能監(jiān)管側(cè)重于明確標(biāo)準(zhǔn)具體指導(dǎo)，明確人工智能算法推薦服務(wù)者的主體責(zé)任，定期對(duì)算法進(jìn)行審核、評(píng)估和驗(yàn)證，并要求算法推薦服務(wù) i 提供者加強(qiáng)算法規(guī)則的透明度和解釋性。

2.行業(yè)標(biāo)準(zhǔn)

2.1 汽車行業(yè)

(一)ISO/AWI PAS 8800 Road Vehicles — Safety and artificial intelligence 2022 年 9 月 20 日，國(guó)際標(biāo)準(zhǔn) ISO/PAS 8800（Road Vehicles —Safety andArtificial Intelligence—道路車輛-人工智能 AI 安全）形成工作組草案并啟動(dòng)國(guó)際范圍內(nèi)的公開征集意見。中國(guó)作為該標(biāo)準(zhǔn)第 9 小組（AI 運(yùn)行監(jiān)控和持續(xù)安全保障）牽頭方深度參與研究制定工作。 ISO/PAS 8800 是 ISO/TC22/SC32/WG14 道路車輛人工智能AI 安全工作組的首個(gè)國(guó)際標(biāo)準(zhǔn)，自動(dòng)駕駛領(lǐng)域核心的 AI 安全技術(shù)受到國(guó)際廣泛關(guān)注，來自中國(guó)、美國(guó)、德國(guó)、英國(guó)、奧地利、日本、韓國(guó)等 17 個(gè)國(guó)家的專家參與起草工作。由中汽中心、一汽、華為、商湯、地平線組成的中國(guó)專家代表團(tuán)作為該標(biāo)準(zhǔn)第9小組（AI 運(yùn)行監(jiān)控和持續(xù)安全保障）牽頭方參與研究制定工作。

該標(biāo)準(zhǔn)融合了功能安全I(xiàn)SO 26262、預(yù)期功能安全(SOTIF)ISO 21448、ISO/IECTR5469 人工智能 AI 功能安全、ISO TS 5083 自動(dòng)駕駛系統(tǒng)安全，對(duì)車輛AI 系統(tǒng)提出了安全要求，涵蓋 AI 安全屬性定義、AI 技術(shù)選擇和設(shè)計(jì)、數(shù)據(jù)定義和挑選、AI 安全措施、AI 安全性能評(píng)價(jià)、AI 驗(yàn)證和確認(rèn) V&V、運(yùn)行監(jiān)控和AI 安全保障等關(guān)鍵內(nèi)容，以避免不合理的風(fēng)險(xiǎn)。 該標(biāo)準(zhǔn)定義了影響道路車輛環(huán)境中人工智能（AI）性能不足和故障行為的安全相關(guān)特性和風(fēng)險(xiǎn)因素。描述了一個(gè)處理開發(fā)和部署生命周期所有階段的框架。這包括對(duì)功能的適當(dāng)安全要求，與數(shù)據(jù)質(zhì)量和完整性相關(guān)的考慮因素，控制和緩解故障的架構(gòu)措施，用于支持人工智能的工具，驗(yàn)證和驗(yàn)證技術(shù)，以及支持系統(tǒng)整體安全要求的依據(jù)。 中國(guó)牽頭負(fù)責(zé)的第 9 組-AI 運(yùn)行監(jiān)控和持續(xù)安全保障，重點(diǎn)關(guān)注基于目標(biāo)市場(chǎng)的 AI 安全運(yùn)行監(jiān)控措施定義、車端和云端量化安全監(jiān)控機(jī)制開發(fā)、現(xiàn)場(chǎng)數(shù)據(jù)搜集、AI 重訓(xùn)和技術(shù)完善等內(nèi)容。

2.2 通信行業(yè)

(一) YD/T 4044-2022 基于人工智能的知識(shí)圖譜構(gòu)建技術(shù)要求 該標(biāo)準(zhǔn)規(guī)定了基于人工智能的知識(shí)圖譜系統(tǒng)構(gòu)建的技術(shù)要求、基本功能要求、非功能要求，用于規(guī)范基于人工智能的知識(shí)圖譜的框架構(gòu)建流程。可以為科技企業(yè)、用戶機(jī)構(gòu)、第三方機(jī)構(gòu)等提供指導(dǎo)，包括對(duì)基于人工智能的知識(shí)圖譜系統(tǒng)進(jìn)行設(shè)計(jì)、開發(fā)、測(cè)試等內(nèi)容。 在該標(biāo)準(zhǔn)的 8.6 章節(jié) 安全性要求部分對(duì)基于人工智能的知識(shí)圖譜系統(tǒng)的安全性提出要求，主要關(guān)注在外部安全標(biāo)準(zhǔn)參考（例如 GB/T 22239—2019 和GB/T35273—2020），敏感數(shù)據(jù)傳輸相關(guān)的訪問控制要求，數(shù)據(jù)傳輸實(shí)體限制要求，數(shù)據(jù)機(jī)密性、完整性、可用性要求，數(shù)據(jù)權(quán)限要求等。

2.3 醫(yī)療行業(yè)

(一) YD/T 4043-2022 基于人工智能的多中心醫(yī)療數(shù)據(jù)協(xié)同分析平臺(tái)參考架構(gòu)該標(biāo)準(zhǔn)件規(guī)定了構(gòu)建多中心醫(yī)學(xué)數(shù)據(jù)協(xié)同分析平臺(tái)的參考構(gòu)架，包括系統(tǒng)架構(gòu)、數(shù)據(jù)存儲(chǔ)、數(shù)據(jù)標(biāo)準(zhǔn)化、數(shù)據(jù)分析原則、平臺(tái)特性、功能需求和安全性等。主要為多中心醫(yī)療數(shù)據(jù)協(xié)同分析平臺(tái)的軟件、硬件和網(wǎng)絡(luò)構(gòu)架提供指導(dǎo)。該標(biāo)準(zhǔn)安全部分要求主要包含兩部分內(nèi)容，在 4.2 章節(jié)數(shù)據(jù)隔離性部分提出各數(shù)據(jù)落地要求、數(shù)據(jù)服務(wù)器單點(diǎn)避免要求、以及醫(yī)療標(biāo)準(zhǔn)參考要求。并在4.10章節(jié)安全性部分提出數(shù)據(jù)高安全性要求、保證原始數(shù)據(jù)與業(yè)務(wù)數(shù)據(jù)安全要求，以及系統(tǒng)安全標(biāo)準(zhǔn)符合要求。

2.4 金融行業(yè)

(一) JR/T 0221-2021 人工智能算法金融應(yīng)用評(píng)價(jià)規(guī)范 2021 年 3 月 26 日，中國(guó)人民銀行正式發(fā)布金融行業(yè)標(biāo)準(zhǔn)（JR/T 0221—2021）《人工智能算法金融應(yīng)用評(píng)價(jià)規(guī)范》。 該標(biāo)準(zhǔn)從安全性、可解釋性、精準(zhǔn)性和性能等方面建立了人工智能算法金融應(yīng)用評(píng)價(jià)框架，明確了智能算法應(yīng)用的基本要求、評(píng)價(jià)方法、判定準(zhǔn)則，為金融機(jī)構(gòu)加強(qiáng)智能算法應(yīng)用風(fēng)險(xiǎn)管理提供指引。 該標(biāo)準(zhǔn)的發(fā)布旨在引導(dǎo)金融機(jī)構(gòu)加強(qiáng)對(duì)人工智能算法金融應(yīng)用的規(guī)范管理和風(fēng)險(xiǎn)防范，加快金融數(shù)字化轉(zhuǎn)型步伐，持續(xù)推動(dòng)金融服務(wù)更為貼心、更加智慧、更有溫度，打造數(shù)字經(jīng)濟(jì)時(shí)代金融創(chuàng)新發(fā)展新引擎。 該標(biāo)準(zhǔn)由全國(guó)金融標(biāo)準(zhǔn)化技術(shù)委員會(huì)歸口管理，由中國(guó)人民銀行科技司提出并負(fù)責(zé)起草，行業(yè)內(nèi)有關(guān)單位共同參與。 該標(biāo)準(zhǔn)的第 6 章節(jié) 安全性評(píng)價(jià)部分針對(duì)目標(biāo)函數(shù)、常見攻擊范圍、算法依賴庫(kù)、算法可追溯性、算法內(nèi)控等內(nèi)容提供了基本要求、評(píng)價(jià)方法與判定準(zhǔn)則的指導(dǎo)。

2.5 國(guó)內(nèi)標(biāo)準(zhǔn)

AI 安全基礎(chǔ)標(biāo)準(zhǔn)： 1)我國(guó)首個(gè)人工智能安全國(guó)家標(biāo)準(zhǔn)：信安標(biāo)委 TC260《信息安全技術(shù)機(jī)器學(xué)習(xí)算法安全評(píng)估規(guī)范》（報(bào)批稿），規(guī)定了機(jī)器學(xué)習(xí)算法技術(shù)在生存周期各階段的安全要求，以及應(yīng)用機(jī)器學(xué)習(xí)算法技術(shù)提供服務(wù)時(shí)的安全要求，并給出了對(duì)應(yīng)評(píng)估方法。《信息安全技術(shù) 人工智能計(jì)算平臺(tái)安全框架》國(guó)家標(biāo)準(zhǔn)（征求意見稿），規(guī)范了人工智能計(jì)算平臺(tái)安全功能、安全機(jī)制、安全模塊以及服務(wù)接口，指導(dǎo)人工智能計(jì)算平臺(tái)設(shè)計(jì)與實(shí)現(xiàn)。《信息安全技術(shù) 生成式人工智能預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)安全規(guī)范》在研階段。 2)信標(biāo)委 TC28/SC42，《人工智能 管理體系》在研階段，《人工智能深度學(xué)習(xí)框架多硬件平臺(tái)適配技術(shù)規(guī)范》在研階段。 3)中國(guó)電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會(huì)（CESA）《信息技術(shù)人工智能風(fēng)險(xiǎn)管理能力評(píng)估》已發(fā)布。 4)中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（AIIA）《可信人工智能組織治理能力成熟度模型》在研階段，《大規(guī)模預(yù)訓(xùn)練模型技術(shù)和應(yīng)用評(píng)估方法第5 部分：安全可信》在研階段。

AI 應(yīng)用相關(guān)安全標(biāo)準(zhǔn)： 1)全國(guó)信安標(biāo)委（TC 260）在生物特征識(shí)別方向，發(fā)布了GB/T 40660—2021《信息安全技術(shù) 生物特征識(shí)別信息保護(hù)基本要求》，以及人臉、聲紋、基因、步態(tài)等 4 項(xiàng)數(shù)據(jù)安全國(guó)家標(biāo)準(zhǔn)。在智能汽車方向，發(fā)布了國(guó)家標(biāo)準(zhǔn)GB/T 41871—2022《信息安全技術(shù) 汽車數(shù)據(jù)處理安全要求》，有效支撐《汽車數(shù)據(jù)安全管理若干規(guī)定（試行）》，提升了智能汽車相關(guān)企業(yè)的數(shù)據(jù)安全水平。2)全國(guó)信標(biāo)委生物特征識(shí)別分委會(huì)（TC 28/SC37）發(fā)布了《信息技術(shù)生物特征識(shí)別呈現(xiàn)攻擊檢測(cè)》、《信息技術(shù) 生物特征識(shí)別 人臉識(shí)別系統(tǒng)應(yīng)用要求》等標(biāo)準(zhǔn)。3)中國(guó)通信標(biāo)準(zhǔn)化協(xié)會(huì) CCSA 在生物識(shí)別、人工智 能終端、人工智能服務(wù)平臺(tái)、數(shù)據(jù)安全保護(hù)等領(lǐng)域開展了數(shù)據(jù)安全相關(guān)標(biāo)準(zhǔn)化工作。在人工智能終端領(lǐng)域，開展《人工智能終端產(chǎn)品 個(gè)人信息保護(hù)要求和評(píng)估方法》與《人工智能終端設(shè)備安全環(huán)境技術(shù)要求》標(biāo)準(zhǔn)研制，對(duì)人工智能終端的個(gè)人信息保護(hù)與終端設(shè)備環(huán)境的安全能力提出要求。在人工智能服務(wù)平臺(tái)領(lǐng)域，開展《人工智能服務(wù)平臺(tái)數(shù)據(jù)安全要求》標(biāo)準(zhǔn)研制，對(duì)人工智能服務(wù)端的數(shù)據(jù)安全管理與評(píng)估提出要求。4)上海市市監(jiān)局，《人工智能數(shù)據(jù)通用安全要求》（征求意見稿）、《人臉識(shí)別分級(jí)分類應(yīng)用標(biāo)準(zhǔn)》（草案）。 5)中國(guó)電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會(huì)（CESA）《信息安全技術(shù)人臉比對(duì)模型安全技術(shù)規(guī)范》已發(fā)布。6)新一代人工智能產(chǎn)業(yè)技術(shù)創(chuàng)新戰(zhàn)略聯(lián)盟（AITISA）發(fā)布了《人工智能視覺隱私保護(hù) 第 1 部分：通用技術(shù)要求》、《生物特征識(shí)別服務(wù)中的隱私保護(hù)技術(shù)指南》、《生物特征模板的安全使用要求》等標(biāo)準(zhǔn)，《信息技術(shù)數(shù)字視網(wǎng)膜系統(tǒng)第11部分：安全與隱私保護(hù)》在草案階段。

(2)國(guó)際標(biāo)準(zhǔn) 國(guó)際標(biāo)準(zhǔn)組織（ISO）在人工智能領(lǐng)域已開展大量標(biāo)準(zhǔn)化工作，并專門成立了 ISO/IEC JTC1 SC42 人工智能分技術(shù)委員會(huì)。目前，與人工智能安全相關(guān)的國(guó)際標(biāo)準(zhǔn)及文件主要為基礎(chǔ)概念與技術(shù)框架類通用標(biāo)準(zhǔn)，在內(nèi)容上集中在人工智能管理、可信性、安全與隱私保護(hù)三個(gè)方面。 1）在人工智能管理方面，國(guó)際標(biāo)準(zhǔn)主要研究人工智能數(shù)據(jù)的治理、人工智能系統(tǒng)全生命周期管理、人工智能安全風(fēng)險(xiǎn)管理等，并對(duì)相應(yīng)的方面提出建議，相關(guān)標(biāo)準(zhǔn)包括 ISO/IEC 38507:2022《信息技術(shù)治理 組織使用人工智能的治理影響》、ISO/IEC 23894:2023《人工智能 風(fēng)險(xiǎn)管理》等。2）在可信性方面，國(guó)際標(biāo)準(zhǔn)主要關(guān)注人工智能的透明度、可解釋性、健壯性與可控性等方面，指出人工智能系統(tǒng)的技術(shù)脆弱性因素及部分緩解措施，相關(guān)標(biāo)準(zhǔn)包括 ISO/IEC TR 24028:2020《人工智能 人工智能中可信賴性概述》等。3）在安全與隱私保護(hù)方面，國(guó)際標(biāo)準(zhǔn)主要聚焦于人工智能的系統(tǒng)安全、功能安全、隱私保護(hù)等問題，幫助相關(guān)組織更好地識(shí)別并緩解人工智能系統(tǒng)中的安全威脅，相關(guān)標(biāo)準(zhǔn)包括 ISO/IEC 27090《人工智能 解決人工智能系統(tǒng)中安全威脅和故障的指南》、ISO/IEC TR 5469《人工智能 功能安全與人工智能系統(tǒng)》、ISO/IEC27091《人工智能 隱私保護(hù)》等。

歐洲

歐洲電信標(biāo)準(zhǔn)化協(xié)會(huì)（ETSI）近期關(guān)注的重點(diǎn)議題包括人工智能數(shù)據(jù)安全、完整性和隱私性、透明性、可解釋性、倫理與濫用、偏見緩解等方面，已發(fā)布多份人工智能安全研究報(bào)告，包括 ETSI GR SAI 004《人工智能安全：?jiǎn)栴}陳述》、ETSI GR SAI 005《人工智能安全：緩解策略報(bào)告》等，描述了以人工智能為基礎(chǔ)的系統(tǒng)安全問題挑戰(zhàn)，并提出了一系列緩解措施與指南。歐洲標(biāo)準(zhǔn)化委員會(huì)（CEN）、歐洲電工標(biāo)準(zhǔn)化委員會(huì)（CENELEC）成立了新的CEN-CENELEC 聯(lián)合技術(shù)委員會(huì) JTC 21“人工智能”，并在人工智能的風(fēng)險(xiǎn)管理、透明性、健壯性、安全性等多個(gè)方面提出了標(biāo)準(zhǔn)需求。

美國(guó)

美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院（NIST）關(guān)注人工智能安全的可信任、可解釋等問題。最新的標(biāo)準(zhǔn)項(xiàng)目有：NIST SP1270《建立識(shí)別和管理人工智能偏差的標(biāo)準(zhǔn)》，提出了用于識(shí)別和管理人工智能偏見的技術(shù)指南；NIST IR-8312《可解釋人工智能的四大原則》草案，提出了可解釋人工智能的四項(xiàng)原則；NIST IR-8332《信任和人工智能》草案，研究了人工智能應(yīng)用安全風(fēng)險(xiǎn)與用戶對(duì)人工智能的信任之間的關(guān)系；NIST AI 100-1《人工智能風(fēng)險(xiǎn)管理框架》，旨在為人工智能系統(tǒng)設(shè)計(jì)、開發(fā)、部署和使用提供指南。