廣州2022年6月13日(ri) /美通社/ -- 歐盟人工智能法案將于2024年強制執行，為協助中國人工智能相關企業提前應對即將到來的國際監管，TUV南德意志集團（以下簡稱"TUV南德"）已推出人工智能評估服務：AI 質量架構評估方案。 

本文為Trust AI@TUV SUD的系列專欄的第四篇：人工智能系統符合性評估框架。

2021年(nian)4月，歐盟(meng)委員(yuan)會發布了(le)(le)歐洲議事(shi)和理(li)事(shi)會《關于制(zhi)定人工(gong)智能(neng)統一規則》的提(ti)案（以(yi)(yi)下簡稱"草(cao)案"）。在專欄前三(san)期中我們介紹了(le)(le)該(gai)草(cao)案嚴苛(ke)的懲罰力度以(yi)(yi)及對于人工(gong)智能(neng)的風險(xian)分類(lei)，以(yi)(yi)及四種政策選項。本期文章討論AI法案可能(neng)會采用的符合性評估框(kuang)架(jia)及其執行機制(zhi)。

對于(yu)(yu)草(cao)案中所列的高風險人工(gong)智能系統，提供(gong)者在其投放市場(chang)或投入使用前，應(ying)遵循基于(yu)(yu)內(nei)部(bu)控(kong)制的符(fu)合(he)性評估程序(xu)(xu)（Annex VI），或基于(yu)(yu)質量管理體系審核和技(ji)術(shu)文件審核的符(fu)合(he)性評估程序(xu)(xu)（Annex VII）。提供(gong)者應(ying)起草(cao)一份歐盟符(fu)合(he)性聲明(EU Declaration of Conformity、DOC)，并貼上符(fu)合(he)的CE標志（Article 48）。

制造商如何選擇符合性評估流程

-  ;  低風險人工智能(neng)系(xi)統的提供者可以采用基于內部控制的符合性(xing)評估程序（Annex VI）。

-    對于除Annex III item 2-8所列用途之外的高風險人工智能系統，提供者可以采用基于質量管理體系和技術文件的符合性評估程序（Annex VII）。提供者須選擇一個歐盟公告機構。由公告機(ji)(ji)構(gou)確認(ren)人工(gong)智能的(de)符合性(xing)并簽(qian)發證書。但是，如果人工(gong)智能由執(zhi)法機(ji)(ji)關(guan)，移民(min)管理或避難，救濟機(ji)(ji)構(gou)及其他(ta)官(guan)方機(ji)(ji)構(gou)使(shi)用，歐(ou)盟(meng)成員國授權的(de)執(zhi)法機(ji)(ji)構(gou)應取代公告機(ji)(ji)構(gou)進行符合性(xing)確認(ren)。

-    對于(yu) Annex III item 2-8所列(lie)用(yong)途的高(gao)風(feng)險人工智能系統，提供(gong)者可以采用(yong)基于(yu)內部控制的符合性(xing)評估程序(xu)（Annex VI），不需要引入公告機構，但是(shi)須考慮(lv)2013/36/EU指令的符合性(xing)評估程序(xu)要求。

-    如果提(ti)供者沒有(you)或僅部分采用(yong)人工智能法案的協調標準(zhun)，或者該(gai)協調標準(zhun)和通用(yong)規范不(bu)存在，提(ti)供者必須(xu)采用(yong)基于質(zhi)量管理(li)體系審(shen)核(he)和技術文件審(shen)核(he)的符合性評估程(cheng)序（Annex VII）。

歐盟符合性聲明（DOC）

歐盟符(fu)(fu)合(he)性聲(sheng)明(ming)應(ying)說明(ming)符(fu)(fu)合(he)人工(gong)智能法案中規定的(de)要求并及時更新，在投入市(shi)場后的(de)十年內由歐盟成員國主(zhu)管機構保管（Article 48）。聲(sheng)明(ming)應(ying)包含以(yi)下(xia)內容(rong)：

-    人工智能(neng)系統(tong)的(de)名稱和(he)類型；

-    提供者(zhe)或者(zhe)其歐(ou)盟代表（如適用）的(de)名稱和地址(zhi)；

-    DOC由提供者簽發并全權負(fu)責的聲(sheng)明(ming)；

-    符(fu)合(he)人(ren)工智能法案及其他相(xiang)關立(li)法（如適(shi)用）的聲明(ming)；

-    參考的(de)協調標準(zhun)或其(qi)他通用規范(fan)；

-    公告(gao)(gao)機構的名稱(cheng)及(ji)公告(gao)(gao)號（如適(shi)用）；

-    聲明的發布地點和日(ri)期，簽署人的姓名和職務等(deng)。

符合性評估

符合性評估將主要(yao)包含(han)三個方(fang)面：質(zhi)量管理體系(xi)，技術文(wen)檔(dang)的要(yao)求，和持續監督(du)。

1.  提供(gong)者應(ying)建(jian)立質量管(guan)理體系，并(bing)形成相(xiang)關書(shu)面文(wen)件(jian)，（Article 17），應(ying)至少包括：符合法規(gui)的(de)(de)策略；設(she)(she)計(ji)、設(she)(she)計(ji)控制(zhi)和(he)(he)(he)(he)(he)(he)設(she)(she)計(ji)驗證；開發、質量控制(zhi)和(he)(he)(he)(he)(he)(he)質量保證；開發之前、之間和(he)(he)(he)(he)(he)(he)之后(hou)要進行(xing)的(de)(de)檢查、測試和(he)(he)(he)(he)(he)(he)驗證的(de)(de)程(cheng)序(xu)和(he)(he)(he)(he)(he)(he)頻率；擬采用的(de)(de)技術規(gui)范(fan)/標準；數(shu)據管(guan)理的(de)(de)系統(tong)(tong)和(he)(he)(he)(he)(he)(he)程(cheng)序(xu)；風險管(guan)理系統(tong)(tong)；投入市(shi)場(chang)后(hou)的(de)(de)監(jian)測系統(tong)(tong)；與嚴重事(shi)故和(he)(he)(he)(he)(he)(he)故障有關的(de)(de)報告程(cheng)序(xu)；與相(xiang)關方的(de)(de)溝通(tong)處理；記錄所有相(xiang)關文(wen)件(jian)和(he)(he)(he)(he)(he)(he)信息的(de)(de)系統(tong)(tong)和(he)(he)(he)(he)(he)(he)程(cheng)序(xu)；資源管(guan)理；問(wen)責(ze)框(kuang)架等。

2.  技術文件應包(bao)含所(suo)需法律要求的(de)(de)信息(xi)，在投(tou)放市場(chang)使(shi)用前制(zhi)定，并(bing)及(ji)時更新（Article 11）。其(qi)內容應包(bao)括(kuo)以(yi)下信息(xi)（Annex IV）：對人工智能系(xi)統的(de)(de)一(yi)般描述(shu)；系(xi)統的(de)(de)組成及(ji)其(qi)開發過程的(de)(de)詳細(xi)描述(shu)；監測、運行(xing)和控制(zhi)的(de)(de)詳細(xi)資料；風(feng)險管(guan)理系(xi)統的(de)(de)詳細(xi)描述(shu)；在其(qi)生命周期內所(suo)做的(de)(de)任何(he)改變的(de)(de)說明(ming)；適用的(de)(de)協調標準(zhun)或其(qi)他(ta)通用規范的(de)(de)清(qing)單；歐盟符合(he)性(xing)聲(sheng)明(ming)的(de)(de)副本；投(tou)入市場(chang)后的(de)(de)性(xing)能評估制(zhi)度(du)。

并且，系統在(zai)運(yun)行時應(ying)自動記錄日志（Article 12），以保證(zheng)整個產品生(sheng)命周期內(nei)的(de)可追(zhui)溯性，從(cong)而防范可能出現的(de)重大風險，并配合上市后的(de)監管(guan)。日志記錄系統功能應(ying)至(zhi)少(shao)記錄以下信息(xi)：每(mei)次使用的(de)時間；數(shu)據庫及對應(ying)的(de)輸入(ru)數(shu)據；搜索對應(ying)的(de)輸入(ru)數(shu)據；參與結果驗證(zheng)的(de)自然人身(shen)份等。

3.  對上市或投入使(shi)(shi)用后的(de)(de)人(ren)工(gong)智能(neng)(neng)(neng)系統(tong)(tong)應(ying)進行持(chi)續(xu)的(de)(de)監督。提供(gong)者(zhe)應(ying)以(yi)與人(ren)工(gong)智能(neng)(neng)(neng)的(de)(de)性質和風(feng)險相匹配的(de)(de)方(fang)式，建立并記(ji)錄投入使(shi)(shi)用后的(de)(de)檢測系統(tong)(tong)。該系統(tong)(tong)應(ying)在產品整個生命周期內積極、系統(tong)(tong)地收(shou)集、記(ji)錄和分(fen)析由使(shi)(shi)用者(zhe)提供(gong)或其他來源的(de)(de)相關數據，以(yi)使(shi)(shi)得AI提供(gong)者(zhe)能(neng)(neng)(neng)夠持(chi)續(xu)地評估(gu)該人(ren)工(gong)智能(neng)(neng)(neng)系統(tong)(tong)是否符合法(fa)案規定的(de)(de)要求。

公告機構應(ying)定(ding)期進行(xing)審查（Audit），以確保AI提(ti)(ti)供者(zhe)適(shi)當地(di)履行(xing)經批準的(de)質量管(guan)理體系中的(de)條款(kuan)和條件，并應(ying)向AI提(ti)(ti)供者(zhe)提(ti)(ti)供報告。

相關方的義務