
中國政法大學解志勇在《中外法學》2025年第2期上發(fā)表題為《高風險人工智能的法律界定及規(guī)制》的文章中指出:
鑒于人工智能普遍應用帶來的促進經濟效益、社會進步、文明更迭等價值,擁抱人工智能已成為時代所趨。人工智能是計算機科學的一個重要分支,是模擬、延伸和拓展人類智能活動的科學,基于此底層科學邏輯,其風險也應當是可認知、可描述、可分析的,具有可界定性。與歐盟《人工智能法》確立的一般風險治理進路不同,我國可采取“風險+情境融合治理”的進路,以高質效應對高風險人工智能的系統(tǒng)風險。
“高風險”的界定標準,可基于人工智能本體能力強弱、功能作用對象、潛在致害程度三個維度進行確認。首先,風險級別與人工智能本體強弱呈正相關關系。人工智能按照其本體強弱的能力區(qū)分,可分為弱人工智能、強人工智能和超級人工智能三類。強人工智能與超級人工智能原則上均屬高風險系統(tǒng);弱人工智能是否屬于高風險系統(tǒng),還需結合具體情境加以討論。其次,直接作用對象為“重大安全”,涵蓋國家安全、社會公共安全、個人生命安全以及其他重要基本權利安全。最后,存在對“重大安全”造成實質性顯著減損的可能。
高風險人工智能系統(tǒng)的規(guī)制,主要在特定情境中針對其安全性展開,在促進人工智能科技進步的同時,應遵循合法性原則、科技倫理約束原則、技術治理原則,秉持包容審慎與合作規(guī)制理念。
高風險人工智能系統(tǒng)的情境化規(guī)制,應當以重大安全維護為規(guī)制目標,在我國未來的專門立法進路上,應采取“行為規(guī)制+個體賦權”的立法模式,進行事前、事中、事后的全過程治理。對高風險人工智能系統(tǒng)進行事先規(guī)制,主要通過管理情境化具體清單、制定高風險技術標準、設置安全評估以及預防型備案制的方式開展,彰顯“智能法律預測化”導向;對高風險人工智能系統(tǒng)的事中規(guī)制,主要依靠強化此類系統(tǒng)研發(fā)、提供、使用者的義務體系建設,健全風險監(jiān)測預警、報告響應機制,建立科技倫理跟蹤審查工作機制等手段;對高風險人工智能系統(tǒng)的事后規(guī)制,在行政法律責任承擔方面,主要包括行政處罰、失職問責以及行政救濟等形式。
編輯:武卓立