近段時(shí)間以來(lái)，人工智能尤其是智駕領(lǐng)域的安全事故時(shí)有發(fā)生，引發(fā)各界高度關(guān)注。作為新一輪科技革命和產(chǎn)業(yè)變革的核心驅(qū)動(dòng)力，當(dāng)前AI正重塑生產(chǎn)生活方式，為高質(zhì)量發(fā)展注入強(qiáng)勁動(dòng)能。但如何平衡好“發(fā)展”與“安全”的邊界？如何讓人工智能應(yīng)用系統(tǒng)既“聰明”又“可靠”，在激發(fā)AI創(chuàng)造力的同時(shí)，又能控制好“不確定性的安全邊界”？日前，《經(jīng)濟(jì)參考報(bào)》記者就此專訪了中國(guó)工程院院士鄔江興。
鄔江興院士表示：“中國(guó)原創(chuàng)的內(nèi)生安全理論范式以‘相對(duì)正確公理和必要多樣性定律’為基礎(chǔ)，能夠?qū)I的不確定性風(fēng)險(xiǎn)，轉(zhuǎn)化為概率可控的問(wèn)題，以內(nèi)生安全范式重構(gòu)AI安全可信底層邏輯，具有突破性意義?！?/p>
以下為訪談實(shí)錄。
記者：國(guó)家“人工智能+”行動(dòng)計(jì)劃出臺(tái)后，AI與產(chǎn)業(yè)深度融合成了焦點(diǎn)。您怎么看“人工智能+”的發(fā)展趨勢(shì)？這一過(guò)程中最該把握的核心原則是什么？
鄔院士：“人工智能+”絕非簡(jiǎn)單的技術(shù)拼接，而是一場(chǎng)深刻的產(chǎn)業(yè)變革，更是國(guó)家推動(dòng)數(shù)字經(jīng)濟(jì)與實(shí)體經(jīng)濟(jì)深度融合的關(guān)鍵抓手。
但必須清醒認(rèn)識(shí)到，“人工智能+”延伸到哪里，安全邊界就必須覆蓋到哪里。當(dāng)AI進(jìn)入汽車、工業(yè)控制、能源調(diào)度、醫(yī)療金融等關(guān)鍵領(lǐng)域，安全便不再是“App閃退”這類功能層面的問(wèn)題，而是直接關(guān)乎生命安全、國(guó)家安全的重大議題。因此，“人工智能+”發(fā)展的核心問(wèn)題，在于解決“AI既要強(qiáng)大，又要向善可信”的難題，實(shí)現(xiàn)“性能”與“安全”的同步提升。
同時(shí)，安全絕非“人工智能+”的“絆腳石”，而是與其并肩前行的 “同行者”。這種協(xié)同關(guān)系，好比給大模型戴上“緊箍咒”——既不束縛創(chuàng)新活力，又能通過(guò)技術(shù)手段把控風(fēng)險(xiǎn)，讓安全具備可設(shè)計(jì)、可驗(yàn)證、可調(diào)整的特性，最終實(shí)現(xiàn)安全能力與模型性能如雙螺旋DNA般共生進(jìn)化、同步升級(jí)。
記者：具體到AI和產(chǎn)業(yè)深度融合的場(chǎng)景，比如，最近一段時(shí)間以來(lái)，新能源汽車智駕事故時(shí)有發(fā)生，引發(fā)各方關(guān)注。您能否以新能源汽車智駕發(fā)展為例，描述一下我們面臨的根本性安全挑戰(zhàn)是什么，以及“內(nèi)生安全范式”將如何發(fā)揮效用？
鄔院士：根本性安全挑戰(zhàn)是“AI安全邊界線不確定”，智駕依賴的端到端大模型是概率性輸出系統(tǒng)，用傳統(tǒng)的確定性手段無(wú)法完備驗(yàn)證基于概率輸出的模型推理，這是個(gè)顯而易見(jiàn)的邏輯悖論。更為矛盾的是，一方面AI要靠“自律模式”不斷優(yōu)化提升安全性，但是94年前提出的哥德?tīng)柌煌陚涠ɡ砻鞔_指出，“自律模式”無(wú)法從根本上解決問(wèn)題；另一方面，“他律模式”受測(cè)試集的完備性限制，無(wú)法窮盡所有潛在的安全問(wèn)題。因此，AI屢屢觸及“生命安全”紅線事件。
盡管理論上沒(méi)有絕對(duì)安全，但不等于在給定的約束條件下，不能將“有風(fēng)險(xiǎn)的AI老虎”關(guān)進(jìn)安全的籠子內(nèi)。而且，關(guān)起來(lái)后的效果要用數(shù)據(jù)說(shuō)話，要讓人民群眾看得見(jiàn)、測(cè)得出、可驗(yàn)證。
2025年10月17日，中國(guó)工程院院士鄔江興接受《經(jīng)濟(jì)參考報(bào)》記者專訪。記者 楊靜 攝
中國(guó)原創(chuàng)的內(nèi)生安全理論范式以“相對(duì)正確公理和必要多樣性定律”為基礎(chǔ)，提出“不依賴先驗(yàn)知識(shí)的構(gòu)造決定安全”的理論和方法，能將“AI老虎”可靠地關(guān)進(jìn)“內(nèi)生安全籠子內(nèi)”，通過(guò)多智能體共識(shí)機(jī)制替代單一模型決策，管控端到端智駕“黑箱風(fēng)險(xiǎn)”，將“未知威脅”轉(zhuǎn)化為“可控風(fēng)險(xiǎn)”，保障智駕系統(tǒng)“出廠即安全”。
記者：“AI安全”包括諸多核心層面，例如模型自身安全、技術(shù)應(yīng)用安全、社會(huì)倫理安全、數(shù)據(jù)與隱私安全等，是一個(gè)復(fù)雜的系統(tǒng)安全問(wèn)題，面對(duì)這么復(fù)雜的系統(tǒng)安全問(wèn)題，您提出的“內(nèi)生安全”理論能為AI安全破解困局嗎？其核心邏輯是什么？
鄔院士：我國(guó)原創(chuàng)的內(nèi)生安全理論的核心，是依托“相對(duì)正確公理”與“必要多樣性原理”，打破傳統(tǒng)“外部打補(bǔ)丁式防護(hù)”的局限，提出“構(gòu)造決定安全”的全新路徑。簡(jiǎn)單來(lái)說(shuō)，就是將傳統(tǒng)方式難以應(yīng)對(duì)的“完全未知的威脅”，轉(zhuǎn)化為“知道有風(fēng)險(xiǎn)但能控制”的問(wèn)題，最終實(shí)現(xiàn)對(duì)不確定風(fēng)險(xiǎn)的可設(shè)計(jì)、可驗(yàn)證、可防御。這套理論迭代十余年，在信息安全、網(wǎng)絡(luò)安全、數(shù)據(jù)安全領(lǐng)域，經(jīng)過(guò)充分理論驗(yàn)證與實(shí)踐檢驗(yàn)，被國(guó)際公認(rèn)為網(wǎng)絡(luò)安全中國(guó)學(xué)派。
具體到“人工智能+”領(lǐng)域，內(nèi)生安全主要解決兩大痛點(diǎn)：一是在難以解釋的智能系統(tǒng)中，建立可信的決策機(jī)制；二是讓新型安全風(fēng)險(xiǎn)能夠被量化評(píng)估與檢測(cè)。其原理類似人類的“生成—判別”共識(shí)機(jī)制，通過(guò)構(gòu)建由多個(gè)不同模型組成的“監(jiān)督集群”，讓這些模型對(duì)大模型的輸出進(jìn)行交叉驗(yàn)證、按共識(shí)投票。借助“必要多樣性原理”與“相對(duì)正確公理”，將“未知的未知安全風(fēng)險(xiǎn)”轉(zhuǎn)化為可控制、可處理的“已知的未知安全問(wèn)題”，把大模型約束在“構(gòu)造決定安全”的“籠子”之內(nèi)，使其成為人類可信賴的幫手，而非等待打開(kāi)“潘多拉魔盒”。
換言之，內(nèi)生安全是擺脫傳統(tǒng)的單一安全保障與驗(yàn)證體系，通過(guò)多元的、異構(gòu)的不同體系交叉驗(yàn)證保障AI安全，是AI安全可信的“第三條路”，跳出了傳統(tǒng)安全“自律”“他律”“外部附加”“被動(dòng)防護(hù)”的思維定式，構(gòu)建了“從設(shè)計(jì)源頭到制造全程植入安全能力”的新模式。這一顛覆傳統(tǒng)防御邏輯的解決方案，實(shí)際上是先“升維”、再“降維”，從而能有效處理當(dāng)前AI安全中的痛點(diǎn)、難點(diǎn)問(wèn)題。
依靠多元主體的共識(shí)機(jī)制與交叉驗(yàn)證的監(jiān)督集群，能夠?qū)崿F(xiàn)三大目標(biāo)：一是通過(guò)“相對(duì)正確公理”讓風(fēng)險(xiǎn)“相對(duì)可控”；二是借助“群體共識(shí)”讓多個(gè)主體共同當(dāng)好“風(fēng)險(xiǎn)守門人”；三是在設(shè)計(jì)階段就為AI植入“安全基因”，確保AI系統(tǒng)“一開(kāi)箱就能安全可用”。這條技術(shù)路線的價(jià)值在于，能讓AI在保持創(chuàng)新活力的同時(shí)守住安全底線，既可以大膽探索智能駕駛等技術(shù)“先導(dǎo)區(qū)”，又能依靠?jī)?nèi)生的“安全籠子”不越界。
記者：您的研究團(tuán)隊(duì)正加速推進(jìn)AI內(nèi)生安全概念驗(yàn)證平臺(tái)的落地見(jiàn)效，期望給“人工智能+”，提供安全的可行路徑。請(qǐng)您具體描述一下該項(xiàng)工作的進(jìn)展，以及未來(lái)推進(jìn)AI安全可信技術(shù)落地的關(guān)鍵抓手是什么？
鄔院士：關(guān)于內(nèi)生安全能否破解AI的不確定性風(fēng)險(xiǎn)，能否將AI “不可解釋性、不可判定性、不可推論性”帶來(lái)的不確定性風(fēng)險(xiǎn)轉(zhuǎn)化為概率可控的安全問(wèn)題，我們已在部分領(lǐng)域取得可喜進(jìn)展。這些進(jìn)展并非單點(diǎn)技術(shù)改良，而是從底層架構(gòu)到應(yīng)用場(chǎng)景的系統(tǒng)級(jí)創(chuàng)新，具有突破性意義。
首先，我們率先構(gòu)建了人工智能內(nèi)生安全“超凈環(huán)境”，解決了數(shù)字底座的可信根基問(wèn)題。這里的“超凈”并非傳統(tǒng)意義上的物理環(huán)境隔離，而是通過(guò)建立“受信任執(zhí)行環(huán)境+不確定安全邊界歸約”技術(shù)，為AI應(yīng)用系統(tǒng)打造的“內(nèi)生安全實(shí)驗(yàn)室”，確保AI模型算法執(zhí)行過(guò)程中始終約束在“可追溯、可驗(yàn)證、可管控”的數(shù)字底座安全邊界內(nèi)，規(guī)避因外部擾動(dòng)導(dǎo)致的決策偏差。
其次，在關(guān)鍵領(lǐng)域的演示驗(yàn)證已取得實(shí)質(zhì)進(jìn)展。例如，在內(nèi)容安全檢測(cè)中，依托內(nèi)生安全技術(shù)能有效識(shí)別大模型生成的有害信息；在有線電視網(wǎng)絡(luò)領(lǐng)域，可保障智能系統(tǒng)生成內(nèi)容的安全可信；在智能網(wǎng)聯(lián)汽車領(lǐng)域，端到端的智能決策不再依賴單一“黑箱”模型，而是通過(guò)多主體共識(shí)機(jī)制確保決策與行動(dòng)可控，為“大模型上車”“大模型駕車”提供了可行路徑。
最后，我們正加速推進(jìn)人工智能內(nèi)生安全概念驗(yàn)證平臺(tái)的落地見(jiàn)效。該平臺(tái)聚焦網(wǎng)絡(luò)安全保險(xiǎn)大模型、醫(yī)?；舜竽Ｐ汀⒅悄芙ㄔ齑竽Ｐ?、智慧家居大模型等高價(jià)值領(lǐng)域，開(kāi)展面向?qū)嶋H應(yīng)用的概念驗(yàn)證，打通“工程師作品→實(shí)驗(yàn)室樣品→企業(yè)端產(chǎn)品→市場(chǎng)側(cè)商品”的轉(zhuǎn)化鏈路，期望借助平臺(tái)的高度集約效能，探索解決AI內(nèi)生安全技術(shù)落地轉(zhuǎn)化的新路徑。
可以說(shuō)，建設(shè)國(guó)家級(jí)人工智能內(nèi)生安全檢測(cè)試驗(yàn)場(chǎng)，是推進(jìn)AI安全可信技術(shù)落地的關(guān)鍵抓手。其定位類似醫(yī)療領(lǐng)域的“CT/B超設(shè)備/磁共振”設(shè)施，通過(guò)檢測(cè)技術(shù)、手段、生態(tài)創(chuàng)新，實(shí)現(xiàn)AI“聰明與向善同步進(jìn)化”的可量化與可驗(yàn)證目標(biāo)，推動(dòng)“AI內(nèi)生可信治理”，促進(jìn)AI+行動(dòng)從“有管理”向“可管理”的歷史性轉(zhuǎn)變，同時(shí)輸出技術(shù)標(biāo)準(zhǔn)、孵化產(chǎn)業(yè)生態(tài)。
記者：就您研究的領(lǐng)域而言，當(dāng)前在推進(jìn)“人工智能+”行動(dòng)過(guò)程中，創(chuàng)新鏈和產(chǎn)業(yè)鏈實(shí)現(xiàn)有效對(duì)接還面臨哪些障礙？這一過(guò)程中最該把握的核心原則是什么？
鄔院士：在“人工智能+”行動(dòng)中，創(chuàng)新鏈與產(chǎn)業(yè)鏈有效對(duì)接中，面臨的關(guān)鍵性障礙是：大規(guī)模應(yīng)用所需的安全可信問(wèn)題仍未找到妥善的解決方法。只有克服“不靠譜幻覺(jué)問(wèn)題”等不確定風(fēng)險(xiǎn)，AI才有可能成為人類“值得信賴的助手”，各行各業(yè)才能用得放心，人工智能對(duì)社會(huì)各生態(tài)系統(tǒng)的快速滲透才不會(huì)導(dǎo)致嚴(yán)重的社會(huì)性災(zāi)難。
若要克服這個(gè)難題，需用內(nèi)生可信的設(shè)計(jì)框架，從源頭為AI應(yīng)用筑牢安全根基；同時(shí)，需要有可信任、可檢測(cè)的量綱，能量化評(píng)估AI與產(chǎn)業(yè)融合的安全程度；此外，還需要普適性高、可行性強(qiáng)的檢測(cè)理論、建設(shè)技術(shù)和配套生態(tài)，可以規(guī)模化、高效地驗(yàn)證AI應(yīng)用系統(tǒng)安全性。不破解“對(duì)人工智能應(yīng)用系統(tǒng)安全可信進(jìn)行可量化的大規(guī)模檢測(cè)”這個(gè)問(wèn)題，AI創(chuàng)新鏈與產(chǎn)業(yè)鏈不可能順暢對(duì)接。
具體到未來(lái)的人工智能內(nèi)生安全檢測(cè)試驗(yàn)場(chǎng)建設(shè)，將主要聚焦四個(gè)方向：一是打造復(fù)雜環(huán)境下的實(shí)驗(yàn)場(chǎng)景，驗(yàn)證 “面對(duì)不確定風(fēng)險(xiǎn)時(shí)，如何建立對(duì)AI應(yīng)用系統(tǒng)的安全信任”；二是借鑒汽車安全標(biāo)準(zhǔn)（ASIL），搭建覆蓋AI系統(tǒng)設(shè)計(jì)、檢測(cè)、應(yīng)用全流程的安全框架，解決大模型安全可信設(shè)計(jì)難題；三是打造“安全可信檢測(cè)母機(jī)”研發(fā)平臺(tái)，研制具有通用安全檢測(cè)能力的原型系統(tǒng)，再通過(guò)開(kāi)源的概念驗(yàn)證中心、中試基地，推動(dòng)AI安全檢測(cè)裝備產(chǎn)業(yè)化，解決安全評(píng)估缺少通用方法、成本高的問(wèn)題；四是建立跨國(guó)技術(shù)驗(yàn)證機(jī)制，搭建國(guó)際協(xié)作網(wǎng)絡(luò)，讓中國(guó)AI安全新理念匯聚全球發(fā)展生態(tài)，在聯(lián)合驗(yàn)證中共建質(zhì)量標(biāo)準(zhǔn)、完善檢測(cè)手段、筑牢信任錨點(diǎn)，為全球AI治理貢獻(xiàn)可借鑒的方案。
