2024年1月，人工智能(AI) 新銳巨頭OpenAI 公司的創(chuàng)始人兼 席執(zhí)行官薩姆 · 奧爾特曼(Sam Altman)在世界達沃斯論壇上強調， AI 帶來的技術革命不同于以往，而是成為了一種“不可思議的提G 生產(chǎn)力的工具”。作為具顛覆性的新興技術之一，AI 發(fā)展在為人類 社會經(jīng)濟發(fā)展帶來巨大紅利的同時，也引發(fā)了一系列現(xiàn)實危害和風險 挑戰(zhàn)，主要包括數(shù)據(jù)竊取、隱私泄露、算法歧視、對抗攻擊等安全威 脅，它們不僅威脅著個人信息的保護，影響著企業(yè)的信譽和運營安全， 甚至對安全也構成了潛在的隱患，這些問題需要我們持續(xù)關注并 采取有效措施加以防范和解決。

當前人工智能應用系統(tǒng)的安全威脅是由于其網(wǎng)絡軟硬件運行環(huán) 境和模型算法兩個層面存在的“內生安全問題”所致。然而現(xiàn)有的人 工智能應用系統(tǒng)安全防護模式和技術路線很少能跳出“盡力而為、問 題歸零”的慣性思維，傳統(tǒng)的對抗訓練、挖漏洞、打補丁、封門補漏、 查毒殺馬乃至設蜜罐、布沙箱等層層疊疊的附加式防護措施，在引入 安全功能的同時不可避免地會引入新的內生安全隱患。

為創(chuàng)造性破解人工智能應用系統(tǒng)內生安全難題，本藍皮書提出一種內生安全賦能人工智能應用系統(tǒng)構建的方法，利用內生安全機理中內在的構造效應，從體制機理上管控或規(guī)避人工智能應用系統(tǒng)面臨的破壞及威脅，進而有效提升人工智能應用系統(tǒng)在面對復雜多變安全環(huán)境時的應對能力，為AI 技術的健康發(fā)展提供堅實保障。

附件：人工智能應用系統(tǒng)內生安全藍皮書：內生安全賦能系統(tǒng)構建的方法和內在的構造效應,提升應對能力