飛象網(wǎng)訊（易歡）人工智能作為新一輪科技革命和產(chǎn)業(yè)變革的核心驅動力正深刻重塑著人類生產(chǎn)生活方式與社會發(fā)展格局，尤其是隨著近兩年大模型技術的深度應用，人工智能的應用范圍也越來越廣，涌現(xiàn)出上百種場景和模式。然而，在人工智能大模型技術持續(xù)釋放潛能的同時，其帶來的安全問題也愈發(fā)不容忽視。

“當前人工智能技術正以前所未有的速度重素全球科技和產(chǎn)業(yè)格局，大模型成為推動數(shù)字經(jīng)濟發(fā)展的關鍵引擎，但同時也帶來了嚴峻、復雜的安全風險和治理的挑戰(zhàn)�！敝袊�電信集團有限公司黨組成員、副總經(jīng)理劉穎近日在出席活動時講到。對于這種現(xiàn)狀，中國互聯(lián)網(wǎng)協(xié)會專家咨詢委員會常務副主任邵廣祿強調：“AI加速迭代，安全必須同步進階�！�

AI發(fā)展面臨的安全挑戰(zhàn)

近幾年AI技術發(fā)展迅速，逐漸從實驗室走向人們的工作和生活以及產(chǎn)業(yè)深處，AI大模型從百億參數(shù)躍升到萬億參數(shù)級，泛化能力也在持續(xù)突破，能處理從文本生成到復雜推理的各類任務，AI智能體也逐漸進入到智能制造、金融風控等核心的業(yè)務流程，與此同時數(shù)據(jù)的飛輪越轉越快、公開數(shù)據(jù)、私域數(shù)據(jù)以及合成數(shù)據(jù)在交錯喂養(yǎng)我們的大模型，使大模型能力快速提升。

然而，AI技術的突破令人振奮的同時，催生的一系列安全挑戰(zhàn)也成為產(chǎn)業(yè)必須直面的關鍵。例如，數(shù)據(jù)的安全問題、模型訓練中的數(shù)據(jù)投毒、算法黑箱問題以及大模型應用落地時的一些幻覺問題等。對此，邵廣祿也重點指出了當前安全領域的三個挑戰(zhàn)。

一是場景化的風險在加劇。在ToB領域AI加持的網(wǎng)絡攻擊持續(xù)在升級，深度合成技術導致仿冒程序、釣魚郵件等激增，企業(yè)引入的一些AI系統(tǒng)如果存在供應鏈的流動，便更可能成為安全的短板。在隱私保護方面，敏感數(shù)據(jù)的泄露與濫用的風險也在凸顯，深度合成技術的一些惡意應用有可能進一步加劇我們個人信息的侵權問題。

二是重應用輕安全。“金融、醫(yī)療、以及工業(yè)領域的AI應用與核心業(yè)務在深度綁定，但安全能力大多是后加裝型的，而不是原生設計的，這類隱患自然比較多�！�

三是協(xié)同機制有待完善。具體而言，AI的安全涉及技術研發(fā)、標準制定以及監(jiān)管執(zhí)行等諸多環(huán)節(jié)，企業(yè)間的協(xié)同不足、安全數(shù)據(jù)和威脅情報難以共享，國內外的安全標準也沒有統(tǒng)一、跨境AI的應用則合規(guī)問題成本也相對較高。

邵廣祿強調：“這些安全技術的落后，使得我們技術進步的紅利也有可能被滯后�！�

此外，中國工程院教授吳世忠也指出，技術發(fā)展勢不可擋，安全風險亟待監(jiān)管。既要擁抱技術的無限可能，也要筑牢安全的堅實防線。在他看來，內容安全風險、數(shù)據(jù)隱私風險、惡意濫用的風險、社會倫理方面的風險等是當下普遍關注的焦點。

破局AI安全問題的關鍵

針對人工智能、大模型發(fā)展過程中存在的安全問題， 邵廣祿也提出了幾點發(fā)展建議。在技術層面，要聚焦隱私計算可解釋AI、大模型安全護欄等關鍵技術，破解提示詞、數(shù)據(jù)泄密等難題，確保算法的透明及數(shù)據(jù)的可控。

治理方面，要構建政府主導、企業(yè)履責、行業(yè)自律、公眾監(jiān)督的多元共治的格局，建立全生命周期的監(jiān)管框架，讓安全成為AI產(chǎn)品出廠的標配，而不僅僅是附加服務。

在生態(tài)層面，企業(yè)間要更多的共享威脅情報、共建漏洞數(shù)據(jù)庫、開源開放安全工具，降低中小企業(yè)的防護門檻。

安全是人工智能產(chǎn)業(yè)穩(wěn)步前進的基石，更是數(shù)字經(jīng)濟可持續(xù)發(fā)展的根本保障。劉穎也分享了中國電信在AI安全領域的思考、探索和實踐。

據(jù)介紹，中國電信全面擁抱AI，開啟“云改數(shù)轉智惠”的戰(zhàn)略升級。中國電信積極踐行建設網(wǎng)絡強國、科技強國、數(shù)字中國、維護國家網(wǎng)信安全的初心使命，逐步構建起算力安全、算法模型安全、數(shù)據(jù)安全、內容和應用安全的AI安全防護體系。

此外，中國電信堅持走自主可控之路，逐步構建起一體化AI安全保障體系。兩年前，中國電信宣布啟動用于安全垂類模型訓練的“阡陌數(shù)聚”安全語料庫建設，經(jīng)過兩年的積累，“阡陌”已成為國內領先的安全語料庫。基于此，訓練出“星辰·見微”安全大模型，已經(jīng)深入嵌入了中國電信日常安全運營生產(chǎn)當中。今年四月發(fā)布大模型應用一站式安全運營方案，形成了從模型安全檢測到模型安全防護的系列創(chuàng)新成果。

劉穎指出，開放合作是人工智能安全發(fā)展的必然選擇。中國電信秉持開放共享、合作共贏的理念，持續(xù)深化產(chǎn)業(yè)協(xié)作，通過生態(tài)共建，實現(xiàn)協(xié)同共治，推動人工智能產(chǎn)業(yè)安全、穩(wěn)定、繁榮發(fā)展。

未來，希望在產(chǎn)業(yè)界的協(xié)同下，能更有力的推動大模型安全發(fā)展共識的形成與實踐創(chuàng)新，優(yōu)化AI治理機制，加快培育新質生產(chǎn)力，為人工智能的高質量、可持續(xù)發(fā)展注入新動能。