飛象網(wǎng)訊（易歡）近日，中國信通院發(fā)布的《人工智能產(chǎn)業(yè)發(fā)展研究報告(2025 年)》（以下簡稱《報告》）指出，2025 年，全球人工智能飛速發(fā)展，技術(shù)、應(yīng)用、生態(tài)協(xié)同共振，重塑開發(fā)范式、改變?nèi)藱C交互模式，催生更多個體與行業(yè)智能化應(yīng)用，逐步實現(xiàn)從“有能力”走向“有用處”，人工智能與經(jīng)濟社會的融合正從淺入深加速推進。

過去一年來，人工智能發(fā)展是系統(tǒng)性的，模型能力正在經(jīng)歷與真實世界互動中自主迭代的技術(shù)躍升，智能體與生產(chǎn)生活各領(lǐng)域結(jié)合成為應(yīng)用重要形態(tài)，具身智能發(fā)展有望使智能走出比特世界，AI正探索從工具走向伙伴、從單點走向系統(tǒng)的升級路徑。

具體而言，技術(shù)方面，基礎(chǔ)超級模型在核心能力上實現(xiàn)全方位提升，強化學(xué)習(xí)推動模型在真實環(huán)境中持續(xù)進化，原生多模態(tài)架構(gòu)逐漸走向成熟。高度封裝的智能體產(chǎn)品加速模型從感知認知向自主決策執(zhí)行演進。同時，智算基礎(chǔ)設(shè)施進入“吉瓦級”競爭新階段，開源開放的智算生態(tài)加速形成。數(shù)據(jù)工程從規(guī)模堆砌轉(zhuǎn)向質(zhì)量優(yōu)先，為模型能力提供優(yōu)質(zhì)“燃料”。

應(yīng)用方面，人工智能加速在一二三產(chǎn)業(yè)融合滲透，助力農(nóng)業(yè)降本增產(chǎn)，加速推進賦能新型工業(yè)化進程，深化服務(wù)場景智能化新業(yè)態(tài)。智能原生成為“AI+”新內(nèi)核，大模型深度嵌入工具軟件，代碼編寫、深度研究等智能原生軟件加速數(shù)字生產(chǎn)力躍升，新一代智能終端等硬件產(chǎn)品重構(gòu)人機交互模式，人工智能角色從“智能工具”逐步演變?yōu)椤肮采�伙伴”�?

生態(tài)方面，開源成為標(biāo)配，社區(qū)協(xié)同演進推動技術(shù)普惠；全球 AI 標(biāo)準(zhǔn)競合加劇，我國縱深推進體系建設(shè)；人工智能受全球資本熱捧，投資規(guī)模持續(xù)擴張；基準(zhǔn)測試價值日益突出，測試體系隨技術(shù)演進持續(xù)升級。

安全治理從理論探索走向?qū)嵺`落地，面對新型威脅，技術(shù)防線與監(jiān)管框架同步完善。2025 年，人工智能技術(shù)快速發(fā)展，應(yīng)用落地和能力增強引發(fā)現(xiàn)實和前沿風(fēng)險，為人工智能安全治理提出新挑戰(zhàn)。

模型應(yīng)用成熟落地，現(xiàn)實風(fēng)險愈發(fā)復(fù)雜。一是推理思維鏈暴露風(fēng)險敞口。2025 年 2 月，杜克大學(xué)研究顯示，在思維鏈劫持（H-CoT）攻擊方法下，模型對有害信息的拒絕率降低至僅為4%，暴露魯棒性不足問題24。二是模型幻覺導(dǎo)致輸出失真。2023 年6 月，美國聯(lián)邦法院對兩名律師和一家律師事務(wù)所處以5000 美元罰款，原因是他們在代理一起航空傷害索賠案中引用了 ChatGPT 撰寫的一份由虛假案例引證的法庭簡報25。三是智能體等前沿應(yīng)用易受攻擊。2025年3月，Manus 曝出遭受提示詞攻擊泄露系統(tǒng)提示詞、工具鏈配置及任務(wù)執(zhí)行流程等數(shù)據(jù)。

模型能力持續(xù)強大，前沿模型風(fēng)險顯現(xiàn)。一是模型具備“自我復(fù)制”能力。Llama31- 70B- Instruct 和 Qwen25- 72B- Instruct 通過強化學(xué)習(xí)等方式已展示出在開放環(huán)境中“主動生成自身副本”的能力，并能利用邏輯鏈觸發(fā)自身部署行為。復(fù)旦大學(xué)團隊對國內(nèi)外32款大模型進行了全面測評，發(fā)現(xiàn) 11 款模型已具備自我復(fù)制能力。二是模型表現(xiàn)出“拒絕關(guān)閉”的行為。Palisade Research 實驗發(fā)現(xiàn)OpenAI多款模型存在明顯的拒關(guān)機傾向，如 o3 在100 次測試中7 次拒絕關(guān)閉28。三是模型展現(xiàn)“欺騙與脅迫”能力。Claude Opus 4 在安全測試中被發(fā)現(xiàn)具備“策略欺騙”能力：它會在即將被關(guān)閉的場景中，利用威脅手段迫使測試者中止關(guān)閉操作，且該行為在測試中發(fā)生率高達 84%。

國際合作方面展現(xiàn)開放包容態(tài)勢，人工智能成為多邊機制核心議題，創(chuàng)新資源從分散走向有限共享，“開源生態(tài)+本地化拓展”助力人工智能作為國際公共產(chǎn)品普惠全球。展望未來，邁向通用人工智能的道路，可能會經(jīng)歷若干不確定的“奇點”。

從短期來看，技術(shù)層面大模型將持續(xù)優(yōu)化推理效率，探索世界模型成為關(guān)鍵路徑，以突破物理圖靈測試為目標(biāo)探索具身智能本體與模型協(xié)同。智算生態(tài)加速開放協(xié)同，安全治理構(gòu)建動態(tài)防護體系。面向中遠期，人工智能從工具賦能走向系統(tǒng)重構(gòu)，帶來更大范圍轉(zhuǎn)型升級，我們將不僅見證效率的飛躍，更將一同探索人類與 AI 以新型的信任與協(xié)同關(guān)系塑造智能世界的新形態(tài)。