近年來，人工智能（AI）技術發展迅速，成為全球科技領域的熱點。AI已經從單純的學術研究發展成為改變人類生活方式的重要力量。然而，卻有一些別有用心之人將其變為造謠、斂財的工具。
今年6月，一條“廣東省五華縣華陽鎮一70多歲老人被毆打致昏迷，其孫子為此跳河自殺，打人者一審被判九年十個月”的短視頻在互聯網平臺傳播，引發大量網民關注、討論。經公安網安部門開展調查發現，該視頻的圖文內容系移花接木、肆意編造的網絡謠言。據造謠人員任某供述，這段長達幾分鐘、聲色并茂的視頻全是由AI合成的。目前，公安機關已依法對任某追究法律責任。
此事件并非個案，隨著AI技術應用越來越普遍，一些網民為博眼球、蹭熱度，將AI技術用以編“偽消息”、造“假新聞”，以此來獲得網民關注和點贊量，進而實現流量變現。
專家表示，AI造謠具有定制化、門檻低、識別難、破壞大等特點，亟需加強監管。同時，可以通過設置AI生成內容提示標識、嚴格落實網絡實名制等技術手段進行治理。
AI造謠門檻低、危害大
今年8月，一則“福建南平松溪縣遭遇嚴重大風襲擊，造成棗嶺街一人死亡”的消息在網絡上迅速傳播。這則消息圖文并茂，甚至還有逼真的視頻片段，一時間引得大量網民關注和轉發。但經公安機關核查發現，這竟然是用AI編造而成的網絡謠言視頻。
“當前AI網絡謠言具有仿真性和規模性的特征。根據輸入指令的不同，AI在短期內能夠批量生成大量內容不同的網絡謠言，而且生成的網絡謠言信息內容更加貼合人類表達方式，并結合深度偽造技術生成圖片、視頻、錄音，使得社會公眾越發難以辨識網絡信息的真偽性。”北京航空航天大學法學院副教授趙精武告訴記者。
記者隨機用“AI文案速成”小程序測試，在對話框內輸入“火災”這一主題有關的內容創作指令，便生成了一篇新聞報道，甚至包括現場救援細節，及消防安全提示，讓人真假難辨。趙精武指出，AI網絡謠言的危害性主要表現為擾亂社會公共秩序，削弱政府公信力、誘發電信網絡詐騙等。
為牟取非法利益造假
涉嫌構成多種罪名
趙精武分析，個人或組織利用AI技術造謠背后的動機是復雜多樣的，既包括部分網民為了尋求存在感、刺激感，故意編造AI網絡謠言，也包括犯罪分子為了牟取非法利益，編造AI網絡謠言，以便順利實施電信網絡詐騙等犯罪活動。
今年6月中旬，一家MCN機構的實際控制人王某某因利用AI軟件生成虛假新聞并大肆傳播，擾亂公共秩序，被警方行政拘留。據警方通報，王某某共經營5家MCN機構，運營賬號842個，自今年1月以來，王某某通過AI軟件生成虛假新聞，最高峰一天能生成4000至7000篇。
近日，浙江溫州蒼南公安成功打掉一個編傳舊案謠言的MCN機構“網絡水軍”團伙。進一步偵查發現，相關賬號和視頻由某網絡科技有限公司（實為以MCN模式運營的“網絡水軍”團伙）使用發布，該MCN“網絡水軍”團伙搜集全網敏感熱點，隨意設置虛假劇情，利用AI軟件根據劇情自動生成多處關鍵情節虛假的文案，安排真人出鏡解說，拼接網絡中誤導性素材后剪輯成所謂“原創”視頻。該團伙明知上述視頻充斥大量虛假、挑動群眾情緒類信息，為博取流量、不法牟利，在多個平臺公開發布，后造成虛假視頻信息被大量瀏覽、傳播，從而牟取非法流量返利。
中國人民大學刑法學博士、北京市京師律師事務所實習律師黃福濤告訴記者，編造虛假的險情、疫情、災情、警情，在信息網絡或者其他媒體上傳播，或者明知是上述虛假信息，故意在信息網絡或者其他媒體上傳播，嚴重擾亂社會秩序的，處三年以下有期徒刑、拘役或者管制；造成嚴重后果的，處三年以上七年以下有期徒刑。如果行為人不僅制作、傳播虛假信息，而且目的是騙取互聯網平臺上不特定多數人的財產，則涉嫌詐騙罪。
如何治理和防范AI網絡謠言的產生？
為治理AI亂象，深化網絡生態治理，近年來相關部門出臺了多項政策和措施。
2023年1月10日起施行的《互聯網信息服務深度合成管理規定》指出，任何組織和個人不得利用深度合成服務制作、復制、發布、傳播法律、行政法規禁止的信息，不得利用深度合成服務從事危害國家安全和利益、損害國家形象、侵害社會公共利益、擾亂經濟和社會秩序、侵犯他人合法權益等法律、行政法規禁止的活動。
2023年8月15日起施行的《生成式人工智能服務管理暫行辦法》規定，提供和使用生成式人工智能服務，應當遵守法律、行政法規，尊重社會公德和倫理道德。不得生成煽動顛覆國家政權、推翻社會主義制度，危害國家安全和利益、損害國家形象，煽動分裂國家、破壞國家統一和社會穩定，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害信息等法律、行政法規禁止的內容。
“加強AI領域的司法治理，需要立足于‘安全與發展并重’和‘分級分類監管’的基本原則，針對諸如生成網絡謠言等技術濫用現象，既需要在事前階段明確研發者、服務提供者以及網絡平臺的主體責任，還需要在事后階段嚴格追究違法行為人的刑事責任、行政責任。”趙精武強調。
同時，他表示，也可通過技術手段進行治理，譬如設置敏感關鍵詞，禁止生成顯著違法的信息內容；嚴格落實網絡實名制，并配合水印技術，實現對生成內容的有效溯源；或者平臺設置AI生成內容提示標識等。
