濫用AI技術(shù)擾亂信息生態(tài)。部分不法分子濫用AI技術(shù)生成虛假災(zāi)情圖像、捏造熱點(diǎn)話(huà)題，嚴(yán)重破壞網(wǎng)絡(luò)秩序。如“上海退休教授陽(yáng)臺(tái)核發(fā)電”，看似圖文并茂、細(xì)節(jié)充分，實(shí)為造謠者利用AI大模型生成虛假圖片和視頻，配以煽動(dòng)性文字，制造噱頭，騙取流量?！坝许斄髅餍窃诎拈T(mén)輸了10億”信息在網(wǎng)絡(luò)平臺(tái)迅速傳播，引發(fā)熱議和猜測(cè)。經(jīng)查實(shí)為網(wǎng)民徐某某為博取流量、謀取利益，使用AI軟件偽造，嚴(yán)重?cái)_亂公共秩序。又如“廣東多地出現(xiàn)冰雹天氣，‘冰雹比雞蛋還大’”“暴雨過(guò)后，河南許昌滿(mǎn)目瘡痍”等不實(shí)信息，均為通過(guò)AI制作生成的虛假圖片，其畫(huà)面明顯夸大災(zāi)情，增添公眾焦慮。這些謠言透支社會(huì)信任，引發(fā)不必要的恐慌和誤解。

雙管齊下共筑清朗空間。各級(jí)網(wǎng)信和公安等部門(mén)協(xié)同聯(lián)動(dòng)，通過(guò)“權(quán)威辟謠+依法懲處”雙管齊下，曝光典型案例，依法嚴(yán)懲造謠傳謠者，形成有力警示震懾效應(yīng)。前述“90后省級(jí)機(jī)關(guān)干部相親，年收入35-40萬(wàn)元”和“有頂流明星在澳門(mén)輸了10億”的造謠者，分別被警方依法行政拘留；造謠“廣東多地出現(xiàn)冰雹天氣”和“80后死亡率突破5.2%”的網(wǎng)民也被予以行政處罰和批評(píng)教育。此外，為保護(hù)公民合法權(quán)益，維護(hù)社會(huì)公共利益，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國(guó)家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，建立AI生成內(nèi)容強(qiáng)制標(biāo)識(shí)制度，為網(wǎng)絡(luò)謠言治理提供重要制度保障。