近期，一些不法分子利用AI技術(shù)編造謠言，嚴(yán)重擾亂社會秩序。他們通過AI軟件生成虛假新聞和圖片，短時間內(nèi)能生成大量文章，一天最多可達(dá)7000篇，以此賺取平臺流量補貼。這些謠言往往模仿新聞風(fēng)格，包含驚險細(xì)節(jié)，更具迷惑性。

公安機關(guān)對此類違法行為進(jìn)行了嚴(yán)厲打擊。江西一家MCN機構(gòu)因發(fā)布多條AI生成的謠言信息被查處，實際控制人王某某被行政拘留5日，機構(gòu)停業(yè)整改。在重慶，個人康某某也因編造民房爆炸謠言被依法行政拘留，并收繳違法所得。

專家指出，平臺應(yīng)履行相應(yīng)監(jiān)管責(zé)任，合理強化違法成本。平臺在刺激創(chuàng)作的同時，應(yīng)盡到消除虛假信息傳播的責(zé)任，對散布謠言者采取懲罰機制。法律也應(yīng)匹配違法人員的違法成本，以遏制此類行為的蔓延。網(wǎng)絡(luò)并非法外之地，對于發(fā)布不實言論、擾亂社會秩序的行為，公安機關(guān)將堅決依法處理。

天眼查專業(yè)版數(shù)據(jù)顯示，截至目前我國現(xiàn)存在業(yè)、存續(xù)狀態(tài)的人工智能相關(guān)企業(yè)超424.3萬家。其中，2025年截至目前新增注冊相關(guān)企業(yè)約28.6萬余家，從企業(yè)注冊數(shù)量趨勢來看，近五年間，人工智能相關(guān)企業(yè)的注冊數(shù)量呈現(xiàn)出逐年增長的態(tài)勢，并在2024年達(dá)到頂峰。

從區(qū)域分布來看，廣東省以超過63.6萬余家的人工智能相關(guān)企業(yè)數(shù)量位居首位，占全國企業(yè)總數(shù)的15%；排在其后的是江蘇省、北京市、山東省和浙江省，相關(guān)企業(yè)數(shù)量分別是超過33.6萬余家、33.1萬余家、29.2萬余家和25.2萬余家。

此外，通過天眼查天眼風(fēng)險和深度風(fēng)險來看，涉及司法案件的人工智能相關(guān)企業(yè)約占總數(shù)的2.22%。