網信辦深入整治AI應用亂象 查處近5萬個賬號

中央網信辦深入整治AI應用亂象，查處近5萬個賬號。

網信辦近期聚焦利用AI製作發佈虛假信息、傳播暴力低俗內容、假冒他人、侵害未成年人權益等問題，部署各地網信部門深入推進重點整治任務，督促網站平台集中清理AI生成各類違法不良信息。 截至目前，累計清理近561萬條違法違規信息，查處4萬9千多個賬號，處置2千4百多個違規網站及應用程式。

網信辦通報部分典型案例，包括利用AI「魔改」經典、生成俗稱「數字泔水」的低質素影片、AI製作發佈虛假不實信息、利用AI假冒或模仿他人、製作及發佈暴力低俗等信息、利用AI侵害未成年人權益、利用AI從事網絡水軍活動及AI產品服務和應用程式違規等。

據了解，網信部門將總結專項行動治理成效，進一步把握AI發展趨勢和規律，密切關注AI生成合成內容新情況及新風險，及時採取有效措施，防範AI技術濫用惡用，持續為AI創新發展營造良好環境。