小紅書發(fā)布了關(guān)于整治AI技術(shù)濫用的治理公告,公告稱,為維護清朗網(wǎng)絡(luò)空間,營造積極健康、文明和諧的社區(qū)環(huán)境,小紅書積極響應(yīng)中央網(wǎng)信辦、上海市委網(wǎng)信辦關(guān)于“清朗·整治AI技術(shù)濫用”專項行動的要求,重點聚焦利用AI批量生產(chǎn)虛假內(nèi)容漲粉、利用AI起號引流帶貨、售賣AI起號課程、售賣AI賬號等違規(guī)行為開展專項整治工作,切實履行平臺責(zé)任,深入清理違規(guī)問題。
本階段具體治理情況如下: 針對“利用AI生成低俗獵奇視頻”、“AI生成虛擬外國幼兒教育專家教授育兒內(nèi)容”、“AI視頻賬號售賣教程”、“AI賬號秘籍傳授”、“引導(dǎo)規(guī)避平臺AI標(biāo)注”“轉(zhuǎn)讓、銷售AI虛擬賬號”等各類違規(guī)內(nèi)容加強排查清理力度,共清理違規(guī)內(nèi)容265條,對@IU干跨境等13個違規(guī)用戶予以禁言處置。同時嚴(yán)厲打擊轉(zhuǎn)讓、售賣、出租網(wǎng)絡(luò)賬號行為,加強AI生成內(nèi)容監(jiān)測甄別。
后續(xù),小紅書將持續(xù)加大對各類涉AI生成相關(guān)違規(guī)行為的打擊力度,不斷升級完善平臺內(nèi)AI領(lǐng)域相關(guān)的內(nèi)容治理能力,包括AI識別能力建設(shè)。歡迎小紅薯們積極參與平臺共治,在合理合法使用AI創(chuàng)作的同時積極對AI生成內(nèi)容進行標(biāo)注聲明(在“自主聲明”勾選“筆記含AI合成內(nèi)容”),讓我們共同打造清朗、有序、健康的網(wǎng)絡(luò)生態(tài)環(huán)境。