不能放任AI造假起號泛濫成災(zāi)
□新派融媒體評論員 薛靜
外國人熟練演唱中文歌曲、銀發(fā)奶奶傳授養(yǎng)生秘訣、氛圍感女孩分享穿搭美學(xué)……據(jù)新華社報道，社交媒體上，一些AI生成的視頻關(guān)注度頗高，“細節(jié)滿滿”讓很多網(wǎng)友信以為真。記者調(diào)查發(fā)現(xiàn)，不少社交賬號利用AI技術(shù)造假、博眼球快速“吸粉”起號，進而變現(xiàn)。近期，多個平臺對“AI起號”現(xiàn)象開展專項治理行動，清理違規(guī)內(nèi)容并封禁部分賬號。
起號，指在社交媒體或電商平臺開設(shè)新賬號，通過運營吸引粉絲、獲取流量，最終實現(xiàn)商業(yè)轉(zhuǎn)化。
互聯(lián)網(wǎng)時代，流量意味著利益。隨著AI的普及，起號門檻大幅降低。在“單賬號月入過萬”的利益驅(qū)動下，一些操作者瞄準(zhǔn)情感、養(yǎng)生、美妝等易引發(fā)共情的領(lǐng)域，用AI生成“銀發(fā)奶奶”“美女博主”等形象精準(zhǔn)吸引特定群體，通過電商帶貨、賬號轉(zhuǎn)賣等方式變現(xiàn)，形成“起號、轉(zhuǎn)型、轉(zhuǎn)賣”的灰色產(chǎn)業(yè)鏈。
社交平臺上有眾多網(wǎng)友求購和出售賬號，2.5萬粉絲的AI養(yǎng)生號售價6000元，11萬粉絲的AI寵物號售價1.6萬元……AI造假起號并非簡單的技術(shù)游戲，而是涉嫌多項違法的嚴(yán)肅問題。AI生成的內(nèi)容，大多依靠獵奇、低俗實現(xiàn)快速傳播，極易讓人陷入謠言和虛假信息產(chǎn)生的“信息繭房”，擾亂正常的網(wǎng)絡(luò)秩序。
根據(jù)反電信網(wǎng)絡(luò)詐騙法，任何單位和個人不得非法買賣、出租、出借互聯(lián)網(wǎng)賬號。多個網(wǎng)絡(luò)平臺規(guī)定，賬號僅限本人使用，禁止以任何形式出租、轉(zhuǎn)讓、售賣或以其他方式許可他人使用賬號。AI虛擬人物、賬號實際操控人、轉(zhuǎn)售用戶之間的信息錯位，不僅違反監(jiān)管規(guī)定，更為數(shù)據(jù)安全埋下了風(fēng)險隱患。
治理此類亂象，需要各方共同努力。作為網(wǎng)絡(luò)服務(wù)提供商，平臺在內(nèi)容審核方面承擔(dān)著責(zé)任和義務(wù)，通過要求對AI生成作品進行顯著標(biāo)注、將違規(guī)賬號下架處理、封禁批量起號商家等方式，最大限度杜絕AI造假現(xiàn)象。監(jiān)管部門也應(yīng)加強監(jiān)管力度，沿著起號、養(yǎng)號鏈條溯源，嚴(yán)厲打擊背后相關(guān)利益機構(gòu)，阻斷灰色產(chǎn)業(yè)鏈。隨著AI技術(shù)的不斷迭代升級，監(jiān)管方、平臺方也需及時更新技術(shù)庫，用更強大的技術(shù)能力對不法分子形成絕對壓制。當(dāng)然，整治AI造假起號也離不開大眾參與，例如鼓勵網(wǎng)友舉報可疑賬號、引入專業(yè)機構(gòu)開展評估等，充分調(diào)動公眾參與亂象治理的積極性。
AI的價值在于擬人化服務(wù)而非擬人化欺騙，在于賦能發(fā)展而非助力亂象。遵守“技術(shù)向善”的規(guī)則，在法律法規(guī)框架內(nèi)，引導(dǎo)AI技術(shù)正向應(yīng)用，方能最大化體現(xiàn)AI的價值。莫讓技術(shù)成為造假的“幫兇”，守住底線，才能讓網(wǎng)民安心共享數(shù)字時代紅利。
編輯:馮淑杰 張興紅
一審:姜健 李敬友
二審:孫瑞永
三審:管延會
