洋洋侃侃 | 警惕！別讓AI造假成“流量鬼火”
2025-05-13 18:56:18 來源： 第1眼TV-華龍網(wǎng)
開欄語：大事小事，洋洋侃侃。華龍網(wǎng)視頻短評欄目《洋洋侃侃》，盯緊熱點，表明觀點，鮮活態(tài)度，讓你看見！
新聞背景：近日，央視曝光多個社交平臺上出現(xiàn)大量“AI起號秘籍”相關內容，這些AI生成內容多以俊男靚女、育兒百科、健康養(yǎng)生為主，大都低俗獵奇，有些還用AI生成的人物形象以假亂真。
你聽說了嗎，最近不少社交平臺掀起了AI造假風？簡單來講，就是用AI生成的人物形象冒充育兒專家、美女網(wǎng)紅、知識博主，用極為逼真的表情和語言，一本正經(jīng)地進行假科普。僅借助兩三個AI工具，按“文生圖、圖生圖、圖生視頻”的標準化流程，幾分鐘就能制作一段視頻，用博眼球和大打信息差的方式，成功積累粉絲后，便搖身一變開始帶貨，用流量變現(xiàn)完成收割。
AI造假亂象的出現(xiàn)，真是讓人哭笑不得。一方面，我們感嘆AI發(fā)展之迅速，已經(jīng)到了以假亂真也有人買單的地步，另一方面，我們也氣憤短視頻造假亂象，竟披上了AI的外衣卷土再來。
AI造假亂象像一場數(shù)字霧霾，這種為了流量不擇手段的機械化生產(chǎn)模式，正在擠壓原創(chuàng)者的生存空間，毫無專業(yè)性的“專業(yè)信息”極易給人誤導。廣泛傳播的虛假的內容還會傷害人與人的信任鏈，更可怕的是，一些黑產(chǎn)從業(yè)者通過對抗訓練繞過平臺的AI檢測，還可能使虛假信息的傳播速度遠超真相的求證速度。
好在《人工智能生成合成內容標識辦法》將于今年9月1日起正式施行，往后所有AI生成的內容都要“亮明身份”，無疑將給這一亂象套上法律的準繩。但要徹底解決此類問題還需多方發(fā)力：法律要長出鋼牙?，明確AI作品權屬與責任邊界，各地也要細化相關法規(guī)制度進行進一步規(guī)范；平臺要敢亮紅牌，用技術手段實現(xiàn)實時監(jiān)管和生成溯源；用戶要升級防騙能力，看清屏幕對面的是真人還是數(shù)字皮影。
總而言之，AI傀儡不應該是大家聽信的主角，別讓AI造假成為“流量鬼火”！
洋洋侃完了，邀你來侃侃——
AI視頻藏風險，
以假亂真難分辨。
技術完善識真?zhèn)危?/p>
規(guī)范秩序出重拳。
——網(wǎng)友：周芳元
文字：曹葉
拍攝：陳洋
制作：劉昭辰
美編：何丹
統(tǒng)籌：楊洋
監(jiān)制：白永茂
責任編輯：邵煜晟
發(fā)言請遵守新聞跟帖服務協(xié)議
