遊客發表
9月8日，抖音集團副總裁李亮在微博發文，稱封禁了一千多個利用AI仿冒於東來語音、形象，違規營銷帶貨的賬號。李亮表示，抖音還把相關線索舉報給了監管部門。經過調查，泉州市豐澤區市監局沒收相關企業違法所得並處罰款15萬元。
南都N視頻記者了解到，2023年到2024年，抖音相繼頒布了《關於人工智能生成內容的平台規範暨行業倡議》與《關於不當利用AI生成虛擬人物的治理公告》。抖音在公告中明確反對利用AI進行低質創作，特別是針對違規使用AI生成虛擬人物發布的不實內容，將予以嚴厲懲處。
今年5月，抖音發布關於“AI起號”專項治理行動的公告，重點整治利用AI生成低俗獵奇視頻、AI生成虛擬外國幼兒教育專家教授育兒內容、AI視頻賬號售賣教程、AI賬號秘籍傳授、引導規避平台AI標注、轉讓銷售AI虛擬賬號等行為。在平台站內，累計清理311條違規內容，針對心x甜、向xAi同城流量、瑞xxAI智習室等15個嚴重違規賬號進行了封禁。
9月2日，抖音電商還公布了AI濫用案例。抖音電商公布的案例中，有少數視頻創作者利用AI仿冒名人形象、聲音和口型，用於商品宣傳，誤導不了解的用戶下單購買。有賬號合成某知名運動員父親、哥哥的聲音，並使用相同文案稱“家裏要蓋新房”，借此博取流量。在這些AI合成視頻中，往往掛載駱駝奶粉、土雞蛋、洗衣液等商品鏈接，誤導消費者下單。
還有創作者利用AI創作不符合現實或不存在的商品內容，甚至誇大商品大小、量產等，涉嫌虛假宣傳。少數創作者在直播間利用AI展示樟樹港辣椒豐收的場景，辣椒的數量、分布和植株生長規律完全不符合現實農業，並在口播中誇大種苗的量產，誤導消費者下單。
少數視頻創作者利用AI製作與售賣商品完全無關的內容，從而吸引消費者關注。比如，創作者實際售賣產品為硫磺潤膚露，但利用AI更改各地方新聞報道畫麵作為素材吸引用戶關注後，講解推銷相關商品。
抖音電商表示，AI技術應在合規前提下合理使用，任何濫用、誤用導致消費者權益受損的行為都將受到嚴格治理。平台將持續強化風險識別能力，推動人工智能合規應用，切實維護消費者合法權益，保障良好的電商生態環境。
采寫：南都N視頻記者 汪陳晨
{loop type="link" row=1 }{$vo.title}