3月3日,识别著名演員劉曉慶通過微博澄清,造假只靠微信視頻號“曉慶人生”並非她的网友賬號,直言相關賬號“畫麵是眼尖我,聲音很像我”。识别上海辟謠平台初步調查發現,造假只靠相關賬號使用AI技術,网友生成劉曉慶的眼尖聲音、視頻等。识别截至發稿,造假只靠該賬號已經不可見。网友
但是眼尖,類似使用AI技術“傍名人”的识别帖子在社交平台還有很多。演員靳東、造假只靠醫生張文宏、网友企業家雷軍等,都曾被“AI造假”。造假者手段百出,或覬覦名人光環吸引流量增加粉絲,或假借名人形象、語音帶貨牟利,更有不法分子用AI數字人炮製詐騙陷阱,利用公眾對名人的信任騙取錢財。
值得注意的是,社交平台的AIGC(人工智能生成內容)不止於“傍名人”。很多服務行業、自媒體越發頻繁使用AIGC為自己“添光”,有些場景的AIGC更是讓觀看者真假難辨。比如,在餐飲、設計、攝影等行業,用AI照片取代實景照片的現象越來越普遍。商家用這些技術生成的美圖、美景招攬顧客。商家造假成本越來越低,效果卻很好,普通人幾乎難辨真偽。
再比如,社交平台的分享等板塊,美輪美奐的城市風光、鬼斧神工的自然景致讓網友心潮澎湃。可當滿心期待的網友向發布者追問具體地點時,得到的往往是沉默。直至有眼尖的網友一語道破天機:這些“照片”大概率是AI虛構的,發布者自然無法給出真實地址。
麵對AIGC滲透到生活的方方麵麵,如果隻是提醒觀看者提高警惕、加以辨別,不足以從根本上解決問題。對很多並不了解AI等新技術的網友來說,更是不可能完成的任務。
所以,要解決AIGC充斥網絡的問題,必須從源頭上采取舉措。
一方麵,相關平台必須正視目前AIGC充斥網絡的現狀,直麵平台自己的問題,而不是一味將責任推卸給發布者。不難發現,一些商家、自媒體之所以熱衷於AIGC,是因為這些內容能夠躲過平台的審核機製,以“真實”的形象出現在社交平台上,甚至利用平台現有算法,為它們的擴散獲得機會。
以“傍名人”類AIGC為例,不法分子利用名人效應吸引眼球,與此同時,平台也成為名人效應的受益者。所以,“傍名人”的現象層出不窮,平台做的卻隻是“賬號被舉報甚至被官方查處後才封號”的事後管理,而沒有從發布伊始就拒絕相關虛假信息。
再比如,AIGC之所以出現在“分享”板塊中,與傳統算法不辨真偽有關。傳統算法過度聚焦用戶即時反響,單純依據互動量等指標推薦內容,卻忽視了AIGC帶來的虛假性問題,反而為虛假內容擴散大開綠燈。
要解決以上問題,必須有的放矢,精準施策。
首當其衝的是名人賬號監管亟待強化。名人作為公眾焦點,一旦賬號被盜用、造假,危害深遠。所以,平台應該構建更加嚴格的名人賬號認證體係,確保賬號創建與運營的真實性。
其實,現有的很多技術已經可以幫上忙,比如通過麵部動態識別、聲紋加密比對等生物技術手段,判斷是“真人”還是“數字人”;或者用最簡單的方式——人工審核,加大對各種冠以名人名號的賬號審查,發現“傍名人”“假名人”後立刻下架,將負麵影響扼殺在萌芽狀態。
其次,給AIGC打上技術“烙印”勢在必行。AI生成的文字、圖片、視頻混雜在信息流中,普通用戶很難憑肉眼甄別。指望造假者主動標注,也無異於與虎謀皮。所以,大模型開發者等提供AIGC服務的企業有必要與信息發布平台聯手,用技術手段為AIGC生成人眼不可識別但技術能夠鑒定的“隱形標簽”、特殊標誌。這樣一來,隻要用戶在平台上發布AIGC,平台就能自動識別,並添加水印、標簽,注明“AI製造”身份,既讓用戶在瀏覽時心中有數,避免被虛假信息誤導,也便於後續的內容追溯與管理。對於故意隱匿AIGC標誌、企圖魚目混珠的發布者,則可以施以懲罰,如限流、封禁賬號等,以儆效尤。
最後,針對那些缺乏關鍵要素卻博人眼球的信息,平台可以要求發布者補充關鍵信息;若發布者無法按照要求完成,則可以采取公開提示、流量限製、封號清退等方式,督促發布者上傳真實信息。
更進一步,法律法規也要快步跟上AIGC的“狂飆”速度。相關部門應加快製定針對AI造假、虛假信息傳播的法律法規,明確造假者、平台方、傳播者等各方的責任邊界。對利用AI實施詐騙等違法犯罪行為嚴懲不貸,震懾不法之徒;對平台疏於管理導致虛假信息泛濫的情況,以巨額罰款倒逼平台守土有責。