管住AI“魔改”視頻，讓“科技向善”落地有聲

本報評論員 韓韞超

用人工智能賦能各行業各領域的發展，同時避免技術異化，引導技術向上向善，讓其真正成為推動社會進步和提升生活品質的有力工具，應該成為各方積極努力的方向。

《甄嬛傳》變身“槍戰片”，《紅樓夢》改成“武打戲”，孫悟空騎著摩托車揚長而去……據12月10日新華社報道，廣電總局網絡視聽司日前發布《管理提示(AI魔改)》，指出近期AI“魔改”視頻以假亂真、“魔改”經典現象頻發，要求各相關省局督促轄區內短視頻平臺排查清理AI“魔改”影視劇的短視頻，限期反饋工作情況；嚴格落實生成式人工智能內容審核要求，舉一反三，對各自平臺開發的大模型或AI特效功能等進行自查，對在平臺上使用、傳播的各類相關技術產品嚴格準入和監看，對AI生成內容做出顯著提示。

“在AI‘魔改’視頻里，你永遠不知道下一秒會發生什么”“以前是電視放什么看什么，現在是想看什么自己就用AI做什么”——社交平臺上，有網友總結了“AI魔改”視頻的“無所不能”。這類視頻大多是創作者腦洞大開，為經典影視劇中的名場面設置另一段離奇情節，并通過提供圖片和文字描述的方式在AI視頻軟件或網站上生成，追求的多是出其不意、驚掉下巴。對此，不少網友表示“初看覺得新鮮，但沒底線地修改經典，傳遞的價值觀大都是錯誤的，是過度娛樂了”，還有網友坦言“不少人可能笑笑就過去了，但對劇粉來說感覺是毀了角色”。

如此現實下，廣電總局發布管理提示，要求對此類視頻進行規范與監管，十分必要。提示中“相關視頻為博流量，毫無邊界褻瀆經典IP，沖擊傳統文化認知，與原著精神內核相悖，且涉嫌構成侵權行為”的表述，也一針見血地指出了“AI魔改”視頻的危害。

近年來，人工智能產業蓬勃發展，技術迭代升級的速度驚人，一個個新鮮且功能強大的產品，不斷拓展著技術落地的場景，改變著人們的生產生活。不過，對技術的運用也不時帶來一些隱患——“AI換臉”可以讓一輩子未走出深山的大爺開口“飆英文”，“AI復活”可以讓已經去世的明星對大家說“其實我并沒有真正離開”，“AI換聲”可以隨意克隆任何一個自然人的聲音……不難想見，這些操作之下，有心之人完全可以通過炮制名人音頻作品以假亂真，甚至可以假冒某個特定的人精準“殺熟”、實施詐騙……當親眼所見、親耳所聽都變得不足為信，后果可想而知。AI技術濫用可能帶來的道德倫理、信息安全、侵犯權利等問題，不僅會嚴重污染網絡視聽空間，也為“科技改變生活”蒙上了一層陰影。

毫無疑問，任何技術的應用和發展都應建立在符合道德倫理、社會規則和法律的前提下。用人工智能賦能各行業各領域的發展，同時避免技術異化，引導技術向上向善，讓其真正成為推動社會進步和提升生活品質的有力工具，應該成為各方積極努力的方向。

防御和抵制那些涉嫌違反法律法規、社會公德、倫理道德的AI應用，謹慎對待那些有潛在風險的AI應用，已有不少治理舉措。從《生成式人工智能服務管理暫行辦法》出臺、《人工智能生成合成內容標識辦法(征求意見稿)》發布，到相關職能部門及時“喊話”要求整治相關亂象，再到互聯網大會上各方積極探討“AI向善”、共同擘畫與人工智能共存的未來，AI技術這列高速行駛的列車，需要科學的信號指引，需要多方之力的保駕護航。與此同時，監管過程中面臨的一些挑戰應該引起重視，如AI訓練時使用的算法模型存在問題、使用的數據存在侵權風險，不同級別的監管者法律責任界限不清等。相應的監管手段也要避免臨時性、應急性，讓“科技向善”更加有的放矢、落地有聲。

就在這幾天，有媒體報道了江蘇無錫街道上出現提醒行人或非機動車越線、闖紅燈等行為的“AI交警”，實現了交警警力的24小時守候。但愿未來的人工智能技術，不再與“惹禍”“侵權”之類相伴，而是成為賦能美好生活的代名詞，給公眾更多幸福感、獲得感、安全感。