明星直播帶貨如今已稀鬆平常。但有人發現，有些“知名女星”竟然可以同時出現在多個直播間，處處可見“楊冪”，時時都有“熱巴”。然而定睛一看，這些帶貨主播原來並非明星本尊，只是使用了AI實時“換臉”技術的普通主播。追半天追了個“李鬼”，網友們難免憤憤難平：“這不是明目張膽行騙嗎？”

的確，很多人在直播間“買買買”，就是衝着明星去的。而商家引入“明星臉”的算計也在於此。“假面”主播堂而皇之大聲吆喝，推動實質的交易買賣，不僅是對明星肖像權的侵犯，某種程度上也是對消費者的欺詐。這些年，“AI換臉”觸碰倫理和法律底線的事件高發，換臉詐騙誹謗等案例更是層出不窮，不僅給當事人造成困擾傷害，更影響着傳播秩序和社會運行。

“AI換臉”技術並非近期才成熟，早在2019年就已大熱。但其甫一誕生，便伴隨着倫理和法律爭議，相當一部分研發創業公司對推廣都保持着謹慎和剋制。然而隨着生成式AI技術浪潮爆發，“換臉”已變得越來越沒有門檻，入局分羹者越來越多，更滋生出不少灰色產業。據悉，一款適合直播聊天的現成模型“實時版”費用只需2000元/套，隨便什麼明星，“虛擬面容隨心定製”。定製美女圖像也不難，價格從100到180元不等，“付了定金便可操作”。只是當“販賣者”憑着所謂“教程”“模型”輕輕鬆鬆賺得盆滿鉢滿，被“李鬼”的事主本人卻不得不四處求告、自證清白，爲“無妄之災”耗費巨大的人力物力成本。不相匹配的代價和所得，加劇了這一市場的畸形。

技術中立並不意味着價值中立，無論是誰、擁有怎樣的技術，在人類社會運行，都必須接受來自法律的規制、道德倫理的約束。而這，不能總是指望個體的自發自覺、自我保護，必須讓法律跟上技術的步伐，築牢防護的堤壩。目前，我國民法典關於肖像權的內容就這一領域進行了直接規定，網絡安全法、網絡信息內容生態治理規定等對信息真實性提出了具體要求，但在深度合成式人工智能技術方面，仍有待細化和強化。與此同時，有關部門和相關主體也需要“睜大眼睛”，守住各自的“一畝三分地”。特別是平臺方，作爲內容上線的最後一道關卡，無論是將販賣模型者“下架”，絕不允許換套馬甲再作惡，還是將直播間的“李鬼”揪出來，視情節輕重予以懲戒，只有堅決堵住魑魅魍魎出場的渠道，才能還網絡空間一片清朗。

AI時代正在加速到來，虛擬和現實的邊界逐漸模糊，但法律與規則必須保持清晰。管住“換臉”的衝動，讓它造福人類，而不是騷擾社會，必須做點什麼了。（北京日報評論員 田聞之）