美國和以色列發動對伊朗襲擊後，部分博主利用生成式人工智能製作虛假戰爭視頻博取公衆關注並從中獲利。專家說，這是一場前所未有的人工智能生成虛假信息浪潮，問題嚴重，令人擔憂。
美國和以色列2月28日對伊朗發動襲擊後，許多人到社交媒體搜索、分享最新信息，一些博主則藉此機會用虛假戰爭視頻牟利。
其中一個有代表性的視頻顯示，導彈擊中以色列特拉維夫，發出巨大爆炸聲。該視頻被超過300個帖子引用，在社交媒體平臺上累計轉發數萬次。
英國一項調查顯示，社交媒體平臺X的一些用戶向平臺自帶的“格羅克”人工智能聊天機器人求證該視頻真僞，但“格羅克”多次堅持認爲該AI視頻是真實的。
另一段AI視頻顯示迪拜哈利法塔起火，這段視頻在當地民衆和遊客對無人機和導彈襲擊高度擔憂期間被廣泛傳播，觀看量高達數千萬。
另外，AI生成的衛星圖像也大量出現在網絡上。
澳大利亞昆士蘭理工大學數字媒體專家蒂莫西·格雷厄姆說：“問題的嚴重性確實令人擔憂，這場戰爭已使人們無法再忽視這一現象……過去，製作視頻需要專業知識，而現在只需幾分鐘就能用AI工具完成。製作以假亂真的視頻幾乎已經沒有門檻。”
社交媒體平臺X方面表示，傳播此類AI生成視頻的賬號中“99%”是爲了賺錢。X平臺不久前宣佈，若創作者發佈AI生成武裝衝突視頻時未做標明，則將暫時取消其變現計劃資格。該計劃通過向符合條件的用戶支付報酬，獎勵其發佈獲得大量瀏覽量、點贊、分享和評論的帖子。
牛津互聯網研究院伊朗問題專家馬赫莎·阿里馬爾達尼說：“這類虛假視頻嚴重損害人們對網絡信息的信任，使記錄真實證據變得更加困難。”
“目前可用的AI工具數量空前，能創作各種高度逼真的虛假內容，”生成式AI專家亨利·艾德爾說，“我們從未見過這些工具如此普及、便捷且廉價。”
專家表示，儘管許多社交媒體公司聲稱正調整審覈檢測系統以應對AI生成內容的傳播規模與速度，但這個問題沒有簡單的解決方案。
“更深層問題在於，以互動爲導向的變現機制與準確信息之間存在根本性矛盾，目前沒有平臺能完全化解這個矛盾，或許永遠無法化解。”格雷厄姆說。
