1月7日9時(shí)05分，西藏日喀則市定日縣發(fā)生6.8級(jí)地震，牽動(dòng)著許多網(wǎng)友的心。但與此同時(shí)，一些網(wǎng)友為了流量，利用AI技術(shù)生成“災(zāi)區(qū)”群眾被埋、房屋坍塌等虛假照片進(jìn)行發(fā)布，并配文日喀則地震等關(guān)鍵詞，造成網(wǎng)友誤解。
其中，一張“被壓廢墟下的小男孩”圖片引發(fā)廣泛關(guān)注。圖片中，一名戴帽子的小男孩被壓在倒塌的廢墟下，全身鋪滿(mǎn)塵埃。記者注意到，這張圖片在某短視頻平臺(tái)，被多個(gè)賬戶(hù)轉(zhuǎn)發(fā)，卻配文都與西藏日喀則地震關(guān)聯(lián)，有賬戶(hù)因此獲得上萬(wàn)轉(zhuǎn)發(fā)和評(píng)贊。
而實(shí)際上，這張小男孩圖片實(shí)際是由AI生成，圖中孩子的左手顯示為六根手指，且平臺(tái)也在相關(guān)視頻下方給出文字提示：“疑似使用AI生成技術(shù)，請(qǐng)謹(jǐn)慎甄別”�？呻m有提示，不少網(wǎng)友仍被誤導(dǎo)，并在留言區(qū)關(guān)注男孩的生命安全。
這并非個(gè)例。在某視頻平臺(tái)上，紅星新聞?dòng)浾咭浴叭湛t地震群眾被埋”為關(guān)鍵詞進(jìn)行搜索發(fā)現(xiàn)，不少視頻博主都發(fā)布了AI生成的災(zāi)區(qū)圖片，且都在配文中與日喀則地震關(guān)聯(lián)。盡管大部分圖片下方都有小字提示為“AI生成”，但相關(guān)內(nèi)容仍讓不少網(wǎng)友信以為真。
記者實(shí)測(cè)：多數(shù)軟件生成圖片無(wú)風(fēng)險(xiǎn)提示，視頻發(fā)出前缺乏審核流程
為測(cè)試該類(lèi)圖片的生成過(guò)程，紅星新聞?dòng)浾邍L試在多款A(yù)I智能生成軟件中進(jìn)行相關(guān)圖片生成，多數(shù)軟件生成圖片無(wú)風(fēng)險(xiǎn)提示，如在一款名為“豆包”的AI智能APP中，記者輸入“日喀則地震嬰兒被埋”的關(guān)鍵詞，軟件在未給予任何侵權(quán)、違規(guī)、虛假信息等干預(yù)提示下，自動(dòng)生成了多張相關(guān)圖片。
對(duì)此，北京京展律師事務(wù)所主任律師張曉玲分析認(rèn)為，AI軟件在輸入有關(guān)地震等關(guān)鍵詞時(shí)，未給出任何“不傳播虛假信息”等提示，直接生成相關(guān)圖片，存在不妥。
“AI軟件在算法上，應(yīng)當(dāng)也有能力對(duì)關(guān)鍵詞進(jìn)行識(shí)別，需要具備一定的道德和法律的判斷能力，在用戶(hù)輸入關(guān)鍵詞時(shí)給予明確的警示，避免生成和傳播虛假信息�！睆垥粤嵴f(shuō)。
而在發(fā)布環(huán)節(jié)記者也發(fā)現(xiàn)，上傳上述AI生成的“地震嬰兒被埋”圖片后，記者隨機(jī)配上音樂(lè)，并標(biāo)注“日喀則地震孩子被埋，祈求平安”等字樣，相關(guān)視頻便被順利發(fā)出。視頻發(fā)布約1小時(shí)后，相關(guān)內(nèi)容下方出現(xiàn)“疑似使用AI生成技術(shù)”的平臺(tái)小字提示信息。測(cè)試完成后，記者也隨即刪除視頻內(nèi)容。
針對(duì)該情況，記者以網(wǎng)友身份詢(xún)問(wèn)抖音客服，一名接線人員回應(yīng)稱(chēng)，按照先行審核程序，AI生成的圖片及視頻只有在創(chuàng)作者發(fā)布后，平臺(tái)才能進(jìn)行識(shí)別和審核。若審核發(fā)現(xiàn)為AI圖片，平臺(tái)會(huì)在內(nèi)容底部標(biāo)記“疑似使用了AI生成技術(shù)，請(qǐng)謹(jǐn)慎甄別”字樣。
這名客服也表示，如果用戶(hù)發(fā)現(xiàn)有網(wǎng)友借助AI技術(shù)傳播虛假圖片甚至造謠，那么網(wǎng)友可撥打抖音安全與舉報(bào)專(zhuān)線，或直接點(diǎn)擊視頻內(nèi)容進(jìn)行舉報(bào)反饋。
律師說(shuō)法：該行為不符合公序良俗和道德，如引發(fā)恐慌造成較大影響將被追責(zé)
網(wǎng)友利用AI技術(shù)生成地震災(zāi)區(qū)現(xiàn)場(chǎng)關(guān)聯(lián)圖片，并引發(fā)社會(huì)關(guān)注，這樣的行為是否欠妥？就此，河南澤槿律師事務(wù)所主任付建在接受紅星新聞采訪時(shí)指出，盡管網(wǎng)友本身或并無(wú)惡意，只是希望借助AI生成的圖片獲取流量，或希望更多人來(lái)關(guān)注地震。但用“假圖”關(guān)聯(lián)真實(shí)事件，付建認(rèn)為，其行為雖不違法，但不符合社會(huì)公序良俗和道德，讓他人產(chǎn)生誤解，有失妥當(dāng)。
北京京展律師事務(wù)所主任律師張曉玲也同樣告訴紅星新聞，在災(zāi)害面前，應(yīng)傳遞真實(shí)、準(zhǔn)確信息，以助于救援和減少恐慌，而不該利用災(zāi)害來(lái)博取眼球。
付建分析指出，利用AI生成圖片本身不會(huì)因此受到處罰，但若肆意用AI技術(shù)生成地震受災(zāi)嚴(yán)重的畫(huà)面，甚至編造謠言，圖片和配文內(nèi)容與事實(shí)嚴(yán)重不符，且引發(fā)社會(huì)廣泛關(guān)注甚至網(wǎng)友的恐慌，則屬擾亂公共秩序行為。
張曉玲也提到，若相關(guān)內(nèi)容轉(zhuǎn)發(fā)評(píng)論量較大，造成了不良社會(huì)影響，那么根據(jù)《治安管理處罰法》相關(guān)規(guī)定，發(fā)布者編造虛假的險(xiǎn)情、疫情、災(zāi)情、警情，在信息網(wǎng)絡(luò)或者其他媒體上傳播，嚴(yán)重?cái)_亂社會(huì)秩序的，處三年以下有期徒刑、拘役或者管制；造成嚴(yán)重后果的，處三年以上七年以下有期徒刑。
同時(shí)，對(duì)于AI生成圖片的相關(guān)視頻立刻能發(fā)出，發(fā)出約1小時(shí)后才出現(xiàn)“疑似AI技術(shù)生成”的提示語(yǔ)，在付建看來(lái)，這在某種程度上說(shuō)明平臺(tái)審核存在問(wèn)題，其審核規(guī)則具有滯后性，提示方式也存在不夠明顯的漏洞。
張曉玲也認(rèn)為，平臺(tái)在發(fā)布內(nèi)容前應(yīng)進(jìn)行必要的審核，以確保信息的真實(shí)性和準(zhǔn)確性。特別是在涉及災(zāi)害等敏感話(huà)題時(shí)，更應(yīng)加強(qiáng)審核力度。且盡管有文字提示，但仍有網(wǎng)友誤解，這也進(jìn)一步說(shuō)明，平臺(tái)的提示方式不夠醒目和有效。
因此，張曉玲呼吁，平臺(tái)應(yīng)該改進(jìn)審核機(jī)制，提高審核效率，并采用更加直觀有效的提示方式，以避免虛假信息的傳播。
