【e公司觀察】“雷軍罵人”爭議火熱 AI克隆的邊界在哪里？

國慶假期期間，短視頻平臺上出現(xiàn)大量“雷軍罵人”的惡搞視頻。

在視頻中，作為企業(yè)家流量擔(dān)當(dāng)?shù)摹袄总姟?，銳評了假期長短、堵車、調(diào)休等熱門話題，言辭犀利，且時(shí)有不雅臟話穿插其間。部分平臺上相關(guān)話題瀏覽量過億。有網(wǎng)友調(diào)侃“雷總，最近你怎么在罵人”“國慶上網(wǎng)被雷軍罵了整整7天”。

對此事件，雷軍回復(fù)了三個(gè)憤怒表情，以表達(dá)態(tài)度。這一方面說明，其本人已經(jīng)知曉此事；另一方面也揭示了作為企業(yè)圈頂級流量背后，所掩藏的氣憤和無奈。

此類視頻中的聲音并非出自雷軍本人，而是AI配音。去年網(wǎng)絡(luò)平臺上也曾有一批AI克隆語音爆火出圈，以“AI孫燕姿”為代表的AI克隆歌手語音包風(fēng)靡一時(shí)，同時(shí)也有利用AI克隆“郭德綱秀英語”等嫁接式品類出現(xiàn)，不過，當(dāng)時(shí)市場普遍認(rèn)為，它們給市場帶來的更多是娛樂效應(yīng)。

與前一輪不同，本輪克隆雷軍聲音的AI語音，迅速引發(fā)廣泛爭議。這一方面與AI克隆和雷軍本人平日風(fēng)格之間的巨大反差有關(guān)；還有一個(gè)更重要的原因是，“雷軍罵人”已經(jīng)具有惡搞意味，部分內(nèi)容已超出一般開玩笑玩梗的程度。

例如，除了罵人、吐槽之外，還有具有造謠嫌疑的，比如“雷軍”說要投資建設(shè)某某大學(xué)等；還有的內(nèi)容駭人聽聞，比如“雷軍”說要用小米SU7撞人等。當(dāng)前，這些視頻正在被平臺下架中。

與此前AI同類應(yīng)用的娛樂性相比，這一輪更多的是引發(fā)了市場某種程度上的反感和擔(dān)憂。對此我們可以從多個(gè)角度觀察。

比如在法律視角下，擅自使用他人肖像和聲音進(jìn)行編輯合成，甚至發(fā)布具有辱罵和誹謗性質(zhì)的內(nèi)容，侵犯相關(guān)民事權(quán)利。再比如，在技術(shù)倫理視角下，如何最大程度避免技術(shù)應(yīng)用中的“人格誤導(dǎo)”，完善訓(xùn)練過程的數(shù)據(jù)保護(hù)等。

從產(chǎn)業(yè)視角來看，這種現(xiàn)象映射出，很多AI應(yīng)用在現(xiàn)階段仍然處于草莽時(shí)代，邊界感尚不明晰。例如，目前市面上有大量AI配音的小程序，用戶可以隨意選擇多元人物聲音，或者輸入文字生成對應(yīng)聲音，便可借用他人的聲音發(fā)表言論。

肇始于2022年底的AIGC浪潮以來，包括字節(jié)跳動(dòng)、百度、阿里、騰訊等在內(nèi)的互聯(lián)網(wǎng)大廠都已經(jīng)推出基礎(chǔ)大模型，并且擁有很強(qiáng)的泛化應(yīng)用能力。這些創(chuàng)新技術(shù)應(yīng)用本無邊界。以AI配音為例，一方面，它能為創(chuàng)作提供了新的可能性，讓內(nèi)容創(chuàng)作更加多元化；另一方面，AI配音也存在被濫用的風(fēng)險(xiǎn)，不當(dāng)使用可能會(huì)涉及侵權(quán)等問題。此前，就有直播帶貨頂流陷入“錄音門”，事后警方發(fā)布通報(bào)，證實(shí)了AI工具偽造，并傳播不實(shí)內(nèi)容。

實(shí)際上，AI生圖同樣如此：一方面為創(chuàng)作者提供方便，另一方面也有可能被濫用違法。倘若沿著市場擔(dān)憂的路徑往更多元方向演進(jìn)，AI換臉、AI裸照等更加恐怖的事件，不排除發(fā)生的可能。從這個(gè)角度看，“雷軍罵人”很可能會(huì)成為AIGC泛化應(yīng)用過程中的一個(gè)重要案例。

任何機(jī)遇都會(huì)同時(shí)伴隨挑戰(zhàn)。對于大模型企業(yè)來說，一方面需要關(guān)注技術(shù)本身的迭代，另一方面也要緊守?cái)?shù)字倫理的底線。而對于監(jiān)管來說，在某些特定階段，AI監(jiān)管曾面臨“不知何處下手”的問題，而“雷軍罵人”案例說明，防止技術(shù)濫用就是其中的重要一維。誠如比爾蓋茨所言，“須確保數(shù)字技術(shù)為我們帶來的是好處，而不是傷害?！?/p>