過去一年，AI深度合成音視頻侵權現象愈演愈烈。有人克隆雷軍的聲音，制作惡搞視頻。有人偽造劉德華的音視頻，為自己帶貨。

近日記者調查發現，實現AI深度合成音視頻并不算難事，甚至在一些購物平臺，AI深度合成技術已經成為眾多網店牟利的工具，只需花費幾十元，就可定制AI深度合成名人音視頻。

網絡主播直播教學

用開源工具AI深度合成

這些AI深度合成的聲音和換臉是如何制作出來的？調查發現，相應的深度合成軟件在網絡上下載并不算難，而且還有一些網絡主播會開直播教網友如何使用。

在移動端，手機應用商城會提供眾多換臉工具，不過大部分工具設定了固定的場景，從效果看逼真度不高。

在PC端，有數十種開源的軟件和工具可以實現換聲換臉的效果。不過，軟件的使用、參數的調整都有一定的技術門檻，所以不為網民熟知。但是，在短視頻平臺和網購平臺，有不少主播、商家在教網民使用相關軟件。

未經授權

合成制作他人視頻聲音屬侵權

那么，在網絡購物平臺使用AI技術，深度合成、出售名人的音視頻，是否合法呢？專家表示，相關法律法規明確規定，未經授權，不得深度合成制作發布他人信息。網店接單AI深度合成制作名人視頻，已經屬于侵權行為，并應該承擔相應的法律責任。

中國計算機學會計算機安全專業委員會委員呂延輝介紹，《中華人民共和國民法典》規定，自然人享有肖像、聲音等權益，任何組織或個人利用信息技術偽造都是侵權行為。2023年國家網信辦、工信部、公安部聯合發布出臺的《互聯網信息服務深度合成管理規定》要求，任何組織和個人不得利用深度合成服務制作、復制、發布、傳播法律、行政法規禁止的信息。2024年網信辦發布的《人工智能生成合成內容標識辦法（征求意見稿）》也提出，對AI生成合成內容要進行標識，以便公眾識別和區分，防止誤導性信息傳播。

網店使用AI深度合成技術制作名人的視頻，應該承擔什么樣的法律責任？

北京航空航天大學法學院副教授趙精武介紹，在司法實踐中，國內已經審結了首例AI生成聲音人格權侵權案。在這個案子里，原告作為配音演員，在沒有經過授權的情況下，他的聲音被AI生成后對外出售。法院在審理中認為，我國的民法典已經在人格權編，將自然人的聲音視為一種人格權益，具有人身專屬性。所以，法院最終認定被告方使用原告聲音、開發案涉AI文本轉語音產品未獲得合法授權，構成侵權，書面賠禮道歉，并賠償原告各項損失25萬元。

專家：提高防范意識

可以用AI檢測AI

其實，不僅是名人，如果未經本人或版權方同意，用AI制作合成普通人甚至動畫形象的音視頻，也可以判斷為侵權行為，應當承擔法律責任。

對普通人來說，我們應該如何防范AI侵權的問題呢？

中國網絡空間安全協會人工智能安全治理專業委員會專家薛智慧表示，從技術角度來說，可以利用AI技術來對抗跟檢測AI。當前有一些典型的AI技術，能夠對圖片或音視頻進行檢測。

呂延輝則認為，防范AI侵權問題需要從法律、平臺和公眾等多個層面綜合施策。法律層面，要進一步完善相關立法，細化AI克隆技術的法律條款，明確侵權行為的定義和責任，同時加強執法力度。平臺層面，要強化相關政策法規的宣貫和執行，做好已有數據的保護，應用技術手段來規避AI克隆侵權問題的發生，同時也要建立健全內容審核和侵權舉報機制，及時發現和處理侵權問題。

法律專家也提醒AI深度合成制作和信息發布者，不要存僥幸心理，法律沒有灰色地帶，切勿因小失大。

“法律并不是禁止使用AI合成技術，而是禁止不合法不合理的使用，尤其是禁止不進行任何顯著標識和提示的AI合成信息的發布和傳播。”趙精武說。

來源：央視新聞客戶端

責任編輯：王海山