AI生成的聲音逼真到讓人難辨真假，連法庭證據(jù)也面臨挑戰(zhàn)。研究呼吁調(diào)整規(guī)則，讓法官更有權(quán)排除偽造音頻。
在人工智能時代，法庭上用耳朵來判斷聲音證據(jù)的真?zhèn)尾辉撌菑娭埔?，而是?yīng)更靈活開放。
Gary Schildhorn接到了一通讓任何父母心跳加速的電話。電話那頭，他驚慌失措的兒子說自己出了車禍，還被關(guān)進了監(jiān)獄。沒過多久，第二個電話打來，聲稱是律師的人告訴Schildhorn，得趕緊支付9000美元保釋金。他正準(zhǔn)備掏錢時，真正的兒子打來了電話——原來他根本沒被抓。Schildhorn差點成了AI語音詐騙的受害者，這種騙局如今越來越猖獗。AI生成的假聲音不僅讓詐騙分子得逞，也給法律體系帶來了麻煩。就在最近，法庭上已經(jīng)出現(xiàn)了關(guān)于AI克隆聲音的指控，可現(xiàn)行的音頻證據(jù)處理方式顯然還沒跟上時代。
根據(jù)現(xiàn)在的《聯(lián)邦證據(jù)規(guī)則》，只要找個證人上庭，說自己熟悉某個人的聲音，并且覺得錄音聽起來像那個人，這段音頻就能作為證據(jù)被接受。具體來說，規(guī)則901規(guī)定，只要有人基于任何場合聽過某個聲音，并認(rèn)為它與錄音中的發(fā)言者有關(guān)，就能滿足證據(jù)可采納的要求。這條規(guī)則假設(shè)，這樣的證詞足以證明證據(jù)“就是當(dāng)事人聲稱的那樣”。
但在AI時代，這個假設(shè)已經(jīng)站不住腳了。證據(jù)規(guī)則制定委員會應(yīng)該修改規(guī)則，把901(b)條里的例子從強制性改為參考性。這些例子可以作為滿足真實性要求的一種情況，但法官仍有權(quán)在發(fā)現(xiàn)其他證據(jù)證明錄音是偽造時，將其排除。
AI生成的假聲到底有多逼真？過去幾年，AI語音合成和克隆技術(shù)突飛猛進，尤其是去年，成果更是驚人。只要30秒的參考音頻，普通人就能通過簡單易用的商業(yè)服務(wù)，生成一個幾乎以假亂真的聲音克隆。
我們最近做了一組感知研究，專門測試這些AI假聲的真實度。在一項大規(guī)模在線實驗中，我們讓300人聽兩段不同的人說話錄音，然后問他們一個簡單問題：這是同一個人的聲音，還是不同的人？如果是兩個真人的聲音，聽眾分辨得很準(zhǔn)。如果兩段錄音來自同一個人，他們幾乎百分百能聽出來；如果是兩個聲音相似但身份不同的人，他們也只有大約10%的幾率搞混。
問題出在當(dāng)其中一個聲音是AI克隆的(我們用了ElevenLabs這個誰都能上手的語音克隆服務(wù))。這時，聽眾有80%的概率認(rèn)為真人和AI假聲是同一個人，甚至每四個參與者里就有一個被所有AI克隆聲音騙了過去。結(jié)論顯而易見：普通人已經(jīng)很難憑耳朵分辨真聲和AI假聲了。
為了進一步驗證，我們還做了另一項實驗，讓聽眾直接判斷一段音頻是真人還是AI生成的。結(jié)果比瞎猜(50%)好一點，平均正確率達到64%，但這離作為確鑿證據(jù)的標(biāo)準(zhǔn)還差得遠(yuǎn)。我們不是唯一發(fā)現(xiàn)這個問題的研究者。其他團隊也報告了類似情況，盡管具體結(jié)果因?qū)嶒炘O(shè)計不同而有差異。比如，另兩組研究人員發(fā)現(xiàn)分辨真假的準(zhǔn)確率比我們高一些，達到70-80%，但他們用的不是最新的AI克隆技術(shù)，而這些技術(shù)還在不斷進步。
當(dāng)然，這些結(jié)論也有局限，畢竟實驗室里的感知研究沒法完全模擬法庭上的真實場景。比如，音頻的長短、壓縮率、背景噪音，都會影響人們判斷聲音身份和自然度的能力。就像Schildhorn被騙子蒙了，但如果是他熟悉的人的聲音，他可能就不會上當(dāng)。
基于這些技術(shù)變化，我們認(rèn)為，不能簡單地讓一方隨便找個證人上庭，說“我認(rèn)識這個聲音”，就把錄音交給陪審團。即便是像Schildhorn這樣真心覺得自己認(rèn)得出聲音的證人，也可能出錯?？砂凑宅F(xiàn)在強制性的規(guī)則901(b)(5)，即使對方拿出了可靠的取證證明錄音是AI偽造的，法官似乎還是得接受這段證據(jù)。這太離譜了。
證據(jù)規(guī)則制定委員會應(yīng)該動手改一改，在規(guī)則901(b)里加個“可能”二字，改成：“以下僅為例子，而非完整清單，表明可能滿足真實性要求的證據(jù)?！边@樣一來，包括找證人辨認(rèn)聲音在內(nèi)的所有列舉方式，都從強制變成可選。
其他關(guān)于AI的真實性規(guī)則倒不一定需要特別調(diào)整。有人可能會批評現(xiàn)在的標(biāo)準(zhǔn)太寬松，只要有點依據(jù)就容易讓各種物證過關(guān)，或者缺少對“機器生成證據(jù)”的專門可靠性分析，甚至覺得讓對方及時提出異議的責(zé)任太重。但這些問題不只限于AI生成的內(nèi)容，而是所有物證的通病。
最近關(guān)于AI假聲的研究至少證明了一點：強制性的認(rèn)證方式很快就會過時。
所以，更好的辦法是讓法官能根據(jù)具體案件，靈活判斷一方提供的證據(jù)是否足夠可信。法官還是會用較低的充分性標(biāo)準(zhǔn)，不至于代替陪審團做決定，也不會加重提出證據(jù)一方的負(fù)擔(dān)，更不會讓證據(jù)爭議沒完沒了。但規(guī)則不再逼著法官在有確鑿證據(jù)證明是假的情況下還得接受。
這不是為了讓法律面向未來，而是讓它跟上現(xiàn)在。
本文譯自 Lawfare，由 BALI 編輯發(fā)布。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
