有人利用 AI 制造假冒拜登電話，遭 FCC 重罰 600 萬(wàn)！

近日，美國(guó)聯(lián)邦通信委員會(huì)（FCC）對(duì)民主黨操盤手史蒂夫・克雷默(Steve Kramer)處以600萬(wàn)美元的巨額罰款。今年 1 月，在美國(guó)新罕布什爾州民主黨初選期間，發(fā)生了一起利用 AI 技術(shù)偽造拜登聲音的事件。數(shù)千選民接到一通騷擾電話，內(nèi)容是一段由 AI 偽造的拜登總統(tǒng) “講話”，大意是告訴選民 “你們的選票在 11 月很重要，不要在本周去投票”。為了讓更多選民接聽(tīng)，呼出顯示的電話還被偽造成了前新罕布什爾州民主黨主席凱西・沙利文的個(gè)人手機(jī)號(hào)碼。

這起事件的策劃人是政治顧問(wèn)史蒂文・克拉默。他曾為民主黨候選人、明尼蘇達(dá)州眾議員迪恩・菲利普斯的競(jìng)選團(tuán)隊(duì)工作。克拉默在 2 月就主動(dòng)接受全國(guó)性電視臺(tái)的采訪，公開(kāi)宣布自己就是事件背后的策劃者。他當(dāng)時(shí)辯稱，自己做這件事情是為了警告 “即將到來(lái)的危險(xiǎn)”，促進(jìn)政府對(duì) AI “深度偽造” 制定更加嚴(yán)格的規(guī)則。

美國(guó)聯(lián)邦通信委員會(huì)（FCC）于 9 月 26 日宣布，對(duì)史蒂文・克拉默處以高達(dá) 600 萬(wàn)美元的巨額罰款。FCC 表示，該行為嚴(yán)重違反了相關(guān)規(guī)定。此外，被指控發(fā)送語(yǔ)音電話的公司 lingotelecom 也因在電話詐騙中可能未能采取足夠的 “了解你的客戶” 措施，導(dǎo)致來(lái)電顯示數(shù)據(jù)的真實(shí)性受到質(zhì)疑，面臨 200 萬(wàn)美元的罰款。除了 FCC 的罰款，克拉默還面臨新罕布什爾州四個(gè)縣提出的刑事指控，共計(jì) 26 項(xiàng)罪名，包括 13 項(xiàng)壓制選民罪（重罪）和 13 項(xiàng)冒充選舉人罪（輕罪）。按照該州的法條，壓制選民罪可能會(huì)被判處 3 年半至 7 年的監(jiān)禁，冒充選舉人罪最高的量刑是 1 年。值得注意的是，雖然傳統(tǒng)的垃圾電話和機(jī)器人電話通常由人類管理，但現(xiàn)在的 AI 系統(tǒng)已經(jīng)能夠自動(dòng)化處理這些任務(wù)，利用 AI 工具的語(yǔ)音和語(yǔ)音生成能力，帶來(lái)了新的挑戰(zhàn)。