有人利用 AI 制造假冒拜登電話，遭 FCC 重罰 600 萬！

近日，美國聯(lián)邦通信委員會（FCC）對民主黨操盤手史蒂夫・克雷默(Steve Kramer)處以600萬美元的巨額罰款。今年 1 月，在美國新罕布什爾州民主黨初選期間，發(fā)生了一起利用 AI 技術(shù)偽造拜登聲音的事件。數(shù)千選民接到一通騷擾電話，內(nèi)容是一段由 AI 偽造的拜登總統(tǒng) “講話”，大意是告訴選民 “你們的選票在 11 月很重要，不要在本周去投票”。為了讓更多選民接聽，呼出顯示的電話還被偽造成了前新罕布什爾州民主黨主席凱西・沙利文的個人手機(jī)號碼。

這起事件的策劃人是政治顧問史蒂文・克拉默。他曾為民主黨候選人、明尼蘇達(dá)州眾議員迪恩・菲利普斯的競選團(tuán)隊(duì)工作。克拉默在 2 月就主動接受全國性電視臺的采訪，公開宣布自己就是事件背后的策劃者。他當(dāng)時辯稱，自己做這件事情是為了警告 “即將到來的危險”，促進(jìn)政府對 AI “深度偽造” 制定更加嚴(yán)格的規(guī)則。

美國聯(lián)邦通信委員會（FCC）于 9 月 26 日宣布，對史蒂文・克拉默處以高達(dá) 600 萬美元的巨額罰款。FCC 表示，該行為嚴(yán)重違反了相關(guān)規(guī)定。此外，被指控發(fā)送語音電話的公司 lingotelecom 也因在電話詐騙中可能未能采取足夠的 “了解你的客戶” 措施，導(dǎo)致來電顯示數(shù)據(jù)的真實(shí)性受到質(zhì)疑，面臨 200 萬美元的罰款。除了 FCC 的罰款，克拉默還面臨新罕布什爾州四個縣提出的刑事指控，共計(jì) 26 項(xiàng)罪名，包括 13 項(xiàng)壓制選民罪（重罪）和 13 項(xiàng)冒充選舉人罪（輕罪）。按照該州的法條，壓制選民罪可能會被判處 3 年半至 7 年的監(jiān)禁，冒充選舉人罪最高的量刑是 1 年。值得注意的是，雖然傳統(tǒng)的垃圾電話和機(jī)器人電話通常由人類管理，但現(xiàn)在的 AI 系統(tǒng)已經(jīng)能夠自動化處理這些任務(wù)，利用 AI 工具的語音和語音生成能力，帶來了新的挑戰(zhàn)。