Ancaman deepfake semakin meningkat dengan alat AI untuk menciptakannya menjadi mudah diakses. Terdapat peningkatan 245% dalam deepfake di seluruh dunia dari 2023 hingga 2024, yang dipicu sebahagiannya oleh kitaran pilihan raya yang akan datang, menurut penyedia verifikasi Sumsub. Ia juga memberi kesan kepada sektor korporat; survei terkini dari Business.com mendapati bahawa 10% syarikat menghadapi penipuan yang dibantu deepfake, seperti suara berklon.
Trend itu, tidak menghairankan, telah menjadi bertambah baik bagi syarikat yang memasarkan alat untuk bertahan daripada deepfake dan teknologi yang digunakan untuk menghasilkannya. Salah satu daripada syarikat-syarikat ini, Pindrop, pada hari Rabu mengumumkan bahawa mereka telah mendapat pinjaman $100 juta selama lima tahun dari Hercules Capital, yang mana CEO Vijay Balasubramaniyan mengatakan sedang digunakan untuk pembangunan produk dan pengambilan pekerja.
“Dengan kemajuan dalam AI generatif, pengklonan suara khususnya telah menjadi alat yang berkuasa,” kata Balasubramaniyan kepada TechCrunch. “Pengesanan deepfake dengan teknologi pengesanan AI sekarang diperlukan oleh setiap pusat panggilan untuk kekal satu langkah di hadapan penipu.”
Pindrop membina produk pengecaman deepfake dan autentikasi multi-faktor yang menyasarkan perniagaan dalam sektor perbankan, kewangan dan industri yang berkaitan. Syarikat ini mengklaim bahawa alat-alat mereka boleh mengenal pasti panggilan pusat hubungi, sebagai contoh — dan dengan ketepatan yang lebih tinggi daripada penyelesaian pesaing.
“Pindrop menggunakan satu set data lebih daripada 20 juta ucapan, sama ada sintetik atau tulen, untuk melatih model AI bagi membezakan antara suara manusia tulen dan yang dihasilkan secara sintetik,” kata Balasubramaniyan. “Kami juga melatih lebih daripada 330 model teks-ke-suara (TTS) untuk membantu mengenal pasti model TTS yang digunakan untuk mencipta deepfake tersebut.”
Keberatuan adalah masalah biasa dalam model pengesanan deepfake. Ramai model audio cenderung kepada pengiktirafan suara Barat, Amerika dan berfungsi dengan tidak begitu baik dengan pelbagai aksen dan dialek, yang boleh menyebabkan pengesan mengklasifikasikan suara tulen sebagai deepfake.
Adalah dipersoalkan sama ada data latihan sintetik — data latihan yang dijana oleh model AI sendiri — mengurangkan atau memburukkan keberatuan tersebut. Bagi apa yang berharga, Balasubramaniyan percaya yang pertama dan mengatakan bahawa produk autentikasi suara Pindrop memberi tumpuan kepada “ciri akustik dan spektro-temporal” suara berbanding dengan sebutan atau bahasa.
“Sistem pengiktirafan suara berdasarkan AI cenderung menunjukkan keputusan berkecenderungan terhadap perbezaan tonal, aksen, bahasa dan dialek yang boleh mempunyai implikasi perkauman,” kata Balasubramaniyan. “Keberatuan ini berasal daripada homogeniti data yang digunakan untuk melatih sistem tersebut yang mungkin kurang mewakili pelbagai perbezaan etnik, perkauman, jantina atau lain-lain, dengan itu menghadkan pelbagai data yang digunakan oleh sistem AI untuk latihan.”
Walau bagaimanapun keberkesanan produk-produknya, Pindrop telah membuat kemajuan yang ketara sejak 2011, apabila Balasubramaniyan, seorang bekas pekerja Google, mengasaskan syarikat bersama bekas Ketua Pegawai Penyelidik Baracuda Networks, Paul Judge dan Mustaque Ahamad. Sehingga kini, syarikat berpengkalan di Atlanta, yang mempunyai kira-kira 250 pekerja, telah mengumpulkan $234.77 juta dalam modal ventura daripada pelabur termasuk Vitruvian Partners, CapitalG, IVP dan Andreessen Horowitz.
Ditanya mengapa Pindrop memilih hutang berbanding ekuiti pada kali ini, Balasubramaniyan mengatakan bahawa ia adalah “pilihan yang menarik” untuk “mendapatkan modal pertumbuhan secara efisien” tanpa mengurangkan ekuiti Pindrop. (Ini adalah strategi yang biasa.)
Hasil daripada pinjaman itu akan membolehkan Pindrop membawa teknologinya ke sektor baru, tambah Balasubramaniyan, seperti penjagaan kesihatan, peruncitan, media dan perjalanan.
“Dengan kemunculan AI generatif, kami melihat permintaan besar untuk penyelesaian kami di seluruh dunia, dan merancang untuk melihat pengembangan ke negara-negara yang menghadapi ancaman yang ketara disebabkan oleh deepfake,” kata Balasubramaniyan. “Pindrop telah bersedia membantu syarikat-syarikat melindungi diri dan pengguna mereka daripada peningkatan penipuan dan ancaman deepfake dengan penyelesaian pencegahan penipuan, autentikasi dan tawaran yang hidup.”
