Proliferasi deepfakes yang sangat realistik merupakan salah satu hasil sampingan yang lebih merugikan dari kebangkitan AI, dan menjadi mangsa penipuan berdasarkan deepfakes ini sudah mengakibatkan kerugian berjuta-juta ringgit kepada syarikat - tanpa mengira implikasi yang boleh berlaku terhadap keselamatan negara. Sebuah startup yang telah membina satu set alat yang bertujuan kepada kerajaan dan syarikat untuk membantu mengesan dan menghentikan deepfakes dan penyamaran dalam audio, video, dan imej statik mengumumkan beberapa pembiayaan pada hari Rabu dengan beberapa pelanggan dan pelabur yang mengagumkan.
GetReal - berasaskan co-founder Hany Farid, salah seorang peneraju dalam mengesan media deepfake - telah mengumpul $17.5 juta dalam ekuiti, pembiayaan yang akan digunakan untuk R&D, pengambilan pekerja, dan pembangunan perniagaan.
Bersama-sama dengan pembiayaan, syarikat ini melancarkan platform forensiknya sebagai perkhidmatan, yang mengandungi antara muka web, API, dan integrasi untuk menjalankan analisis media sebagai perkhidmatan. Ciri-ciri termasuk dasbor pendedahan ancaman; alat 'Inspect' yang khusus ditujukan untuk melindungi eksekutif berprofil tinggi daripada disenangi; alat 'Protect' untuk menapis media; dan 'Respond', yang melibatkan pasukan manusia di GetReal melakukan analisis yang lebih mendalam.
Forgepoint Capital, pakar dalam bidang keselamatan siber dan AI, memimpin Siri A ini dengan Ballistic Ventures, Evolution Equity, dan K2 Access Fund turut menyertai.
Ballistic adalah firma utama dalam senarai itu. GetReal ditanam di VC dari tahun 2022 sehingga ia muncul daripada stealth pada Jun 2024. Ballistic juga memimpin seed $7 juta GetReal - rundingan yang, menurut PitchBook, juga melibatkan Venrock, Artisanal, Qudit, dan Silver Buckshot.
Ballistic penting atas sebab lain: Pengasas firma tersebut, Ted Schlein, adalah pengerusi dan co-founder GetReal yang lain. Sebelum Ballistic, Schlein mengetuai Kleiner Perkins.
Hany sebagai perkhidmatan
GetReal terletak dalam dunia yang lebih luas dalam keselamatan siber, khususnya di dalam bidang cyber-forensik yang berkembang pesat. Jurang di pasaran yang disasarkan oleh startup berpangkalan di San Mateo ini ialah kekurangan bakat dan pengetahuan dalam ruang itu.
“Jika anda fikir keselamatan siber mempunyai kekurangan orang, bersedia untuk forensik,” kata Matt Moynahan, CEO GetReal.
Moynahan bukan pengasas startup ini; beliau datang ke GetReal ketika masih dalam stealth selepas lapan tahun kerjaya yang membimbing rangkaian syarikat keselamatan siber utama seperti Symantec, Arbor Networks, Veracode, dan Forcepoint.
“Jujurlah, saya tidak berpandangan ancaman ini sebegitu meluas,” katanya mengenai keupayaan untuk mencipta dan kemudian mengaplikasikan deepfakes rosak.
Beliau menggambarkan virus sebagai ancaman ‘baharu’ dalam perbandingan itu. “Apa yang kita lihat sepanjang 20 tahun lepas adalah ancaman bergerak kepada pengguna akhir,” katanya. “Aplikasi ‘menyeronokkan’ yang membolehkan orang mencipta deepfakes adalah sebahagian daripada masalah, tetapi juga persekitaran tempat kita bekerja hari ini. “Orang telah berpindah dari bata dan simen kepada perniagaan yang sekarang hampir sepenuhnya digital dan di cloud.”
Phishing, katanya, membuktikan bahawa orang yang sangat bijak sekalipun boleh dengan mudah diperdaya, dan apabila diambil secara menyeluruh, ia merupakan tanda yang rumit dan sangat buruk bagi ke mana perkara-perkara mungkin akan berjalan.
GetReal merupakan idea Farid, seorang akademik yang terkenal (kini di UC Berkeley) yang dianggap sebagai peneraju dalam teknik mengenal pasti apabila imej digital telah diubahsuai. Arguably, Farid memahami risiki deepfakes sebelum istilah itu wujud.
Sebagaimana yang dijelaskan oleh Farid kepada TechCrunch, semasa bekerja secara utama sebagai ahli akademik dan penyelidik, beliau telah mengaplikasikan pengetahuannya secara lebih kurang formal selama bertahun-tahun sebagai perkhidmatan kepada organisasi media, pasukan undang-undang (selepas imej digital menjadi boleh diterima dalam mahkamah), dan lain-lain. Pada tahun 2022, beliau bersama Schlein untuk merancang bagaimana untuk menterjemahkan itu kepada perniagaan sebenar, menukarkan proses penyiasatan itu kepada kod.
“Tiada sesiapa yang mengintai perkara ini sebagaimana yang dilakukan oleh Hany,” kata Moynahan. “Tetapi Hany tidak boleh berskala. Jadi kita pada dasarnya mengambil Hany dan cuba mencipta 'perkhidmatan Hany' di cloud.”
Menariknya, Farid mencatat bahawa walaupun teknologi yang sedang dibangunkan ini bergantung kepada bagaimana aplikasi baru berfungsi - terdapat banyak kejuruteraan balik yang berlaku di GetReal - ia digabungkan dengan pengetahuan berpuluh tahun yang tidak berubah banyak.
“Terdapat teknik yang kami kembangkan 20 tahun lalu yang masih berkesan hari ini,” katanya. Beliau enggan menerangkan apakah teknik tersebut. “Anda tidak perlu memberitahu orang segala-galanya yang kami lakukan, tetapi ia adalah kompleks untuk dilakukan dengan betul.”
Kesan Isyarat: Teks masih akan datang
Siri A yang diumumkan pada hari Rabu juga melibatkan beberapa penaja strategik yang penting termasuk Pelaburan Cisco, Venture Capital One, dan In-Q-Tel, sebuah firma pelaburan yang berkait rapat dengan CIA.
Senarai penaja tersebut mencerminkan jenis syarikat yang berminat atau telah mula untuk mengadopsi produk GetReal, kata Alberto Yépez, co-founder Forgepoint yang memimpin pelaburan itu.
Apa yang dijumpai Yépez semasa uji keserasian adalah industri yang sangat diatur - seperti institusi kewangan - sudah meminta produk seperti ini, dan CISO sudah menghubungi atas mandat daripada lembaga pengarah.
“Mereka menimbulkan isu [penyamaran deepfaked] selepas CEO mereka dimasukkan dalam temubual suara,” katanya. Mereka telah disamar dan diperdayakan oleh penyamaran. Pelanggan terkenal termasuk John Deere dan Visa.
Bagi kerja kerajaan, Yépez kata, “Mereka juga mempunyai beberapa keutamaan dalam ruang itu.”
Keutamaan ini termasuk agensi perisikan dan pegawai kerajaan diperdaya untuk bertindak, atau tidak bertindak, berdasarkan maklumat palsu daripada pelaku jahat.
Bagaimanapun, mereka masih belum meluaskan kepada penyamaran berasaskan teks.
Itu adalah sesuatu yang baru muncul minggu ini, apabila editor The Atlantic yang tersilap dimasukkan ke dalam kumpulan sembang Signal merancang serangan tentera di Yemen pada mulanya menganggap bahawa ia adalah sindiran penyamaran. Terkejut, sembang itu ternyata benar-benar wujud dan melanggar prosedur keselamatan negara.
Farid berkata bahawa teks bukanlah fokus pada GetReal pada masa ini. “Ia adalah binatang yang berbeza,” katanya. Tetapi dalam jangka masa panjang, rancangan tersebut akan diperluaskan untuk merangkumi semua jenis ancaman deepfake dan penyamaran.
