Pada mulanya, John Pasmore sangat teruja dengan ChatGPT.
Pengasas bersiri ini telah berada dalam ruang kecerdasan buatan sejak sekurang-kurangnya 2008. Beliau mengingat hari-hari ketika pakar-pakar menyatakan bahawa akan mengambil beberapa dekad lagi sebelum dunia melihat sesuatu seperti ChatGPT. Mempercepatkan - hari itu telah tiba.
Tetapi ada satu halangan. ChatGPT, salah satu alat kecerdasan buatan yang paling kuat di dunia, menghadapi kesukaran dengan nuansa budaya. Itu agak menjengkelkan bagi seorang individu yang berkulit hitam seperti Pasmore. Faktanya, kelalaian ini telah menyebabkan kemarahan ramai individu berkulit hitam yang sebelum ini tidak melihat diri mereka diwakili dengan betul dalam algoritma yang dikatakan suatu hari akan menyelamatkan dunia. ChatGPT semasa menawarkan jawapan yang terlalu umum untuk soalan-soalan tertentu yang memenuhi komuniti tertentu, kerana latihannya nampaknya bersifat Eurosentrik dan Barat dalam kecenderungan. Ini tidak unik - kebanyakan model kecerdasan buatan tidak dibangunkan dengan golongan berkulit berwarna dalam fikiran. Tetapi banyak pengasas berkulit hitam berazam untuk tidak ditinggalkan.
Banyak chatbot yang dimiliki oleh individu berkulit hitam dan versi ChatGPT telah muncul dalam tahun lalu untuk memenuhi keperluan komuniti kulit hitam dan coklat secara khusus, ketika pengasas berkulit hitam, seperti Pasmore, cuba memanfaatkan kelalaian budaya OpenAI.
“Jika anda bertanya model secara umum siapakah beberapa artis yang paling penting dalam budaya kita, ia akan memberi anda Leonardo da Vinci dan Michelangelo,” kata Pasmore tentang ChatGPT. “Ia tidak akan mengatakan apa-apa tentang India atau China, Afrika, atau pun orang Afrika Amerika, kerana ia mempunyai kecenderungan yang berfokus pada rentetan sejarah Eropah.”
Jadi Pasmore melancarkan Latimer.AI, sebuah model bahasa untuk memberikan jawapan yang disesuaikan untuk mencerminkan pengalaman orang kulit hitam dan coklat. Erin Reddick memulakan ChatBlackGPT, sebuah chatbot yang juga berpusat pada komuniti berkulit hitam dan coklat. Secara global, terdapat Spark Plug berpusat di Kanada, yang menjadi alternatif kepada ChatGPT bagi pelajar berkulit hitam dan coklat. Afrika juga sedang melihat inovasi yang besar dalam ruang ini, dengan model bahasa muncul untuk memenuhi lebih dari 2,000 bahasa dan dialek yang digunakan di benua itu yang masih diabaikan oleh model-model kecerdasan buatan Barat.
“Kita adalah penjaga cerita dan pengalaman kita sendiri,” kata Tamar Huggins, pengasas Spark Plug, kepada TechCrunch. “Kita perlu mencipta sistem dan infrastruktur, yang kita miliki dan kawal, untuk memastikan data kita tetap milik kita.”
Kecerdasan Buatan yang Disesuaikan Sudah Tiba
Model-model AI yang digeneralisasikan tidak dapat dengan mudah menangkap pengalaman orang Amerika Afrika kerana banyak aspek budaya itu tidak terdapat dalam talian. Algoritma semasa mengambil sumber dari internet untuk peruntukan, tetapi banyak tradisi dan dialek dalam budaya orang Amerika Afrika disampaikan secara lisan atau secara langsung, meninggalkan jurang dalam pemahaman yang model AI akan faham mengenai komuniti berbanding dengan nuansa apa yang sebenarnya berlaku.
Ini adalah salah satu sebab mengapa Pasmore cuba menggunakan sumber seperti Amsterdam News, salah satu akhbar berkulit berusia terkini di Amerika Syarikat, semasa membina Latimer.AI, memberi tumpuan kepada ketepatan daripada melatih data yang dihasilkan pengguna diambil dari internet. Dengan melakukan ini, dia mula melihat perbezaan antara modelnya dan ChatGPT.
Dia mengingati orang-orang dulu bertanya kepada ChatGPT tentang Laluan Bawah Tanah, laluan yang digunakan oleh orang Amerika Afrika yang diperhambakan untuk melakukan perjalanan ke negeri-negeri Utara bagi melarikan diri daripada perhambaan. Model ChatGPT akan menyebut hamba yang melarikan diri, manakala Latimer.AI menyesuaikan kata-kata, merujuk kepada "orang yang diperhambakan" atau "orang yang mencari kebebasan", yang lebih selaras dengan apa yang lebih sensitif secara sosial sewaktu membincangkan mereka yang pernah diperhambakan.
“Anda mempunyai beberapa perbezaan halus dalam bahasa yang digunakan oleh model kerana data latihannya, dan model itu sendiri terfikir tentang orang kulit hitam dan coklat,” kata Pasmore.
Sementara itu, ChatBlackGPT Erin Reddick masih dalam mod beta dengan rancangan pelancaran pada Juneteenth. Produknya berfungsi sebagaimana yang didengari: sebuah chatbot di mana seseorang boleh bertanya soalan dan menerima jawapan yang disesuaikan mengenai budaya berkulit hitam. “Inti dari apa yang kita lakukan adalah benar-benar komuniti-driven,” katanya.
Dia sedang membangunkan alat tersebut, bertanya kepada pengguna bagaimana mereka mahukannya kelihatan dan bagaimana mereka mahukan ia berkelakuan. Dia juga bekerjasama dengan institusi pendidikan seperti kolej dan universiti bersejarah kulit hitam (HBCU) untuk bekerjasama dengan pelajar untuk mengajar dan memberi mereka membantu melatih algoritma. Katanya dia mahu “menjadikan peluang pembelajaran yang menyeluruh untuk orang kulit hitam dan coklat mempunyai ruang selamat untuk meneroka AI.”
“Algoritma memberi keutamaan kepada sumber maklumat kulit hitam supaya ia boleh bercakap dalam satu badan pengetahuan yang lebih berkaitan secara langsung daripada pengalaman purata anda,” katanya kepada TechCrunch, menambah bahawa, seperti produk Pasmore, secara teknikal sesiapa pun boleh menggunakannya.
Tamar Huggins membina Spark Plug juga untuk menawarkan pengalaman yang lebih disesuaikan kepada komuniti kulit hitam dan coklat. Platfronnya menerjemahkan bahan pendidikan ke dalam Bahasa Inggeris Vernakular Amerika (AAVE), etnolek yang berkaitan dengan komuniti Amerika kulit hitam. Dialek itu secara tradisinya disampaikan lisan dan secara langsung daripada mempelajari dan menulis seperti Bahasa Inggeris standard, bermakna ketepatan model AI (atau individu) yang mempelajarinya dari internet sahaja akan terjejas dalam kejituan. Menangkap AAVE dengan tepat adalah penting, bukan sahaja supaya chatbot akan memberi respons menggunakan dialek tersebut, tetapi juga supaya pelajar lebih mudah menulis arahan yang akan membuat AI mengembalikan hasil yang diperlukan.
“Dengan mewujudkan kandungan yang menarik bagi pelajar kulit hitam, kita memastikan mereka melihat diri mereka dalam pendidikan, yang penting untuk penglibatan tinggi dan kejayaan akademik,” kata Huggins. “Apabila diberi peluang, Big Tech hampir sentiasa akan memberi keutamaan kepada keuntungan berbanding orang. Jadi kami mencipta landasan kami sendiri dalam ruang AI.”
Huggins melatih algoritmanya pada penulisan penulis hitam dari Pemulihan Harlem, penulis hitam dalam pendidikan, dan juga fraseologi anak perempuannya untuk menangkap hakikat AAVE. Huggins juga berkerja dengan pendidik, linguist, dan pakar budaya untuk menyemak dan mengesahkan output Spark Plug. Produknya juga tidak dibangunkan di atas ChatGPT. Ia adalah modelnya sendiri, bermakna pengguna mengawal data mereka.
Pasmore juga mempunyai rancangan untuk membina satu model asas berasingan untuk Latimer.AI-nya. Pada masa ini, dia sedang berkerja untuk memperluaskan syarikatnya ke sekolah, terutamanya HBCU, kerana lebih ramai pelajar melihat ke ChatGPT setiap hari untuk menyelesaikan kerja mereka.
“Ini adalah pengiring AI yang lebih baik untuk banyak kerja yang dibebankan kepada kanak-kanak kulit hitam dan coklat,” katanya.
Menyatukan diaspora
Afrika melihat dirinya diabaikan dalam gerakan AI semasa. Sebagai contoh, hanya 0.77% dari jumlah keseluruhan jurnal AI di dunia berasal dari Afrika sub-Saharan, berbanding Timur Asia dan Amerika Utara masing-masing pada 47.1% dan 11.6%, menurut Laporan Indeks Kecerdasan Buatan 2023. Dari segi populasi, berbanding dengan Amerika Utara, Afrika menyumbang kira-kira 17% daripada penduduk dunia, berbanding dengan hanya 7% di Amerika Utara. Apabila tiba masanya untuk mendapatkan maklumat dan pakar mengenai AI, peluang penyelidikan dari sub-Saharan digunakan adalah agak rendah, yang boleh memberi kesan kepada pembangunan alat AI global.
Sementara Afrika melihat banyak pembangunan dalam mencipta model bahasa yang lebih inklusif yang lebih baik melayani diaspora hitam, pada masa ini, model-model AI semasa dari ChatGPT ke Gemini tidak dapat menyokong sepenuhnya lebih daripada 2,000 bahasa yang digunakan di Afrika.
Yinka Iyinolakan mencipta CDIAL.AI untuk menangani ini. CDIAL.AI adalah chatbot yang boleh bercakap dan memahami hampir semua bahasa dan dialek Afrika, dengan fokus khusus pada corak percakapan berbanding teks.
Iyinolakan menyuarakan kepada TechCrunch sentimen yang sama yang banyak Amerika berkulit hitam lakukan - bahawa model AI asas mendapat sumber dari data internet dan dari bahasa yang paling biasa digunakan. Seperti keturunan budaya Amerika berkulit hitam, banyak bahasa dan tradisi Afrika tidak terdapat dalam internet, kerana budaya ini secara sejarah dihubungi secara lisan berbanding secara tertulis. Ini bermakna model AI tidak mempunyai cukup maklumat mengenai budaya Afrika untuk melatih diri mereka sendiri, meninggalkan jurang pengetahuan.
Untuk CDIAL.AI, Iyinolakan membawa lebih daripada 1,200 penutur asli dan ahli linguistik di seluruh Afrika untuk mengumpulkan pengetahuan dan pandangan untuk membina apa yang dia puji sebagai "model bahasa besar bercakapan multi-bahasa pertama di dunia." Syarikat ini merancang untuk memperluaskan dalam tempoh 12 bulan akan termasuk lagi banyak bahasa dan membina model untuk menyokong teks, suara, dan imej.
“Silicon Valley ingin percaya bahawa ia adalah segalanya untuk kecerdasan buatan,” kata Iyinolakan. “Tetapi untuk ‘mendapatkan’ kecerdasan buatan, yang mana semua syarikat yakin sebagai arah tujuan mereka, mereka perlu termasuk sepertiga daripada pengetahuan dunia.”
Membuat kemajuan
Mengambil langkah jenaka dalam chatbot AI bukanlah inovasi yang hanya pengasas-pengasas berkulit hitam cuba atasi.
Steve Jones dan DeSean Brown memulakan syarikat pocstock untuk mencipta gambar stok orang berwarna kerana, sudah beberapa dekad, terdapat kekurangan minoriti yang diwakili dalam imej stok. Inilah sebabnya mengapa model hari ini mengeluarkan imej terutama orang putih apabila pengguna meminta mereka menghasilkan gambar apa-apa dari doktor hingga penyanyi pop.
“Semua platform dan alat harus dilatih daripada data yang sepenuhnya inklusif dari segi rasial dan budaya yang tepat, atau kita akan menghadapi isu bias yang dihadapi oleh masyarakat kita secara umum,” kata Jones. Untuk mengatasi ini, pocstock telah menghabiskan lima tahun terakhir mengumpul data kepelbagaian dan mencipta sistem penjanaan visual sendiri yang menyumbang kepada pangkalan data yang digunakan perniagaan untuk membantu melatih model AI mereka agar dapat menghasilkan imej yang lebih inklusif.
Beberapa peningkatan sedang berlaku. Jones berkata dia pernah mendapati syarikat stok imej yang lebih besar yang menghubungkan ke syarikat AI mengambil langkah-langkah yang lebih besar dalam meningkatkan kepelbagaian kandungannya. Pasmore juga melihat masa depan yang lebih cerah, mengatakan bahwa AI yang dipersonalisasi adalah masa depan dan semakin AI berinteraksi dengan pengguna-pengguna, semakin ia akan memahami kehendak dan keperluan individu tertentu, "yang saya fikir, menghilangkan banyak bias."
Mungkin ada ruang bagi model AI yang lebih budaya-spesifik pada masa akan datang, terutamanya apabila alternatif-alternatif yang dimiliki oleh pengasas berkulit hitam terus muncul. Lagipun, dunia ini luas dan lebih bersan-dingan - tiada keperluan untuk mencuba mencocokkannya dalam satu kotak hitam.
“Harapan saya adalah agar lebih ramai pengasas warna terlibat dalam membangunkan platform AI sendiri atau mencipta pekerjaan berkaitan AI baru secepat mungkin dalam lonjakan ekonomi akan datang ini,” kata Jones. “AI akan mewujudkan jutawan, dan saya akan suka melihat orang-orang berwarna mengambil posisi sebagai pengeluar dan bukan hanya pengguna.”
Artikel ini telah dikemas kini untuk mencerminkan bahawa Spark Plug menggunakan model asas sendiri, dan keterangan mengenai Latimer.AI. Ia juga dikemas kini bahawa DeSean Brown membantu mengasaskan pocstock.
