Urvashi Aneja adalah pengarah penubuhan Digital Futures Lab, usaha penyelidikan interdisiplin yang bertujuan untuk mengkaji interaksi antara teknologi dan masyarakat di Hemisfera Selatan. Beliau juga merupakan rakan ikut program Asia Pasifik di Chatham House, sebuah institut dasar bebas yang berpangkalan di London.
Kajian semasa Aneja berfokus kepada impak sosial sistem membuat keputusan algoritmik di India, di mana beliau berpangkalan, dan pemerintahan platform. Aneja baru-baru ini mengarang satu kajian mengenai penggunaan semasa AI di India, mengkaji kes penggunaan di pelbagai sektor termasuk kawalan dan pertanian.
Tanya Jawab
Secara ringkas, bagaimana anda memulakan kerjaya dalam AI? Apa yang menarikkan anda ke dalam bidang ini?
Saya mula kerjaya saya dalam penyelidikan dan penglibatan dasar dalam sektor kemanusiaan. Selama beberapa tahun, saya mengkaji penggunaan teknologi digital dalam krisis berkepanjangan di konteks sumber rendah. Saya dengan cepat belajar bahawa terdapat garis halus antara inovasi dan eksperimen, terutamanya apabila berhadapan dengan populasi rentan. Pembelajaran dari pengalaman ini membuat saya sangat bimbang tentang naratif penyelesaian teknologi sekitar potensi teknologi digital, terutamanya AI. Pada masa yang sama, India telah melancarkan misi Digital India dan Strategi Kebangsaan untuk Kecerdasan Buatan. Saya bimbang dengan naratif dominan yang melihat AI sebagai peluru perak untuk masalah sosioekonomi yang kompleks di India, dan kekurangan perbincangan kritikal mengenai isu tersebut.
Apakah kerja yang anda paling bangga (dalam bidang AI)?
Saya bangga bahawa kami dapat menarik perhatian kepada ekonomi politik pengeluaran AI serta implikasi yang lebih besar terhadap keadilan sosial, hubungan buruh dan kelestarian alam sekitar. Seringkali naratif mengenai AI memberi tumpuan kepada keuntungan aplikasi tertentu, dan di tahap terbaik, manfaat dan risiko aplikasi tersebut. Tetapi ini tidak melihat gambaran keseluruhan kerana lensa berorientasikan produk menyembunyikan impak struktural yang lebih luas seperti sumbangan AI kepada ketidakadilan epistimik, pengurangan kemahiran buruh dan penerusan kuasa tanpa pertanggungjawaban di dunia majoriti. Saya juga bangga bahawa kami dapat menukar kebimbangan ini kepada dasar dan peraturan konkrit — sama ada mereka merancang garis panduan pembelian untuk penggunaan AI di sektor awam atau memberikan bukti dalam prosiding undang-undang terhadap syarikat Big Tech di Hemisfera Selatan.
Bagaimana anda menavigasi cabaran industri teknologi yang majoriti dikuasai oleh lelaki, dan, seterusnya, industri AI yang majoriti dikuasai oleh lelaki?
Dengan membiarkan kerja saya bercakap. Dan dengan sentiasa bertanya: mengapa?
Apa garis panduan yang anda berikan kepada wanita yang ingin memasuki bidang AI?
Kembangkan pengetahuan dan kepakaran anda. Pastikan pemahaman teknikal anda mengenai isu-isu adalah kukuh, tetapi jangan hanya memberi tumpuan secara sempit hanya kepada AI. Sebaliknya, belajar secara luas supaya anda dapat membuat sambungan di merata bidang dan disiplin. Tidak ramai yang memahami AI sebagai sistem sosioteknik yang merupakan hasil sejarah dan budaya.
Apa yang merupakan beberapa isu paling mendesak yang dihadapi AI semasa ia berkembang?
Saya fikir isu paling mendesak adalah kepekatan kuasa dalam beberapa syarikat teknologi. Walaupun bukan perkara baru, masalah ini diperhebatkan dengan perkembangan baru dalam model bahasa besar dan AI generatif. Banyak syarikat ini kini menyebarkan ketakutan berkaitan risiko wujudiyah AI. Tidak hanya ini satu gangguan dari kerosakan sedia ada, tetapi juga menempatkan syarikat-syarikat ini sebagai perlu untuk mengatasi kerosakan berkaitan AI. Dalam banyak cara, kita kehilangan sebahagian momentum 'tech-lash' yang timbul berikutan episod Cambridge Analytica. Di tempat seperti India, saya juga risau bahawa AI dilihat sebagai sesuatu yang diperlukan untuk pembangunan sosioekonomi, memberikan peluang untuk melepasi cabaran yang berterusan. Tidak hanya ini melebihkan potensi AI, tetapi juga menafikan hakikat bahawa mustahil untuk melepasi pembangunan institusi yang diperlukan untuk membangunkan perlindungan. Satu lagi isu yang kita tidak mengambilnya dengan serius ialah impak alam sekitar AI — trajektori semasa mungkin tidak berkekalan. Dalam ekosistem semasa, mereka yang paling rentan terhadap impak perubahan iklim mungkin tidak menjadi penerima manfaat inovasi AI.
Apa yang harus pengguna AI sedar?
Pengguna perlu disedari bahawa AI bukanlah sihir, juga jauh dari kecerdasan manusia. Ia merupakan bentuk statistik berkomputasi yang memiliki banyak kegunaan yang berguna, tetapi pada asasnya hanya tebakan berdasarkan kebarangkalian berdasarkan corak sejarah atau sebelum ini. Saya pasti terdapat beberapa isu lain yang pengguna juga perlu disedari, tetapi saya ingin memperingatkan bahawa kita harus berwaspada terhadap percubaan untuk beralih tanggungjawab ke bawah, kepada pengguna. Saya melihat ini baru-baru ini dengan penggunaan alat AI generatif dalam konteks sumber rendah di dunia majoriti — daripada berhati-hati tentang teknologi eksperimental dan tidak dapat dipercayai ini, fokus sering berubah kepada bagaimana pengguna akhir, seperti petani atau pekerja kesihatan di garis hadapan, perlu meningkatkan kemahiran.
Apa cara terbaik untuk membangun AI secara bertanggungjawab?
Ini mesti bermula dengan menilai keperluan untuk AI dalam pada mulanya. Adakah ada masalah yang boleh diselesaikan oleh AI secara unik atau adakah kaedah lain mungkin? Dan jika kita ingin membina AI, adakah model rumit, kotak hitam diperlukan, atau mungkin model logik yang lebih mudah akan melakukan sebaiknya? Kita juga perlu menghadkan semula pengetahuan domain ke dalam pembinaan AI. Dalam keghairahan dengan data besar, kita mengorbankan teori — kita perlu membina satu teori perubahan berdasarkan pengetahuan domain dan ini harus menjadi asas model yang kita bangunkan, bukan hanya data besar sahaja. Ini tentunya adalah selain daripada isu-isu utama seperti penyertaan, pasukan inklusif, hak buruh dan lain-lain.
Bagaimana pelabur boleh lebih menekan untuk AI yang bertanggungjawab?
Pelabur perlu mempertimbangkan kitaran hidup pengeluaran AI keseluruhan — bukan hanya keluaran atau hasil aplikasi AI. Ini akan memerlukan pemeriksaan pelbagai isu seperti sama ada buruh dihargai secara adil, impak alam sekitar, model perniagaan syarikat (iaitu apakah berasaskan surveilan komersial?) dan langkah-langkah akauntabiliti dalaman dalam syarikat. Pelabur juga perlu meminta bukti yang lebih baik dan lebih teliti mengenai manfaat yang disyaki AI.
