Noam Brown, yang memimpin penyelidikan penalaran AI di OpenAI, berkata beberapa bentuk model AI 'penalaran' boleh tiba 20 tahun lebih awal jika penyelidik 'tahu [cara yang betul] dan algoritma."
"Ada pelbagai sebab mengapa arah penyelidikan ini diabaikan," kata Brown semasa satu panel di konferens GTC Nvidia di San Jose pada Rabu. "Saya perasan semasa penyelidikan saya bahawa, OK, ada sesuatu yang kurang. Manusia banyak menghabiskan masa berfikir sebelum bertindak dalam situasi yang sukar. Mungkin ini akan sangat berguna [dalam AI]."
Brown merujuk kepada kerja beliau dalam AI permainan di Universiti Carnegie Melon, termasuk Pluribus, yang mengalahkan profesional poker manusia elit. AI Brown membantu mencipta adalah unik pada masa itu dalam erti bahawa ia 'berfikir' melalui masalah daripada cuba pendekatan yang lebih kasar.
Brown adalah salah seorang arkitek di belakang o1, model AI OpenAI yang menggunakan teknik yang dipanggil inferens ujian untuk 'berfikir' sebelum ia menjawab pertanyaan. Inferens ujian melibatkan aplikasi pengkomputan tambahan untuk menjalankan model untuk menggerakkan satu bentuk 'penalaran.' Secara umum, model yang dipanggil model penalaran adalah lebih tepat dan boleh dipercayai daripada model tradisional, khususnya dalam domain matematik dan sains.
Brown ditanya semasa panel sama ada akademik boleh berharap untuk melakukan eksperimen dalam skala makmal AI seperti OpenAI, mengambil kira kekurangan institusi kepada sumber komputan. Beliau mengakui bahawa ia semakin sukar dalam tahun-tahun terkini apabila model menjadi lebih memerlukan komputan, tetapi bahawa akademik boleh memberi kesan dengan meneroka kawasan yang memerlukan kurang komputan, seperti reka bentuk senibina model.
"[T]erdapat peluang untuk kerjasama antara makmal hujung [dan akademik]," kata Brown. "Tentu, makmal hujung sedang memerhatikan publikasi akademik dan memikir secara berhati-hati tentang, OK, adakah ini membina hujah yang meyakinkan yang, jika ini diperluaskan lebih jauh, ia akan sangat berkesan. Jika terdapat hujah yang meyakinkan daripada kertas, anda tahu, kita akan menyiasat perkara itu di makmal ini."
Komen Brown datang pada masa di mana pentadbiran Trump membuat pemotongan mendalam kepada pemberian geran saintifik. Pakar AI termasuk Pemenang Hadiah Nobel Geoffrey Hinton telah mengkritik pemotongan ini, mengatakan bahawa ia mungkin mengancam usaha penyelidikan AI sama di dalam dan luar negara.
Brown menyeru penanda aras AI sebagai kawasan di mana akademik boleh memberikan impak yang besar. "Keadaan penanda aras dalam AI benar-benar teruk, dan itu tidak memerlukan banyak komputan untuk dilakukan," katanya.
Seperti yang telah kami hadkan sebelum ini, penanda aras AI popular hari ini cenderung menguji pengetahuan esoterik, dan memberi markah yang berkorelasi buruk dengan kemahiran dalam tugas yang kebanyakan orang peduli. Ini telah mengakibatkan kekeliruan meluas mengenai keupayaan model dan penambahbaikan.
Kemaskini 4:06 petang Pasifik: Versi terdahulu artikel ini menyiratkan bahawa Brown merujuk kepada model penalaran seperti o1 dalam kenyataan awalnya. Sebenarnya, beliau merujuk kepada kerjanya dalam AI permainan sebelum waktunya di OpenAI. Kami menyesal atas kesilapan ini.
