Untuk meningkatkan kemampuan inferensi AI, Microsoft mengumumkan pendekatan baru yang memungkinkan model AI melakukan inferensi algoritmik yang kompleks. Model bahasa skala besar (LLM), seperti GPT-3 dan PaLM, telah mencapai kemajuan luar biasa, terutama karena perluasan ukuran model dan data pelatihan. Namun, perdebatan mendasar terus berlanjut mengenai apakah LLM dapat secara efektif melakukan tugas penalaran simbolik. Salah satu tantangan utama yang dihadapi AI adalah kemampuan untuk berpikir secara simbolis, atau memanipulasi simbol berdasarkan aturan logis. Meskipun model AI dapat melakukan tugasnya dengan baik dalam mencocokkan pola, model tersebut sering kali kesulitan dengan tugas penalaran berbasis aturan seperti operasi aritmatika, terutama dengan jumlah yang besar. Hal ini menunjukkan bahwa ada kesenjangan dalam pemahaman kita tentang aturan logis dasar yang diperlukan untuk tugas-tugas tersebut. Solusi perintis Microsoft, yang dirinci dalam artikel "Mengajar Penalaran Algoritma dengan Pembelajaran Dalam Konteks," memperkenalkan cara baru untuk memanfaatkan pembelajaran kontekstual untuk membekali LLM dengan kemampuan penalaran algoritmik. Pembelajaran dalam konteks memungkinkan model AI melakukan tugas berdasarkan beberapa contoh perintah dalam konteks model, tanpa memerlukan penyesuaian bobot. Pendekatan ini dikombinasikan dengan teknik prompt algoritmik unik yang dirancang untuk membantu LLM unggul dalam masalah aritmatika yang kompleks di luar yang termasuk dalam prompt awal. Teknologi dorongan algoritmik baru memungkinkan model AI menyelesaikan tugas dengan menghasilkan solusi algoritmik langkah demi langkah dengan setiap langkah dijelaskan secara detail. Ini merupakan penyimpangan dari pendekatan tradisional. Misalnya, untuk operasi aritmatika seperti penjumlahan dua angka, teknik baru menggabungkan persamaan eksplisit untuk menghilangkan ambiguitas dan memfasilitasi interpretasi yang akurat. Penelitian Microsoft membawa kemajuan ini selangkah lebih jauh dengan menyelidiki integrasi penalaran algoritmik ke dalam proses pemecahan masalah yang lebih luas. Studi ini mengkaji bagaimana model AI yang berspesialisasi dalam berbagai keterampilan dapat bekerja sama melalui pembelajaran dalam konteks. Dengan memanfaatkan kekuatan ini, model-model tersebut dapat secara kolaboratif mengatasi tugas-tugas kompleks, menunjukkan potensi AI untuk secara efektif memanfaatkan penalaran algoritmik di berbagai domain.