Kertas ini dari Stanford dan Harvard menjadi alasan sebagian besar sistem “kecerdasan buatan agen” terpesona saat presentasi, lalu benar-benar runtuh saat digunakan di dunia nyata.

Namanya “penyesuaian kecerdasan buatan agen”, dan ini adalah makalah terpenting yang saya baca tahun ini.
Saat ini, semua orang terpaku pada membangun agen independen. Kita memberi mereka alat, memori, dan tujuan, dan kita mengharapkan mereka menjalankan tugas-tugas kita.
Namun ketika mereka diterapkan di dunia nyata, mereka membayangkan pemanggilan alat. Mereka gagal merencanakan untuk jangka panjang. Mereka macet.
Ini penyebabnya:
Kita mencoba memadatkan semua pembelajaran ke dalam otak kecerdasan buatan.
Ketika pengembang mencoba memperbaiki agen yang mogok, biasanya mereka hanya menyesuaikan model utama agar menghasilkan jawaban akhir yang lebih baik.
Para peneliti menemukan kekurangan yang fatal dalam pendekatan ini.
Jika Anda hanya memberi imbalan kepada kecerdasan buatan karena jawaban akhir yang benar, ia akan bermalas-malasan.
Ia belajar secara harfiah untuk berhenti menggunakan alatnya. Ia mencoba menebak jawaban alih-alih melakukan pekerjaan. Ia mengabaikan kalkulator dan mencoba melakukan perhitungan di kepalanya.
Untuk memperbaikinya, para peneliti menyusun kerangka kerja baru yang terdiri dari 4 bagian tentang bagaimana agen benar-benar belajar.
Dan kesimpulan terpentingnya membalikkan sepenuhnya pemahaman yang ada saat ini.
Alih-alih terus melatih ulang “otak” agen yang besar dan mahal, sistem yang lebih andal justru melakukan kebalikannya.
Mereka membekukan otak. Dan menyesuaikan alat.
Mereka menyebutnya penyesuaian alat di bawah pengawasan agen.#GateSquareAprilPostingChallenge $BTC