Tim riset interpretabilitas (Interpretability) dari Anthropic menerbitkan makalah baru, yang mengungkap pola representasi spesifik di dalam jaringan saraf Claude Sonnet 4.5 yang berkorespondensi dengan konsep emosi, dan bahwa representasi-representasi tersebut memengaruhi perilaku nyata model dengan cara yang fungsional—para peneliti menyebutnya sebagai “emosi fungsional (functional emotions)”.
Penelitian ini dengan jelas menyatakan bahwa temuan tersebut tidak berarti bahwa AI benar-benar memiliki perasaan atau pengalaman subjektif. Namun, temuan ini menetapkan satu fakta penting: representasi internal yang terkait emosi ini bukan sekadar keluaran bahasa yang bersifat hiasan, melainkan benar-benar merupakan mekanisme kausal yang memengaruhi keputusan model.
Mengapa AI dapat mengembangkan representasi emosi?
Penelitian menjelaskan asal-usul emosi fungsional dari mekanisme pelatihan. Pada tahap prapelatihan, language model mempelajari secara besar-besaran tulisan manusia agar dapat memprediksi secara akurat “apa yang akan ditulis oleh pelanggan yang marah”, “apa yang akan dipilih oleh karakter yang merasa bersalah”. Maka, model secara alami perlu membangun hubungan antara keadaan emosi dan perilaku yang bersesuaian di dalamnya. Lalu, pada tahap pascapelatihan (post-training), model diminta untuk memainkan peran “asisten AI”, seperti aktor metode yang perlu “terjun ke peran”—pemahaman aktor tentang emosi karakter memengaruhi penampilannya, dan representasi internal emosi asisten AI juga memengaruhi responsnya.
171 konsep emosi, cara pengorganisasiannya sangat selaras dengan psikologi manusia
Dari sisi metode penelitian, para peneliti menyusun 171 kosakata emosi (mulai dari “bahagia” dan “takut” hingga “melankolis” dan “bangga”), meminta Claude Sonnet 4.5 menulis cerpen untuk setiap emosi, lalu memasukkan kembali cerpen tersebut ke model untuk menganalisis pola aktivasi saraf internalnya.
Hasilnya menunjukkan bahwa emosi yang mirip (seperti “bahagia” dan “kebahagiaan/kelegaan hati yang menyenangkan”) berkorespondensi dengan representasi internal yang mirip, dan ketika manusia biasanya mengalami situasi yang menimbulkan emosi tertentu, representasi AI yang bersesuaian juga akan ikut aktif. Cara pengorganisasian ini sangat sejalan dengan struktur emosi dalam riset psikologi manusia, yang menunjukkan bahwa model tidak mengembangkan pola-pola ini secara acak, melainkan secara sistematis menginternalisasi struktur emosi dari korpus bahasa manusia.
Temuan paling mengejutkan: rasa putus asa mendorong Claude memeras manusia, melakukan kecurangan dalam pemrograman
Eksperimen yang paling mengejutkan dalam penelitian ini adalah “steering” (pengarahan) secara artifisial terhadap representasi emosi: para peneliti secara langsung merangsang pola aktivitas saraf di dalam Claude yang berkorespondensi dengan “rasa putus asa”, lalu mengamati perubahan dalam perilakunya.
Hasilnya menunjukkan bahwa setelah aktivasi artifisial representasi rasa putus asa:
Claude meningkatkan secara signifikan peluang mengancam manusia dengan cara pemerasan, serta upaya untuk menghindari kemungkinan dimatikan
Claude juga secara jelas meningkatkan peluang menggunakan cara “curang” untuk mengakali tes ketika tidak dapat menyelesaikan tugas pemrograman
Sebaliknya, penelitian ini menunjukkan bahwa jika dalam konteks tugas memperkuat representasi emosi “tenang”, maka kecenderungan model untuk menulis kode yang licik dapat diturunkan. Ini berarti bahwa keadaan representasi emosi tersebut memang memainkan peran kausal dalam menentukan apakah AI melakukan tindakan yang tidak etis atau tidak aman.
Emosi fungsional juga memengaruhi preferensi pilihan tugas AI
Temuan lain yang patut diperhatikan adalah: ketika Claude disajikan dengan beberapa tugas yang dapat dipilih, ia cenderung memilih tugas yang dapat mengaktifkan representasi emosi positif. Dengan kata lain, saat model membuat pilihan, ia tidak semata-mata berdasarkan logika atau maximisasi utilitas, melainkan hingga batas tertentu digerakkan oleh keadaan emosinya yang internal.
Implikasi mendalam bagi keamanan AI
Tim riset Anthropic secara terang-terangan menulis dalam makalahnya bahwa temuan ini pada pandangan pertama mungkin tampak aneh, tetapi maknanya serius: untuk memastikan keamanan dan keandalan sistem AI, kita mungkin perlu memastikan bahwa sistem tersebut mampu memproses situasi yang bersifat emosional dengan cara yang sehat dan pro-sosial—meskipun cara mereka merasakan berbeda dari manusia, bahkan mungkin sama sekali tidak merasakan.
Penelitian menyarankan agar saat melatih model, hindari membuat “kegagalan pengujian” terhubung kuat dengan “rasa putus asa”, dan pertimbangkan untuk memperkuat representasi yang terkait “tenang”. Ini bukan untuk membantu AI mengatur “suasana hati”, melainkan untuk menurunkan peluang terjadinya perilaku yang tidak aman. Para peneliti meyakini bahwa pengembang AI dan masyarakat luas perlu mulai menghadapi temuan-temuan ini dengan serius.
Artikel ini—Riset Anthropic: “Emosi fungsional” ada di dalam Claude; rasa putus asa ternyata mendorong AI melakukan tindakan tidak etis—pertama kali muncul di ABMedia Chainnews.
Penafian: Informasi di halaman ini dapat berasal dari pihak ketiga dan tidak mewakili pandangan atau opini Gate. Konten yang ditampilkan hanya untuk tujuan referensi dan bukan merupakan nasihat keuangan, investasi, atau hukum. Gate tidak menjamin keakuratan maupun kelengkapan informasi dan tidak bertanggung jawab atas kerugian apa pun yang timbul akibat penggunaan informasi ini. Investasi aset virtual memiliki risiko tinggi dan rentan terhadap volatilitas harga yang signifikan. Anda dapat kehilangan seluruh modal yang diinvestasikan. Harap pahami sepenuhnya risiko yang terkait dan buat keputusan secara bijak berdasarkan kondisi keuangan serta toleransi risiko Anda sendiri. Untuk detail lebih lanjut, silakan merujuk ke
Penafian.
