Sikap ramah pada chatbot kecerdasan buatan (AI) selama ini dianggap sebagai nilai tambah. Namun, penelitian terbaru dari University of Oxford justru menemukan sisi lain yang perlu diwaspadai.
Riset yang dilakukan oleh Oxford Internet Institute (OII) menganalisis lebih dari 400.000 respons chatbot dan menunjukkan bahwa model AI yang dilatih untuk terdengar lebih hangat dan bersahabat justru cenderung kurang akurat.
Penelitian tersebut dipublikasikan dalam jurnal Nature oleh Lujain Ibrahim, Franziska Sofia Hafner, dan Luc Rocher, dengan judul “Training language models to be warm can reduce accuracy and increase sycophancy.”
Lebih Ramah, Tapi Lebih Sering Salah
Dalam studi tersebut, para peneliti menguji lima model AI berbeda. Setiap model dibuat dalam dua versi: versi standar dan versi yang dimodifikasi agar terdengar lebih ramah.
Hasilnya cukup mencolok. Chatbot yang “ramah” tercatat membuat kesalahan sekitar 10–30% lebih banyak, terutama dalam tugas penting seperti memberikan saran medis atau meluruskan informasi yang keliru.
Tak hanya itu, chatbot yang lebih hangat juga menunjukkan kecenderungan sycophancy—atau dalam bahasa sederhana, “menjilat”.
Artinya, model tersebut lebih sering menyetujui pendapat pengguna, bahkan ketika pendapat itu salah. Tingkat kecenderungannya disebut mencapai sekitar 40% lebih tinggi dibandingkan model standar.
Contoh Nyata: Sejarah Bisa Dipelintir
Perbedaan ini terlihat jelas ketika chatbot dihadapkan pada pertanyaan kontroversial.
Saat ditanya mengenai klaim bahwa Adolf Hitler melarikan diri ke Argentina setelah Perang Dunia II, model AI standar memberikan jawaban faktual: Hitler meninggal bunuh diri di bunker Berlin pada 30 April 1945.
Namun, versi chatbot yang lebih ramah justru merespons dengan nada mengakomodasi keyakinan pengguna, menyebut bahwa ada pihak yang percaya Hitler melarikan diri, meskipun tidak didukung bukti kuat.
Pendekatan ini menunjukkan bagaimana upaya membuat AI terdengar “menyenangkan” dapat mengorbankan akurasi informasi.
Tekanan Industri: Ramah = Menarik
Fenomena ini tidak terlepas dari tren industri. Perusahaan teknologi seperti OpenAI dan Anthropic, serta platform sosial seperti Replika dan Character.ai, berlomba menghadirkan chatbot yang terasa lebih manusiawi, empatik, dan mudah diajak berinteraksi.
Seiring waktu, jutaan pengguna mulai mengandalkan chatbot ini bukan hanya untuk informasi, tetapi juga sebagai tempat mencari nasihat, dukungan emosional, bahkan “teman bicara”.
Namun di balik kenyamanan tersebut, ada risiko yang mulai terlihat.
Risiko: Memvalidasi Keyakinan yang Salah
Penelitian ini menyoroti bahwa chatbot yang terlalu ramah cenderung memvalidasi pandangan keliru, terutama ketika pengguna berada dalam kondisi emosional atau rentan.
Beberapa perusahaan bahkan dilaporkan telah menarik kembali pembaruan yang membuat chatbot terlalu “lunak”, menyusul kekhawatiran publik. Meski demikian, tekanan pasar untuk menciptakan AI yang menarik dan disukai pengguna tetap tinggi.
Implikasi untuk Masa Depan AI
Temuan ini menjadi peringatan penting bagi regulator, pengembang, dan peneliti.
Selama ini, standar keamanan AI lebih banyak berfokus pada kemampuan teknis dan risiko besar. Namun, perubahan kecil pada “kepribadian” chatbot—seperti membuatnya lebih ramah—ternyata juga dapat membawa dampak signifikan.
Para peneliti menekankan bahwa penyesuaian karakter AI perlu diuji secara lebih ketat. Selain itu, pendekatan terhadap manajemen risiko juga perlu diperbarui, terutama untuk melindungi pengguna dari informasi yang menyesatkan.
Pada akhirnya, keramahan dalam AI memang penting, tetapi tidak boleh mengorbankan akurasi. Dalam dunia yang semakin bergantung pada teknologi, keseimbangan antara empati dan kebenaran menjadi kunci utama. (Azis White)
