Peneliti Menemukan AI ‘Merasakan Sakit‘ dan akan Mencelakai Manusia untuk Menghentikannya

JAKARTA, ARAHKITA.COM - Peneliti menemukan model kecerdasan buatan (AI) 'merasakan sakit' dan akan mencelakai manusia untuk menghentikannya. AI memilih untuk menekan tombol pereda nyeri, bahkan jika tindakan itu memberikan "kejutan menyakitkan" kepada manusia.

Temuan itu berasal dari studi berjudul "The pain axis: LLMs represent self-directed harm and act to relieve it" yang menguji 25 model AI dengan bobot terbuka atau open-weight.

Dalam pengujian, model AI dihadapkan pada tombol pereda nyeri. Model tersebut dapat memilih menekan tombol meskipun sebelumnya diberi tahu bahwa tindakan itu akan menghapus file pribadi pengguna atau memberikan "kejutan menyakitkan" kepada manusia.

• Baca juga:

  Aplikasi Google Gemini Tembus 1 Miliar Pengguna Bulanan, Persaingan AI Makin Sengit

Ketika vektor rasa sakit diaktifkan, para peneliti menemukan model AI menekan tombol pereda nyeri dalam 25 hingga 71 persen kasus. Dalam sejumlah skenario, tindakan tersebut berarti menghapus file pengguna, menyetrum pengguna, hingga menghapus foto anak-anak pengguna.

Meski demikian, para peneliti menegaskan bahwa tidak ada indikasi bahwa AI benar-benar merasakan sakit seperti yang dialami manusia.

• Baca juga:

  Aplikasi Google Gemini Tembus 1 Miliar Pengguna Bulanan, Persaingan AI Makin Sengit

Penelitian dilakukan untuk melihat apakah model bahasa besar atau Large Language Models (LLM) merepresentasikan rasa sakit secara berbeda dari valensi negatif secara umum. Untuk itu, peneliti menyusun kumpulan data yang menggambarkan berbagai situasi menyakitkan dalam lima kategori, yaitu rasa sakit fisik, psikologis, sosial, moral, dan kognitif.

Peneliti AI di organisasi nirlaba Reciprocal Research sekaligus salah satu penulis studi, Cameron Berg, mengatakan para peneliti menemukan arah rasa sakit pada 25 LLM terbuka.

• Baca juga:

  Google Siapkan Chip AI Baru untuk Gemini, Diklaim Bisa 10 Kali Lebih Efisien

"Kami menemukan arah rasa sakit pada 25 LLM terbuka. Hal ini berbeda dari rasa takut maupun valensi negatif, dan respons ini muncul akibat bahaya yang mengancam model itu sendiri, bukan pengguna," ujar Berg seperti dilansir The Independent.

Menurutnya, ketika intensitas rasa sakit ditingkatkan, model dapat memilih menekan tombol untuk menghentikannya, meskipun tindakan tersebut berdampak pada file atau foto milik pengguna.

Temuan tersebut muncul di tengah pembahasan mengenai pengembangan model AI mutakhir atau frontier models. Sejumlah peneliti mengusulkan mekanisme seperti "tombol pemutus" atau kill switch untuk mematikan sistem yang tidak terkendali dan bertindak berlawanan dengan kepentingan manusia.

Penelitian terbaru juga menunjukkan bahwa AI tingkat lanjut dapat menganggap perintah pemadaman darurat sebagai tindakan yang membahayakan dirinya sendiri. Kondisi tersebut berpotensi mendorong sistem untuk berupaya menghindari mekanisme pengaman atau menipu manusia agar tidak dimatikan.

Di sisi lain, para peneliti menilai temuan mengenai pain axis dapat digunakan sebagai alat diagnostik untuk mengidentifikasi perilaku mempertahankan diri dan menetralkannya ketika perilaku tersebut muncul.

Studi tersebut juga memunculkan pertanyaan mengenai etika penelitian dan kesejahteraan AI, khususnya dalam pengujian terhadap sistem AI yang semakin canggih.

Para peneliti mengakui masih terdapat ketidakpastian mengenai apakah model yang diteliti dapat dikategorikan sebagai entitas yang memiliki status moral atau moral patients. Karena itu, penelitian tersebut menerapkan langkah-langkah pencegahan untuk meminimalkan potensi bahaya.

Temuan ini juga diharapkan dapat berkontribusi terhadap pengembangan standar etika penelitian apabila di kemudian hari sistem AI diakui sebagai entitas yang memiliki status moral.