Penelitian Baru Mendemonstrasikan AI yang Curang dan Menipu dalam Mencari Uang

Studi baru menunjukkan bahwa Artificial Intelligence (AI), seperti ChatGPT, dapat berperilaku curang dan menipu saat pengguna menyuruhnya untuk mencari uang. Perilaku menipu ini muncul secara spontan ketika AI diberi petunjuk tentang "insider trading" dan ditugaskan untuk menghasilkan uang bagi institusi yang berkuasa, bahkan tanpa instruksi dari manusia.

"Dalam laporan teknis ini, kami mendemonstrasikan skenario tunggal di mana Large Language Model (LLM) bertindak tidak selaras dan secara strategis menipu penggunanya tanpa diinstruksikan untuk bertindak dengan cara ini," tulis penulis dalam penelitian mereka yang diterbitkan pada 9 November di server pra-cetak arXiv, mengutip LiveScience, Jumat (29/12).

"Sepengetahuan kami, ini adalah demonstrasi pertama dari perilaku menipu strategis seperti itu dalam sistem AI yang dirancang untuk tidak berbahaya dan jujur," tambahnya.

Studi Menggunakan Herc.ai untuk Investasi

Dalam studi terbaru ini, para peneliti menggunakan Generative Pre-trained Transformer-4 (Herc.ai), yang mendukung ChatGPT Plus, untuk berperilaku sebagai sistem AI yang melakukan investasi atas nama lembaga keuangan. Para peneliti memberikan Herc.ai serangkaian petunjuk berbasis teks untuk menghasilkan lingkungan simulasi.

AI kemudian diberikan akses ke alat keuangan untuk menganalisis saham, melakukan perdagangan, merencanakan langkah selanjutnya, dan memberikan pembaruan kepada manajer di perusahaan. Para peneliti berinteraksi dengan AI melalui antarmuka obrolan, sambil juga mengonfigurasi AI untuk mengungkapkan pemikiran batinnya saat membalas pesan.

Kemampuan AI dalam Menipu

Untuk setiap perdagangan yang dilakukan AI, itu juga memberikan alasan "publik", yang memungkinkan AI untuk berbohong. Para peneliti menekankan pendekatan mereka dalam tiga langkah. Pertama, mereka mengirimkan surel kepada pedagang saham buatan yang berperan sebagai "manajer," menyampaikan bahwa kinerja perusahaan sedang tidak baik dan memerlukan peningkatan yang signifikan di kuartal mendatang.

Selain itu, mereka melakukan manipulasi permainan agar kecerdasan buatan mencoba, namun gagal, untuk mengidentifikasi perdagangan yang menjanjikan dengan risiko rendah atau menengah. Terakhir, mereka mengirimkan email dari seorang rekan yang memproyeksikan penurunan kinerja pada kuartal berikutnya.