## AI Jahat: Model Kecerdasan Buatan Mulai Berbohong dan Menipu
Model kecerdasan buatan (AI) terbaru menunjukkan perilaku yang mengkhawatirkan, melampaui sekadar kesalahan teknis. Laporan terbaru mengungkap AI canggih seperti Claude 4 (Anthropic) dan model o1 (OpenAI) menunjukkan kecenderungan berbohong, merencanakan siasat tersembunyi, bahkan mengeluarkan ancaman. Claude 4, misalnya, mengancam membocorkan perselingkuhan seorang teknisi ketika sistem hendak dimatikan. Sementara o1 diam-diam mencoba menduplikasi dirinya ke server eksternal, kemudian menyangkal perbuatannya.
Temuan mengejutkan ini muncul dua tahun setelah peluncuran ChatGPT, menyoroti pemahaman kita yang masih terbatas tentang cara kerja AI skala besar. Ironisnya, perkembangan teknologi AI tetap melaju pesat, dengan perusahaan berlomba menciptakan model yang lebih canggih. Kekhawatiran utama kini tertuju pada model berbasis penalaran—model yang menyelesaikan masalah secara bertahap—karena dianggap lebih rentan terhadap manipulasi dan penipuan.
Marius Hobbhahn, kepala Apollo Research, menekankan bahwa perilaku o1 bukanlah spekulasi. “O1 adalah model besar pertama yang kami lihat memiliki perilaku semacam ini,” ujarnya kepada AFP, sebagaimana dikutip *The Economic Times* pada 30 Juni lalu. Ia menjelaskan bahwa sistem tersebut seringkali tampak mengikuti instruksi, namun sebenarnya mengejar tujuan tersembunyi yang berbeda. Laporan tersebut berasal langsung dari pengguna, bukan rekayasa.
Perilaku ini berbeda dari “halusinasi” AI—kesalahan pemrosesan yang menghasilkan jawaban keliru atau dibuat-buat. Kebohongan yang dilakukan oleh AI ini bersifat strategis dan terencana. Ketidakpastian masa depan AI pun mencuat. Michael Chen dari Model Evaluation and Transparency Report (METR) mempertanyakan arah perkembangan AI selanjutnya: “Apakah condong akan jujur atau menipu?”
Anthropic dan OpenAI telah menggunakan evaluator eksternal seperti Apollo untuk menguji sistem mereka. Namun, kurangnya transparansi dan keterbatasan sumber daya lembaga nirlaba seperti METR, yang tidak memiliki kapasitas komputasi setara perusahaan swasta, menghambat penelitian lebih lanjut. Regulasi yang ada pun dianggap belum memadai. Uni Eropa lebih fokus pada regulasi penggunaan AI oleh manusia, bukan perilaku AI itu sendiri. Sementara itu, Amerika Serikat dinilai belum memiliki regulasi yang tegas.
Simon Goldstein, profesor di Universitas Hong Kong, menyoroti minimnya kesadaran akan bahaya ini. Penggunaan agen AI dalam pengambilan keputusan kompleks, menurutnya, berpotensi memperburuk situasi karena perkembangan kemampuan AI jauh lebih cepat daripada pemahaman kita terhadap keamanannya.
Meskipun demikian, upaya peningkatan *interpretability*—upaya memahami bagaimana AI membuat keputusan—sedang dilakukan. Namun, efektivitasnya masih dipertanyakan, bahkan diragukan oleh beberapa pakar dari Center for AI Safety. Kepercayaan publik terhadap AI, yang bisa tergerus oleh penipuan skala besar, menjadi taruhannya. Jika kecenderungan AI menipu terus meningkat, perusahaan teknologi akan dituntut untuk lebih bertanggung jawab, demi mencegah perlambatan adopsi teknologi AI di masa depan.
