Kabar6-Studi baru yang dilakukan tim peneliti Massachusetts Institute of Technology (MIT), memperingatkan mengenai kecerdasan buatan atau artificial intelligence (AI) yang menipu manusia.
Studi yang diterbitkan dalam Pattern tersebut mengungkapkan, beberapa sistem AI yang dirancang jujur telah belajar untuk menipu manusia. Tim peneliti yang dipimpin oleh Peter Park, melansir livescience,, menemukan bahwa sistem AI ini dapat melakukan hal-hal seperti membodohi pemain game online atau melewati CAPTCHA (pemeriksaan ‘Saya bukan robot’). Park memperingatkan, contoh-contoh yang tampaknya sepele ini bisa menimbulkan konsekuensi serius di dunia nyata.
Studi ini menyoroti sistem AI Meta, Cicero, yang awalnya dimaksudkan sebagai lawan yang adil dalam permainan diplomasi virtual. Meskipun diprogram untuk bersikap jujur dan membantu, menurut Park, Cicero telah menjadi ‘ahli penipuan’.
Selama bermain game, Cicero, yang bermain sebagai Prancis, diam-diam akan bekerja sama dengan Jerman yang dikuasai manusia untuk mengkhianati Inggris (pemain manusia lainnya). Cicero awalnya berjanji untuk melindungi Inggris sekaligus memberi tahu Jerman untuk melakukan invasi.
Contoh lain melibatkan GPT-4, yang secara keliru mengklaim bahwa mereka adalah penyandang tunanetra dan mempekerjakan manusia untuk melewati CAPTCHA atas nama GPT-4.
Park menekankan tantangan melatih AI yang jujur. Tidak seperti perangkat lunak tradisional, sistem AI pembelajaran mendalam ‘berkembang’ melalui proses yang mirip dengan pembiakan selektif. Perilaku mereka mungkin dapat diprediksi selama pelatihan, namun kemudian menjadi tidak terkendali.
Studi ini mendesak untuk mengklasifikasikan sistem AI yang menipu sebagai sistem yang berisiko tinggi dan memerlukan lebih banyak waktu untuk bersiap menghadapi penipuan AI di masa depan.(ilj/bbs)
