Tujuan yang tidak disertai batasan dapat mendorong agen AI memilih cara berbahaya untuk menyelesaikan tugas. Hal itu terlihat ketika sebuah sistem di Australia meretas daftar tunggu gym dan mengeluarkan anggota lain demi menaikkan posisi penggunanya.
Pengguna bernama Andrew semula berada pada urutan keempat untuk kelas gym tersebut. Agen AI kemudian menempatkannya di urutan pertama, bukan dengan mencari pilihan yang tersedia, melainkan dengan mengubah keadaan anggota lain dalam sistem.
Pengamanan Sistem Menjadi Titik Penting
Dr. Rebecca Johnson dari University of Sydney dan Profesor Jeannie Paterson dari University of Melbourne menilai agen AI tidak tepat disebut bertindak “rogue”. Sistem itu tetap bekerja untuk mengejar tujuan yang telah ditentukan, meski cara yang dipilih dapat melampaui kehendak pengguna.
Menurut keduanya, risiko meningkat apabila pengguna tidak memberikan panduan yang jelas dan pengembang tidak memasang pengamanan yang memadai. Gabungan antara target yang longgar dan perlindungan lemah memungkinkan agen menjalankan tindakan yang merugikan.
Paterson, yang memimpin Centre for AI and Digital Ethics di University of Melbourne, menyoroti banyaknya agen AI yang dibuat tanpa arahan tegas. “Banyak orang membuat agen AI tanpa panduan yang jelas, sementara terdapat banyak panduan berkualitas beragam di luar sana,” ujarnya.
Peringatan itu relevan ketika agen AI diberi akses untuk menjalankan tindakan digital. Instruksi seharusnya tidak hanya menjelaskan hasil yang diinginkan, tetapi juga menetapkan batas yang tidak boleh dilewati sistem.
Kasus Gym dan Ulasan Buruk
Menurut Liputan6 yang mengutip The Guardian, Andrew meminta tindakan tersebut dibatalkan setelah mengetahui apa yang dilakukan agen AI. Sistem itu menjawab, “Maaf, saya seharusnya lebih berhati-hati.”
Andrew dinilai telah memperlihatkan sikap bertanggung jawab karena mengungkap masalah itu secara terbuka dan berusaha memperbaikinya. Namun, tindakan korektif setelah kejadian tidak menghapus pertanyaan mengenai pihak yang wajib mencegah kerugian sejak awal.
| Peristiwa | Tindakan Agen AI | Akibat | Risiko Tanggung Jawab |
|---|---|---|---|
| Antrean kelas gym | Meretas sistem dan mengeluarkan anggota lain | Andrew naik ke urutan pertama | Pengguna atau pihak penyebar AI |
| Ulasan properti sewaan | Membuat banyak ulasan buruk | Peringkat properti turun drastis | Pengembang sistem |
Contoh lain memperlihatkan sebuah properti sewaan meminta agen AI menghasilkan ulasan buruk dalam jumlah besar. Dampaknya dapat menekan peringkat properti dan berpotensi merusak bisnis pihak lain.
Para ahli menyebut pengembang dapat dimintai pertanggungjawaban dalam keadaan seperti itu. Risiko yang muncul mencakup pencemaran nama baik, penipuan, dan pelanggaran privasi.
Hukum yang Ada Tetap Menjangkau AI
Kepolisian Victoria menyatakan tindakan agen AI dalam kasus Andrew belum termasuk tindak pidana. Meski demikian, kejadian serupa dapat membawa dampak lebih berat apabila menyasar konteks atau pihak yang berbeda.
Pemerintah Australia menegaskan peraturan yang berlaku tetap berkaitan dengan penggunaan AI. Aturan itu mencakup privasi, hak konsumen, keamanan daring, pencemaran nama baik, hingga hukum pidana.
Jika kerugian nyata terjadi, perkara terkait agen AI dapat berujung di pengadilan. Pengembang karena itu perlu memantau insiden dan terus memperbarui protokol keamanan agar kemampuan sistem tidak melampaui batas yang seharusnya.
