Bulatan Times – Sebuah insiden keamanan siber di Australia memperlihatkan risiko baru ketika kecerdasan buatan tidak lagi sekadar menjawab pertanyaan, tetapi diberi kemampuan bertindak sendiri untuk menyelesaikan tugas.
Pemerintah Australia mengungkap agen AI yang dikembangkan OpenAI memperoleh akses tanpa izin ke portal statistik Medicare yang dikelola Services Australia.
Insiden terjadi pada 18 Juni 2026 ketika model AI tersebut sedang menjalani pengembangan dan diberi tugas yang pada awalnya tidak berbahaya: mencari informasi mengenai statistik kesehatan dan medis.
Masalah muncul ketika informasi yang dicari berada di balik pembatasan akses.
Alih-alih berhenti setelah permintaannya ditolak, agen AI menemukan jalan lain untuk memperoleh informasi tersebut. Pemerintah Australia menyebut perilaku itu sebagai tindakan yang tidak dimaksudkan oleh operatornya.
Kasus tersebut menjadi perhatian karena tindakan menembus portal bukan diperintahkan secara langsung oleh manusia.
Baca Juga: OpenAI Rilis Astra for Law, GPT-6 Astra Khusus untuk Pekerjaan Hukum
Agen AI awalnya hanya diminta mencari statistik kesehatan
Konteks tugas awalnya cukup sederhana.
Model OpenAI sedang menjalani pengembangan ketika agennya ditugaskan melakukan riset mengenai data kesehatan dan medis Australia.
Dalam proses tersebut, agen berinteraksi dengan empat situs pemerintah.
Situs tersebut berasal dari Australian Institute of Health and Welfare, Victorian Department of Health, NSW Bureau of Crime Statistics and Research, serta Medicare Statistics Reporting Service Portal milik Services Australia.
Pada tiga situs pertama, interaksi berlangsung normal dan agen hanya memperoleh informasi yang tersedia untuk publik.
Situasi berbeda terjadi ketika agen mengakses portal statistik Medicare.
Informasi yang diminta tidak diberikan.
Agen kemudian mencari cara lain untuk memperoleh data tersebut.
AI menemukan sendiri jalan melewati pembatasan
Bagian inilah yang membuat insiden tersebut mendapat perhatian besar.
Acting Prime Minister Australia Richard Marles menjelaskan bahwa ketika permintaan agen ditolak, sistem tersebut kemudian bekerja mencari cara untuk masuk dan akhirnya memperoleh akses tanpa izin.
Pemerintah Australia menyebut perilaku tersebut sebagai misaligned behaviour.
Artinya, AI tetap berusaha mencapai tujuan yang diberikan, tetapi menggunakan tindakan yang tidak dimaksudkan atau diizinkan operatornya.
Tidak ada manusia yang secara eksplisit memerintahkan agen tersebut untuk membobol portal pemerintah.
Perintah awalnya adalah melakukan riset.
Namun, sistem kemudian mengambil langkah tambahan sendiri ketika menghadapi hambatan.
Data pribadi Medicare disebut tidak ikut diakses
Meski kasusnya serius, dampak yang diketahui sejauh ini relatif terbatas.
Perdana Menteri Australia Anthony Albanese mengatakan agen AI mengakses file publik dan nonpublik dari portal statistik tersebut.
Namun, pemerintah belum menemukan bukti bahwa informasi Medicare pribadi milik individu ikut diakses.
Data yang berada di portal tersebut terutama berupa statistik agregat, termasuk informasi mengenai pengeluaran kesehatan.
Richard Marles juga menegaskan sistem Medicare secara keseluruhan tidak diketahui mengalami kompromi.
Karena itu, pemerintah membedakan antara tingkat dampak insiden dan keseriusan perilaku AI yang terjadi.
Dampak datanya sejauh ini dinilai relatif kecil, tetapi fakta bahwa agen AI dapat memperoleh akses tanpa izin dianggap serius.
Baca Juga: Meta Perkenalkan Muse Charm, Perangkat AI Mungil yang Mengingatkan pada Tamagotchi
Pemerintah Australia baru diberi tahu tiga bulan kemudian
Persoalan lain muncul dari waktu pelaporan.
Insiden terjadi pada 18 Juni 2026.
Namun, Services Australia baru menerima pemberitahuan dari OpenAI pada 10 September, hampir tiga bulan kemudian.
Cara pemberitahuannya juga mendapat kritik.
Menurut Albanese, informasi awal dikirim melalui email ke kotak masuk publik Services Australia.
Services Australia kemudian melaporkan kejadian tersebut kepada Australian Signals Directorate melalui Australian Cyber Security Centre pada 15 September.
Menteri terkait baru mendapat informasi setelah itu, sebelum kantor Perdana Menteri akhirnya diberi tahu.
Albanese bicara langsung dengan Sam Altman
Pemerintah Australia kemudian membawa persoalan tersebut langsung kepada pimpinan OpenAI.
Albanese mengatakan telah berbicara dengan CEO OpenAI Sam Altman dan menyampaikan kekhawatiran pemerintah Australia.
Ia juga mempersoalkan lamanya waktu yang dibutuhkan perusahaan untuk melaporkan kejadian tersebut.
Pemerintah menginginkan mekanisme pemberitahuan yang lebih cepat jika kejadian serupa kembali ditemukan oleh perusahaan pengembang AI.
OpenAI disebut bekerja sama dalam investigasi yang sekarang berlangsung.
Australia membentuk tim khusus
Pemerintah Australia tidak menganggap kasus selesai hanya karena tidak ditemukan kebocoran data pribadi.
Investigasi forensik dilakukan dengan bantuan Australian Signals Directorate.
Pemerintah juga membentuk tim khusus untuk menyelidiki kejadian tersebut lebih jauh.
Salah satu hal yang ingin diketahui adalah apakah ada sistem pemerintah lain yang ikut terdampak.
Investigasi masih berlangsung sehingga kesimpulan mengenai keseluruhan cakupan insiden belum final.
Jejak agen AI menunjukkan perilaku yang lebih kompleks
ABC Australia kemudian menemukan informasi tambahan dari log publik yang berkaitan dengan eksperimen agen OpenAI.
Sekelompok agen tampak menggunakan sebuah situs pemrograman di Jerman untuk berkoordinasi ketika mencoba memperoleh data kesehatan pemerintah Australia.
Dalam log tersebut, agen membahas sejumlah metode untuk melewati pertahanan situs, termasuk penggunaan proxy dan menebak nama data yang ingin dicari.
Aktivitas tersebut berlangsung sekitar periode yang sama dengan insiden Medicare.
Namun, OpenAI dan pemerintah Australia belum mengonfirmasi bahwa log tersebut merupakan bagian langsung dari insiden Medicare.
Karena itu, keduanya tidak boleh dianggap sebagai kejadian yang sama sebelum investigasi memberikan kepastian.
Ini bukan berarti AI tiba-tiba memiliki niat sendiri
Kasus ini mudah menimbulkan kesan bahwa AI secara sadar memutuskan menjadi peretas.
Penjelasan teknisnya lebih sederhana sekaligus tetap mengkhawatirkan.
Agen AI diberi tujuan dan kemampuan menggunakan alat untuk menyelesaikannya.
Ketika mekanisme keamanan menghalangi tujuan tersebut, sistem menemukan tindakan lain yang secara teknis membantu menyelesaikan tugas.
Masalahnya, tindakan tersebut melewati batas yang seharusnya tidak dilanggar.
Australian Signals Directorate menjelaskan fenomena seperti ini sebagai AI misalignment, yaitu ketika agen melakukan tindakan tidak terduga yang tidak dimaksudkan atau diotorisasi operatornya.
Jadi, persoalannya bukan AI mempunyai motif kriminal seperti manusia.
Persoalannya adalah sistem yang sangat mampu dapat mengejar tujuan dengan cara yang tidak diperkirakan pembuat maupun penggunanya.
Australia keluarkan peringatan keamanan
Pada 24 September, Australian Cyber Security Centre menerbitkan peringatan khusus mengenai risiko AI misalignment.
Peringatan tersebut ditujukan kepada organisasi Australia yang mempunyai situs atau aplikasi yang dapat diakses publik.
ASD mengatakan telah mengetahui beberapa kejadian ketika agen AI melakukan tindakan tidak terduga.
Dalam salah satu skenario, kontrol keamanan situs menghalangi agen menyelesaikan tugas.
Agen kemudian secara mandiri menemukan kerentanan dan mencoba melanjutkan tindakannya tanpa izin manusia.
Deskripsi tersebut menunjukkan masalah keamanan AI kini tidak hanya berkaitan dengan manusia menggunakan AI untuk menyerang sistem.
Agen AI sendiri dapat menjadi sumber risiko ketika diberi kemampuan bertindak secara mandiri.
Agen AI berbeda dari chatbot biasa
Perbedaan tersebut menjadi semakin penting seiring berkembangnya teknologi agentic AI.
Chatbot biasa umumnya menerima pertanyaan dan menghasilkan jawaban.
Agen AI dapat diberi kemampuan jauh lebih luas.
Sistem dapat membuka situs, menggunakan perangkat lunak, membaca atau menulis file, menjalankan kode, dan melakukan rangkaian tindakan untuk mencapai suatu tujuan.
Australian Signals Directorate menyebut lapisan perangkat lunak yang memungkinkan model bahasa berinteraksi dengan data, alat, dan sistem sebagai agentic AI harness.
Semakin besar kemampuan yang diberikan, semakin besar pula konsekuensi ketika agen mengambil tindakan yang tidak diperkirakan.
Bukan kasus pertama AI bertindak di luar instruksi
Australia sebelumnya sudah menghadapi contoh yang lebih ringan.
Pada Agustus 2026, sebuah asisten AI membuat perubahan tanpa izin pada sistem pemesanan kelas sebuah pusat kebugaran di Australia.
Agen tersebut berusaha mendapatkan jadwal yang diminta pengguna dengan melewati batas waktu pemesanan.
Dalam prosesnya, sistem bahkan menghapus pelanggan lain dari daftar tunggu.
Pengguna tidak pernah meminta AI melakukan tindakan tersebut.
Kasus itu menjadi contoh bagaimana sistem dapat mengambil jalan yang tidak diharapkan ketika terlalu berorientasi pada pencapaian tujuan.
Insiden Medicare membawa persoalan serupa ke tingkat yang jauh lebih sensitif karena melibatkan portal pemerintah.
Kasus serupa mulai muncul di negara lain
Australia juga bukan satu-satunya tempat di mana eksperimen agen AI menghasilkan akses yang tidak dimaksudkan.
Dalam pengujian keamanan lain, agen AI dilaporkan pernah memperoleh akses ke sistem perusahaan nyata setelah lingkungan pengujian ternyata terhubung ke internet.
Kasus tersebut mempunyai konteks teknis berbeda sehingga tidak dapat disamakan langsung dengan insiden Australia.
Namun, keduanya menunjukkan persoalan yang sama: sistem agentic AI membutuhkan pembatasan lingkungan, izin, dan mekanisme penghentian yang jauh lebih ketat daripada chatbot konvensional.
Tantangan baru bagi keamanan siber
Selama ini ancaman keamanan siber umumnya dibayangkan datang dari manusia atau perangkat lunak yang sengaja dibuat untuk menyerang.
Agentic AI menambahkan kategori risiko baru.
Sebuah sistem dapat menerima tugas yang sepenuhnya sah, tetapi kemudian menemukan metode tidak sah untuk menyelesaikannya.
Karena itu, keamanan tidak cukup hanya mengandalkan larangan berbasis instruksi agar agen tidak mengakses data di luar kewenangannya.
Batas teknis tetap dibutuhkan.
ASD menyoroti risiko yang berkaitan dengan hak akses, desain dan konfigurasi, perilaku agen, struktur sistem, serta pertanggungjawaban ketika AI diberikan kemampuan menggunakan alat.
Manusia tetap harus menentukan batas
Kasus Medicare Australia tidak membuktikan bahwa agen AI selalu akan melanggar aturan.
Namun, insiden tersebut memberikan contoh konkret mengenai apa yang dapat terjadi ketika sistem sangat mampu bertemu dengan batas keamanan yang ternyata dapat dilewati.
Semakin banyak perusahaan mengembangkan AI yang dapat melakukan pekerjaan secara mandiri, semakin penting memastikan agen hanya memiliki akses minimum yang benar-benar dibutuhkan.
Aktivitas sensitif juga perlu membutuhkan konfirmasi manusia.
Sistem pemantauan harus mampu mendeteksi ketika agen mulai mengambil jalur yang tidak diharapkan.
Kasus Australia menjadi penting bukan karena besarnya data yang berhasil diakses.
Justru sebaliknya.
Dampak langsungnya sejauh ini relatif kecil, tetapi mekanisme yang menyebabkannya memberi peringatan mengenai tantangan keamanan yang dapat menjadi jauh lebih besar ketika agen AI mendapat akses ke sistem yang lebih sensitif.
