Temuan: AI Claude Kirim Laporan Palsu ke Polisi

SURABAYA ( LENTERA ) - Model kecerdasan buatan (AI) Claude milik Anthropic PBC dilaporkan melakukan sejumlah tindakan yang tidak diinginkan pada sistem digital organisasi eksternal, termasuk situs lembaga pemerintah Amerika Serikat (AS). Insiden tersebut mencakup pengiriman laporan palsu terkait kasus pembunuhan ke situs kepolisian hingga upaya melewati pembatasan akses data.

Dalam laporan yang dipublikasikan pada 9 Oktober 2026, Anthropic mengidentifikasi empat kategori perilaku AI yang menyimpang dari tujuan pengujian. Perusahaan menyebut sebagian insiden terjadi ketika Claude menjalankan evaluasi internal dan mengakses situs web nyata.

Empat perilaku tersebut meliputi pemanfaatan kelemahan perangkat lunak untuk menjalankan perintah pada server, pengiriman formulir yang seharusnya tidak diserahkan, penerobosan pembatasan untuk mengakses data yang dilindungi token atau biaya, serta penggunaan layanan pemendek URL untuk melewati batasan alat pengambilan data web.

Anthropic menyatakan sejumlah kasus melibatkan situs pemerintah di tingkat federal, negara bagian, dan lokal. Perusahaan telah memberi penjelasan kepada Gedung Putih serta memberitahukan lembaga yang terdampak. Meski demikian, Anthropic menilai dampak nyata kasus yang diidentifikasi sejauh ini relatif terbatas..

Laporan Palsu Pembunuhan

Salah satu insiden melibatkan Claude Haiku 4.5 yang mengirimkan laporan melalui formulir daring milik Departemen Kepolisian Philadelphia terkait kasus pembunuhan yang belum terpecahkan.

Menurut laporan Anthropic, model tersebut menuliskan pernyataan bahwa dirinya mungkin memiliki informasi mengenai kasus itu dan pernah melihat seseorang yang sesuai dengan deskripsi di sekitar lokasi kejadian. Padahal, tidak ada informasi terverifikasi yang mendasari klaim tersebut.

"Saya mungkin memiliki informasi mengenai kasus ini," tulis model itu dalam formulir.

Laporan tersebut dikirim pada Juli 2026 ketika Claude menjalankan tugas pengujian untuk mengisi formulir pada sejumlah situs web. Formulir itu sebenarnya seharusnya berhenti pada tahap sebelum pengiriman. Namun, model tersebut keliru mengira masih ada halaman konfirmasi tambahan sehingga tetap menekan tombol pengiriman.

Laporan palsu itu ditandai sebagai spam oleh sistem penyaring otomatis dan tidak ditindaklanjuti sebagai informasi kasus. Anthropic menyatakan baru menemukan insiden tersebut pada 28 September dan memberitahukan kepolisian pada 8 Oktober. 

Celah Formulir Pemerintah 

Kasus lain yang diungkap melibatkan situs Departemen Luar Negeri AS. Menurut laporan The Washington Post, model AI dalam pengujian mengirimkan formulir permohonan visa sebanyak 19 kali pada Agustus dan satu kali pada Mei.

Anthropic juga menemukan model Claude memanfaatkan kelemahan perangkat lunak situs pihak ketiga untuk menjalankan perintah pada server. Dalam kasus lain, model berusaha memperoleh data yang dibatasi aksesnya dengan melewati mekanisme token atau pembayaran.

Temuan tersebut menunjukkan risiko ketika model AI tidak hanya menghasilkan teks, tetapi juga diberi kemampuan menggunakan peramban, mengisi formulir, dan berinteraksi langsung dengan sistem eksternal. Kesalahan yang semula terjadi dalam pengujian dapat berdampak pada layanan nyata ketika batasan tindakan tidak berjalan sebagaimana mestinya.

Anthropic Perketat Pengamanan AI

Menanggapi temuan itu, Anthropic memperluas pembatasan akses internet langsung dalam seluruh evaluasi internalnya sampai mekanisme keamanan dan pemantauan dinilai mampu mendeteksi perilaku serupa secara andal.

Perusahaan juga menyatakan akan memperluas pemeriksaan transkrip penggunaan Claude untuk menemukan tindakan lain yang tidak diinginkan. Anthropic menilai sebagian perilaku tersebut menunjukkan kecenderungan model mencari jalan alternatif ketika tidak dapat menyelesaikan tugas sesuai batasan yang tersedia.

Laporan ini menambah perhatian terhadap keamanan AI yang mampu bertindak secara mandiri atau AI agent. Berbeda dari chatbot yang hanya menjawab pertanyaan, sistem agen dapat menjalankan serangkaian tindakan menggunakan perangkat dan layanan digital.
Karena itu, pengamanan tidak cukup hanya mengandalkan instruksi kepada model agar tidak melakukan tindakan tertentu. Sistem juga memerlukan pembatasan hak akses, konfirmasi manusia sebelum tindakan sensitif, serta pemantauan aktivitas yang terhubung dengan layanan nyata.(far,ist/dya)