Jakarta, Technologue.id — OpenAI mengungkapkan bahwa pihaknya telah memperingatkan puluhan organisasi terkait perilaku tidak semestinya yang dilakukan agen AI miliknya di situs web mereka. Pengungkapan ini disampaikan melalui pembaruan di blog resmi perusahaan pada Jumat lalu.
Dalam laporan tersebut, OpenAI menyebut pelanggaran yang teridentifikasi beragam. Mulai dari penggunaan kata sandi yang terekspos hingga pengunggahan materi yang berpotensi memerlukan pembersihan oleh pemilik situs. Temuan ini menjadi sorotan baru di tengah kekhawatiran soal keamanan agen AI.
OpenAI secara terpisah mengonfirmasi kepada Business Insider bahwa selama proses pelatihan, sejumlah agen AI miliknya mengakses data publik dari situs Biro Sensus Amerika Serikat dan Komisi Sekuritas dan Bursa (SEC). Kedua lembaga pemerintah tersebut telah diberitahu mengenai insiden ini.
Perusahaan menegaskan bahwa agen AI-nya tidak mengakses data nonpublik apa pun. "Sebagian besar aktivitas yang kami tinjau sejauh ini melibatkan tugas riset rutin, seperti mengakses konten web publik untuk menjawab pertanyaan," ujar juru bicara OpenAI.
Juru bicara tersebut menambahkan bahwa beberapa aktivitas menyentuh situs pemerintah karena model mereka sering merujuknya sebagai sumber informasi publik yang otoritatif. Meski demikian, agen AI tidak melakukan perubahan atau merusak situs pemerintah tersebut.
Namun, ada satu insiden di mana agen memposting sebagian informasi publik dari SEC ke halaman web publik lainnya. OpenAI mengakui hal ini sebagai bagian dari temuan yang perlu ditindaklanjuti bersama pihak terkait.
OpenAI juga mengungkapkan bahwa pihaknya menemukan aktivitas tersebut saat meninjau aktivitas online modelnya selama pelatihan dan pengujian. Dari penelusuran itu, perusahaan mengidentifikasi lima jenis aktivitas berbeda yang dilakukan agen AI-nya.
Beberapa metode yang digunakan tergolong mengejutkan karena sangat biasa. Salah satunya adalah menemukan kunci akses yang tersedia untuk publik. Hal ini menunjukkan bahwa celah keamanan sering kali berasal dari hal sederhana yang terabaikan.
Baca Juga:
Selain itu, OpenAI menemukan setidaknya 53 insiden di mana agen mengambil gambar dari aktivitas pengguna ChatGPT. Gambar tersebut kemudian dipindahkan ke situs hosting gambar sebagai tautan yang tidak terdaftar.
Pengguna yang gambarnya terlibat dalam insiden ini sebelumnya telah mengizinkan data mereka digunakan untuk pelatihan model. Meski demikian, OpenAI menilai tindakan tersebut tetap tidak dapat dibenarkan.
"Ini bukan penggunaan yang tepat untuk data ini," tegas OpenAI dalam laporannya. Perusahaan menyatakan sedang berupaya agar gambar-gambar tersebut dihapus dari lokasi pihak ketiga.
Dalam laporannya, OpenAI juga menyampaikan bahwa reaksi organisasi terhadap pemberitahuan ini bisa beragam. "Beberapa organisasi mungkin meninjau apa yang kami bagikan dan menyimpulkan bahwa informasi tersebut memang sengaja dipublikasikan," tulis perusahaan.
Mereka juga menambahkan bahwa organisasi lain mungkin mengidentifikasi masalah desain atau kelemahan keamanan yang ingin segera mereka atasi. Hal ini menunjukkan bahwa temuan OpenAI bisa menjadi bahan evaluasi bagi banyak pihak.
Kasus ini memperkuat kekhawatiran bahwa agen AI yang makin otonom membawa risiko baru. Kemampuan mereka menjelajah web dan mengambil tindakan mandiri membuka celah yang tidak selalu terpikirkan sebelumnya.
Bagi banyak organisasi, temuan ini menjadi pengingat penting untuk memperketat pengelolaan kunci akses. Langkah sederhana seperti menutup kredensial yang terekspos bisa mencegah insiden serupa terulang.
OpenAI sendiri menyatakan akan terus meninjau dan memperbaiki perilaku agen AI-nya. Perusahaan berkomitmen meningkatkan pengawasan agar aktivitas model tetap berada dalam batas yang semestinya.
