Elon Musk dkk Ajukan Petisi Penghentian Sementara Pengembangan AI

Technologue.id, Jakarta - Sebuah surat terbuka yang diprakarsai oleh Institute of Electrical and Electronics Engineers (IEEE) dan Future of Life Institute menyerukan agar pengembangan kecerdasan buatan (AI) ditangguhkan sementara waktu (paling tidak selama 6 bulan) hingga diregulasi dengan tepat oleh pemerintah dan badan pengawas yang andal. Surat tersebut disepakati oleh lebih dari 2000 ahli teknologi, ilmuwan, dan akademisi, termasuk beberapa orang terkenal seperti Stephen Hawking, Steve Wozniak, dan Elon Musk.

Para penandatangan mengingatkan bahwa pengembangan model AI terbaru ini dapat menimbulkan "risiko besar bagi masyarakat dan kemanusiaan" jika diperbolehkan untuk terus berlanjut tanpa perlindungan yang cukup. Bila perusahaan-perusahaan pengembang AI menolak untuk menghentikan pengembangan, surat tersebut mengatakan bahwa pemerintah harus bertindak dan memberlakukan moratorium wajib.

"Pengembangan AI yang semakin canggih dapat mewakili perubahan mendasar dalam sejarah kehidupan di Bumi, sehingga harus direncanakan dan dikelola dengan perhatian dan sumber daya yang sepadan," bunyi surat tersebut. "Sayangnya, tingkat perencanaan dan pengelolaan ini tidak terjadi, meskipun beberapa bulan terakhir ini laboratorium AI seperti sedang terkunci dalam perlombaan tak terkendali untuk mengembangkan dan menerapkan otak digital yang tidak dapat dipahami, diprediksi, ataupun dikendalikan dengan andal, bahkan oleh penciptanya sendiri."

The Future of Life Institute merupakan sebuah organisasi yang menyoroti teknologi yang dipandang berisiko besar bagi kemanusiaan, termasuk AI, bioteknologi, senjata nuklir, dan perubahan iklim. Kekhawatiran organisasi ini terhadap AI didasarkan pada asumsi bahwa AI "kini telah bersaing dengan manusia dalam (pengerjaan) tugas sehari-hari". Tingkat kecanggihan seperti itu, menurut surat tersebut, dapat mengarah pada masa depan di mana penjahat bisa menggunakan AI untuk membanjiri internet dengan propaganda, membuat pekerjaan yang sebelumnya stabil menjadi tidak relevan, dan mengembangkan "pikiran bukan manusia" yang dapat melampaui atau "menggantikan" manusia.

AI yang ada saat ini kurang memiliki pengamanan ataupun kontrol yang dapat memastikan mereka ‘aman’. Untuk mengatasi masalah itu, surat tersebut menyatakan bahwa laboratorium AI harus menggunakan jeda waktu yang telah disarankan untuk menyetujui dan mengimplementasikan serangkaian protokol keamanan serta memastikan bahwa AI tersebut akan ditinjau oleh peninjau independen dari para ahli eksternal. Penundaan dan penambahan protokol keamanan tidak akan serta merta berlaku untuk semua proyek pengembangan AI, namun akan difokuskan pada “model kotak hitam dengan kemampuan yang berkembang pesat”, yang dianggap lebih kuat dari GPT 4 milik Open AI.

"Penelitian dan pengembangan AI seharusnya difokuskan untuk membuat sistem-sistem terbaru yang telah ada menjadi lebih akurat, aman, transparan, kuat, dapat dipercaya, dan loyal," bunyi surat tersebut. Para penandatangan dari Future of Life Institute dan para pengamat yang skeptis soal AI sepakat bahwa diperlukan kebijakan baru untuk mengatur pengembangan AI. Mereka juga menuntut para pemangku kebijakan untuk "mempercepat pengembangan peraturan yang mengontrol sistem AI super power," mengimplementasikan sebuah sistem untuk mengawasi dan melacak alat-alat AI, dan membentuk badan pengawas khusus yang berfokus pada AI. Selain itu, surat tersebut juga meminta adanya penanda air (watermark) pada alat-alat AI untuk membantu pengguna membedakan antara konten sintetis dan nyata.

"Kecuali kita memiliki intervensi kebijakan, kita akan menghadapi dunia di mana arah pengembangan AI tidak dapat dipertanggungjawabkan pada publik, dan ditentukan oleh segelintir perusahaan yang memiliki sumber daya untuk mengembangkan dan menguji alat-alat ini di lapangan," kata Direktur AI Now Institute, Sarah Myers West.

Contact Information