4. AI generatif (Generative AI)

Generative AI memanfaatkan kekuatan large language models untuk membuat hal baru, bukan hanya mengulang atau memberikan informasi yang sudah ada. Generative AI mempelajari pola dan struktur, dan kemudian menghasilkan sesuatu yang mirip namun baru. Generative AI dapat membuat hal-hal seperti gambar, musik, teks, video, dan code. Ia dapat digunakan untuk membuat karya seni, menulis cerita, mendesain produk, dan bahkan membantu dokter mengerjakan tugas administratif. Namun, ia juga dapat digunakan oleh aktor jahat untuk membuat berita palsu, atau gambar yang terlihat seperti foto tetapi tidak nyata. Karena itu, perusahaan teknologi sedang mengembangkan cara untuk mengidentifikasi konten yang dihasilkan AI dengan jelas.

5. Halusinasi

Sistem generative AI dapat membuat cerita, puisi dan lagu, tetapi kadang-kadang manusia ingin hasil dari generative AI didasarkan pada kebenaran. Karena sistem AI tidak dapat membedakan antara yang nyata dan palsu, generative AI dapat memberikan tanggapan yang tidak akurat. Fenomena ini disebut developer sebagai halusinasi, atau istilah yang lebih akurat, fabrikasi. Ini mirip seperti saat seseorang melihat sesuatu yang mirip seperti garis wajah manusia di bulan, dan mengatakan bahwa betul-betul ada manusia di bulan. Developer mencoba menyelesaikan isu ini melalui "grounding", sebuah teknik memberikan informasi tambahan dari sumber tepercaya kepada sistem AI, untuk meningkatkan akurasi AI tentang topik tertentu. Kadang-kadang prediksi sistem juga bisa salah jika model tidak memiliki informasi terkini.