Meskipun AI generatif telah menarik perhatian dunia, ia menghadapi tantangan yang terus-menerus dan semakin besar: akurasi. Meskipun ada kekhawatiran mengenai konsumsi energi dan kesehatan mental, masalah praktis yang paling mendesak adalah kecenderungan model-model ini untuk “berhalusinasi” atau menyajikan informasi yang salah sebagai fakta. Bahkan ketika raksasa teknologi seperti Google mengintegrasikan ringkasan AI langsung ke mesin pencari, sebuah penelitian baru-baru ini mengungkapkan bahwa skala kesalahan ini jauh lebih besar daripada yang terlihat di permukaan.
Matematika Misinformasi
Sebuah studi yang dilaporkan oleh New York Times memberikan perspektif serius tentang fitur “Ikhtisar AI” Google. Di permukaan, statistiknya terlihat menjanjikan: AI memberikan ringkasan yang benar dan bersumber dengan baik 90% dari waktu. Di sebagian besar lingkungan akademis atau profesional, tingkat keberhasilan 90% dianggap sebagai nilai kelulusan.
Namun, ketika diterapkan pada lalu lintas pencarian global dalam skala besar, 10% sisanya menjadi mimpi buruk matematis.
- Masalah Volume: Google diproyeksikan akan memproses lebih dari lima triliun penelusuran pada tahun 2026.
- Tingkat Kesalahan: Dengan tingkat kegagalan 10%, ini berarti puluhan juta jawaban yang meragukan setiap jam.
- Frekuensi: Ini setara dengan ratusan ribu kesalahan yang terjadi setiap menit.
Hal ini menyoroti tren penting di era AI: persentase akurasi yang tinggi tidak berarti produk yang aman jika ukuran sampel mencapai triliunan.
Ketidakpastian dan Keandalan Sumber
Salah satu aspek yang paling menantang dalam penggunaan Ikhtisar AI adalah inkonsistensinya. Seorang pengguna mungkin melakukan penelusuran dan menerima jawaban yang salah, hanya untuk menerima ringkasan yang sangat akurat ketika mereka mengulangi kueri yang sama beberapa saat kemudian. Volatilitas ini membuat hampir mustahil bagi pengguna untuk memprediksi kapan mereka ditipu.
Selain itu, sumber yang dipercaya oleh AI seringkali bermasalah. Penelitian dari perusahaan AI sumber terbuka Oumi mengidentifikasi pola yang meresahkan terkait kutipan di media sosial:
* Facebook dikutip sebagai sumber jawaban yang akurat dan tidak akurat.
* Faktanya, tanggapan yang tidak akurat lebih cenderung mengutip Facebook (7%) dibandingkan tanggapan yang akurat (5%).
* Reddit juga menduduki peringkat sebagai salah satu platform yang paling sering dikutip.
Dengan sangat bergantung pada platform media sosial—tempat misinformasi dapat menyebar dengan cepat—AI berisiko memperbesar klaim yang belum terverifikasi dibandingkan menyaringnya.
Kerentanan terhadap “Aktor Jahat”
Arsitektur pencarian AI menciptakan batas baru untuk manipulasi digital. Ada risiko yang semakin besar bahwa “pihak jahat” dapat secara strategis mempermainkan sistem untuk menyebarkan kebohongan.
Prosesnya secara teori sederhana namun sangat efektif:
1. Seseorang membuat beberapa postingan blog yang berisi informasi palsu (misalnya fakta sejarah yang salah).
2. Mereka menggunakan metode buatan untuk meningkatkan lalu lintas ke situs-situs tersebut.
3. AI Google, yang menjelajahi web untuk mencari sumber, menemukan konten yang “populer” namun salah.
4. AI menghasilkan ringkasan yang menyajikan kebohongan sebagai gambaran faktual.
Google telah membela sistemnya, dengan menyatakan bahwa AI pencariannya menggunakan peringkat yang sama dan perlindungan keamanan yang dirancang untuk memblokir spam. Seorang juru bicara mencatat bahwa banyak contoh kesalahan yang dikutip dalam penelitian melibatkan “penelusuran yang tidak realistis” yang tidak mencerminkan perilaku pengguna pada umumnya.
Kesimpulan
Ketika AI menjadi pintu gerbang utama menuju informasi, margin kesalahan pun menyusut. Meskipun Google menyertakan penafian yang menyatakan bahwa “AI dapat membuat kesalahan,” banyaknya kesalahan yang dihasilkan oleh lalu lintas penelusuran global menunjukkan bahwa pengguna harus mempertahankan tingkat skeptisisme yang tinggi untuk menghindari menjadi korban misinformasi otomatis.
