Penelitian ini menganalisis penggunaan AI yang berpotensi terpengaruh hegemoni dan propaganda, serta mengalami sesat logika dalam konteks Indonesia. Dengan rata-rata IQ penduduk Indonesia sebesar 78,49 poin, implementasi AI di sektor pendidikan dan ekonomi digital memerlukan perhatian khusus terhadap risiko manipulasi informasi dan bias kognitif. Fenomena viral marketing di media sosial telah menciptakan ekonomi dimana persepsi sering kali lebih penting daripada kualitas produk sebenarnya.
World Economic Forum telah menempatkan misinformasi dan disinformasi yang dihasilkan AI sebagai risiko global nomor satu, mengungguli inflasi, perubahan iklim, dan polarisasi sosial. AI memiliki kemampuan menghasilkan konten yang sangat meyakinkan dalam skala besar, memungkinkan aktor jahat menciptakan akun palsu dan konten yang sulit dibedakan dari konten asli.
Penelitian menunjukkan bahwa sistem AI yang memberikan penjelasan menipu lebih meyakinkan daripada sistem yang jujur, dan dapat memperkuat kepercayaan terhadap berita palsu sekaligus melemahkan kepercayaan terhadap berita yang benar. Faktor-faktor seperti nada otoritatif, bahasa persuasif, dan personalisasi yang ditargetkan membuat konten AI menjadi sangat efektif dalam mempengaruhi opini publik.
Di Indonesia, riset Kominfo mencatat peningkatan penyebaran hoaks dari 675 kasus pada awal 2022 menjadi 710 kasus pada periode yang sama di 2023. Mirisnya, 65% masyarakat Indonesia langsung mempercayai informasi yang mereka temui di media sosial tanpa upaya verifikasi. Hal ini menunjukkan kerentanan masyarakat terhadap manipulasi informasi berbasis AI.
Sementara itu, berdasarkan survei World Population Review 2024, rata-rata IQ orang Indonesia adalah 78,49 poin, menempatkan Indonesia di peringkat ke-127 dari 197 negara yang diuji. Angka ini berada di bawah rata-rata IQ global yang berkisar antara 85 hingga 115. Dalam konteks regional ASEAN, Indonesia berada di posisi yang rendah dibandingkan negara-negara seperti Singapura 105,89 poin, Vietnam 89,53 poin, Thailand 88,87 poin, dan Malaysia 87,58 poin. Hanya Timor Leste yang memiliki skor IQ sama dengan Indonesia.
Rata-rata IQ yang relatif rendah dapat mempengaruhi kemampuan masyarakat dalam mengidentifikasi logical fallacy dalam argumen AI, memahami bias kognitif yang diperkuat oleh algoritma AI dan melakukan verifikasi informasi sebelum menyebarkannya. Penelitian menunjukkan bahwa kemampuan berpikir kritis dan refleksi kognitif tidak selalu melindungi individu dari pengaruh penjelasan AI yang menipu. Hal ini mengindikasikan bahwa masalah kerentanan terhadap manipulasi AI bersifat universal, namun dapat diperberat oleh tingkat pendidikan dan literasi digital yang rendah.
*AI dalam Sektor Pendidikan Indonesia*
Kementerian Pendidikan Dasar dan Menengah Indonesia telah memulai integrasi pembelajaran coding dan kecerdasan buatan di sekolah-sekolah. AI dalam pendidikan Indonesia diharapkan dapat memberikan pengalaman belajar yang dipersonalisasi, meningkatkan efisiensi sistem pendidikan, dan memperbaiki aksesibilitas. Platform pendidikan seperti Ruangguru dan Zenius telah menerapkan teknologi AI untuk menciptakan pengalaman belajar yang personal, dengan AI merekomendasikan materi pembelajaran sesuai gaya belajar siswa.
Implementasi AI dalam pendidikan Indonesia menghadapi beberapa risiko. Diantaranya, bias dalam Dataset. AI yang dilatih dengan data yang mengandung bias akan mereplikasi dan memperkuat bias tersebut dalam keputusan pendidikan. Contohnya adalah sistem AI yang digunakan dalam proses seleksi yang lebih sering mengesampingkan kandidat dari kelompok tertentu.
Risiko berikutnya adalah ketergantungan berlebihan. Guru dan siswa mungkin menjadi terlalu bergantung pada rekomendasi AI tanpa mengembangkan kemampuan berpikir kritis. Hal ini dapat memperburuk kondisi literasi yang sudah rendah di Indonesia, dimana hanya 1 dari 1.000 orang Indonesia yang memiliki minat baca tinggi. Risiko lain yang perlu dicermati adalah Echo Chamber Effect. Personalisasi yang berlebihan dapat menciptakan filter bubble, dimana siswa hanya terpapar pada informasi yang sesuai dengan preferensi mereka, mengurangi perspektif dan kemampuan berpikir kritis.
*Sesat Logika dalam Sistem AI (Logical Fallacy)*
Ada beberapa jenis Logical Fallacy dalam AI. Penelitian mengidentifikasi empat tema utama yang menggambarkan kekurangan AI dalam konten berbasis gambar, logical fallacy, AI surrealism, misinformation, dan cultural bias. Model bahasa besar (LLM) menunjukkan performa yang buruk dalam mendeteksi logical fallacy karena model harus memahami struktur logis argumen yang mendasari.
Contoh Konkrit Logical Fallacy dalam AI adalah Argumentum ad ignorantium, AI menganggap sesuatu benar karena tidak terbukti salah, atau sebaliknya. Berikutnya, confirmation bias. AI memperkuat informasi yang mendukung pandangan pengguna sambil mengabaikan informasi yang bertentangan. Contoh berikutnya adalah availability heuristic. AI lebih mudah mengingat dan merekomendasikan informasi yang sering muncul atau baru-baru ini diproses.
Perlu diketahui, AI dapat memperkuat bias yang sudah ada dalam dataset pelatihan, menghasilkan keputusan yang tidak akurat atau bias[24][25][26]. Dalam konteks Indonesia, hal ini dapat memperburuk kesenjangan informasi dan memperkuat stereotip yang sudah ada.
*Rekomendasi dan Mitigasi*
Untuk dapat menggunakan AI dalam penerapan proses belajar mengajar agar tidak terjadi logical fallacy, peningkatan literasi digital perlu dilakukan. Ada 3 poin yang dapat dilakukan dan bigalakkan kepada masyarakat. Pertama pendidikan berpikir kritis. Mengintegrasikan pembelajaran tentang logical fallacy dan bias kognitif dalam kurikulum. Kedua, verifikasi informasi. Langkah dilakukan untuk melatih masyarakat untuk memverifikasi informasi sebelum menyebarkannya. Ketiga adalah pemahaman algoritma. Edukasi tentang cara kerja algoritma media sosial dan filter bubble effect.
Dalam konteks regulasi dan pengawasan, ada 3 poin penting yang dapat diterapkan. Pertama Framework AI Ethics atau pengembangan regulasi yang komprehensif untuk penggunaan AI dalam berbagai sektor. Kedua, Transparansi Algoritma atau mengharuskan platform untuk lebih transparan tentang cara kerja algoritma mereka. Ketiga, Deteksi Konten AI. Pengembangan sistem untuk mendeteksi dan memberi label konten yang dihasilkan AI menjadi salah satu proteksi dini bagi anak-anak didik yang menggunakan AI sebagai sarana belajar.
Jika ditinjau dari pendekatan holistik dalam pendidikan, ada beberapa hal yang musti diketahui, pertama nilai-nilai personalisasi yang bertanggung jawab. Menggunakan AI untuk personalisasi sambil memastikan eksposur terhadap perspektif yang beragam. Kedua, Human-AI Collaboration. Memposisikan AI sebagai alat bantu bukan pengganti dalam proses pembelajaran. Poin selanjutnya, monitoring dan evaluasi. Sistem pemantauan berkelanjutan terhadap dampak implementasi AI dalam pendidikan.
Penggunaan AI di Indonesia menghadapi tantangan kompleks yang diperburuk oleh rata-rata IQ yang relatif rendah dan tingkat literasi digital yang masih kurang. Sementara AI berpotensi memperkuat bias dan logical fallacy yang sudah ada.
Diperlukan pendekatan holistik yang menggabungkan peningkatan literasi digital, regulasi yang tepat, dan implementasi AI yang bertanggung jawab untuk memaksimalkan manfaat AI sambil meminimalkan risikonya. Tanpa upaya sistematis ini, Indonesia berisiko menjadi sasaran empuk manipulasi informasi dan propaganda berbasis AI yang dapat memperburuk kondisi sosial ekonomi masyarakat.
