Etika Manipulasi Perilaku dan Pengambilan Keputusan
Kemampuan AI untuk mempengaruhi perilaku manusia, seperti dalam rekomendasi konten atau iklan yang targeted, hari ini makin kuat dan menimbulkan pertanyaan etis tentang manipulasi dan kendali. Teknologi ini harus memastikan bahwa intervensi yang dilakukan tidak mengurangi kebebasan dan otonomi individu. Pengembang harus memiliki prioritas keseimbangan antara memberikan manfaat dan menghindari eksploitasi pengguna.
Pada tahun 2022, paper karya Claire Benn dan Seth Lazar tentang automated influence. Pengaruh otomatis atau automated influence merujuk pada penggunaan Kecerdasan Buatan (AI) untuk mengumpulkan, mengintegrasikan, dan menganalisis data individu (pengguna, masyarakat, konsumen) guna memberikan intervensi yang ditargetkan yang membentuk perilaku mereka. Dalam konteks ini, terdapat tiga keberatan utama terhadap pengaruh otomatis yaitu privasi, eksploitasi dan manipulasi. Tiap keberatan tersebut menjadi lebih relevan jika dilihat dari sudut pandang structural, bukan hanya dari interaksi individu.
Dalam paper tersebut penulis lebih cenderung menolak pendekatan berbasis interaksi dari sudut pandang “Etika AI” yang cenderung berfokus pada hubungan individu dengan teknologi, dan sebaliknya menganjurkan folosofi AI yang lebih struktural dan politis. Pendekatan ini menyoroti bahwa masalah utama Pengaruh Otomatis bukan sekedar pelanggaran pada tingkat individu, tetapi krisis legitimasi yang muncul akibat dominasi sistem ini dalam kehidupan sosial kita.
Fenomena Automated Influence di Indonesia dapat di lihat dalam berbagai aspek kehidupan digital. Contoh nyata adalah bagaimana algoritma platform media sosial mempengaruhi opini publik selama pemilu. Manipulasi informasi dalam berita palsu (fake news) atau buzzers sering digunakan untuk membentuk opini, memecah belah masyarakat, dan mempengaruhi keputusan politik secara massif. Hal ini merupakan manifestasi dari stochastic manipulation yang disebutkan dalam paper.
Selain itu, pengawasan massal melalui pengumpulan data pribadi oleh aplikasi berbasis internet seringkali dilakukan tanpa transparansi yang memadai. Regulasi seperti UU Perlindungan Data Pribadi (UU PDP) baru mulai diterapkan, pelaksanaannya tidak mudah, menghadapi tantangan besar, membutuhkan pengawasan dan implementasi yang tegas.
Dalam konteks ekonomi, konsentrasi “kekuasaan” perusahaan teknologi besar seperti platform e-commerce atau fintech juga menjadi perhatian. Seringkali adanya pemanfaatan big-data untuk mengoptimalkan keuntungan, namun dengan mengorbankan privasi konsumen dan menciptakan ketergantungan ekonomi.
