Senjata baru
AI Generatif seperti deepfake telah menjadi senjata baru untuk membuat disinformasi dan hoax yang sangat dikhawatirkan banyak banyak kalangan, termasuk oleh media massa dan pemerintah-pemerintah di banyak negara.
Deepfake bisa mengkloning dengan cepat suara orang, membuat video palsu, atau narasi palsu untuk menjatuhkan atau merusak citra lawan politik. Di sini, "Big Data" atau "Mahadata" menjadi bagian penting.
Dulu, para politisi berusaha merebut suara rakyat dalam Pemilu dengan menggunakan alat terbatas dalam mengukur sentimen dan opini pemilih. Tapi kini, Mahadata dan penerapannya dalam kampanye pemilu mengubah itu semua.
Contohnya, Pemilihan Presiden AS pada 2008 yang saat itu untuk pertama kalinya analisis data media sosial digunakan dalam skala besar, guna meningkatkan upaya penggalangan dana dan mengoordinasikan relawan.
Kini, transformasi digital tingkat berikutnya umum melibatkan integrasi AI dalam kampanye pemilu dan hampir semua aspek kehidupan politik.
Manfaat positif AI sendiri jauh lebih besar ketimbang negatifnya. Namun orang-orang licik memanfaatkan teknologi ini untuk tujuan buruk sehingga tak sedikit kalangan menjadi jatuh khawatir terhadap AI, termasuk dalam kaitan dengan proses politik.
Tapi memang ada bukti yang menunjukkan AI telah disalahgunakan secara sistematis untuk memanipulasi masyarakat, demi kepentingan dalam momen-momen seperti referendum dan pemilu.
Bukti pertama, adalah adanya bot-bot untuk menyebarkan propaganda dan berita palsu di media sosial.
Bot adalah akun otonom yang diprogram di arena politik guna menyebarkan pesan politik sepihak sehingga tercipta ilusi dukungan publik.
Jauh lebih dahsyat
Bot-bot itu menyamar sebagai akun manusia biasa, dalam media sosial seperti Facebook, YouTube, TikTok dan sejenisnya, bahkan akun-akun platform perpesanan seperti WhatsApp dan Telegram.
Akun-akun yang pada dasarnya digerakkan mesin sehingga tak mengenal waktu itu efektif mengguncang pemilih.
Bot juga menyusup ke ruang-ruang online untuk mendominasi dan menguatkan narasi yang hanya mendukung salah satu pihak yang dipromosikan bot dan sebaliknya mendiskreditkan yang lainnya.
Kedua, AI juga digunakan untuk memanipulasi pemilih tersasar dengan memanfaatkan Mahadata dan pembelajaran mesin, guna mempengaruhi emosi massa.
Tujuannya adalah membuat guncang pemilih sehingga mengurungkan niat memilih pilihannya.
Perang informasi model baru dengan menggunakan propaganda komputasi ini adalah fenomena baru yang sifat dan skala dampaknya jauh lebih dahsyat ketimbang perang informasi biasa.
Di Indonesia sendiri, AI tampaknya sudah banyak digunakan, baik lewat bot-bot politik, maupun dengan bombardemen pesan kepada pemilih agar keyakinan mereka goyah.
Akun-akun bot ini aktif melemparkan pesan yang kebanyakan audiovisual, yang umumnya disebarkan lewat media sosial.
Akun-akun itu hanya memancing perdebatan untuk mengguncangkan keyakinan pemilih, tapi tak interaktif akun manusia biasa, karena memang mesin.
Baca juga: Ini komputer paling cepat di dunia
Literasi jadi keniscayaan
Upaya berbasis AI itu pastinya dilakukan terkoordinasi oleh lembaga yang khusus membentuk opini publik. Salah satu yang terkenal adalah perusahaan konsultansi politik Inggris, Cambridge Analytica, yang kini sudah tak ada lagi.
Pada 2010-an, firma ini memanen data dari 87 juta pengguna Facebook tanpa izin, untuk kampanye politik tersasar demi kepentingan calon-calon presiden AS dari Partai Republik, terutama Donald Trump.
Cambridge Analytica juga dituding memanipulasi data pengguna media sosial demi memenangkan referendum Inggris keluar dari Uni Eropa atau Brexit.
Contoh lain adalah sebuah perusahaan konsultansi politik Israel, yang Februari tahun lalu disingkapkan oleh laporan investigatif sebuah konsorsium media yang di antara anggotanya adalah The Guardian, Der Spiegel, Le Monde, dan Haaretz.
Konsorsium itu berhasil menyingkapkan peretasan, sabotase dan pengembangbiakan disinformasi yang dilakukan oleh perusahaan konsultasi media Israel itu dalam berbagai pemilu di seluruh dunia, selama dua puluh tahun terakhir.
Berdasarkan laporan investigasi konsorsium itu yang diterbitkan Guardian pada 15 Februari 2023, pemilik perusahaan konsultansi politik Israel tersebut mengaku beroperasi terselubung untuk kepentingan badan-badan intelijen asing, kampanye-kampanye politik dan perusahaan-perusahaan swasta yang ingin memanipulasi opini publik.
Mereka mempekerjakan sejumlah tentara siber untuk mengendalikan ribuan profil palsu dalam Twitter, LinkedIn, Facebook, Telegram, Gmail, Instagram, dan YouTube.
Ada banyak lembaga seperti itu di dunia ini, termasuk Internet Research Agency. Menurut sejumlah analis, seperti dilaporkan Washington Post pada 16 Februari 2023, perusahaan yang satu pemilik dengan tentara bayaran Wagner Group dari Rusia ini selama bertahun-tahun melancarkan perang informasi di seluruh dunia, dengan menyebarluaskan disinformasi.
Pemanfaatan AI untuk tujuan-tujuan buruk semacam itu mesti dilawan. Dalam konteks ini, literasi dan perlindungan hukum menjadi keniscayaan guna memastikan tujuan buruk itu tak merusak tatanan nasional, termasuk kualitas demokrasi.
Baca juga: Huawei Indonesia perkenalkan arsitektur "Intelligent Twins"
Baca juga: CEO Meta Mark Zuckeberg beberkan proyek AI terbaru sambut metaverse
Berita ini telah tayang di Antaranews.com dengan judul: "Deepfake", pemanfaatan AI, dan Pemilu
