Kementerian Komunikasi lalu Informatika () mengantisipasi adu domba dengan menggunakan video kecerdasan buatan () di dalam area momen .
Penggunaan AI dalam masa kampanye pemilihan umum 2024 memang menjadi keresahan berbagai pihak. Pasalnya, teknologi ini diprediksi dapat menyebabkan disinformasi juga hoaks semakin merajalela.
“Ini sedang mengkaji bagaimana artificial intelligence nanti kan ke depannya makin canggih. Jangan-jangan Bu Vero (Ketua Dharma Pertiwi) mukanya disamarin berantem deh mirip tetangga. Diedit diadu domba seperti itu, diedit gitu doang. Makanya kami sedang mengkaji etik untuk AI dikarenakan ini penting,” ujar Menkominfo Budi Arie Setiadi, ketika ditanya perihal kemungkinan hoaks AI saat pemilu, Jakarta, Kamis (19/10).
Budi menyebut AI miliki prospek kebermanfaatan yang mana digunakan sangat besar. Namun, teknologi ini juga mempunyai kemungkinan merusak yang digunakan mana mirip besarnya.
“Iya, apalagi nanti pemilu. Orang bisa jadi jadi berantem lantaran AI. Yang tadi saya contohin, coba suara, muka kamu difitnah. Berantem enggak? Padahal hasil AI,” tuturnya.
Untuk mengawal prospek tersebut, Budi mengaku pihaknya tengah melakukan kajian terkait regulasi yang mana digunakan mungkin dihadirkan, mulai dari dampak AI hingga etika penggunaannya.
Sebelum regulasi hal hal tersebut rampung, ia mengimbau rakyat untuk berhati-hati terhadap hoaks, fitnah, kemudian ujaran kebencian.
Hoaks atau misinformasi pada masa pada masa kini hadir dalam bentuk yang mana hal tersebut sangat canggih, salah satunya deepfake. Deepfake adalah teknik manipulasi konten video kemudian ucapan yang mana mengandalkan kecerdasan buatan.
Menurut perusahaan keamanan siber Kaspersky dalam keterangan resminya, teknologi ini kemungkinan besar diprediksi calon digunakan untuk mempengaruhi situasi lalu opini publik jelang pilpres 2024.
Penelitian Kasperksy juga mengungkap terdapat permintaan yang dimaksud signifikan terhadap deepfake. Dalam beberapa kasus, terdapat kemungkinan permintaan deepfake dari individu terhadap target tertentu seperti selebriti atau tokoh politik.
Menurut Head of Government Affairs and Public Policy for Asia-Pacific, Japan, Middle East, Turkey and Africa Regions Kaspersky Genie Sugene Gan, teknologi deepfake sebetulnya bukan berbahaya, namun di dalam tempat tangan penipu, teknologi ini dapat menjadi alat kejahatan. Maka dari itu, ia mengajak seluruh pihak membangun kesadaran kemudian kewaspadaan terhadap teknologi deepfake serta kemungkinan eksploitasinya.
Sebagai contoh, beberapa waktu lalu ramai pendapat mirip Presiden Joko Widodo (Jokowi) menyanyikan lagu ‘Asmalibrasi’ milik band Soegi Bornean. Suara yang dimaksud terdengar dalam video yang tersebut dinilai mirip dengan pernyataan asli Jokowi.
Raksasa teknologi Microsoft juga mewanti-wanti potensi bahaya AI pada pemilihan umum 2024. Salah satunya adalah penyelenggaraan AI yang mana dimaksud dapat menghasilkan disinformasi menyebar luas.
Panji Wasmana, National Technology Officer Microsoft Indonesia mengungkap AI mampu hanya belaka dipakai untuk “tujuan yang dimaksud mana tiada ada baik” seperti memunculkan disinformasi selama pilpres 2024.
“Kalau menggunakan beberapa tools seperti llm (large language models), search engine atau apa pun, coba ketik siapa pemenang presiden, bagaimana menjadi presiden 2024, akan keluar sebuah informasi. Dan kita akan mudah melakukan disinformasi dalam dalamnya. Itu kemungkinan dapat semata terjadi dengan melakukan teknologi AI,” kata Panji di area tempat kantor Microsoft Indonesia, Jakarta, Rabu (18/10).
“Kita dapat menggunakan teknologi AI untuk targeted campaign bahkan,” ujarnya menambahkan.
