Jakarta, CNN Indonesia —
Kementerian Komunikasi dan Informatika (Kominfo) mengantisipasi adu domba dengan menggunakan video kecerdasan buatan (AI) di momen Pemilu 2024.
Penggunaan AI dalam masa kampanye Pemilu 2024 memang menjadi kekhawatiran berbagai pihak. Pasalnya, teknologi ini diprediksi dapat menyebabkan disinformasi dan hoaks semakin merajalela.
“Ini sedang mengkaji bagaimana artificial intelligence nanti kan ke depannya makin canggih. Jangan-jangan Bu Vero (Ketua Dharma Pertiwi) mukanya disamarin berantem deh sama tetangga. Diedit diadu domba seperti itu, diedit gitu doang. Makanya kami sedang mengkaji etik untuk AI karena ini penting,” ujar Menkominfo Budi Arie Setiadi, ketika ditanya soal potensi hoaks AI saat pemilu, Jakarta, Kamis (19/10).
ADVERTISEMENT
SCROLL TO CONTINUE WITH CONTENT
Budi menyebut AI memiliki potensi kebermanfaatan yang sangat besar. Namun, teknologi ini juga memiliki potensi merusak yang sama besarnya.
“Iya, apalagi nanti pemilu. Orang bisa berantem karena AI. Yang tadi saya contohin, coba suara, muka kamu difitnah. Berantem enggak? Padahal hasil AI,” tuturnya.
Untuk mengawal potensi tersebut, Budi mengaku pihaknya tengah melakukan kajian terkait regulasi yang mungkin dihadirkan, mulai dari dampak AI hingga etika penggunaannya.
Sebelum regulasi tersebut rampung, ia mengimbau masyarakat untuk berhati-hati terhadap hoaks, fitnah, dan ujaran kebencian.
Hoaks atau misinformasi kini hadir dalam bentuk yang sangat canggih, salah satunya deepfake. Deepfake adalah teknik manipulasi konten video dan suara yang mengandalkan kecerdasan buatan.
Menurut perusahaan keamanan siber Kaspersky dalam keterangan resminya, teknologi ini kemungkinan besar diprediksi bakal digunakan untuk mempengaruhi situasi dan opini publik jelang Pemilu 2024.
Penelitian Kasperksy juga mengungkap terdapat permintaan yang signifikan terhadap deepfake. Dalam beberapa kasus, terdapat kemungkinan permintaan deepfake dari individu terhadap target tertentu seperti selebriti atau tokoh politik.
Menurut Head of Government Affairs and Public Policy for Asia-Pacific, Japan, Middle East, Turkey and Africa Regions Kaspersky Genie Sugene Gan, teknologi deepfake sebetulnya tidak berbahaya, namun di tangan penipu, teknologi ini bisa menjadi alat kejahatan. Maka dari itu, ia mengajak seluruh pihak membangun kesadaran dan kewaspadaan terhadap teknologi deepfake dan kemungkinan eksploitasinya.
Sebagai contoh, beberapa waktu lalu viral suara mirip Presiden Joko Widodo (Jokowi) menyanyikan lagu ‘Asmalibrasi’ milik band Soegi Bornean. Suara yang terdengar dalam video tersebut dinilai mirip dengan suara asli Jokowi.
Raksasa teknologi Microsoft juga mewanti-wanti potensi bahaya AI pada Pemilu 2024. Salah satunya adalah penggunaan AI yang dapat membuat disinformasi menyebar luas.
Panji Wasmana, National Technology Officer Microsoft Indonesia mengungkap AI bisa saja dipakai untuk “tujuan yang tidak baik” seperti memunculkan disinformasi selama Pemilu 2024.
“Kalau menggunakan beberapa tools seperti llm (large language models), search engine atau apa pun, coba ketik siapa pemenang presiden, bagaimana menjadi presiden 2024, akan keluar sebuah informasi. Dan kita akan mudah melakukan disinformasi di dalamnya. Itu kemungkinan bisa terjadi dengan melakukan teknologi AI,” kata Panji di kantor Microsoft Indonesia, Jakarta, Rabu (18/10).
“Kita bisa menggunakan teknologi AI untuk targeted campaign bahkan,” ujarnya menambahkan.
(lom/dmi)
