Gen AI rentan penyalahgunaan, Indonesia perlu siapkan tata kelola yang bijak

● Generative (gen) AI mempermudah produksi konten, tapi rentan penyalahgunaan.

● Teknologi digital jadi ruang kontestasi kepentingan ekonomi dan politik global.

● Indonesia perlu mengawal tata kelola AI yang bertanggung jawab.

Indonesia dan dunia semakin merasakan maraknya pemanfaatan generative artificial intelligence (kecerdasan buatan generatif) yang memudahkan pembuatan konten dalam bentuk teks, gambar, musik, bahkan video.

Di sisi lain, mulai bermunculan kasus penyalahgunaan Gen AI yang meresahkan masyarakat, seperti penyalahgunaan data, kejahatan siber, penipuan daring, hoaks, hingga konten tidak ramah anak. Semua ini bisa mengancam perekonomian, demokrasi, dan masa depan generasi penerus Indonesia.

Lantas, bagaimana Indonesia bisa meraih keuntungan sembari memitigasi potensi ancaman yang muncul dari perkembangan dan pemanfaatan teknologi digital, khususnya Gen AI?

Kepentingan politik lintas negara

Teknologi digital, termasuk Gen AI, tidak berada di ruang hampa, melainkan dalam pusaran kontestasi kepentingan ekonomi dan politik yang melekat erat pada perkembangan teknologi digital. Ini dapat terlihat dari beberapa gejolak geopolitikal yang berusaha menekan ekosistem informasi dan komunikasi dunia.

Pada 7 Januari 2025, Meta (pemilik Facebook, Instagram, dan WhatsApp), misalnya, mengumumkan keputusan^[1] untuk menghentikan program pemeriksaan fakta dan melonggarkan kebijakan moderasi konten pada platform mereka.

Dengan kata lain, Meta menentang inisiatif pemeriksaan fakta yang pernah dipuji dan didukungnya. Meta kini menyatakan bahwa^[3] pemeriksaan fakta telah berkontribusi pada penyensoran. Dengan demikian, Meta hanya akan mengandalkan mekanisme pelaporan komunitas untuk mengurangi penyebaran informasi palsu.

Sementara itu, pada 18 April 2025, National Science Foundation (NSF) Amerika Serikat (AS) mengumumkan^[4] perubahan prioritas dan penghentian “penghargaan yang tidak sejalan dengan prioritas NSF…, termasuk tetapi tidak terbatas pada yang berkaitan dengan keberagaman, kesetaraan, inklusi dan misinformasi/disinformasi.”

Dalam pengumuman tersebut, NSF mengutip perintah eksekutif^[5] yang ditandatangani oleh Donald Trump pada hari pertamanya menjabat yang ditujukan untuk “memulihkan kebebasan berbicara dan mengakhiri sensor federal.” Kabarnya, terdapat lebih dari 1500 hibah dan kontrak pada topik penanganan mis/disinformasi yang menjadi bagian dari pemotongan tersebut .

Read more: Disrupsi AI dalam industri kreatif: benarkah mengancam tenaga kerja muda?^[6]

Beragam kelompok masyarakat sipil di dunia mengalami dampak signifikan terkait keberlangsungan program kerja dan organisasi mereka akibat keputusan ini.

Pada Juli 2025, Pemerintah AS secara eksplisit menyampaikan hasrat^[7] untuk memenangkan kepemimpinan AS di inovasi AI lewat dokumen rencana strateginya.

Dokumen ini mengarahkan badan-badan federal untuk mengurangi peraturan yang menghambat pengembangan atau penerapan AI. Dokumen ini sekaligus menggantikan perintah eksekutif tahun 2023^[8] yang ditandatangani oleh Joe Biden yang berupaya menetapkan standar keselamatan dan keamanan untuk AI, mempromosikan inovasi, melindungi privasi dan hak-hak sipil, dan mempersiapkan pemerintah federal untuk dampak AI.

Read more: Dinamika regulasi AI global: Antara fragmentasi dan harmonisasi^[9]

Secara kontras, beragam komunitas multipihak internasional mengritik dan mengecam keputusan-keputusan di atas. Mengingat semakin masifnya produksi konten dengan menggunakan Gen AI, mereka secara konsisten mendorong lebih banyak tanggung jawab dan transparansi dari perusahaan media sosial dalam menangani konten bermasalah di platform mereka.

Komunitas internasional melihat adanya potensi konsekuensi negatif dari keputusan-keputusan yang diambil di AS tersebut terhadap ekosistem informasi dan komunikasi di seluruh dunia.

Apa yang bisa dilakukan Indonesia?

Pemangku kepentingan di Indonesia harus mempersiapkan diri dan mengambil peran lebih dalam membentuk ekosistem komunikasi dan informasi di Indonesia dan global.

Saat ini, Indonesia sedang merampungkan^[10] Buku Putih Peta Jalan Kecerdasan Artifisial Nasional dan Konsep Pedoman Etika Kecerdasan Artifisial. Kedua dokumen ini akan dijadikan Peraturan Presiden (Perpres) dan diharapkan bisa menjadi rujukan dasar bagi semua kelompok pemangku kepentingan di Indonesia.

Setidaknya ada beberapa peran dan tindakan kunci yang bisa dijalankan Indonesia.

Pertama, pemerintah harus membangun pemetaan peran Kementerian Komunikasi dan Digital (Komdigi) dan kementerian/lembaga lainnya untuk mendorong implementasi rencana Perpres di atas.

Ini terutama terkait siapa yang akan mengoordinasikan langkah kementerian/lembaga di Indonesia untuk bisa meningkatkan kapasitas mereka di isu AI dan membangun kepercayaan dengan kelompok nonpemerintah agar Indonesia bisa mengawal tata kelola AI yang bertanggung jawab secara bersama.

Kedua, kelompok nonpemerintah, termasuk kelompok masyarakat sipil, harus terus memperkuat kapasitas mereka di isu tata kelola AI dan melihat dampak dan risiko yang dihadirkan teknologi ini di tengah masyarakat.

Perusahaan, sekolah, universitas atau kelompok mana pun bisa mulai mempersiapkan pedoman internal guna memandu penggunaan Gen AI yang bertanggung jawab di bidang masing-masing.

Read more: Penggunaan ChatGPT tak perlu dilarang: layanan AI bisa mendukung riset dan pendidikan^[12]

Tidak hanya pedoman internal, kelompok masyarakat sipil juga harus bersiap dengan posisi bersama untuk menyeimbangkan posisi perusahaan teknologi dan pemerintah.

Ketiga, secara khusus, entitas media dan pengecekan fakta di Indonesia harus mampu melihat secara seimbang cara kerja Gen AI dan dampaknya terhadap isu hak cipta, keberlangsungan industri mereka, serta akses informasi publik.

Riset oleh EngageMedia tahun 2024^[13] telah menyoroti tantangan dan kebutuhan besar di dalam menjaga kesinambungan inisiatif media dan pengecekan fakta sebagai salah satu pilar demokrasi di Indonesia.

Besarnya tantangan dan menyusutnya sumber daya dalam ekosistem komunikasi dan informasi saat ini merupakan panggilan untuk berkolaborasi, berkoordinasi, dan memaksimalkan dampak positif Indonesia. Tujuannya, guna menguatkan kebutuhan fondasi kebenaran dan kepercayaan di tengah masyarakat kita dan dunia yang semakin ringkih.

References

1. ^{^} mengumumkan keputusan (about.fb.com)
2. ^{^} M_Yunus/Shutterstock (www.shutterstock.com)
3. ^{^} menyatakan bahwa (about.fb.com)
4. ^{^} National Science Foundation (NSF) Amerika Serikat (AS) mengumumkan (www.nsf.gov)
5. ^{^} mengutip perintah eksekutif (www.urban.org)
6. ^{^} Disrupsi AI dalam industri kreatif: benarkah mengancam tenaga kerja muda? (theconversation.com)
7. ^{^} eksplisit menyampaikan hasrat (www.whitehouse.gov)
8. ^{^} perintah eksekutif tahun 2023 (bidenwhitehouse.archives.gov)
9. ^{^} Dinamika regulasi AI global: Antara fragmentasi dan harmonisasi (theconversation.com)
10. ^{^} merampungkan (www.komdigi.go.id)
11. ^{^} Summit Art Creations/Shutterstock (www.shutterstock.com)
12. ^{^} Penggunaan ChatGPT tak perlu dilarang: layanan AI bisa mendukung riset dan pendidikan (theconversation.com)
13. ^{^} Riset oleh EngageMedia tahun 2024 (engagemedia.org)