Perkembangan teknologi selalu menghadirkan dua wajah. Di satu sisi, ia membuka peluang besar bagi pertumbuhan ekonomi. Di sisi lain, ia juga menghadirkan risiko baru yang tidak bisa diabaikan.
Akal imitasi (AI) adalah contoh paling jelas dari paradoks ini. Kita melihat bagaimana AI membantu meningkatkan produktivitas. Namun, AI juga melahirkan bentuk kejahatan digital baru yang semakin kompleks dan sulit dideteksi.
Kejahatan digital yang melibatkan AI kini tidak lagi sebatas deepfake. Ada pula voice cloning yang mampu meniru suara manusia. Modus lain adalah AI-powered phishing, di mana pesan singkat dipersonalisasi menggunakan data pribadi.
Semua ini menunjukkan bahwa lanskap kejahatan digital berubah, dari sekadar serangan manual menjadi serangan otomatis dan cerdas.
Indonesia tidak kebal dari fenomena ini. Indonesia Anti-Scam Centre (IASC) mencatat lebih dari 225 ribu laporan penipuan digital dengan kerugian mencapai Rp4,6 triliun sejak November 2024 hingga Agustus 2025.
Di tingkat global, laporan Sift Digital Trust Index Q2-2025 menyebut jumlah korban penipuan yang dihasilkan oleh AI meningkat sekitar 62% dari tahun sebelumnya.
Ancaman ini tentu bukan hanya soal nominal uang yang hilang. Implikasi yang lebih serius adalah tergerusnya kepercayaan masyarakat terhadap ekonomi digital yang sedang berkembang pesat.
Nilai transaksi e-commerce domestik pada 2024 mencapai Rp487 triliun atau naik 7,3% dari tahun sebelumnya. Sementara volume pembayaran digital menembus 43,5 miliar atau tumbuh 36,1% secara tahunan.
Nilai dan volume transaksi digital yang begitu besar menjadikan Indonesia ladang subur bagi pelaku kejahatan. Persoalannya, jika publik kehilangan kepercayaan akibat maraknya penipuan berbasis AI, konsumen akan enggan bertransaksi.
Dampaknya jelas: pasar mengecil, inovasi mandek, laju pertumbuhan tersendat, dan ekonomi digital kita bisa kehilangan taringnya di tingkat global.
Risiko tersebut mendorong banyak negara merespon secara cepat. Uni Eropa meluncurkan UU Kecerdasan Buatan (AIAct) yang mengklasifikasikan sistem AI ke dalam empat tingkat risiko: risiko minimal, risiko terbatas, risiko tinggi, dan risiko yang tidak dapat diterima.
Semakin tinggi risikonya, semakin ketat pula kewajiban yang harus dipenuhi, mulai dari transparansi, audit independen, dokumentasi teknis, hingga pengawasan berlapis oleh regulator.
Model regulasi Eropa ini juga menginspirasi banyak negara lain. Misalnya, Thailand lebih menekankan pada pendekatan berbasis risiko dalam pengaturan teknologi AI. Artinya, meskipun diatur secara ketat, masih ada banyak banyak fleksibilitas pada pengembangan inovasi dan pertumbuhan bisnis.
Regulasi tidak diposisikan sebagai rem total, melainkan pagar pengaman agar laju teknologi tidak berubah menjadi ancaman.
Indonesia sejatinya juga telah menyiapkan sejumlah langkah kebijakan serupa. Pertama, menyusun Buku Putih Peta Jalan AI Nasional beserta konsep Pedoman Etika AI. Kedua, pelaksanaan Penilaian Kesiapan AI Nasional (AI-RAM) yang bertujuan memetakan peluang sekaligus tantangan penerapan AI di berbagai sektor.
Ketiga, penerbitan surat edaran menteri tentang etika AI yang digunakan sebagai rujukan awal bagi pelaku industri dan lembaga publik. Keempat, pemanfaatan kerangka hukum yang telah ada, seperti Undang-Undang Perlindungan Data Pribadi (UU PDP) dan Undang-Undang Informasi dan Transaksi Elektronik (UU ITE), sebagai landasan untuk perlindungan data serta etika pemrosesan informasi berbasis AI.
Pada tataran industri, sektor perbankan dan pembayaran digital tanah air cukup siap memitigasi risiko penyalahgunaan AI. Fraud detection system berbasis AI telah diterapkan untuk membaca pola transaksi secara seketika dan memberi sinyal bila terjadi anomali.
Ketika terdapat transaksi di luar kebiasaan nasabah, sistem dapat langsung mendeteksi kejanggalan itu, menahan sementara transaksi, atau meminta otentikasi tambahan.
Literasi digital
Kehadiran regulasi AI tentu sangat penting, tapi itu saja tidak cukup. Aturan tanpa pemahaman hanyalah teks di atas kertas. Disinilah literasi digital memainkan peran vital.
Tanpa didukung literasi digital yang kuat, masyarakat akan terus rentan menjadi target kejahatan digital. Banyak kasus penipuan berhasil bukan karena kecanggihan teknologi semata, tetapi karena kelengahan korban.
Literasi digital seringkali dianggap sebagai hal teknis, yakni sekadar tahu cara menggunakan gawai atau aplikasi pembayaran. Padahal maknanya jauh lebih luas. Literasi digital adalah kemampuan memahami, menganalisis, dan menilai informasi di ruang digital.
Dalam konteks kejahatan berbasis AI, literasi digital berarti masyarakat tidak hanya cakap mengoperasikan aplikasi, tetapi juga memiliki sense of alertness ketika menghadapi potensi penipuan.
Dalam implementasinya, literasi digital terdiri dari tiga lapisan utama. Pertama, literasi teknis untuk memahami cara kerja aplikasi, fitur keamanan, serta langkah-langkah proteksi dasar.
Kedua, literasi kritis yang mampu membedakan informasi yang sahih dari manipulasi digital, termasuk konten deepfake atau pesan mencurigakan.
Teori ekonomi perilaku menjelaskan bahwa manusia sering kali tidak bertindak rasional, meski mereka punya informasi yang cukup. Kita punya bias psikologis dan emosional yang membuat keputusan melenceng.
Dalam konteks kejahatan digital berbasis AI, bias-bias ini dimanfaatkan secara sistematis. Di titik ini, literasi kritis menjadi kebutuhan mendesak. Sebab yang dapat mencegah korban jatuh ke jebakan adalah kemampuan individu mengenali biasnya sendiri.
Ketiga, literasi etis, yaitu kesadaran bahwa penggunaan teknologi juga menyangkut tanggung jawab sosial dan perlindungan terhadap orang lain.
Menghargai privasi orang lain, mencegah penyebaran konten berbahaya, serta berperan aktif menjaga ruang digital agar tetap sehat adalah bagian tak terpisahkan dari ekosistem literasi ini.
Dengan pendekatan berlapis, literasi digital niscaya bisa menjadi benteng yang kokoh. Berbekal hal ini, masyarakat tidak lagi sekadar menjadi objek pasif yang digerus oleh teknologi, melainkan subjek yang aktif, sadar, dan berdaya.
Karena pada akhirnya, inti dari ekonomi adalah kepercayaan. Peraih nobel ekonomi tahun 1972, Kenneth Arrow menegaskan, “Kepercayaan adalah pelumas dalam sistem ekonomi.” Tanpa kepercayaan, transaksi terhambat, inovasi kehilangan pijakan, dan mesin ekonomi berjalan stagnan.
Dalam konteks ekonomi digital, pernyataan Arrow menemukan relevansinya. Teknologi AI menjanjikan efisiensi dan inovasi. Namun, janji itu hanya akan terwujud jika masyarakat percaya bahwa data mereka aman dan algoritma tidak bias.
Karena itu, tugas utama kita hari ini bukan hanya mengawal regulasi atau menyiapkan infrastruktur, melainkan juga memastikan bahwa kepercayaan digital oleh publik tetap terjaga.
Menjaga kepercayaan digital di era akal imitasi bukan soal menolak kemajuan, melainkan tentang menyelaraskan inovasi dengan tata kelola yang kuat. Dengan menjaga kepercayaan, kita bisa mengelola AI menjadi kekuatan bagi masa depan Indonesia.
Artikel ini telah dimuat di INVESTOR DAILY 18 September 2025
