JEMBATAN INOVASI DAN REGULASI: PERAN MANAJEMEN KEPATUHAN DALAM MEMPERCEPAT ADOPSI ARTIFICIAL INTELLIGENCE YANG AKUNTABEL

Ivan Irawan

Abstrak

Perkembangan Artificial Intelligence (AI) di Indonesia membuka peluang peningkatan produktivitas, efisiensi dan kualitas pengambilan keputusan, tetapi sekaligus menimbulkan risiko hukum, etika, pelindungan data, keamanan dan akuntabilitas. Kerangka pengaturan Indonesia berkembang melalui kombinasi hukum yang mengikat, regulasi sektoral, pedoman etika dan kebijakan nasional. Pada 2026, pemerintah telah menyelesaikan pembahasan lintas kementerian atas Rancangan Peraturan Presiden tentang Etika Kecerdasan Artifisial dan Peta Jalan Kecerdasan Artifisial Nasional 2026–2029. Perkembangan tersebut menunjukkan bahwa kebutuhan Indonesia tidak semata-mata terletak pada pembentukan norma, tetapi juga pada kemampuan menerjemahkan norma menjadi pengendalian yang dapat diterapkan oleh organisasi pengguna dan penyedia AI.

Artikel ini membahas tentang  peran strategis manajemen kepatuhan sebagai penghubung antara kebijakan publik, kewajiban hukum dan praktik penggunaan AI di organisasi. Selain berperan dalam “compliance by design, pemetaan regulasi, penilaian risiko dan monitoring”, artikel ini memperluas pembahasan dengan perspektif pengguna AI uasng mwngulas: apakah fungsi compliance management dapat berkontribusi dalam penyusunan regulasi AI di Indonesia. Dengan pendekatan deskriptif-analitis dan perbandingan kebijakan, artikel menunjukkan bahwa manajemen kepatuhan tidak tepat ditempatkan sebagai pembentuk regulasi formal, tetapi dapat berfungsi sebagai sumber evidence, operational feedback dan regulatory intelligence bagi pembuat kebijakan melalui konsultasi publik, focus group discussion, regulatory sandbox, penyampaian data insiden, analisis gap implementasi dan evaluasi dampak regulasi. Keterlibatan tersebut dapat membantu membentuk regulasi yang lebih implementable, berbasis risiko dan responsif terhadap variasi sektor, tanpa mengurangi kewenangan pembentuk peraturan perundang-undangan.

Kata Kunci: Artificial Intelligence, Manajemen Kepatuhan, Regulasi AI Indonesia, Compliance by Design, AI Governance, Regulatory Intelligence, UU PDP.

1. Pendahuluan

Artificial Intelligence (AI) telah bergerak dari teknologi eksperimental menjadi salah satu infrastruktur pendukung kegiatan ekonomi dan organisasi. Di Indonesia, AI mulai digunakan antara lain untuk analisis data, layanan pelanggan, deteksi fraud, penilaian risiko, otomasi proses, pemasaran, pengembangan perangkat lunak dan dukungan pengambilan keputusan. Peningkatan pemanfaatan tersebut memperbesar manfaat ekonomi, tetapi juga meningkatkan kebutuhan atas tata kelola yang mampu menjawab persoalan akurasi, bias, transparansi, keamanan, privasi, hak kekayaan intelektual, tanggung jawab dan pengawasan manusia.

Karakter AI membuat pendekatan regulasi konvensional yang hanya berfokus pada produk akhir menjadi kurang memadai untuk sebagian penggunaan. Sistem dapat berubah melalui pembaruan model, perubahan data, perubahan tujuan penggunaan atau integrasi dengan sistem lain. Karena itu, tata kelola perlu memperhatikan siklus hidup AI dan distribusi tanggung jawab antara developer, provider, deployer atau pengguna, operator manusia dan pihak pengawas.

Indonesia telah memiliki sejumlah instrumen yang relevan. Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial memberikan pedoman etika, sementara Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi (UU PDP) memberikan kewajiban dan sanksi yang mengikat dalam pemrosesan data pribadi. Di samping itu, terdapat ketentuan sektoral yang dapat berlaku terhadap penggunaan AI, misalnya pada sektor keuangan dan kesehatan.

Perkembangan kebijakan pada 2025–2026 menunjukkan pergeseran menuju kerangka nasional yang lebih terkoordinasi. Komdigi (dulu Kemeninfo) menyatakan bahwa Perpres tentang Etika Kecerdasan Artifisial dan Perpres tentang Peta Jalan Kecerdasan Artifisial Nasional 2026–2029 telah melalui konsultasi publik, focus group discussion, harmonisasi dan pembahasan lintas kementerian, kemudian difinalisasi pada Mei 2026. Pada Juli 2026 pemerintah juga menyampaikan bahwa Perpres AI diposisikan sebagai tahap awal sebelum penyusunan UU AI yang lebih komprehensif. Dengan demikian, isu utama bukan lagi hanya apakah Indonesia membutuhkan regulasi AI, tetapi bagaimana regulasi tersebut dapat diterapkan secara konsisten dan bagaimana pengalaman pengguna AI dapat menjadi input kebijakan.

Dalam konteks tersebut, manajemen kepatuhan memiliki posisi yang unik. Fungsi ini berada di antara norma hukum dan proses bisnis: memahami kewajiban, menerjemahkannya ke kebijakan dan kontrol internal, menguji penerapannya, mengidentifikasi gap, serta melaporkan risiko kepada manajemen. Pengalaman tersebut dapat menjadi sumber informasi yang bernilai bagi pembuat kebijakan. Namun, kontribusi tersebut harus ditempatkan dalam kerangka yang tepat agar tidak berubah menjadi konflik kepentingan atau dominasi kepentingan industri atas kepentingan publik.

2. Rumusan Masalah dan Tujuan Penelitian

Artikel ini membahas empat pertanyaan utama:

1. Bagaimana karakter kerangka tata kelola AI Indonesia dan hubungannya dengan instrumen hukum yang sudah berlaku?
2. Bagaimana manajemen kepatuhan dapat mendukung penggunaan AI yang bertanggung jawab di tingkat organisasi?
3. Apakah pengguna AI, khususnya fungsi manajemen kepatuhan, dapat berperan dalam proses penyusunan regulasi AI di Indonesia?
4. Model partisipasi seperti apa yang dapat menghasilkan masukan regulasi yang berbasis risiko, implementable dan tetap menjaga kepentingan publik?

Tujuan penulisan artikel ini  adalah memberikan kerangka analitis mengenai hubungan antara regulasi AI, compliance management dan partisipasi pengguna AI dalam pembentukan kebijakan. Artikel ini tidak menempatkan manajemen kepatuhan sebagai pengganti regulator, melainkan sebagai salah satu sumber evidence dan operational knowledge dalam proses kebijakan.

3. Metode Penulisan

Penulisan menggunakan metode deskriptif-analitis dengan pendekatan perbandingan kebijakan. Bahan yang dianalisis meliputi peraturan dan dokumen kebijakan Indonesia, standar dan framework internasional, serta dokumen resmi pemerintah mengenai proses penyusunan tata kelola AI. Perbandingan digunakan untuk mengidentifikasi prinsip dan mekanisme yang relevan bagi Indonesia, sedangkan analisis kepatuhan digunakan untuk menerjemahkan prinsip tersebut ke dalam proses organisasi.

Perspektif pengguna AI dalam artikel ini terutama merujuk pada organisasi yang menggunakan atau menerapkan sistem AI dan fungsi internal yang bertanggung jawab atas kepatuhan, risiko, hukum, audit atau governance. Perspektif tersebut tidak diperlakukan sebagai representasi seluruh masyarakat. Oleh karena itu, masukan pengguna AI perlu dikombinasikan dengan perspektif regulator, akademisi, masyarakat sipil, ahli teknologi dan kelompok yang berpotensi terdampak.

4. Kerangka Teoretis dan Best Practices Tata Kelola AI

OECD AI Principles yang diperbarui pada 2024 menempatkan AI yang inovatif dan tepercaya dalam kerangka yang menghormati hak asasi, transparansi, keamanan dan akuntabilitas. UNESCO Recommendation on the Ethics of Artificial Intelligence menekankan pendekatan berbasis hak asasi manusia, human oversight, fairness dan tanggung jawab lintas pemangku kepentingan. Kedua instrumen tersebut menunjukkan bahwa tata kelola AI tidak hanya merupakan isu teknis, tetapi juga isu kelembagaan dan kebijakan publik.

NIST AI Risk Management Framework (AI RMF 1.0) menyediakan kerangka sukarela untuk organisasi yang merancang, mengembangkan, men-deploy atau menggunakan AI. Framework tersebut berorientasi pada pengelolaan risiko sepanjang siklus hidup dan dapat disesuaikan dengan berbagai sektor. ISO/IEC 42001:2023, di sisi lain, menetapkan persyaratan untuk membangun, menerapkan, memelihara dan meningkatkan Artificial Intelligence Management System (AIMS).

5. Peranan Strategis Manajemen Kepatuhan dalam Penggunaan AI di Indonesia

5.1 Compliance by Design dan Regulatory Mapping

Compliance by design berarti persyaratan kepatuhan dipertimbangkan sejak tahap perancangan, bukan setelah sistem selesai dibangun. Fungsi compliance dapat menyusun regulatory inventory dan control mapping yang menghubungkan tujuan penggunaan AI dengan kewajiban pelindungan data, keamanan, transparansi, dokumentasi, hak pengguna, pengawasan manusia dan kewajiban sektoral. Pendekatan ini membantu organisasi menghindari desain sistem yang sejak awal sulit disesuaikan dengan kewajiban hukum.

5.2 AI Risk Assessment dan Impact Assessment

Organisasi perlu menilai risiko berdasarkan use case, jenis data, subjek yang terdampak, tingkat otomatisasi, konsekuensi kesalahan dan kemampuan manusia untuk melakukan intervensi. Dalam konteks data pribadi, penilaian dampak pelindungan data dapat menjadi bagian dari proses pengendalian yang lebih luas. Fungsi compliance berperan memastikan bahwa hasil penilaian terdokumentasi, terdapat pemilik risiko dan tersedia jalur eskalasi.

5.3 Human Oversight, Monitoring dan Auditability

Untuk penggunaan AI yang berpotensi menghasilkan keputusan penting, organisasi perlu menetapkan batas kewenangan AI dan kapan keputusan harus diperiksa atau dapat ditolak oleh manusia. Compliance dapat menguji apakah prosedur tersebut benar-benar berjalan melalui monitoring, sampling, audit trail dan review berkala. Fokusnya bukan semata-mata pada akurasi model, tetapi pada apakah penggunaan model tetap berada dalam batas risiko yang diterima organisasi dan diperbolehkan oleh regulasi.

5.4 RegTech dan Continuous Compliance

AI juga dapat digunakan untuk fungsi kepatuhan sendiri, misalnya regulatory horizon scanning, pemantauan transaksi, deteksi anomali dan review dokumen. Namun, penggunaan AI dalam compliance tetap memerlukan governance karena kesalahan sistem compliance dapat menghasilkan false positive, false negative atau keputusan yang tidak dapat dipertanggungjawabkan. Prinsip human oversight dan auditability karena itu berlaku juga terhadap RegTech.

6. Perspektif Pengguna AI: Dapatkah Manajemen Kepatuhan Berperan dalam Penyusunan Regulasi?

Jawabannya adalah dapat, tetapi perannya perlu dibedakan dari kewenangan formal pembentuk regulasi. Manajemen kepatuhan tidak memiliki kewenangan menetapkan norma hanya karena memiliki pengalaman implementasi. Namun, fungsi tersebut dapat memberikan evidence mengenai bagaimana norma diterjemahkan ke proses bisnis, kontrol apa yang sulit diterapkan, data apa yang diperlukan, dan konsekuensi operasional dari suatu kewajiban. Evidence tersebut relevan bagi regulator ketika merancang ketentuan yang efektif dan dapat dilaksanakan.

Secara empiris, proses kebijakan AI Indonesia sendiri telah menggunakan partisipasi pemangku kepentingan. Komdigi pada 2025 menyatakan bahwa penyusunan Peta Jalan AI melibatkan rangkaian diskusi dengan stakeholder dan konsultasi publik. Pada 2026, pembahasan RPerpres Etika AI juga berlangsung melalui Panitia Antarkementerian dan tahapan konsultasi, FGD serta harmonisasi. Hal ini menunjukkan adanya ruang kelembagaan bagi kontribusi pengguna dan pelaku ekosistem AI.

6.1 Bentuk Kontribusi yang Dapat Diberikan

6.2 Mengapa Perspektif Compliance Penting?

Regulator dapat mengetahui tujuan kebijakan dan risiko publik, sedangkan pengguna AI mengetahui bagaimana kewajiban bekerja dalam proses nyata. Fungsi compliance berada pada titik temu keduanya. Dalam praktik, compliance harus menerjemahkan norma menjadi policy, procedure, control, evidence, training, monitoring dan escalation. Karena itu, pengalaman tersebut dapat mengungkap apakah sebuah kewajiban dapat diuji, siapa pemiliknya, bukti apa yang tersedia dan apa yang terjadi apabila kontrol tidak dapat dijalankan.

Kontribusi tersebut paling bernilai apabila disampaikan dalam bentuk evidence yang dapat diverifikasi, bukan sekadar permintaan agar kewajiban dikurangi. Misalnya, apabila suatu kewajiban mensyaratkan audit model berkala, pengguna dapat menjelaskan frekuensi yang realistis, kompetensi auditor yang tersedia, biaya dokumentasi, indikator yang dapat diuji dan kondisi yang memerlukan audit tambahan. Informasi tersebut membantu regulator menilai desain kewajiban tanpa menghilangkan tujuan perlindungan.

6.3 Batasan dan Safeguards

Keterlibatan industri atau fungsi compliance dalam penyusunan regulasi memiliki risiko conflict of interest. Pengguna AI dapat memiliki kepentingan komersial untuk memperoleh kewajiban yang lebih ringan atau definisi yang lebih sempit. Karena itu, masukan compliance sebaiknya transparan mengenai kepentingan dan konteks organisasinya, dapat diuji terhadap data, serta dipertemukan dengan perspektif konsumen, masyarakat sipil, akademisi, teknolog, pekerja dan regulator sektoral.

Model yang lebih tepat bukanlah self-regulation penuh oleh industri, melainkan co-regulatory input: regulator tetap menetapkan arah dan norma, sementara pengguna AI menyediakan evidence, pengalaman implementasi dan usulan mekanisme kontrol. Dengan model tersebut, independensi pembentuk kebijakan tetap terjaga sekaligus kualitas implementasi dapat diperkuat.

7. Model Partisipasi yang Diusulkan untuk Indonesia

Artikel ini mengusulkan model partisipasi berbasis tiga lapis. Lapis pertama adalah prinsip dan tujuan publik yang ditetapkan pemerintah, seperti keamanan, pelindungan hak, transparansi dan inovasi. Lapis kedua adalah kewajiban berbasis risiko yang diterjemahkan ke dalam regulasi dan ketentuan sektoral. Lapis ketiga adalah implementation guidance yang dapat dikembangkan bersama pengguna AI, asosiasi, standar internasional dan komunitas profesional.

8. Implikasi bagi Regulasi AI Indonesia

Pertama, regulasi sebaiknya menggunakan pendekatan berbasis risiko sehingga kewajiban dapat disesuaikan dengan potensi dampak suatu AI. Kedua, norma tingkat tinggi sebaiknya dilengkapi pedoman implementasi yang menjelaskan evidence, governance, human oversight dan monitoring tanpa terlalu cepat mengunci teknologi tertentu. Ketiga, perlu terdapat mekanisme review berkala karena perkembangan AI dapat membuat kontrol yang relevan hari ini menjadi tidak memadai di masa depan.

Keempat, perlu diperjelas distribusi tanggung jawab antara provider, deployer atau pengguna, pihak yang melakukan integrasi, dan manusia yang mengambil keputusan akhir. Kelima, regulator dapat memanfaatkan standar seperti ISO/IEC 42001 dan framework seperti NIST AI RMF sebagai referensi, tetapi penerapannya perlu diselaraskan dengan hukum Indonesia dan karakter sektor.

Keenam, mekanisme partisipasi pengguna AI perlu dibuat terstruktur. Konsultasi publik sebaiknya tidak berhenti pada pengumpulan pendapat, tetapi menghasilkan issue log, tanggapan regulator, alasan penerimaan atau penolakan masukan, dan bila memungkinkan uji coba terbatas. Pendekatan ini meningkatkan traceability proses kebijakan dan membantu mengurangi kesenjangan antara norma dan praktik.

9. Pembahasan

Dari perspektif governance, manajemen kepatuhan dapat dipandang sebagai knowledge broker antara regulator dan organisasi. Fungsi ini memiliki pengetahuan mengenai regulatory obligations sekaligus proses internal, sehingga dapat mengidentifikasi translation gap: kondisi ketika suatu norma benar secara hukum tetapi belum jelas bagaimana organisasi harus membuktikan kepatuhannya.

Namun, keterlibatan compliance tidak boleh dipahami sebagai legitimasi otomatis terhadap seluruh usulan industri. Nilai kontribusinya bergantung pada kualitas evidence, keterwakilan, transparansi dan kemampuan membedakan fakta implementasi dari preferensi komersial. Karena itu, regulator tetap perlu melakukan independent assessment dan menyeimbangkan masukan pengguna dengan kepentingan publik.

Pendekatan ini juga sejalan dengan perkembangan internasional. NIST mengembangkan AI RMF melalui proses yang melibatkan sektor publik dan privat serta berbagai kesempatan untuk memberikan masukan. UNESCO secara eksplisit mendorong keterlibatan berbagai stakeholder, termasuk business enterprises, dalam implementasi Recommendation on the Ethics of AI. OECD juga menempatkan pemerintah dan AI actors dalam ekosistem tanggung jawab yang saling melengkapi.

10. Kesimpulan

1. Manajemen kepatuhan merupakan komponen penting dalam memastikan penggunaan AI di Indonesia berlangsung secara bertanggung jawab. Perannya mencakup regulatory mapping, compliance by design, risk assessment, human oversight, monitoring, auditability dan continuous compliance. Fungsi tersebut menjadikan compliance bukan sekadar mekanisme korektif setelah pelanggaran terjadi, melainkan bagian dari governance sejak tahap perencanaan dan penggunaan AI.
2. Lebih jauh, pengguna AI dan manajemen kepatuhan dapat berkontribusi dalam penyusunan regulasi AI Indonesia, tetapi bukan sebagai pembentuk norma formal. Kontribusi yang tepat adalah menyediakan evidence implementasi, mengidentifikasi implementation gap, menguji mekanisme kontrol, menyampaikan pengalaman insiden dan membantu regulator memahami konsekuensi operasional dari berbagai opsi kebijakan. Kontribusi tersebut paling tepat dilakukan melalui konsultasi publik, FGD, working group, sandbox, regulatory impact assessment dan mekanisme pelaporan yang transparan.
3. Perkembangan kebijakan Indonesia pada 2026 memperlihatkan bahwa pemerintah telah bergerak menuju kerangka nasional melalui RPerpres Etika AI dan Peta Jalan AI Nasional. Tahap berikutnya adalah memastikan agar kerangka tersebut dapat diterjemahkan menjadi tata kelola yang konsisten lintas sektor dan dapat dievaluasi secara berkala. Dalam jangka lebih panjang, pengalaman implementasi dari pengguna AI dapat menjadi salah satu sumber evidence untuk penyempurnaan regulasi dan penyusunan UU AI yang lebih komprehensif.
4. Dengan demikian, hubungan antara regulator dan pengguna AI sebaiknya dibangun bukan sebagai hubungan regulator versus industri, melainkan sebagai mekanisme governance berbasis evidence: regulator menetapkan tujuan dan batas perlindungan publik, sedangkan pengguna AI memberikan pengalaman implementasi yang memungkinkan regulasi menjadi lebih jelas, proporsional, adaptif dan dapat dilaksanakan. Prinsip tersebut tetap harus disertai transparansi, pluralitas stakeholder dan pengujian independen agar kepentingan publik tetap menjadi dasar utama tata kelola AI.

Daftar Pustaka

1. Ada Lovelace Institute. (2024). Regulating AI in Europe: Expert Opinion on Downstream Deployers and Lifecycle Accountability. London: Ada Lovelace Institute.
2. European Parliament and Council of the European Union. (2024). Regulation (EU) 2024/1689 of 13 June 2024 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). Official Journal of the European Union.
3. International Organization for Standardization & International Electrotechnical Commission. (2023). ISO/IEC 42001:2023 Information technology — Artificial intelligence — Management system. Geneva: ISO.
4. Kementerian Komunikasi dan Digital Republik Indonesia. (2025, 17 Juli). Atur Tata Kelola Pemanfaatan AI, Pemerintah Siapkan Perpres. Siaran Pers No. 131/HM-KKD/07/2025.
5. Kementerian Komunikasi dan Digital Republik Indonesia. (2025, 8 Agustus). Konsultasi Publik Buku Putih Peta Jalan Kecerdasan Artifisial Nasional dan Konsep Pedoman Etika Kecerdasan Artifisial. Siaran Pers No. 151/HM-KKD/08/2025.
6. Kementerian Komunikasi dan Digital Republik Indonesia. (2026, 12 Februari). Pemerintah Bahas Peta Jalan Kecerdasan Artifisial Indonesia 2026–2029 dalam Rapat Lintas Sektor.
7. Kementerian Komunikasi dan Digital Republik Indonesia. (2026, 6 Mei). Bangun Tata Kelola AI yang Etis dan Bertanggung Jawab, Pemerintah Rampungkan Pembahasan RPerpres.
8. Kementerian Komunikasi dan Digital Republik Indonesia. (2026, 28 Juli). Kemkomdigi Jadikan Perpres AI sebagai Langkah Awal Menuju Undang-Undang AI.
9. Kementerian Komunikasi dan Informatika Republik Indonesia. (2023). Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial.
10. National Institute of Standards and Technology. (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0). NIST AI 100-1. Gaithersburg, MD: S. Department of Commerce.
11. (2024). AI, Data Governance and Privacy. OECD Artificial Intelligence Papers.
12. (2024). OECD AI Principles. Paris: Organisation for Economic Co-operation and Development.
13. (2024). Explanatory Memorandum on the Updated OECD Definition of an AI System. OECD Artificial Intelligence Papers No. 8. Paris: OECD Publishing.
14. Republic of Indonesia. (2022). Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi. Lembaran Negara Republik Indonesia Tahun 2022 Nomor 196.
15. (2021). Recommendation on the Ethics of Artificial Intelligence. Paris: United Nations Educational, Scientific and Cultural Organization.
16. United Nations. (2026). Preliminary Report of the Independent International Scientific Panel on Artificial Intelligence: Fragmented Governance and Capability Progress. New York: United Nations.