ISO/IEC 42001:2023 dan Jalan Indonesia Menuju AI yang Bertanggung Jawab

Tanpa tata kelola yang jelas, adopsi artificial intelligence (AI) membawa banyak risiko. ISO/IEC 42001:2023 hadir sebagai kerangka yang membantu organisasi memastikan bahwa sistem AI tidak hanya canggih, tetapi juga aman, etis, transparan, dan dapat dipertanggungjawabkan. 

Artificial intelligence (AI) tidak lagi menjadi teknologi masa depan namun telah menjadi bagian tak terpisahkan dari berbagai sektor saat ini, dari layanan perbankan digital, sistem rekomendasi e-commerce, hingga pendukung keputusan di sektor kesehatan dan pemerintahan. 

Namun, semakin kompleks dan otonom sistem AI yang digunakan, maka semakin besar pula risiko yang mengintai: bias algoritmik, kurangnya transparansi, dampak sosial yang tak terprediksi, hingga pelanggaran privasi. Kepercayaan publik dan legitimasi organisasi kini sangat tergantung pada bagaimana sistem AI tersebut dirancang, dikelola, dan diawasi.

Begitu juga dengan Indonesia, di mana tingkat adopsi AI terus meningkat di berbagai sektor. Di sektor keuangan, misalnya, teknologi AI digunakan untuk personalisasi layanan, deteksi fraud, manajemen risiko kredit, hingga chatbot interaktif. Indonesia menempati peringkat 42 dari 193 negara dalam indeks kesiapan AI [1] dari Oxford Insights. Hal ini mensinyalir bahwa penggunaan AI akan terus meningkat di masa depan. 

Namun, tanpa kerangka tata kelola yang tepat, adopsi AI dapat menjadi bumerang. Risiko reputasi, pelanggaran hukum, dan ketimpangan sosial akibat AI bisa terjadi jika tidak ada sistem manajemen yang efektif. 

Menjawab kebutuhan itu, ISO/IEC 42001:2023 menjadi jawaban sistemik dan terukur dalam menghadapi tantangan tersebut, tidak hanya untuk memastikan kepatuhan namun juga mendorong keunggulan kompetitif. Sebagai standar internasional pertama yang secara khusus mengatur Sistem Manajemen untuk AI (Artificial Intelligence Management System atau AIMS), standar ini bertujuan untuk membantu organisasi mengelola penggunaan AI secara bertanggung jawab, etis, dan sesuai dengan peraturan yang berlaku. 

ISO/IEC 42001:2023 Memberikan Kerangka Pengelolaan AI yang Bertanggung Jawab

ISO/IEC 42001:2023 hadir sebagai standar internasional yang memberikan kerangka sistem manajemen untuk memastikan pengelolaan AI secara etis dan bertanggung jawab. Melalui standar ini, organisasi didorong untuk merancang kebijakan yang selaras dengan prinsip-prinsip etika, sekaligus membangun proses yang terstruktur dalam menciptakan, menerapkan, mengelola, dan menyempurnakan sistem AI. 

Di bawah standar ini, organisasi dituntut untuk melakukan penilaian atas dampak sistem AI yang diterapkan terhadap individu, masyarakat, dan lingkungan serta menerapkan langkah-langkah mitigasinya. Tata kelola juga dipertegas melalui pengaturan peran, tanggung jawab, dan otoritas jelas dalam penggunaan AI.

Lebih jauh lagi, standar ini juga memfasilitasi keselarasan dalam praktik manajemen organisasi melalui integrasi pengendalian AI dengan berbagai sistem manajemen yang mungkin telah diimplementasikan oleh organisasi, seperti ISO 9001:2015, ISO/IEC 27001:2022, atau ISO 31000:2018. 

Standar ini juga menekankan prinsip-prinsip trustworthy AI yang telah diakui secara global, yang mencakup keamanan, keadilan, transparansi, akuntabilitas, privasi, dan pengendalian manusia atas teknologi. 

Lebih dari Sekadar Checklist: Tantangan Organisasi di Indonesia dalam Menerapkan ISO/IEC 42001:2023 

Agar benar-benar efektif sebagai panduan dalam mengelola AI, implementasi standar ISO/IEC 42001:2023 tidak boleh dimaknai sebagai sekadar “checklist kepatuhan”. Lebih dari daftar kewajiban teknis, standar ini merupakan kerangka transformasi manajemen dan budaya organisasi dalam mengelola teknologi AI secara bertanggung jawab, etis, dan berkelanjutan. 

Untuk mencapai hal tersebut, diperlukan persiapan yang lebih dari sekadar prosedur di atas kertas. Kepemimpinan manajemen menjadi kunci keberhasilan, di mana manajemen puncak harus menunjukkan komitmen terhadap tata kelola AI dengan menetapkan kebijakan, menentukan peran, serta menyediakan sumber daya yang memadai. Selanjutnya, sumber daya manusia yang menjalankan kebijakan dan peran ini harus memiliki kompetensi dan pemahaman yang mencukupi. Tim pengembang, implementer, pengguna, dan pengambil keputusan harus memahami prinsip etika, hukum dan teknis dari adopsi AI serta mendapatkan pelatihan untuk menerapkan kebijakan dan kontrol yang relevan guna memitigasi risiko-risiko yang dapat ditimbulkan. 

Dengan begitu, kerangka pengelolaan AI yang terkandung dalam standar ini benar-benar dapat dijalankan secara efektif. Penilaian risiko dan dampak AI dapat dilakukan melalui penyusunan proses AI risk assessment untuk mengidentifikasi dan mengevaluasi risiko potensial dari sistem AI serta AI impact assessment terhadap individu, kelompok rentan, masyarakat, dan lingkungan. Transparansi juga harus terus dijaga melalui dokumentasi lengkap yang mencakup tujuan dan ruang lingkup sistem AI; data yang digunakan dan proses pelatihan sistem; model AI, metrik evaluasi, dan hasil uji; serta kebijakan penggunaan dan pengawasan. Perbaikan berkelanjutan juga harus dilakukan melalui penerapan proses untuk memantau performa sistem AI serta mengaudit efektivitas sistem manajemen AI secara berkala. 

Dalam hal ini, organisasi-organisasi di Indonesia menghadapi tantangan nyata. Kesadaran akan peran penting AI memang terus meningkat, tetapi banyak organisasi masih terfokus pada teknologi, sehingga proses dan tata kelola implementasinya cenderung terabaikan. Regulasi nasional yang mewajibkan standar tata kelola AI masih belum tersedia, sehingga tidak ada insentif untuk menerapkan standar ini secara serius. Selain itu,kurangnya kompetensi internal dalam bidang AI ethics, risk, dan compliance membuat kebijakan sulit diimplementasikan secara konsisten. 

Ketiadaan sistem manajemen yang terdokumentasi secara baik dan dapat diaudit juga menjadi tantangan tersendiri. Berdasarkan pengalaman di lapangan, bahkan organisasi yang sudah mengadopsi sistem AI yang canggih sering kali belum memiliki dokumentasi risiko, mekanisme penilaian dampak, atau kebijakan kontrol penggunaan model AI yang memadai. 

Dari Regulasi hingga SDM: Pilar Kesiapan Menuju Pengelolaan AI yang Bertanggung Jawab 

Untuk mencapai implementasi AI yang benar-benar bertanggung jawab, Indonesia perlu lebih dari sekadar niat baik atau adopsi teknologi mutakhir. Penerapan ISO/IEC 42001:2023 membutuhkan fondasi yang kokoh, yang tidak hanya ditopang oleh organisasi tetapi juga oleh ekosistem regulasi dan tata kelola nasional. 

Pertama, dukungan dari regulator sangat diperlukan. Lembaga seperti Bank Indonesia (BI), Otoritas Jasa Keuangan (OJK), Badan Siber dan Sandi Negara (BSSN), dan Kementerian Komunikasi dan Digital (Komdigi) berperan penting dalam mendorong adopsi standar ISO/IEC 42001:2023 sebagai best practice nasional. Mereka dapat mempercepat kesiapan organisasi di dalam negeri dengan menerbitkan panduan untuk sektor-sektor kritikal seperti keuangan, kesehatan, dan pemerintahan serta menyediakan regulatory sandbox untuk uji coba sistem AI berisiko tinggi. 

Kedua, investasi pada kompetensi SDM tidak dapat ditawar. Organisasi perlu membangun kemampuan tim tata kelola AI yang menggabungkan berbagai fungsi dan perspektif dari teknis, legal, risiko, hingga etika. Penggunaan AI yang etis dan terkendali harus diinternalisasikan sebagai budaya yang menjadi pegangan bagi seluruh elemen organisasi. Secara khusus, pelatihan dan sertifikasi ISO/IEC 42001:2023 harus dilakukan untuk meningkatkan pemahaman dan keahlian dalam penerapan standar ini. 

Ketiga, harmonisasi dengan framework lain yang ada akan memperkuat efektivitas implementasi. Implementasi ISO/IEC 42001:2023 dapat diselaraskan dengan NIST AI Risk Management Framework (RMF) untuk pengelolaan risiko dan prinsip trustworthiness, COBIT 2019 untuk tata kelola teknologi dan IT assurance, serta panduan AI OJK untuk sektor perbankan. 

Menjadi Pelopor Tata Kelola AI Bertanggung Jawab 

ISO/IEC 42001:2023 bukan hanya sekadar standar, tetapi peta jalan menuju adopsi AI yang aman, adil, dan akuntabel. Di era di mana AI dapat menentukan nasib bisnis, reputasi perusahaan, bahkan hak asasi manusia, tidak ada pilihan selain membangun tata kelola yang dapat dipertanggungjawabkan. 

Organisasi yang mulai mengambil langkah hari ini akan lebih siap menghadapi tantangan audit, regulasi, dan ekspektasi publik. Dengan dukungan tenaga profesional, proses ini bisa menjadi transformasi yang tidak hanya mengurangi risiko tetapi juga meningkatkan kepercayaan pemangku kepentingan sekaligus memperkuat daya saing.

Referensi: 

[1] “Kerja Sama Internasional untuk Mendukung Pemanfaatan dan Pengembangan Artificial Intelligence (AI) di Indonesia,” Sekretariat Kabinet Republik Indonesia, 2024.

This article was published in our quarterly newsletter Valoka Vol. 7, 2025.