Implementasi sistem Kecerdasan Buatan (AI) kini meluas hingga ke sektor publik, mencakup mulai dari penentuan kelayakan kredit, penilaian risiko residivisme kriminal, hingga pengalokasian sumber daya kesehatan. Meskipun menjanjikan efisiensi dan objektivitas, adopsi AI dalam pengambilan keputusan publik memunculkan dilema etika yang mendasar. Permasalahan utama terletak pada algoritma yang digunakan: jika data pelatihan yang dimasukkan mengandung bias historis atau sosial, maka keputusan yang dihasilkan oleh AI akan mereplikasi dan bahkan memperkuat bias tersebut. Sebagai contoh spesifik, pada bulan April 2025, sebuah sistem AI yang diujicobakan untuk memprediksi risiko kemacetan di kawasan padat lalu lintas Jakarta Pusat, menunjukkan kecenderungan untuk memprioritaskan rute di area dengan demografi ekonomi tertentu, secara tidak langsung mengabaikan kebutuhan mobilitas di area pinggiran kota. Kasus ini, meskipun tidak melibatkan sanksi pidana, dengan jelas memicu perdebatan publik mengenai keadilan algoritma.

Isu akuntabilitas menjadi sangat penting dalam konteks penggunaan Kecerdasan Buatan. Ketika sebuah keputusan algoritmik merugikan warga negara—misalnya, menolak pengajuan bantuan sosial atau kesehatan—siapa yang bertanggung jawab? Apakah pengembang, pemerintah yang mengadopsi, ataukah sistem AI itu sendiri? Komite Etika Digital Nasional (KEDN) yang dibentuk oleh Kementerian Koordinator Bidang Pembangunan Manusia dan Kebudayaan (Kemenko PMK) pada tanggal 22 Juni 2025, telah menggarisbawahi perlunya kerangka hukum yang jelas. Kerangka ini harus memastikan explainability (keterjelasan) dari setiap keputusan AI, memungkinkan individu untuk memahami dasar logika di balik penilaian yang dibuat oleh mesin. Tanpa transparansi ini, kepercayaan publik terhadap institusi yang menggunakan AI akan terkikis, membuka jalan bagi fenomena black-box decision-making.

Tantangan lainnya adalah masalah privasi dan pengawasan. Sistem Kecerdasan Buatan yang digunakan untuk keamanan publik, seperti pengenalan wajah (facial recognition) yang diterapkan pada beberapa infrastruktur transportasi umum di Surabaya pada awal tahun 2025, mengumpulkan dan memproses data biometrik dalam volume masif. Walaupun tujuannya adalah peningkatan keamanan dan ketertiban umum, terdapat risiko penyalahgunaan atau pelanggaran hak privasi individu. Untuk memitigasi risiko ini, penting adanya regulasi ketat mengenai bagaimana data dikumpulkan, disimpan, dan dimusnahkan, sejalan dengan prinsip-prinsip yang termaktub dalam Undang-Undang Perlindungan Data Pribadi (UU PDP).

Dalam rangka menciptakan AI yang adil dan etis, strategi pertahanan terbaik bukan hanya terletak pada teknologi, tetapi juga pada regulasi dan kolaborasi multidisiplin. Pada pertemuan antar-kementerian yang diadakan pada hari Kamis, 2 Oktober 2025, di Gedung Sekretariat Negara, disepakati bahwa setiap proyek AI dalam pelayanan publik harus melibatkan ahli etika, sosiolog, dan perwakilan masyarakat sipil sejak tahap perancangan. Langkah proaktif ini memastikan bahwa nilai-nilai kemanusiaan dan keadilan sosial terintegrasi sejak awal, bukan sekadar ditempelkan kemudian. Kecerdasan Buatan memang menawarkan potensi besar untuk perbaikan pelayanan publik, namun potensi ini hanya dapat terwujud jika dikelola dengan kerangka etika yang kuat, memastikan bahwa teknologi bekerja untuk kepentingan semua, bukan hanya sebagian pihak.