AI dan Konstitusi: Menata Batas Kekuasaan di Era Algoritma

Bayangkan suatu hari permohonan bantuan sosial, kredit usaha, atau gugatan Anda diputuskan otomatis tanpa penjelasan transparan. Ketika Anda memprotes, birokrasi hanya menjawab bahwa mesin yang menentukan segalanya. Kecerdasan Buatan atau Artificial Intelligence (AI) kini sulit dipisahkan dari tata kelola negara dan hajat hidup orang banyak. Perkembangan tersebut menghadirkan persoalan baru dalam hukum tata negara karena keputusan yang memengaruhi hak warga semakin mungkin dibentuk oleh sistem algoritmik.

Saat ini, regulasi terkait dunia digital di Indonesia masih tersebar dalam level undang-undang sektoral, seperti UU Perlindungan Data Pribadi (PDP) atau UU Informasi dan Transaksi Elektronik (ITE). Kerangka hukum tersebut dapat berkembang mengikuti perubahan teknologi dan kebijakan politik. Persoalannya, UUD 1945 belum secara eksplisit merumuskan prinsip yang mengatur penggunaan AI ketika teknologi tersebut berdampak langsung pada hak warga negara. Melihat perkembangannya, AI telah menjadi instrumen kekuasaan baru yang dapat mengubah relasi antara negara dan warga negara. Oleh sebab itu, pengaturan AI tidak cukup jika hanya dikembangkan pada tingkat undang-undang. Amandemen Kelima UUD 1945 dapat menjadi momentum untuk memperjelas batas konstitusional penggunaan AI dalam penyelenggaraan negara.

Konstitusi sebagai "Rantai Pengikat"

Dalam diskursus ketatanegaraan, konstitusi sering dipandang sebagai instrumen pengikatan diri (precommitment). Analogi klasik yang sering digunakan adalah kisah petualangan Ulysses yang mengikat dirinya di tiang kapal untuk menahan godaan nyanyian Siren. Baruch Spinoza menggunakan kisah tersebut untuk menjelaskan pentingnya hukum dasar yang membatasi penguasa. Jika segala urusan negara hanya bergantung pada kehendak manusia yang berubah-ubah, maka tidak akan ada stabilitas hukum. John Potter Stockton mengibaratkan konstitusi sebagai rantai pengikat diri yang dipasang saat manusia berada dalam keadaan waras. Rantai tersebut bertujuan mencegah manusia terjebak pada kegilaan atau euforia di kemudian hari.

Sebagai instrumen pembatas kekuasaan, konstitusi melindungi warga dari dinamika politik yang terus berubah. Di era modern, euforia itu bernama efisiensi algoritmik. Tanpa batas konstitusional yang tegas mengenai penggunaan data dan pengambilan keputusan otomatis, negara dapat tergelincir pada penggunaan AI untuk surveilans massal, diskriminasi otomatis, atau keputusan publik yang sulit dipertanggungjawabkan kepada warga.

AI dan Persoalan Time-Inconsistency

Mengapa pengaturan AI perlu diletakkan di tingkat UUD 1945? Jawabannya berkaitan dengan persoalan time-inconsistency. Undang-undang biasa lebih mudah diubah mengikuti perubahan preferensi dan insentif politik. Pemerintah hari ini dapat menjanjikan perlindungan data dan etika AI, tetapi rezim berikutnya dapat melonggarkannya demi efisiensi administratif dan otomasi pemerintahan. Inilah yang dalam ilmu ekonomi politik disebut "time-inconsistency", ketika komitmen yang optimal hari ini tidak lagi berlaku di masa depan karena insentif politik berubah. Konstitusi memiliki kekuatan jangka panjang karena lebih sulit diubah dibanding undang-undang biasa. Hambatan prosedural tersebut menjaga aturan dasar negara dari perubahan akibat kepentingan politik jangka pendek.

Kekhawatiran tersebut juga mulai terlihat dalam praktik penggunaan AI oleh negara. Pada 2026, pemerintah Amerika Serikat berselisih dengan perusahaan AI Anthropic setelah perusahaan tersebut menolak penggunaan teknologi Claude untuk pengawasan domestik dan senjata otonom. Pentagon kemudian menetapkan Anthropic sebagai national security supply-chain risk, yang berdampak pada akses perusahaan terhadap kontrak militer. Pengadilan federal AS pada Agustus 2026 menyatakan tindakan tersebut ilegal dan tidak berdasar. Kasus tersebut menunjukkan bahwa penggunaan dan penguasaan teknologi AI oleh negara telah menjadi persoalan kewenangan publik, keamanan nasional, dan kebebasan warga, sehingga membutuhkan batas hukum yang lebih mendasar.

Tiga Jaminan Konstitusional bagi Pengguna AI

Jika Amandemen Kelima UUD 1945 adalah "tiang kapal" tempat masyarakat mengikatkan diri, maka apa wujud "tali pengikat" tersebut? Pembatasan kewenangan negara di era AI setidaknya harus bertumpu pada tiga jaminan konstitusional.

Pilar pertama adalah perlindungan data pribadi. Data pribadi warga merupakan kepentingan fundamental yang wajib dilindungi negara. Perlindungan tersebut harus memastikan data diproses secara sah, proporsional, dan berada dalam kendali hukum. UUD 1945 harus menegaskan perlindungan data pribadi agar tidak disalahgunakan oleh pemerintah maupun entitas privat. Bayangkan jika data biometrik atau profil perilaku warga diolah di luar yurisdiksi tanpa perlindungan memadai. Negara akan kesulitan memastikan hak warga tetap terlindungi. Membatasi negara agar tidak menyerahkan atau menggunakan data warga secara serampangan adalah bentuk precommitment.

Pilar kedua adalah pengakuan atas hak digital, khususnya hak atas transparansi algoritma. UUD 1945, misalnya melalui perluasan Pasal 28, dapat menjamin hak warga untuk memperoleh penjelasan dan mengajukan keberatan terhadap keputusan otomatis yang berdampak signifikan. Ketika algoritma pemerintah menolak fasilitas kesehatan atau izin usaha, warga berhak mengetahui alasan keputusan tersebut. Konstitusi harus mencegah sistem pelayanan publik beroperasi di ruang gelap (black box) yang sulit diuji dan digugat warga.

Pilar ketiga adalah kendali dan pertanggungjawaban manusia. Sehebat apa pun kemampuan AI, keputusan yang berdampak signifikan terhadap kebebasan dan hak warga tetap membutuhkan manusia yang dapat dimintai pertanggungjawaban. Keputusan akhir tidak boleh didelegasikan secara total kepada algoritma. Harus selalu ada manusia yang memegang kendali dan bertanggung jawab secara hukum. Prinsip ini mencegah pemerintah melepaskan tanggung jawab kepada AI demi alasan efisiensi.

Menundukkan Algoritma pada Konstitusi

Pengaturan AI dalam Amandemen Kelima UUD 1945 menjadi semakin mendesak. Amandemen ini tidak perlu mengubah UUD 1945 menjadi aturan teknis mengenai algoritma. Konstitusi cukup menetapkan prinsip, batas kewenangan, dan hak warga yang harus dihormati ketika AI digunakan dalam penyelenggaraan negara. Aturan konstitusional ini akan menjadi dasar bagi pembentukan regulasi di tingkat undang-undang dan peraturan pemerintah. Landasan konstitusional tersebut dapat memperkuat dasar pembentukan UU mengenai transparansi algoritma, perlindungan data, dan mekanisme keberatan atas keputusan otomatis. Penguatan tersebut juga memberikan dasar yang lebih jelas bagi pengujian konstitusional ketika penggunaan AI oleh negara berbenturan dengan hak-hak warga negara.

Membatasi kewenangan negara dalam memproses data warga menggunakan AI dan mewajibkan transparansi algoritma atas keputusan publik merupakan pembatasan yang menyehatkan demokrasi. Lewat Amandemen Kelima, generasi saat ini dapat membentuk batas konstitusional bagi penggunaan AI oleh pemerintahan di masa depan, sehingga efisiensi teknologi tetap tunduk pada hak asasi manusia dan negara hukum.

Amandemen Kelima UUD 1945 tidak boleh hanya mengatur pembagian kekuasaan kelembagaan. Kehadiran AI telah menciptakan instrumen baru yang memperbesar jangkauan kekuasaan terhadap warga. Oleh sebab itu, penggunaannya membutuhkan batas konstitusional yang jelas. Siapkah kita jika masa depan kemerdekaan dan privasi kita kelak ditentukan oleh algoritma yang buta terhadap konstitusi?