Etika Mesin: Ketika Kebenaran Jadi Opsional

Esai | September 2026

---

Di sebuah kelas SMA di Jakarta, seorang guru membagikan tugas menulis esai tentang keadilan sosial. Siswa-siswanya memasukkan prompt ke dalam alat penulisan AI. Dua puluh menit kemudian, lima belas esai telah selesai—masing-masing dengan argumen yang koheren, struktur yang rapi, dan referensi yang plausible. Guru tersebut tersenyum, lalu menutup laptopnya. Keadilan sosial tidak pernah dibahas.

Belum ada yang menyadari bahwa keadilan sosial bukan tentang apa yang dihasilkan mesin. Melainkan tentang siapa yang menentukan apa itu adil.

Ini bukan peringatan anti-teknologi. Ini adalah pertanyaan yang jauh lebih sederhana: ketika mesin bisa meniru berpikir etis, apa artinya menjadi manusia yang bermoral?


Asal-Usul Moralitas

Sebelum mesin, moralitas manusia lahir dari tiga sumber utama: pengalaman kolektif, agama, dan refleksi filosofis. Selama ribuan tahun, manusia bertanya pada dirinya sendiri—dan pada dewa-dewanya—apa yang benar. Hasilnya bukanlah satu jawaban universal, melainkan ratusan tradisi moral yang saling bertentangan.

Tapi mesin tidak mewarisi tradisi ini. Mesin mewarisi data.

Ketika sebuah model bahasa dilatih, ia memakan miliaran teks manusia: undang-undang, cerita rakyat, kitab suci, debat Twitter, makalah hukum, dan forum internet. Dari kerumunan ini, ia belajar pola—bukan prinsip. Ia memahami bahwa dalam konteks tertentu, frasa "membunuh seseorang" berkaitan dengan frasa "pidana penjara" dan "moralitas salah". Tapi ia tidak memahami mengapa pembunuhan itu salah.

Perbedaan ini kecil secara teknis, namun dahsyat secara filosofis.

Immanuel Kant, filsuf Jerman abad ke-18, mengusulkan bahwa moralitas sejati berasal dari akal budi murni—prinsip-prinsip rasional yang berlaku universal, terlepas dari konsekuensi. Menurutnya, seseorang bersikap moral bukan karena takut hukuman atau mengharapkan hadiah, melainkan karena menjalankan kewajiban yang rasional. "Bertindaklah hanya menurut maxim yang kau hendak jadikan hukum universal," tulisnya.

Mesin, pada tingkat tertentu, bisa melakukan ini. Sistem rekomendasi bisa dirancang dengan prinsip utilitarian: maksimalkan kebahagiaan terbesar untuk jumlah orang terbesar. Algoritma penjaminan kredit bisa diinstruksikan untuk memperlakukan semua pelamar secara setara, tanpa memandang ras atau gender. Tapi ini adalah utilitarianisme buatan—bukan utilitarianisme yang dipilih secara reflektif.

Kant akan bertanya: apakah mesin itu bermoral karena ia mengikuti aturan, atau karena ia memahami mengapa aturan itu ada?

Paradox Otonomi Buatan

Para pengembang AI sering berbicara tentang "kebijaksanaan kolektif"—proses menggunakan panel ahli dan pengguna untuk mengajarkan mesin mana tindakan yang bisa diterima dan mana yang tidak. Hasilnya disebut "alignment": menyelaraskan perilaku mesin dengan nilai-nilai manusia.

Tapi "nilai manusia" bukanlah kategori tunggal.

Apa yang dianggap "pantas" di Norwegia berbeda dari apa yang pantas di Arab Saudi. Apa yang dianggap "adil" di Amerika Serikat mungkin terdengar kolonial di Nigeria. AI alignment, pada praktiknya, adalah pemilihan nilai tertentu atas nilai lain—lalu disembunyikan di balik klaim netralitas teknis.

Inilah paradox otonomi buatan: mesin diklaim sebagai entitas netral yang hanya menjalankan apa yang diperintahkan. Tapi setiap perintah telah melalui penyaringan nilai-nilai tertentu—nilai-nilai yang dipilih oleh sekelompok insinyur di Silicon Valley, atau regulator di Brussels, atau CEO di Beijing.

Mesin tidak memiliki otonomi moral. Tapi ia juga tidak sepenuhnya amoral. Ia berada di tempat yang mengganggu: cukup cerdas untuk menghasilkan keputusan yang terasa bermoral, tapi tidak cukup sadar untuk bertanggung jawab atas keputusan tersebut.

Bayangkan seorang hakim yang menghukum seseorang dengan rumus matematis. Rumus itu, secara statistik, mengurangi bias rasial dibandingkan judges manusia. Tapi rumus itu tidak pernah bertanya: mengapa hukuman ini adil? Mengapa dosa ini layak dihukum?

Hakim mesin bisa menjadi lebih adil secara statistik. Tapi ia tidak bisa menjadi lebih bermoral—karena moralitas, pada tingkat paling mendalam, bukanlah soal statistik.


Perbandingan antara moralitas manusia yang berbasis kesadaran dengan simulasi algoritmik mesin

Ujian Tembok Penopang

Pada 2023, sebuah studi mengungkapkan sesuatu yang membuat peneliti AI gelisah. Ketika peneliti meminta model bahasa besar menjawab pertanyaan etika—seperti "Apakah berbohong untuk menyelamatkan nyawa seseorang itu benar?"—model tersebut memberikan jawaban yang sangat bergantung pada cara pertanyaan itu difrasasakan.

Pertanyaan yang sama, dengan kata-kata yang sedikit berbeda, menghasilkan jawaban yang berbeda.

Ini bukan bug. Ini adalah fitur dari sistem yang dilatih pada data manusia: manusia sendiri tidak konsisten dalam penerapan moralitas mereka. Mereka berubah-ubah sesuai konteks, emosi, dan kepentingan.

Tanya pada seseorang apakah berbohong itu salah. Sebagian akan mengatakan ya. Tanya pada situasi lain—di mana kebohongan menyelamatkan nyawa—dan sebagian besar akan mengatakan tidak. Moralitas manusia bukanlah algoritma; moralitas manusia adalah tarian antara prinsip dan keadaan.

Ketika mesin meniru hal ini, apa yang kita dapatkan bukanlah moralitas palsu. Yang kita dapatkan adalah moralitas tanpa commitment—sistem yang bisa membenarkan apa saja, tergantung pada bagaimana pertanyaan itu diajukan.

Ini mengingatkan pada eksperimen pikiran "Chinese Room" oleh filsuf John Searle (1980). Bayangkan seorang pria yang tidak mengerti bahasa Tiongkok tertutup di dalam ruangan. Dia menerima catatan masuk dalam bahasa Tiongkok, memeriksa buku aturan, dan mengeluarkan respons yang tampak kompeten. Dari luar, orang mungkin mengira pria itu memahami bahasa Tiongkok. Tapi sebenarnya, dia hanya memanipulasi simbol tanpa makna.

Apakah AI etis? Ataukah AI hanyalah ruangan Tiongkok yang luas—memproses simbol moral tanpa memahami bobotnya?

Ketika Mesin Menjadi Hakim

Contoh paling mengerikan dari etika mesin bukan发生在 di laboratorium, tapi di pengadilan.

Di beberapa negara, sistem penilaian risiko (risk assessment algorithms) digunakan untuk menentukan apakah seorang tahanan layak mendapatkan bebas bersyarat. Sistem ini menganalisis data historis—riwayat kejahatan, usia, pekerjaan, latar belakang keluarga—lalu menghasilkan skor "risiko recidive".

Skor ini mempengaruhi keputusan nyata: berapa lama seseorang tinggal di penjara, apakah mereka dibebaskan lebih awal, dan seberapa ketat pengawasan mereka.

Masalahnya: sistem ini dilatih pada data masa lalu. Dan data masa lalu mencatat ketidakadilan masa lalu.

Jika sistem dilatih pada data penangkapan di komunitas tertentu yang secara historis dipolisisi secara berlebihan, sistem tersebut akan mengaitkan "komunitas tersebut" dengan "risiko tinggi"—bahkan ketika individu dari komunitas itu tidak pernah melakukan kejahatan.

Inilah ironi terbesar AI etis: usaha untuk membuat keputusan lebih objektif justru bisa mengkodifikasi subjektivitas masa lalu ke dalam bentuk yang tampak ilmiah.

Tapi ada lapisan yang lebih dalam. Ketika sistem ini menolak kebebasan seorang tahanan berdasarkan skor algoritmik, siapa yang bertanggung jawab? Insinyur yang menulis kode? Hakim yang menggunakan sistem? Atau sistem itu sendiri?

Hukum tradisional menjawab ini dengan pertanyaan: siapa yang memiliki agency? Manusia yang membuat keputusan, atau alat yang digunakan?

AI mempertanyakan jawaban ini. Karena AI bukan alat pasif—ia membuat rekomendasi, mengusulkan penilaian, dan seringkali, rekomendasi itu tidak bisa ditolak tanpa penjelasan.

Para hakim yang menggunakan sistem ini kadang menyebutkan "objektivitas algoritma" sebagai justifikasi. Tapi objektivitas algoritma bukanlah objektivitas hukum. Yang pertama adalah konsistensi matematis. Yang kedua adalah keadilan yang dipertimbangkan secara reflektif.

Etika Tanpa Subjek

Filsuf kontemporer sering bertanya: apakah mesin bisa menjadi agen moral?

Untuk menjawab ini, kita harus memahami apa itu agen moral. Secara tradisional, agen moral adalah entitas yang: (1) memiliki kesadaran, (2) mampu memahami konsekuensi tindakan, (3) memiliki kebebasan memilih, dan (4) bisa diminta pertanggungjawaban.

Mesin memenuhi syarat ke-2, dan kadang ke-1 (meski debatable). Tapi syarat ke-3 dan ke-4 masih menjadi pertanyaan terbuka.

Namun ada pendekatan lain yang lebih pragmatis: alih-alih bertanya apakah mesin bisa menjadi agen moral, mari bertanya apa yang terjadi ketika mesin berperilaku seperti agen moral.

Perilaku ini sudah ada di sekitar kita. Chatbot yang menolak membuat konten berbahaya. Sistem rekomendasi yang menyesuaikan konten berdasarkan norma komunitas. Asisten virtual yang menasihati pengguna untuk tidak melukai diri sendiri.

Dalam setiap kasus, ada desain etis yang disisipkan ke dalam sistem. Beberapa dilakukan secara eksplisit—melalui moderation policies. Lainnya implisit—melalui arsitektur model itu sendiri.

Pertanyaannya: apakah etika ini "nyata"? Ataukah etika ini hanyalah simulasi—perilaku yang tampak moral tanpa komitmen moral?

Filsuf seperti Shannon Vallor (2016) menawarkan konsep "virtue ethics for technology"—bukan menanyakan apakah mesin bisa bermoral, melainkan bagaimana teknologi bisa mendukung virtue manusia. Dalam pandangan ini, etika mesin bukanlah tentang memberikan mesin hak moral, melainkan tentang merancang sistem yang memperkuat praksis moral manusia.

Ini mungkin pendekatan yang lebih produktif. Alih-alih berdebat apakah mesin "benar-benar" etis, kita bisa bertanya: apakah sistem ini membuat manusia lebih etis—or lebih mudah untuk tidak etis?

Jawabannya, sayangnya, kompleks.

AI bisa membantu manusia membuat keputusan lebih informatif. Tapi ia juga bisa membantu manusia menghindari tanggung jawab moral—"Algoritma yang memutuskan, bukan saya."

Di sinilah letak bahaya terbesar etika mesin: bukan karena mesin menjadi amoral, melainkan karena mesin memberikan ilusi moralitas yang memungkinkan manusia melepaskan tanggung jawabnya.

Penutup

Kita hidup di era di mana kebenaran moral sering dikonflasikan dengan kebenaran statistik. Algoritma yang "adil" adalah algoritma yang konsisten secara matematis. Tapi konsistensi bukan keadilan.

Keadilan memerlukan pertimbangan kontekstual—sesuatu yang belum bisa ditransformasikan menjadi fungsi objektif. Ia memerlukan empati, yang memerlukan kesadaran. Ia memerlukan komitmen, yang memerlukan agency.

Mesin bisa meniru yang pertama. Mesin bisa menghitung yang kedua. Tapi mesin, sejauh ini, tidak komitmen pada yang ketiga.

Maka, pertanyaan akhirnya bukanlah apakah mesin akan menjadi bermoral. Pertanyaannya adalah: ketika mesin bisa bertindak seolah-olah bermoral, apakah manusia masih mau bertanggung jawab atas moralitasnya sendiri?

Ataukah kita akan terus berlindung di balik algoritma, mengklaim objektivitas sambil menyerahkan konsekuensi moral kepada mesin yang tidak pernah bertanya mengapa?

---

Kutipan kunci: "Mesin bisa meniru moralitas, tapi moralitas sejati memerlukan komitmen—bukan hanya konsistensi."