Mesin yang Pandai Bernalar, Manusia yang Harus Bijak Memutuskan

Pada suatu pagi, sebuah pembaruan datang ke meja kerja kami. Model kecerdasan buatan yang kami pakai untuk menyiapkan bahan publikasi tiba-tiba naik kelas: ia bernalar lebih runtut, menulis kode lebih rapi, menjawab pertanyaan rumit dengan kesabaran yang dulu tidak ia punya. Tim saya gembira. Tetapi menjelang sore, kegembiraan itu berganti kerepotan. Separuh perintah yang kemarin berjalan mulus harus ditulis ulang. Alur kerja yang dulu bisa kami tinggal jalan sendiri kini menuntut seseorang duduk memeriksa setiap keluaran sebelum ia layak dikirim. Mesin menjadi lebih pintar; pekerjaan kami menjadi lebih banyak.

Ada paradoks kecil yang sering luput kita sadari di tengah riuh berita tentang kecerdasan buatan. Kita membayangkan bahwa setiap kali mesin bertambah cerdas, beban manusia berkurang. Kenyataannya kerap sebaliknya. Peningkatan kemampuan dalam menalar dan mengodekan memang nyata. Tetapi ongkos untuk memakainya dengan aman, di dalam alur kerja yang berjalan otomatis tanpa pengawasan terus-menerus, justru meninggi. Semakin canggih alatnya, semakin tinggi pula taruhan bila ia keliru, dan semakin perlu tangan manusia yang waspada di ujungnya.

Kecerdasan bukan tanggung jawab

Di sinilah letak salah paham yang paling halus. Kita kerap menyamakan kemampuan dengan kelayakan, seakan sesuatu yang bisa dikerjakan mesin otomatis pula boleh diserahkan kepada mesin. Padahal kecerdasan dan tanggung jawab tinggal di dua kamar yang berbeda. Sebuah model bisa menyusun argumen hukum yang rapi, tetapi ia tidak bisa berdiri di hadapan majelis untuk mempertanggungjawabkannya. Ia bisa merancang sebuah surat keputusan, tetapi bukan namanya yang tercantum di kolom tanda tangan.

Ia bisa menalar; ia tidak bisa menanggung.

Godaan otomasi selalu sama bunyinya: serahkan saja yang merepotkan kepada mesin, supaya kita bebas mengurus yang penting. Bunyinya masuk akal, sampai kita sadar bahwa yang kita sebut "merepotkan" itu sering kali justru tempat pertimbangan manusia paling dibutuhkan. Memeriksa apakah sebuah data layak dipublikasikan, menimbang apakah sebuah kalimat dapat melukai, memutuskan apakah sebuah putusan adil: semua itu repot justru karena ia menuntut nurani, bukan sekadar nalar. Mengotomasi kerepotan semacam itu bukanlah efisiensi. Ia adalah pelarian dari tanggung jawab yang dibungkus rapi sebagai kemajuan.

Yang tak bisa dipindahtangankan

Maka ada satu hal yang, seberapa pun cerdasnya mesin, tetap tidak bisa dipindahtangankan: kesediaan untuk menanggung akibat. Dalam pekerjaan kelembagaan, kepercayaan publik tidak dibangun oleh keluaran yang cepat, melainkan oleh adanya seseorang yang berani berkata, "Ini hasil kerja kami, dan saya yang bertanggung jawab atasnya." Mesin bisa membantu kita berpikir lebih cepat, lebih luas, kadang lebih teliti. Tetapi ia tidak bisa menggantikan momen ketika seorang manusia membaca ulang hasil itu, menimbangnya dengan pengetahuan tentang orang-orang yang akan terdampak, lalu memutuskan untuk memikulnya.

Ironisnya, justru mesin yang paling pintar yang paling menuntut kewaspadaan. Alat sederhana yang sering salah membuat kita tetap berjaga. Alat canggih yang hampir selalu benar membujuk kita untuk lengah, dan kelengahan di hadapan sistem yang sesekali keliru jauh lebih mahal daripada di hadapan sistem yang sering keliru. Kita berhenti memeriksa persis pada saat pemeriksaan itu paling menentukan.

Tentu, ini bukan alasan untuk menolak kecerdasan buatan. Menolak alat yang baik karena takut menyalahgunakannya adalah bentuk lain dari kemalasan moral. Yang dituntut dari kita bukan penolakan, melainkan kedewasaan dalam memakai: memperlakukan AI sebagai penguat pertimbangan manusia, bukan penggantinya. Membiarkan ia mengerjakan yang mekanis, sambil menjaga ketat bahwa segala yang menyangkut keadilan, martabat, dan kepercayaan tetap melewati nurani manusia sebelum sampai ke publik.

Pada akhirnya, semakin pandai mesin kita bernalar, semakin penting kita ingat untuk apa kita bernalar. Teknologi sanggup memperpanjang jangkauan akal kita, tetapi ia tidak bisa memutuskan ke arah mana akal itu sebaiknya melangkah. Beban itu — beban memilih, menimbang, dan menanggung — tidak pernah benar-benar bisa diotomasi. Dan barangkali memang tidak seharusnya. Sebab di situlah, di ruang sempit antara apa yang bisa kita lakukan dan apa yang layak kita lakukan, kemanusiaan kita masih punya rumah.