by

Algoritma Moral

 

Oleh : Hilman Fajrian

Waktu SMP dulu guru BP saya pernah memberi tugas untuk menjawab pertanyaan ini: siapakah yang menurutmu harus didahulukan di jalan raya? Ambulan yang membawa orang sakit, mobil pemadam kebakaran yang hendak memadamkan api, atau mobil jenazah?
Tidak ada jawaban salah-benar atas pertanyaan di atas kecuali untuk mengetahui aspek psikologis siswa berdasarkan prioritas yang dia ambil.

Sebagai orang dewasa yang berkendara, sebenarnya kita selalu dihadapkan pada pilihan moral yang jauh lebih berat: siapa yang akan hidup ketika kendaraan kita berada 1 detik sebelum celaka?
Tidak ada konsensus moral dalam hal ini, seperti kita mesti mengorbankan diri sendiri ketimbang membiarkan 3 pejalan kaki mati tertabrak, misalnya. Atau, haruskah anda membiarkan mobil yang membawa sepuluh narapidana masuk jurang untuk menghindari sepuluh anak SD yang sedang menyeberang jalan?
Sebagai pembaca tulisan ini anda mungkin bisa menjawabnya. Tapi bagaimana bila anda yang di dalam mobil atau anak anda yang sedang menyeberang?

Masalah konsensus moral soal hidup-mati seperti di atas tidak akan pernah selesai. Namun ketika keputusan hidup-mati itu diserahkan eksekusinya kepada mesin, manusia mesti memiliki konsensus. Karena konsensus itu akan diterjemahkan ke dalam alogaritma pemprograman. Dan ini sedang terjadi pada mobil autonomous — mobil autopilot yang bisa mengemudi sendiri seperti Tesla. Dengan kata lain, anda akan menumpang sebuah mobil yang akan memutuskan memprioritaskan nyawa anda sebagai pemilik/penumpang ketimbang nyawa orang lain, atau sebaliknya.

Mesin yang memegang keputusan siapa yang harus hidup dan mati, apakah ini terdengar bagus bagi anda?**

Sumber : Facebook Hilman Fajrian

Comment

Leave a Reply

Your email address will not be published. Required fields are marked *

News Feed