Etika Kecerdasan Buatan: Kasus Mobil yang Mengemudi Sendiri

Sebuah studi kasus tentang etika Kecerdasan Buatan – mobil self-driving Welmo.

Kecerdasan Buatan, atau hanya AI, selalu menjadi konsep yang menarik (dan sedikit menakutkan). Namun, tidak peduli bagaimana Anda melihatnya, tidak dapat disangkal bahwa AI memainkan peran besar dalam aktivitas kita sehari-hari, meskipun terkadang kita tidak menyadarinya.

Ketika kita memikirkannya, kita berpikir tentang robot dan mobil yang dapat mengemudi sendiri – tetapi itu tetap ada bahkan ketika kita melakukan sesuatu yang sederhana, seperti mencari istilah di Google. Ya, benar – AI sangat terintegrasi dalam banyak produk dari Google, termasuk mesin pencari terkenalnya.

Saat ini, lebih dari 37% dari semua bisnis menggunakan AI dalam satu atau lain cara.

Namun, pengembangan produk berbasis AI lebih dari sekadar teknologi.

Perusahaan juga mengkhawatirkan etika Kecerdasan Buatan – kepedulian terhadap perilaku moral saat mereka merancang, membangun, menggunakan, dan memperlakukan sistem AI. Ada banyak pertanyaan yang sering muncul ketika mengembangkan produk berbasis AI:

Bisakah sistem AI membuat keputusan etis? Masalah apa yang dapat ditimbulkan oleh Kecerdasan Buatan dalam hal perilaku moral? Apakah mungkin untuk mencegah situasi yang tidak etis? Apa yang terjadi ketika sistem AI membuat kesalahan?

Tidak ada jawaban yang mudah untuk pertanyaan-pertanyaan ini. Bahkan, beberapa di antaranya sangat rumit sehingga tidak memiliki jawaban pasti sama sekali. Untuk lebih memahami masalah ini, hari ini kita akan melihat etika kecerdasan buatan dari lensa mobil self-driving Welmo.

Jadi, mari kita selami itu:

Etika Kecerdasan Buatan: Dilema Mobil yang Mengemudi Sendiri

Berawal sebagai Proyek Mobil Self-Driving Google pada tahun 2009 hingga menjadi anak perusahaan yang berdiri sendiri pada bulan Desember 2016, perusahaan pengembangan teknologi Waymo meluncurkan layanan mobil self-driving komersial pertamanya pada bulan Desember 2018.

Pada Oktober 2018, mobil otonom telah menyelesaikan lebih dari 10 juta mil mengemudi di jalan umum, dan 7 miliar mil simulasi yang menakjubkan pada program dunia virtual yang disebut Carcraft.

Namun, meskipun menakjubkan dunia dengan teknologi revolusioner berdasarkan otonomi penuh dengan sensor yang memberikan pandangan 360 derajat dan laser yang mampu mendeteksi objek hingga 300 meter, perusahaan senilai lebih dari $100 miliar ini belum menyelesaikan beberapa masalah penting. tantangan moral .

Untuk menjelaskan tantangan etis ini dalam contoh praktis, mari kita lihat video berjudul Dilema etika mobil self-driving oleh Patrick Lin , dan menganalisisnya dari perspektif Magna Carta:

Etika Kecerdasan Buatan: Dilema etika mobil self-driving (tonton video)

Dalam eksperimen pemikiran ini, Patrick Lin menyajikan kepada kita sebuah kasus praktis di mana sebuah mobil self-driving, dikotak dari semua sisi di jalan, terancam oleh jatuhnya benda berat, dan perlu membuat keputusan penting – berbelok ke kiri ke SUV, berbelok ke kanan ke sepeda motor, atau terus lurus dan tertabrak benda.

Dalam situasi ini, Patrick Lin mengajukan pertanyaan berbasis moral berikut:

Haruskah mobil mengutamakan keselamatan penumpang dengan menabrak sepeda motor, meminimalkan bahaya bagi orang lain dengan tidak membelok (tetapi mempertaruhkan nyawa penumpang), atau menabrak SUV? Apa keputusan yang paling etis dalam kasus ini?

Dalam latihan mental ini, Patrick Lin menyatakan bahwa jika keputusan akan diambil oleh seseorang yang mengemudikan kendaraan biasa secara manual, hal itu dapat ditafsirkan sebagai reaksi impulsif yang didasarkan pada kepanikan daripada keputusan yang sebenarnya.

Namun, dalam kasus di mana kendaraan yang mengemudi sendiri membuat keputusan berdasarkan situasi dan keadaan yang telah diprogram sebelumnya, apakah itu akan dianggap sebagai " pembunuhan yang direncanakan sebelumnya "?

Apakah hasil dari kemungkinan kecelakaan akan ditentukan berbulan-bulan sebelumnya oleh pemrogram? Faktor-faktor apa yang harus diperhitungkan sebelumnya untuk meminimalkan bahaya?

Eksperimen pemikiran yang dilakukan oleh Patrick Lin menyisakan banyak ruang untuk pemahaman, analisis, dan penerapan kecerdasan buatan.

Mempertimbangkan kemungkinan skenario masa depan seperti ini, mari kita lihat tantangan apa yang harus diselesaikan Waymo agar berhasil dengan mobil self-driving-nya.

Keseimbangan Daya & Keputusan Mesin

Tidak diragukan lagi, salah satu tantangan utama bagi Waymo dan perusahaan lain yang mengembangkan teknologi self-driving tetap dalam menentukan keseimbangan daya antara manusia dan mesin – pada titik mana daya harus beralih dari mesin ke manusia, dan dari manusia ke mesin?

Bisakah kita sepenuhnya dan tanpa syarat bergantung pada mereka?

Pada tahap ini teknologi yang masih muncul, mungkin tidak. Ini menjadi lebih jelas ketika melihat kecelakaan Boeing 737 Max baru-baru ini di Ethiopia, di mana sistem MCAS anti-stall secara otomatis memaksa hidung pesawat turun karena pembacaan sensor yang salah, membuat pilot praktis tidak mampu melakukan apa pun untuk memperbaiki kesalahan. kesalahan mesin.

Apakah sistem diberi terlalu banyak kekuatan dan prioritas daripada campur tangan manusia? Meskipun benar bahwa kecerdasan buatan mengurangi kesalahan manusia sampai batas tertentu, itu tidak berarti bahwa kesalahan mesin tidak akan terjadi di beberapa titik proses.

Pilihan pribadi & Polarisasi

Refleksi berikutnya ketika datang ke etika kecerdasan buatan berkaitan dengan pilihan dan polarisasi pribadi.

Ini adalah salah satu aspek terbesar dalam hal Magna Carta – panduan untuk inklusivitas dan keadilan dalam Ekonomi AI Global, yang dipresentasikan oleh pakar Olaf Groth, Mark Nitzberg, dan Mark Esposito.

Panduan ini bertujuan untuk mendukung organisasi dalam mengembangkan strategi AI yang sukses, dengan fokus pada etika Kecerdasan Buatan. Ini menimbulkan pertanyaan besar tentang tingkat pilihan manusia dan inklusi dalam pengembangan AI.

Bagaimana kita akan mengatur dunia baru meritokrasi mesin yang berani ini? Akankah mesin menghilangkan pilihan pribadi?

Sementara pilihan pribadi dan polarisasi adalah beberapa aspek kunci dari Magna Carta, teknologi self-driving mungkin tidak selalu memiliki dampak negatif yang kuat pada orang-orang dan kehidupan mereka sehari-hari.

Jenis teknologi ini dirancang dengan gagasan untuk membuat keputusan yang lebih baik, lebih cepat, dan lebih ramah lingkungan yang pada akhirnya akan menguntungkan semua pengguna layanan ini. Ini mungkin mengurangi pilihan pribadi sampai batas tertentu, tetapi saya tidak berpikir itu akan menghilangkannya sepenuhnya.

Penghakiman, diskriminasi, dan bias

Seperti yang telah kita diskusikan sebelumnya, mesin dengan kecerdasan buatan akan membuat keputusan tentang keselamatan kita yang mungkin membahayakan kesejahteraan orang lain jika mereka sudah diprogram sebelumnya untuk "bereaksi" dengan cara tertentu tergantung pada situasinya.

Seperti yang kita lihat dalam contoh mobil yang terancam oleh benda berat, apakah prioritasnya adalah meminimalkan kerugian secara keseluruhan, atau menyelamatkan pemilik kendaraan yang mengemudi sendiri?

Seperti yang ditanyakan Patrick Lin, apakah Anda akan memilih mobil yang selalu menyelamatkan sebanyak mungkin nyawa dalam suatu kecelakaan, atau mobil yang akan menyelamatkan Anda dengan cara apa pun? Ini hanyalah beberapa pertanyaan yang muncul dalam hal etika Kecerdasan Buatan.

Selain itu, apa yang akan terjadi jika mobil mulai menganalisis data berdasarkan riwayat pribadi programmer, kecenderungan, dan bias yang tidak terlihat? Apakah ada jaminan bahwa keputusan yang dibuat oleh mobil self-driving akan selalu benar-benar objektif, dan siapa yang akan memutuskannya?

Programmer, perusahaan, bahkan mungkin pemerintah? Apa kemungkinan diskriminasi mesin berdasarkan algoritma dan pengenalan pola tertentu? Dalam hal ini, saya pikir teknologi self-driving belum sesuai .

Kesimpulan

Sebagai kesimpulan, saya percaya bahwa kunci untuk menjawab dan menyelesaikan pertanyaan etis ini adalah dengan menyeimbangkan kekuatan antara mesin dan manusia, dan memutuskan sejauh mana mesin (dalam hal ini, mobil self-driving) dapat membuat kehidupan bergantung pada keputusan.

Saya pikir karena teknologi masih baru muncul, manusia harus memiliki kekuatan dan prioritas untuk membuat keputusan berbasis moral sementara mesin berkembang dan menjadi mampu membuat keputusan objektif yang meminimalkan kerugian bagi semua orang.

Apa pendapat Anda tentang etika kecerdasan buatan? Haruskah manusia memerintah atas mesin, mesin atas manusia, atau harus ada keseimbangan yang diperhitungkan dengan baik? Beri tahu saya di komentar di bawah! Jika Anda menyukai artikel ini, Anda mungkin juga menyukai 12 Cara Pembelajaran Mesin Dapat Meningkatkan Pemasaran.