Potensi Masalah Hukum AI (Dan Mengapa Anda Harus Peduli)

Kami memiliki mimpi besar untuk kecerdasan buatan selama bertahun-tahun. Dari The Jetsons yang menunjukkan kepada kami robo-maids yang snarky hingga robot yang memimpikan domba listrik, hingga janji diagnostik robot yang lebih realistis di rumah sakit , kami telah mendengar tentang AI realistis yang benar-benar berguna bagi manusia selama beberapa waktu.

Saat kita memasuki era di mana kita melihat semakin banyak AI dalam kehidupan kita sehari-hari, kita harus mulai melihat implikasi hukum dari teknologi baru ini. Apakah AI akan menjadi aset atau kewajiban? Mari kita lihat beberapa masalah yang sudah dibuat.

Tunggu dulu, apa itu AI?

Apakah robot siap untuk mengambil alih dunia? Apakah itu Siri? Apakah itu bot militer? Apakah itu Tom Servo dan Crow?

Taruhan Anda pikir saya terlalu muda untuk lelucon ini, ya? Lelucon tentang Anda, acara ini ada di Netflix!

AI, atau kecerdasan buatan, adalah kemampuan mesin untuk menjadi "pintar." Jika itu terdengar sangat luas, itu karena memang begitu. Kami sudah memiliki mesin yang kami anggap "pintar" karena kemampuannya untuk membuat pilihan dan mengevaluasi situasi menggunakan pemrograman yang canggih.

Konsep AI sering digabungkan dengan pembelajaran mesin , yaitu ketika mesin dapat membangun di atas pemrograman aslinya dan "belajar." Saya sebenarnya menggabungkan kedua istilah ini dalam artikel ini, hanya untuk membuat hidup lebih mudah bagi pembaca saya.

Dalam pembelaan saya, setidaknya saya sengaja.

Jika AI dan pembelajaran mesin memungkinkan robot dan program komputer menjadi pintar, belajar, tumbuh, dan mengubah makhluk, pada titik mana kita menganggap mereka cukup sadar untuk menguping, tampil sebagai "saksi", atau memiliki hak mereka sendiri?

Panggilan Alexa

Kita semua bertaruh berapa lama waktu yang dibutuhkan untuk hal ini terjadi, bukan? Kasus pengadilan yang sedang berlangsung telah memanggil Alexa, nama default yang diberikan kepada asisten rumah tangga Amazon Echo, ke pengadilan.

Yah, oke, tidak secara harfiah. Tetapi data dari Amazon Echo dipanggil dalam penyelidikan pembunuhan . Pikirannya adalah, jika Alexa mendengarkan, mungkin dia mendengar (dan merekam) pembunuhan yang sebenarnya. Barang bukti sebagus kamera keamanan dan lebih baik dari saksi manusia dalam membuktikan kejahatan, jika saja Amazon mau membayar intel.

Tidak mengherankan, Amazon tidak senang dengan preseden yang dibuat oleh penyitaan informasi yang direkam Alexa. Jadi mereka melawan surat perintah , menyatakan bahwa komunikasi dengan perangkat memenuhi syarat sebagai ucapan yang dilindungi, dan menyerahkan rekaman akan menjadi preseden yang dapat menyebabkan pelanggaran privasi bagi pengguna Echo.

Dan Alexa mendengarkan, kalau-kalau Anda bertanya-tanya apa yang saya maksud. Alexa adalah kata perintah yang diberikan kepada Amazon Echo dan Echo Dot. Setelah perintah, Echo mengambil apa pun yang dikatakan dan mengikuti permintaan yang diberikan. Tapi untuk mendengar kata perintah di tempat pertama, mikrofon mendengarkan harus dihidupkan. Amazon meyakinkan pengguna bahwa hanya frasa perintah yang dikirim ke penyimpanan cloud, tetapi itu tetap memberi tahu kami bahwa Alexa selalu menunggu namanya.

Dengan kata lain, Alexa selalu mendengarkan , tetapi namanya membuat dia memperhatikan . Yang agak menakutkan ketika Anda memikirkannya, terutama mengetahui bahwa mendengarkan pasif mungkin memungkinkan Alexa untuk mendengar pembunuhan.

Itu Mendengar Anda Saat Anda Tidur

Jadi jika Amazon Echo selalu, selalu mendengarkan, apa artinya privasi? Menurut Amazon, Echo tidak menyimpan atau menyimpan informasi apa pun yang tidak disampaikan bersama dengan kata pemicu "Alexa." Namun, jika Echo aktif, ia memiliki kemampuan untuk mendengarkan, kemampuan yang berpotensi diaktifkan di kemudian hari.

Seberapa besar Anda memercayai janji ini secara langsung berkaitan dengan seberapa besar Anda memercayai Amazon. Ketika mereka mengatakan ingin melindungi komunikasi yang dimiliki pengguna dengan Alexa, apakah mereka ingin melindunginya demi pengguna, atau untuk mereka sendiri?

Ini adalah salah satu kekhawatiran terbesar banyak orang tentang munculnya Internet of Things . Intinya, "IoT" adalah sistem objek fisik yang terhubung satu sama lain serta internet, dan dapat berinteraksi dengan pengguna dengan cara yang kami anggap "pintar". Beberapa orang menganggap interkoneksi itu hebat, sementara yang lain melihatnya sebagai teknologi yang melompati hiu dan menyerang privasi manusia.

Dan beberapa orang benar-benar membenci IoT (bahasa yang kuat di tautan). Yang adil, mengingat kebangkitan IoT meningkatkan jumlah item di rumah Anda yang melacak, menyimpan, dan menyimpan data Anda sampai perusahaan induknya mendapat untung atau peretas yang bosan memutuskan untuk menjalankan Doom di lemari es Anda .

Tapi bagaimana dengan Alexa? Apakah dia tidak mendapatkan suara dalam semua ini? Jawabannya mungkin.

Momen Isaac Asimov yang Canggung

Jika Anda seorang mega-nerd seperti saya, Anda mungkin sudah akrab dengan tiga hukum robotika karya penulis fiksi ilmiah Isaac Asimov. Jika tidak (atau jika Anda ingin penyegaran tanpa membungkuk ke Google), aturannya adalah sebagai berikut:

1. Robot tidak boleh melukai manusia atau, melalui kelambanan, membiarkan manusia terluka.
2. Robot harus mematuhi perintah yang diberikan oleh manusia kecuali jika perintah tersebut bertentangan dengan Hukum Pertama.
3. Robot harus melindungi keberadaannya sendiri selama perlindungan tersebut tidak bertentangan dengan Hukum Pertama atau Kedua

"Hukum" ini berasal dari salah satu cerita pendek Asimov, dan menjadi dasar dari banyak konflik dalam karyanya. Dalam keanggunannya yang sederhana, undang-undang tersebut sebenarnya telah digunakan dan direferensikan oleh desainer robotika kehidupan nyata, yang sangat keren.

Sangat mudah untuk membuat undang-undang untuk pemrograman perangkat lunak, yang sebenarnya adalah semua hukum Asimov, tetapi segalanya dengan cepat menjadi berantakan ketika perangkat lunak itu mulai berinteraksi dengan orang-orang. Jadi, inilah pertanyaannya: bagaimana kita membuat robot mengikuti aturan ini jika mereka mendapatkan kehendak bebas?

Lompatan besar? Tidak terlalu. Konflik khusus ini adalah konsep di balik banyak karya Asimov, bersama dengan banyak penulisan fiksi ilmiah pada umumnya. Tapi sungguh, bagaimana sistem hukum akan mendekati kemanusiaan AI?

Setidaknya satu percobaan tiruan telah mengajukan pertanyaan.

Pada tahun 2004, percobaan tiruan diadakan di San Francisco untuk menentukan nasib BINA48, AI fiksi yang dimiliki oleh perusahaan fiksi, yang mungkin atau mungkin tidak berhasil mendapatkan kesadaran. Dalam kasus tersebut, robot yang melakukan pekerjaan 1.000 agen layanan pelanggan telah menemukan melalui korespondensi perusahaan bahwa itu akan ditutup. Program tersebut menjangkau seorang pengacara, meminta bantuan hukum untuk mencegah "kematiannya".

Sementara konsepnya terasa futuristik, siapa yang mengatakan bahwa undang-undang yang diperlukan untuk kasus seperti itu belum ada? Dalam kasus ini, undang-undang tentang hak-hak pasien pendukung kehidupan ikut bermain, sebuah pengingat yang menarik pada berbagai situasi yang tampaknya perlu dicakup oleh undang-undang nilai nominal suatu hari nanti.

Beberapa publikasi telah melangkah lebih jauh dengan menyarankan bahwa kasus pengadilan yang berpusat pada AI dapat dengan cepat menjadi masalah hak-hak sipil .

Semua mengatakan, ini masih menjadi masalah untuk masa depan. Namun demikian, hak dan tanggung jawab AI adalah sesuatu yang harus dipikirkan sebelum menjadi masalah.

Masalah hukum AI apa yang Anda ramalkan?

Apakah Anda khawatir tentang hak untuk Siri dan Alexa dan program masa depan seperti mereka? Atau apakah Anda pikir mereka hanya mata-mata elektronik untuk perusahaan induk mereka? Mungkin Anda hanya senang dengan bukti yang dapat mereka bantu untuk dikumpulkan oleh pengacara masa depan. Apa pun jawabannya, jelas bahwa kecerdasan buatan datang dengan banyak masalah hukum yang melekat.

Katakan apa yang Anda pikirkan di komentar di bawah. Berlangganan ke milis saya untuk lebih banyak berita dan ulasan teknologi hukum, dan lihat artikel ini untuk lebih banyak konten seperti ini:

• 15 Statistik Pemasaran Hukum Teratas untuk 2017 Untuk informasi lebih lanjut tentang masa depan teknologi hukum

• Aplikasi Nasihat Hukum: Alat Berguna atau Zombie Kotak Obrolan? Untuk membaca tentang AI beraksi

• Mengapa Tanda Tangan Digital Harus Digunakan Di Setiap Departemen Hukum Jika Anda bertanya-tanya bagaimana lagi teknologi dapat membantu perusahaan Anda?