Yapay Zeka Etiği: Kendi Kendini Süren Arabalar Örneği

Yapay Zeka etiği üzerine bir vaka çalışması – Welmo'nun sürücüsüz arabaları.

Yapay Zeka veya basitçe AI, her zaman büyüleyici (ve biraz korkutucu) bir kavram olmuştur. Bununla birlikte, nasıl bakarsanız bakın, bazen fark etmesek bile, AI'nın günlük faaliyetlerimizde büyük bir rol oynadığı inkar edilemez.

Bunu düşündüğümüzde, aklımıza robotlar ve kendi kendine giden arabalar geliyor - ancak Google'da bir terim aramak gibi basit bir şey yaptığımızda bile mevcut. Evet, bu doğru – AI, ünlü arama motoru da dahil olmak üzere Google'ın birçok ürününe derinlemesine entegre edilmiştir.

Bugün, tüm işletmelerin %37'den fazlası şu veya bu şekilde yapay zeka kullanıyor.

Ancak, AI tabanlı ürünlerin geliştirilmesi sadece teknolojinin ötesine geçiyor.

Şirketler aynı zamanda Yapay Zeka etiği hakkında da endişeleniyor – AI sistemlerini tasarlarken, inşa ederken, kullanırken ve tedavi ederken ahlaki davranış endişesi . AI tabanlı ürünler geliştirirken sıklıkla ortaya çıkan birçok soru vardır:

Yapay zeka sistemleri etik kararlar verebilir mi? Yapay Zeka ahlaki davranış açısından ne gibi sorunlara yol açabilir? Etik olmayan durumları önlemek mümkün müdür? Bir yapay zeka sistemi hata yaptığında ne olur?

Bu soruların kolay bir cevabı yok. Aslında, bazıları o kadar karmaşık ki , hiçbir kesin cevapları yok . Bu sorunları daha iyi anlamak için bugün yapay zeka etiğine Welmo'nun sürücüsüz arabalarının merceğinden bakacağız.

Öyleyse, hemen içine dalalım:

Yapay Zeka Etiği: Kendi Kendini Süren Arabalar İkilemi

2009 yılında Google Kendi Kendine Sürüş Araba Projesi olarak başlayan ve 2016 yılının Aralık ayında bağımsız bir yan kuruluş olana kadar, teknoloji geliştirme şirketi Waymo, ilk ticari kendi kendine sürüş araba hizmetini Aralık 2018'de başlattı.

Ekim 2018'e kadar, otonom otomobil, halka açık yollarda 10 milyon milin üzerinde sürüşü ve Carcraft adlı bir sanal dünya programında şaşırtıcı 7 milyar simülasyon milini tamamladı.

Bununla birlikte, 360 derecelik görüş sağlayan sensörler ve 300 metreye kadar uzaktaki nesneleri algılayabilen lazerler ile tam özerkliğe dayalı devrim niteliğinde bir teknoloji ile dünyayı şaşırtmasına rağmen, değeri 100 milyar doları aşan şirket, henüz bazı önemli sorunları çözmedi. ahlaki zorluklar .

Bu etik zorlukları pratik bir örnekle açıklamak için, Patrick Lin'in kendi kendini süren arabaların etik ikilemi adlı bu videoya bir göz atalım ve Magna Carta'nın bakış açısıyla analiz edelim:

Yapay Zeka Etiği: Kendi kendini süren arabaların etik ikilemi (videoyu izleyin)

Bu düşünce deneyinde, Patrick Lin bize, yolun her tarafından kutulanmış kendi kendine giden bir arabanın, ağır bir nesnenin düşmesiyle tehdit edildiği ve önemli bir karar vermesi gerektiği pratik bir vakayı sunar - direksiyonu terk etmek. bir SUV, direksiyonu bir motosiklete çevirin veya düz devam edin ve bir nesneye çarparak.

Bu durumda, Patrick Lin aşağıdaki ahlaki temelli soruyu sorar:

Araba, motosiklete çarparak yolcunun güvenliğine öncelik vermeli mi, yoldan çıkmayarak (ancak yolcunun hayatını riske atarak) başkaları için tehlikeyi en aza indirmeli mi yoksa SUV'a çarpmalı mı? Bu durumda en etik karar ne olurdu?

Bu zihinsel alıştırmada Patrick Lin, kararın normal bir aracı manuel olarak kullanan bir kişi tarafından alınması durumunda, bunun gerçek bir karardan ziyade panik temelli, dürtüsel bir tepki olarak yorumlanabileceğini belirtiyor.

Ancak, sürücüsüz bir aracın önceden programlanmış durumlara ve koşullara göre bir karar vermesi durumunda, bu “ önceden düşünülmüş bir cinayet ” olarak kabul edilir mi?

Olası kazaların sonuçları programcılar tarafından aylar öncesinden belirlenecek mi? Zararı en aza indirmek için önceden hangi faktörler dikkate alınmalıdır?

Patrick Lin tarafından yürütülen düşünce deneyi, yapay zekanın anlaşılması, analizi ve uygulanması için çok fazla alan bırakıyor.

Bunun gibi olası gelecek senaryolarını göz önünde bulundurarak, kendi kendini süren arabalarıyla başarılı olmak için Waymo'nun çözmesi gereken zorluklara bir göz atalım.

Güç Dengesi ve Makine Kararları

Kuşkusuz, Waymo ve kendi kendine sürüş teknolojisi geliştiren diğer şirketler için ana zorluklardan biri, insanlar ve makineler arasındaki güç dengesini belirlemek olmaya devam ediyor - güç hangi noktada makinelerden insanlara ve insanlardan makinelere geçmeli?

Onlara tamamen ve koşulsuz olarak bağımlı olabilir miyiz ?

Henüz gelişmekte olan bir teknolojinin bu aşamasında, muhtemelen değil. Bu, Boeing 737 Max'in Etiyopya'daki son kazasına bakıldığında daha da netleşiyor; burada durma önleyici MCAS sistemi, yanlış sensör okumaları nedeniyle uçağın burnunu otomatik olarak aşağı indiriyor ve pilotları düzeltmek için neredeyse hiçbir şey yapamıyor. makinenin hatası.

Sisteme insan müdahalesine göre çok fazla güç ve öncelik mi verildi? Yapay zekanın insan hatasını büyük ölçüde azalttığı doğru olsa da, sürecin bir noktasında makine hatası olmayacağı anlamına gelmez.

Kişisel seçim ve Polarizasyon

Yapay zeka etiği söz konusu olduğunda bir sonraki yansıma, kişisel seçim ve kutuplaşma ile ilgilidir.

Uzmanlar Olaf Groth, Mark Nitzberg ve Mark Esposito tarafından sunulan, Küresel Yapay Zeka Ekonomisinde kapsayıcılık ve adalet için bir rehber olan Magna Carta söz konusu olduğunda en büyük yönlerden biridir.

Bu kılavuzun amacı, Yapay Zeka etiğine odaklanarak başarılı bir AI stratejisi geliştirmede kuruluşları desteklemektir. İnsan seçiminin derecesi ve AI gelişimine dahil edilmesi hakkında önemli soruları gündeme getiriyor.

Makine meritokrasisinin bu cesur yeni dünyasını nasıl yöneteceğiz? Makineler kişisel tercihi ortadan kaldıracak mı?

Kişisel seçim ve kutuplaşma Magna Carta'nın kilit yönlerinden bazıları olsa da, kendi kendine sürüş teknolojisinin insanlar ve günlük yaşamları üzerinde mutlaka güçlü bir olumsuz etkisi olmayabilir.

Bu teknoloji türü, bu hizmetin neredeyse tüm kullanıcılarına fayda sağlayacak daha iyi, daha hızlı ve daha çevre dostu kararlar alma fikriyle tasarlanmıştır. Kişisel tercihi bir dereceye kadar azaltabilir ama tamamen ortadan kaldıracağını düşünmüyorum.

Yargılamalar, ayrımcılık ve önyargı

Daha önce tartıştığımız gibi, yapay zekaya sahip makineler, duruma bağlı olarak belirli bir şekilde “tepki vermek” üzere önceden programlanmışlarsa, güvenliğimiz hakkında başkalarının refahını tehlikeye atabilecek kararlar alacaktır .

Arabanın ağır bir nesne tarafından tehdit edilmesi örneğinde gördüğümüz gibi, öncelik genel zararı en aza indirmek mi yoksa sürücüsüz aracın sahibini kurtarmak mı?

Patrick Lin'in sorduğu gibi, bir kazada her zaman mümkün olduğunca çok hayat kurtaran bir araba mı seçerdiniz yoksa ne pahasına olursa olsun sizi kurtaracak bir araba mı seçerdiniz? Bunlar Yapay Zeka etiği söz konusu olduğunda ortaya çıkan sorulardan sadece birkaçı.

Ayrıca, araba bir programcının kişisel geçmişine, yatkınlığına ve görünmeyen önyargılarına dayalı olarak verileri analiz etmeye başlarsa ne olur? Kendi kendini süren arabaların verdiği kararların her zaman tamamen objektif olacağının garantisi var mı ve bunlara kim karar verecek?

Programcılar, şirketler, hatta hükümetler? Algoritmalara ve belirli örüntü tanımaya dayalı makine ayrımcılığı olasılığı nedir? Bu durumda, kendi kendine sürüş teknolojisinin henüz uyumlu olmadığını düşünüyorum .

Çözüm

Sonuç olarak, bu etik soruları yanıtlamanın ve çözmenin anahtarının, makineler ve insanlar arasındaki gücü dengelemek ve makinelerin (bu durumda, kendi kendini süren arabaların) ne ölçüde hayata bağlı hale getirebileceğine karar vermek olduğuna inanıyorum. kararlar.

Teknolojinin henüz yeni ortaya çıkmasından dolayı, makineler evrimleşirken ve herkes için zararı en aza indiren nesnel kararlar alabilecek hale gelirken, insanların ahlaki temelli kararlar verme gücüne ve önceliğine sahip olması gerektiğini düşünüyorum.

Yapay zeka etiği hakkında ne düşünüyorsunuz? İnsanlar makinelere, makineler insanlara hükmetmeli mi yoksa iyi hesaplanmış bir denge mi olmalı? Aşağıdaki yorumlarda bana bildirin! Bu makaleyi beğendiyseniz, Makine Öğreniminin Pazarlamayı İyileştirebileceği 12 Yol da hoşunuza gidebilir.