Потенциальные юридические проблемы ИИ (и почему вас это должно волновать)

У нас были большие мечты об искусственном интеллекте в течение многих лет. От The Jetsons, показывающих нам язвительных робо-горничных, до роботов, мечтающих об электрических овцах, до более реалистичных обещаний диагностики роботов в больницах , мы уже некоторое время слышим о реалистичном ИИ, который действительно полезен для людей.

По мере того, как мы приближаемся к эпохе, когда мы видим все больше и больше ИИ в нашей повседневной жизни, мы должны начать изучать юридические последствия этих новых технологий. Будет ли ИИ активом или пассивом? Давайте посмотрим на некоторые проблемы, которые уже находятся в процессе создания.

Подождите, что такое ИИ?

Готовы ли роботы захватить мир? Это Сири? Это военные боты? Это Том Серво и Кроу?

Спорим, ты думал, что я слишком молод для этой шутки, а? Шутки над вами, это шоу на Netflix!

ИИ или искусственный интеллект — это способность машины быть «умной». Если это звучит очень широко, это потому, что это так. У нас уже есть машины, которые мы считаем «умными» за их способность делать выбор и оценивать ситуации с помощью сложного программирования.

Концепцию ИИ часто отождествляют с машинным обучением , когда машины могут опираться на свои исходные программы и «учиться». На самом деле я объединяю эти два термина в этой статье, просто чтобы облегчить жизнь моим читателям.

В свою защиту, по крайней мере, я намеренно.

Если ИИ и машинное обучение позволяют роботам и компьютерным программам быть умными, обучаться, расти и изменять существ, в какой момент мы считаем их достаточно осведомленными, чтобы подслушивать, выступать в качестве «свидетеля» или иметь собственные права?

Алекса вызвана в суд

Мы все делали ставки на то, сколько времени потребуется, чтобы это произошло, не так ли? Продолжающийся судебный процесс вызвал Алексу, имя по умолчанию, данное помощнице по дому Amazon Echo, на трибуну.

Ну ладно, не буквально. Но данные Amazon Echo были вызваны в суд для расследования убийства . Мысль в том, что если Алекса слушает, возможно, она слышала (и записала) настоящее убийство. Доказательства так же хороши, как камера наблюдения, и лучше, чем свидетели в доказательстве преступления, если только Amazon раскошелится на разведданные.

Неудивительно, что Amazon не был в восторге от прецедента, созданного конфискацией записанной информации Alexa. Поэтому они оспаривают ордер , утверждая, что общение с устройством квалифицируется как защищенная речь, и передача записей создаст прецедент, который может привести к нарушению конфиденциальности пользователей Echo.

И Алекса слушает, если вам интересно, что я имею в виду. Alexa — это командное слово, данное Amazon Echo и Echo Dot. После команды Эхо берет все, что было сказано, и следует данному запросу. Но чтобы услышать командное слово, в первую очередь необходимо включить прослушивание микрофона. Amazon уверяет пользователей, что в облачное хранилище отправляются только командные фразы, но это все же дает нам понять, что Алекса всегда ждет своего имени.

Другими словами, Алекса всегда слушает , но ее имя заставляет обратить на нее внимание . Что немного жутковато, если подумать, особенно зная, что это пассивное слушание может позволить Алексе подслушать убийство.

Он слышит вас, когда вы спите

Итак, если Amazon Echo всегда, всегда слушает, что это значит для конфиденциальности? Согласно Amazon, Echo не сохраняет и не хранит никакой информации , которая не была передана вместе с триггерным словом «Alexa». Тем не менее, если эхо включено, у него есть возможность прослушивания, способность, которую потенциально можно включить позже.

Насколько вы доверяете этому обещанию, напрямую зависит от того, насколько вы доверяете Amazon. Когда они говорят, что хотят защитить общение пользователя с Alexa, хотят ли они защитить его ради пользователя или ради себя?

Это одна из самых больших опасений многих людей в связи с распространением Интернета вещей . По сути, «IoT» — это система физических объектов, которые связаны друг с другом, а также с Интернетом, и могут взаимодействовать с пользователями способом, который мы считаем «умным». Некоторые люди считают взаимосвязь великолепной, в то время как другие считают, что технология прыгает через акулу и вторгается в частную жизнь человека.

И некоторые люди просто очень, очень ненавидят IoT (нецензурная лексика в ссылке). Что справедливо, учитывая, что развитие Интернета вещей увеличивает количество предметов в вашем доме, которые отслеживают, хранят и сохраняют ваши данные до тех пор, пока либо их материнские компании не получат прибыль, либо скучающий хакер не решит запустить Doom на вашем холодильнике .

Но как насчет Алексы? Разве она не имеет права голоса во всем этом? Ответ: может быть.

Неловкий момент Айзека Азимова

Если вы такой же мега-ботаник, как я, вы, вероятно, уже знакомы с тремя законами робототехники писателя-фантаста Айзека Азимова. Если нет (или если вы хотите освежить свои знания, не опускаясь до Google), правила следующие:

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
2. Робот должен подчиняться приказам, отдаваемым ему людьми, за исключением случаев, когда такие приказы противоречат Первому закону.
3. Робот должен защищать свое существование до тех пор, пока такая защита не противоречит Первому или Второму законам.

Эти «законы» взяты из одного из рассказов Азимова и составляют основу большинства конфликтов в его произведениях. В своей простоте и элегантности законы использовались и на них ссылались настоящие разработчики робототехники, что чертовски круто.

Легко составить законы для программирования программного обеспечения, что на самом деле является всеми законами Азимова, но все быстро становится беспорядочным, когда это программное обеспечение начинает взаимодействовать с людьми. Итак, вот вопрос: как заставить роботов следовать этим правилам, если они обретут свободу воли?

Большой прыжок? Не совсем. Этот конкретный конфликт является концепцией многих работ Азимова, а также многих произведений научной фантастики в целом. Но на самом деле, как правовая система подойдет к гуманности ИИ?

По крайней мере, один инсценированный суд уже задал этот вопрос.

В 2004 году в Сан-Франциско был проведен инсценированный судебный процесс, чтобы определить судьбу BINA48, вымышленного ИИ, принадлежащего вымышленной компании, который мог или не мог успешно обрести сознание. В этом случае робот, который выполнял работу 1000 агентов по обслуживанию клиентов, узнал из переписки компании, что его нужно отключить. Программа обратилась к адвокату с просьбой о юридической помощи в предотвращении его «смерти».

Хотя концепция кажется футуристической, кто сказал, что законодательство, необходимое для такого случая, еще не существует? В этом случае в действие вступили законы, касающиеся прав пациентов, поддерживающих жизнь, что является интересным напоминанием о разнообразии ситуаций, которые, казалось бы, законами номинальной стоимости, возможно, когда-нибудь должны будут охватывать законы.

Некоторые публикации дошли до того, что предположили, что судебные дела, связанные с ИИ, могут быстро стать вопросом гражданских прав .

В общем, это вопрос будущего. Тем не менее, права и обязанности ИИ — это то, о чем следует подумать, прежде чем они станут проблемой.

Какие юридические проблемы с ИИ вы предвидите?

Вы беспокоитесь о правах на Siri и Alexa и будущие программы, подобные им? Или вы думаете, что они просто электронные шпионы для своих материнских компаний? Может быть, вы просто взволнованы доказательствами, которые они могут помочь собрать будущим юристам. Каким бы ни был ответ, ясно, что искусственный интеллект сопряжен с множеством неотъемлемых юридических проблем.

Скажите мне, что вы думаете в комментариях ниже. Подпишитесь на мой список рассылки, чтобы получать больше новостей и обзоров в области юридических технологий, и ознакомьтесь с этими статьями, чтобы узнать больше, например:

• 15 лучших статистических данных о юридическом маркетинге за 2017 год Подробнее о будущем юридических технологий

• Приложения для юридических консультаций: полезные инструменты или чат-зомби? Чтобы прочитать об ИИ в действии

• Почему цифровые подписи должны использоваться в каждом юридическом отделе Если вам интересно, как еще технологии могут помочь вашей фирме