AI의 잠재적인 법적 문제(그리고 관심을 가져야 하는 이유)

우리는 수년 동안 인공 지능에 대한 큰 꿈을 가지고 있었습니다. 으스스한 로봇 메이드를 보여주는 Jetsons부터 전기양을 꿈꾸는 로봇에 이르기까지, 병원에서 로봇 진단 의 보다 현실적인 약속에 이르기까지 우리는 인간에게 진정으로 유용한 현실적인 AI에 대해 한동안 들어왔습니다.

우리가 일상 생활에서 점점 더 많은 AI를 보는 시대로 이동함에 따라 우리는 이러한 새로운 기술의 법적 의미를 조사하기 시작해야 합니다. AI는 자산이 될 것인가, 부채가 될 것인가? 이미 진행 중인 몇 가지 문제를 살펴보겠습니다.

잠깐, AI가 뭐야?

로봇이 세계를 장악할 준비가 되었습니까? 시리야? 군용 봇인가요? 톰 서보와 크로우인가?

이 농담을 하기엔 내가 너무 어리다고 생각했겠죠? 농담입니다. 이 쇼는 Netflix에 있습니다!

AI 또는 인공 지능은 기계가 "스마트"해지는 능력입니다. 그것이 매우 광범위하게 들린다면, 그것은 때문입니다. 우리는 정교한 프로그래밍을 사용하여 선택하고 상황을 평가하는 능력 때문에 "스마트"하다고 생각하는 기계를 이미 가지고 있습니다.

AI의 개념 은 종종 기계가 원래 프로그래밍을 기반으로 구축하고 "학습"할 수 있는 기계 학습과 혼동됩니다 . 나는 독자들의 삶을 더 쉽게 만들기 위해 이 기사에서 이 두 용어를 혼합하고 있습니다.

변호를 하자면 적어도 저는 의도적입니다.

AI와 기계 학습을 통해 로봇과 컴퓨터 프로그램이 영리하고, 학습하고, 성장하고, 동물을 변화시킬 수 있다면 어느 시점에서 로봇과 컴퓨터 프로그램이 도청하거나 "증인"으로 수행하거나 스스로 권리를 가질 수 있을 만큼 충분히 인식한다고 생각합니까?

알렉사 소환

우리는 모두 이런 일이 발생하는 데 얼마나 걸릴지에 대해 내기를 걸고 있었습니다. 그렇지 않습니까? 진행중인 법원 사건은 Amazon Echo 가사 도우미에게 주어진 기본 이름 인 Alexa를 스탠드에 호출했습니다.

글쎄요, 문자 그대로는 아닙니다. 그러나 Amazon Echo의 데이터는 살인 수사에 소환되었습니다 . Alexa가 듣고 있다면 아마도 실제 살인을 듣고 녹음했을 것입니다. 증거는 방범카메라 못지않게 좋고, 범죄를 증명하는 사람의 목격자보다 낫습니다. 아마존이 인텔을 훔쳐가기만 하면 말이죠.

당연히 Amazon은 Alexa의 기록 정보를 압수한 선례에 대해 기뻐하지 않았습니다. 그래서 그들은 장치와의 통신이 보호된 연설에 해당하며 녹음을 포기하는 것은 Echo 사용자의 개인 정보를 침해할 수 있는 선례가 될 수 있다고 진술하면서 영장과 싸우고 있습니다.

그리고 Alexa는 내 말을 듣고 있습니다. Alexa는 Amazon Echo와 Echo Dot에 부여된 명령어입니다. 명령 후에 Echo는 말한 모든 것을 취하고 주어진 요청을 따릅니다. 하지만 먼저 명령어를 들으려면 마이크 리스닝이 켜져 있어야 합니다. Amazon은 사용자에게 명령 구문만 클라우드 스토리지로 전송된다고 보장하지만 Alexa가 항상 그녀의 이름을 기다리고 있음을 알려줍니다.

즉, Alexa는 항상 듣고 있지만 그녀의 이름은 그녀 를 주목 하게 만듭니다. 당신이 그것에 대해 생각할 때 일종의 으스스한 것입니다. 특히 수동적인 듣기가 Alexa가 살인을 엿듣게 할 수 있다는 것을 알고 있습니다.

당신이 자고있을 때 당신을 듣습니다

Amazon Echo가 항상, 항상 듣고 있다면 개인 정보 보호에 어떤 의미가 있습니까? Amazon에 따르면 Echo는 트리거 단어 "Alexa"와 함께 중계되지 않은 정보를 저장하거나 저장하지 않습니다 . 그러나 Echo가 켜져 있으면 나중에 켤 수 있는 기능인 듣기 기능이 있습니다.

이 약속을 얼마나 신뢰하느냐는 Amazon을 얼마나 신뢰하느냐와 직접적인 관련이 있습니다. 사용자가 Alexa와 나누는 통신을 보호하고 싶다고 말할 때 사용자를 위해 보호하고 싶습니까, 아니면 자신을 위해 보호하고 싶습니까?

이것은 사물 인터넷의 부상에 대해 많은 사람들이 가지고 있는 가장 큰 우려 중 하나입니다. 본질적으로 "IoT"는 인터넷은 물론 서로 연결되는 물리적 개체 시스템이며 우리가 "스마트"하다고 생각하는 방식으로 사용자와 상호 작용할 수 있습니다. 어떤 사람들은 상호 연결이 훌륭하다고 생각하는 반면 다른 사람들은 그것을 상어를 뛰어넘고 인간의 사생활을 침해하는 기술로 봅니다.

그리고 일부 사람들은 IoT(링크의 강력한 언어)를 정말 정말 싫어합니다 . IoT의 부상으로 모회사가 이익을 얻거나 지루한 해커 가 냉장고에서 Doom을 실행하기로 결정할 때까지 데이터를 추적, 저장 및 저장하는 가정의 항목 수가 증가한다는 점을 고려할 때 이는 공평합니다.

그러나 Alexa는 어떻습니까? 그녀는 이 모든 일에 대해 말을 듣지 않습니까? 대답은 아마도입니다.

어색한 아이작 아시모프의 순간

당신이 나와 같은 메가 괴상한 사람이라면 이미 공상 과학 작가 아이작 아시모프의 로봇 3법칙에 대해 잘 알고 있을 것입니다. 그렇지 않은 경우(또는 Google에 몸을 굽히지 않고 복습을 원하는 경우) 규칙은 다음과 같습니다.

1. 로봇은 인간을 다치게 해서는 안 되며, 행동하지 않음으로써 인간이 해를 입도록 내버려 두어서는 안 됩니다.
2. 로봇은 인간의 명령이 제1법칙과 상충되는 경우를 제외하고는 인간의 명령에 따라야 합니다.
3. 로봇은 제1법칙 또는 제2법칙과 충돌하지 않는 한 자신의 존재를 보호해야 합니다.

이 "법칙"은 아시모프의 단편 소설 중 하나이며 그의 작품에서 갈등의 많은 부분을 형성합니다. 단순한 우아함에서 법칙은 실제로 실제 로봇 공학 설계자들에 의해 사용 및 참조 되었습니다. 이는 매우 멋진 일입니다.

소프트웨어 프로그래밍에 대한 법칙을 만드는 것은 쉬운 일입니다. 이것은 실제로 Asimov의 법칙의 전부입니다. 그러나 소프트웨어가 사람들과 상호 작용하기 시작하면 상황이 빠르게 엉망이 됩니다. 여기 질문이 있습니다. 로봇이 자유 의지를 얻는다면 어떻게 이 규칙을 따르게 할 수 있을까요?

큰 점프? 설마. 이 특정한 갈등은 일반적으로 많은 공상과학 소설과 함께 Asimov의 많은 작품 이면에 있는 개념입니다. 그러나 실제로 법률 시스템은 AI의 인간성에 어떻게 접근할까요?

적어도 하나의 모의 재판에서 이미 질문을 했습니다.

2004년 샌프란시스코에서 모의 ​​재판이 열렸고, 가상의 회사가 소유한 가상의 AI인 BINA48이 의식을 얻었을 수도 있고 얻지 못했을 수도 있습니다. 이 경우 1,000명의 고객 서비스 상담원의 작업을 수행한 로봇이 회사 서신을 통해 종료되어야 함을 발견했습니다. 이 프로그램은 변호사에게 연락하여 "죽음"을 방지하기 위한 법적 도움을 요청했습니다.

개념이 미래지향적인 느낌이 들지만 그러한 경우에 필요한 법률이 아직 마련되어 있지 않다고 누가 말할 수 있습니까? 이 경우 생명 유지 환자의 권리에 관한 법률이 시행되었으며, 언젠간 액면 그대로의 법률이 다루어야 할 수도 있는 다양한 상황에 대한 흥미로운 사실을 상기시켜 줍니다.

일부 간행물은 AI 중심의 법원 사건이 빠르게 민권 문제가 될 수 있다고 제안하기까지 했습니다.

모두 말하지만 이것은 여전히 ​​​​미래의 문제입니다. 그럼에도 불구하고 AI의 권리와 책임은 문제가 되기 전에 생각해볼 문제다.

어떤 AI 법적 문제가 예상됩니까?

Siri 및 Alexa 및 이와 유사한 향후 프로그램에 대한 권리가 걱정되십니까? 아니면 그들이 모회사의 전자 스파이일 뿐이라고 생각하십니까? 아마도 당신은 그들이 미래의 변호사가 수집하는 데 도움이 될 증거에 대해 흥분할 것입니다. 답이 무엇이든 인공 지능에는 수많은 고유한 법적 문제가 따른다는 것이 분명합니다.

아래 의견에 어떻게 생각하는지 알려주십시오. 더 많은 법적 기술 뉴스 및 리뷰를 보려면 내 메일링 리스트를 구독하고 다음과 같은 추가 콘텐츠를 보려면 다음 기사를 확인하십시오.

• 법률 기술의 미래에 대한 자세한 내용 은 2017년 상위 15개 법률 마케팅 통계

• 법률 상담 앱: 유용한 도구 또는 채팅 상자 좀비? 실행 중인 AI에 대해 읽으려면

• 모든 법무 부서에서 디지털 서명을 사용해야 하는 이유 기술이 회사를 도울 수 있는 방법이 궁금한 경우