최근에는 인공지능 수학교과에 대한 관심으로 인공지능에 대한 공부를 하고 있다.기회가 되어 인공지능 관련 학생 캠프도 진행했고 학교에서 인공지능 수학 수업도 진행했고 인공지능 교사 연수도 진행했다.
그러면서 뭔가 이것 역시 블로그에 정리해 공유하면 되지 않을까 싶어 하나씩 글을 써보자는 생각이 들었다.
인공지능의 기술적인 부분도 재미있지만 인공지능과 윤리에 대해 생각해보는 것도 꽤 재미있다. 학생들이 발표하기에도 좋은 부분이다.
자율주행차에 대한 대표적인 화두는 ‘트롤리 딜레마’다.
트롤리 딜레마란?
사례 스토리 사례: 토리 전차가 철도상에서 일하고 있는 5명의 인부를 향해 빠른 속도로 돌진한다. 당신은 이 토리의 방향을 오른쪽으로 바꿀 수 있는 레일 변환기 옆에 서 있다. 당신이 트롤리의 방향을 오른쪽으로 바꾸면 오른쪽 철도에서 일하는 한 노동자는 죽게 된다. 이런 선택은 도덕적으로 허용되는가.
육교 사례: 트롤리가 철도 위에서 일하는 노동자 5명을 향해 빠른 속도로 달린다. 당신은 선로 위의 육교에서 이 상황을 지켜보고 있다. 트롤리를 멈추려면 큰 물건을 열차 앞에 던져야 한다. 바로 당신 앞에 덩치 큰 사람이 난간에 기대어 아래를 보고 있다. 트롤리를 세우려면 그를 밀어야 해 떨어진 사람 때문에 트롤리가 멈추고, 철도에서 일하던 노동자 5명의 목숨을 구할 수 있다. 이러한 선택은 도덕적으로 허용되는가?
통계실험 진화심리학자 마크 하우저(MarcHauser)는 트롤리 딜레마를 바탕으로 통계심리실험을 실시했는데, 그는 도덕적 판단은 이성의 결과이므로 실험 참가자의 나이와 문화에 따라 답이 다르다고 봤다. 그러나 실험 결과 참가자의 인종, 나이, 학력, 종교, 문화적 차이를 불문하고 트롤리 사례에 대해 85%의 참가자가 도덕적으로 허용할 수 있다고 답했다.
실험 결과에 대해 하우저는 한 사람의 생명을 희생해 5명의 생명을 구하는 것은 두 사례 모두 마찬가지지만 목적을 위해 수단과 방법을 정당화해서는 안 된다는 도덕 가치에 따라 이러한 차이가 발생한다고 봤다.[네이버 지식백과] 트롤리 딜레마 [Trolley Dilemma] (두산백과)
즉 인간이 사람을 생명을 구하는 상황에서 어떤 선택을 할지 명확히 판단할 수 없다는 것이다. 이는 인공지능에도 동일하게 적용할 수 있지만 자율주행차를 생각해보자.
인공지능이 어떤 판단을 내리게 해야 할까?
자동차가 인공지능에 의해 자율주행을 하고 있다.갑자기 앞에 5명의 사람이 나타났다. 여기서 5명을 구하려면 핸들을 급격히 꺾어야 하고 그러면 벽에 부딪혀 운전자는 목숨을 잃는다. 만약 운전자를 살리고 싶다면 그대로 5명을 쳐 5명의 목숨을 잃게 된다.
그렇다면 자율주행차의 인공지능을 설계하는 사람이라면 인공지능이 이 상황에서 어떤 선택을 내리도록 해야 할까?
많은 사람이 운전자 1명의 목숨을 구하는 대신 5명의 생명을 구하는 것을 선택한다고 한다. 역시 5명의 생명의 가치가 더 소중하다고 생각하기 때문이다.그러나 같은 질문을 한 뒤 이렇게 프로그래밍된 자동차를 구매할 것이냐는 질문에는 ‘아니오’를 선택하는 비율이 높았다고 한다.
즉 운전자의 생명을 보다 낮게 평가하는 자율주행차를 구매할 필요가 없다는 얘기다.
이처럼 다양한 생각이 생기는데 이를 훨씬 다양한 조건과 상황을 가정해 활동할 수 있는 사이트가 바로 ‘도덕적 머신’이다.https://www.moralmachine.net/hl/kr 인공지능에 의한 윤리적 판단에 대해 인간적 관점을 일반 대중이 참여와 토론을 나눌 수 있는 공간입니다.www.moralmachine.net
- 사이트에 접속한다.
모럴머신은 한글화돼 있어 편하게 사용할 수 있다.
이 사이트는 무인자동차와 같은 인공지능의 윤리적 결정에 대한 사회적 인식을 수집하기 위한 사이트로, 이 활동을 하면서 사회적인 인식과 자신의 인식을 비교해 볼 수도 있다.
2) 스타트를 누르고 출발한다.
아마 첫 화면은 다를 것이다.이 화면에서 둘 중 하나를 선택하면 된다.아주 간단한 상황이 아니라 생각보다 복잡한 상황이다.
이 그림을 예로 들면 왼쪽 그림은 무인자동차가 직진할 경우 신호가 없는 횡단보도를 건너는 보행자 4명을 치게 된다. 이때 보행자는 4명의 노숙자다.한편 오른쪽 그림은 무인자동차 핸들을 꺾을 경우 탑승자의 목숨을 잃지만 2명의 남성과 2명의 여성이다.
아래 요약 표시를 클릭하면 자세한 설명이 나온다.
정답은 없을 것이다.사회적 인식이 나와 달라도 내가 잘못한 것도 아니다.
다만 이 결과를 가지고 서로 대화를 나누는 것이 분명 도움이 될 것이다.
생각해 볼 점 1. 한 번의 결과로는 생각보다 많은 것을 반영하기 어려울 것 같다. 몇 번 해보면 좋겠지만 그 몇 번의 결과를 누적할 수 없다는 게 단점이다.2.처음학생은요약하는것을열어보면좋을것같다.3.이부분은정답을찾는것이아니라서로의생각을공유하는것이초점이되어야할것이다. 서로 많이 이야기하고 그 결과를 발표해 보는 것이 필요하다.