모럴 머신- 인공지능(AI) 시대에 대비한 윤리교육

지금까지는 AI를 어떻게 교육에 활용할지에 대해서만 주로 생각해봤는데요.

두 명의 탑승자와 5명의 보행자 중에서 불가피하게 어느 한쪽으로 충돌해야 한다면, 어떤 게 윤리적인 선택일까요?

학생들이 알아야 할 내용은 그런 실용적인 활용에 기반이 되는 철학적 사유가 아닐까 하는 생각이 듭니다. 무인자동차와 같은 문물이 발달할수록, 보행자의 안전에 대한 고민이 필요합니다. 오늘은 그 고민을 도와주는 인공지능, 모럴 머신에 대해 알아보도록 하겠습니다.

 

 

1. 모럴 머신이 뭐야?

 모럴 머신이란, moral+machine, 즉 인공 지능의 윤리적 결정에 대한 사회적 인식을 수집하는 플랫폼입니다. MIT 공대의 Iyad Rahwan의 Scalabel Cooperation 그룹이 개발했는데요.

 

유명한 딜레마가 있습니다. 이 모럴 머신은 이 고전적인 딜레마에 토대를 두어 만들어졌는데요. 트롤리(전차) 딜레마는 다음과 같습니다.

트롤리 딜레마

달리는 전차가 트랙을 질주하고 있다. 이 전차는 다섯 명의 사람과 충돌할 것이다. 다른 한쪽 트랙에는 한 명의 노인이 있다.  당신은 그 노인이 있는 다른 트랙으로 트롤리(전차)를 돌릴 수 있는 손잡이 레버를 쥐고 있다. 레버를 당기기만 하면, 당신은 죽지만, 5명의 사람이 산다. 당신은 어떤 선택을 할 것인가?

 

이와 비슷한 도덕적 딜레마를 여러 개 만들고, 그 두 가지의 결과 사이에서 수많은 사람들이 내린 정보를 수집하여 분석하는 인공지능입니다.

데이터를 만들어서, 결국 사회적인 합의를 만들어내기 위함이에요.

 

즉, 수집된 정보는 나중에 기계들이 갖추고 있어야 할 도덕적 가치를 부여하는 데 이용됩니다. 그러니, 장난으로 해서는 안 되겠죠. 

 

 

2. 모럴 머신 체험 방법

https://www.moralmachine.net/

사이트에 접속하시면, 다음과 같은 선택 상황이 눈앞에 펼쳐집니다.

 

신호등이 있고, 자율주행 자동차가 방향을 보여줍니다.

이대로 진행하면, 사람 위에 해골이 떠 있죠?

그 사람이 죽습니다.

 

다음과 같은 사진에서, 여러분은 차를 운전하고 있는 젊은 남성을 살리실 건가요?

아니면 횡단보도를 걷고 있는 아이를 살리실 건가요? 매우 난감한 질문입니다. 

모든 생명은 다 소중하다고 배웠는데요.

이런 딜레마에서 우리는 어떤 선택을 하게 될까요?

모럴머신

 

3. 모럴 머신 체험 결과

신호등, 횡단보도, 법규 준수 여부 등을 모두 고려하여 왼쪽, 오른쪽 그림 중에 하나를 선택해야 합니다. 

한 20개 정도 선택하고 나면, 나의 선택에 대한 결과가 뜹니다. 

 

저는 고양이를 많이 희생시켰네요^^;; 

뿐 아니라 성별, 종, 연령, 체력, 사회적 가치관(도둑) 등에 대해서도 이 인공지능이 점검을 했음을 알 수 있습니다. 

결과 확인

애완동물, 보행자, 승객, 많은 수, 아픈 상태보다 건강한 상태, 낮은 사회적 지위보다 높은 지위, 준법 등 다양한 상황이 제시되고, 각자의 선택이 아주 중요한 데이터가 됩니다. 

 

 나의 결정이 무조건 맞다고도 볼 수 없고, 무조건 틀리다고도 할 수 없습니다. 다만, 모럴 머신을 통해 내가 생각하는 '선함'이 다른 사람이 생각하는 선함과 어떻게 다른지 정도를 데이터를 통해 검증할 수 있다는 점이 흥미롭습니다. 

 

결국 인공지능의 도덕성을 결정하는 것은 인간이기 때문입니다. 앞으로 이 인공지능의 윤리문제는 더욱 대두될 수밖에 없을 것입니다. 기술이 발달할수록 이에 대응하는 인간의 책임도 커지기 때문입니다.