트롤리 딜레마 (Trolley Problem, 광차문제)
트롤리 딜레마는 유명한 윤리학의 사고실험임
이 실험의 내용은 다음과 같다.
----------------------------------------
광차가 운행 중 이상이 생겨 제어 불능 상태가 되었습니다.
이대로는 선로에 서 있는 5명이 치여죽고 맙니다.
이때 당신이 선로를 바꿀 수 있는 전철기의 옆에 있고,
전철기를 돌리면 전차를 다른 선로로 보냄으로써 5명을 살릴 수 있습니다.
그러나 그 다른 선로에는 1명이 있어서 그 사람이 치여죽고 맙니다.
어느 쪽도 대피할 시간은 없습니다.
이때 도덕적 관점에서 이 전철기를 돌리는 것이 허용됩니까?
----------------------------------------
이 사고실험은 다음의 두가지 선택을 놓고 논란이 되어왔다.
1. 선로를 바꾸지 않고 다섯명 죽음을 방치
2. 선로를 바꾸어 한명의 죽음을 야기
그러나 몇 년 전 이 문제의 해답이라고 제시된 아이디어가 있었다.
(네티즌들의 꼼수 작렬)
바로 복선 드리프트(Multi-track drifting)
적절한 타이밍에 선로를 바꾸면
광차의 앞과 뒤가 서로 다른 철로로 가게 되는 복선 드리프트가 가능.
그러나 이 아이디어는 또다른 선택지를 낳았는데....
이 복선 드리프트는 다음의 서로 다른 두 가지 결과를 만들 수 있다.
복선 드리프트를 통해 아무도 죽지않고 모두 살아날 수 있는 경우
복선 드리프트를 통해 여섯명 모두 죽는 경우
해결책인 줄 알았던 복선 드리프트는
모두 살거나 모두 죽을 수도 있는 도박임을 알 수 있다.
따라서 트롤리 딜레마는 제 삼의 선택이 하나 늘어난다.
3. 모두 살 지, 모두 죽을 지 모르는 복선 드리프트를 시도할 것인가?
점점 더 복잡해지는 트롤리 딜레마, 당신의 선택은?
이럴때는
기차에 탄 사람들만
피해가 가도록
기차를 전복시키는게
가장 도덕적인 방법입니다.
트롤리딜레마는
기본 전제가
나(우리,기차에 탄 사람들)는 살아야되고
안다치는것을 전제로 하는
도덕적 모순을 지님
그래서
이 복선 드리프트도
결과론은 모르지만
기차 전복으로
앞에 있는 1+5명을 살리는 것을 전제로 해야 함
예전에 로스쿨 입학면접에서
이 문제가 나왔는데
복선 드리프트 드립쳤다가
광탈했듬유 ㅠㅠ
저 복선 드리프트 첫번째 사례는 차량이 전도되어 굴러서 모두 죽게 되므로
복선 드리프트는 어떻게 해도 모두 죽음.
당연히 모두 살 수 있는 선택지를 택하겠죠.
설령 모두 죽게 되더라도 최선이니.
첨 문제봤을때 부터 제대답은 일관됩니다
변태같은 문제를 고안한 출제자를 죽이자
자율주행 자동차가 등장하기 시작하면서 이 문제가 거론된건데...
사람도 제대로 판단할 수 없는 도덕적 문제를 AI는 어떻게 판단하게끔 프로그래밍해야하느냐가 그 출발점임...
사고로 인한 인명피해가 아니더라도 우리는 현실에서 저런 상황을 꽤 많이 겪는 편인데, 대부분 상황에서 다수의 이득을 고르는 편임.
그게 결과도 좋고 실제로 합리적이기도 하고...
그리고 인간의 목숨이라는 전제로 가더라도 많은 상황에서 다수의 생명을 살리는 선택을 하지 소수의 생명은 선택하지 않음...
대부분의 상황에서 그럼...
그럼 도대체 문제가 뭐냐....
인간이 그런 선택을 했을땐 그 선택을 한 인간은 어떤식으로든 책임을 지게 되어있음...
결국 누군가는 희생시킨거니까...직접 죄를 묻지 않더라도 가슴속에 평생 짊어져야할 죄같은 것이 있음.
사람을 해한다는건 정말 쉽지 않은 결정이니....자신으로 인해 누군가의 목숨이 사라졌다는건 정말 고통스러운 일임...
근데 AI도 과연 그럴까?
AI가 선택을 했을때 누군가는 책임지는가?
이게 근본적인 문제가 아닌가 싶음....
단순히 어느쪽을 선택하느냐의 문제를 떠나서....
그 선택을 했을때 그럼 선택한 책임을 누군가는 져야하는데....
운전자가 져야한다면 아무도 자율주행차는 안 살거임. 내가 하지도 않은 선택으로 피해를 보긴 싫을거니까...
그럼 자동차 회사가 져야한다면? 자동차 회사 역시 반발할거임. 그리고 선뜻 자율주행 시스템을 만들긴 어려울거....
이렇게 되면 필연적으로 '자동차 회사도 책임을 안지고, 운전자도 책임을 안지는 자율주행차'가 등장할 확률이 높음.
왜냐면 둘다 책임은 지기 싫어하지만 자율주행차를 원하는 마음은 같기 때문...
그래서....
저 트롤리 딜레마 문제는 단순히 사람이 죽으면 안돼, 또는 어느쪽이 더 나은 선택이야라는 문제를 떠나서...
아무도 책임을 안 질 상황에서 어떻게 아무도 안 죽이고 기차길을 통과할 것이냐라는 고민을 해야한다고 봄...
누군가를 죽여야하는걸 전제로 깔면 자율주행차는 절대 나오지 말아야함....
1. 한 명을 검찰 언론으로 죽일놈의 악인으로 만든다.
2. 여론조사에 버튼 누르기 찬성이 더 많음을 보여준다.
3. 죄책감 없이 누른다. 모두가 헬피엔딩
문제 자체가 이래도 욕먹고, 저래도 욕먹고...
답하는 사람 욕할려고 낸 문제인 걸 ㅋㅋ
답이 없는걸 왜 고민하는 건지 모르겠네요 ~_~
기차가 오는 소리를 듣고 선로를 빠져나온다
내가 눈으로 보고 있는 한
다섯명이 죽든 한 명이 죽든 반드시 죽음.
따라서 모른 척 하고 내 갈 길 가면 됨.
내가 직접 눈으로 목격하거나 관여하지 않았으므로
내 관념 속에서는 아무도 죽지 않은 것이 됨.
저는 이 문제가 이렇게 느껴졌어요.
다섯 명은 피지배층 혹은 중산층 이하. 한 명은 지배층 혹은 부유층.
다섯 명 살리자고 한 명 죽이는게 과연 옳은가... (한 명에게 유난히 높은 과세율을 적용시키는게 옳은가)
다수를 살리는 행위라도 살인을 할 순 없는게 정상인듯
5명이 살지 피할지 한명이 죽을 지 어떻게 아는가?
현실에서는 발생하지 않는 문제임.