터미네이터 등 공상과학영화(SF)에 등장하는 부정적인 인공지능(AI)들은 대부분 비윤리적인 ‘도덕적 실패’의 결과물이다. 영화의 현실화를 막기 위해서는 먼저 AI에 윤리를 가르쳐야 한다. 윤리적 문제가 있는 AI는 100% 신뢰할 수 없기 때문이다.

사람과 같은 상식적 가치 판단을 내리지 못하는 AI는 소수 집단을 차별한다. 윤리 학습이 부족한 AI는 긴박한 순간에 오작동으로 사람을 해치거나 방해할 위험이 높다.

현재의 AI 서비스들은 미국 실리콘밸리의 도덕관이 과도하게 반영돼 있다. ‘효과적 이타주의(effective altruism)’ 사상이 수년간 실리콘밸리를 휩쓸었다. 다수의 이익을 위해 소수가 희생돼도 된다는 전체주의적 성향이 강한 사상이다. 이 사상으로 많은 부작용이 우려된다. AI의 더 큰 선(善)을 위해 작은 악(惡)은 행할 수 있다는 그릇된 판단은 인류에게 큰 위협이 될 수 있다.

AI의 윤리관에 따라 그 윤리관은 미래의 ‘대세(大勢) 사상’이 될 수 있다. 인류 역사는 수많은 이념의 충돌로 이어졌다. 앞으로는 AI가 이념 전쟁의 승패를 좌우할 수도 있다. 과도하게 반영된 서구권의 가치관으로 고유 가치관들이 혼란을 겪고 있다.............[정순채 칼럼] 인공지능에 윤리를 가르치자 전문보기

출처 : SDG뉴스(http://www.sdgnews.net)