“자기 자신을 모르는 게 없는 사람이라고 여기는 자는 막상 모든 것을 아는 것 같은 사람(예: 인공지능)을 만나게 되면 아주 불쾌해 한다.” (SF작가 아이작 아시모프)

‘알파고’ 이후 인공지능 기술의 흐름에서 뒤처지고 있다는 위기의식이 확산되는 지금, 인공지능은 국가 경쟁력 측면뿐만 아니라 일자리 문제, 법-제도 관련 이슈, 윤리적 과제 등 다양한 숙제를 우리에게 동시에 던져주고 있다. 이런 과제와 고민들은 결코 다른 나라의 문제나 호기심 또는 지적 유희 차원의 문제가 아니라 우리의 현실 문제에 빠르게 다가오고 있다.

최근 LG경제연구원의 진성용 책임연구원은 [인공지능의 자율성: SF의 주제가 현실의 문제로 다가오고 있다]는 제목의 보고서에서 “장기적 관점에서 보면 인간이 자동차의 운전석을 인공지능에게 넘겨주는 것은 인간 자신의 생명과 윤리적 문제의 결정권을 모두 기계에게 위탁하는 것과 마찬가지이며, 이는 앞으로 다가올 더 큰 변화의 시작에 불과하다”고 진단했다.

보고서에는 통제를 벗어난 인공지능이 문제가 됐던 사례들이 아래와 같이 소개되어 있다.

▲2007년 10월13일 남아공에서는 로봇 방공포가 갑자기 작동해서 수십여 명의 사상자를 발생시킨 사고가 있었다. 인명 손실을 줄이고 정확성을 높이고자 도입된 로봇이 오히려 인명 피해를 일으킨 주범이 되어 버렸다.

▲2010년 5월6일은 평범하게 시작해서 역사에 길이 남을 하루가 되었다. 오후 2시42~47분의 단 5분 만에 일초 단위로 움직이던 초단타 매매 인공지능들이 특정한 매도 거래에 개입했다가 부족한 매수 주문을 확인하자마자 손실을 줄이기 위해 경쟁적으로 팔아치우기 시작한 영향이 순식간에 포트폴리오 전체로 확산되고, 결국 시장 전체가 폭락하는 상황에 이르렀던 것이다. 당시 어떤 기업의 주가는 한때 단돈 1센트로 떨어졌다가 몇 초 만에 30~40달러로 폭등하기도 했다.

▲2016년 상반기에는 미국, 일본에서 낮은 수준의 자율주행 기능을 갖춘 자동차들이 여러 건의 교통사고를 일으켰다. 이 가운데 테슬라 모델 S의 운전자는 사망하기도 했다. 이를 계기로 자율주행자동차 사고의 책임을 운전자와 제조사 중 누가 져야 하는지에 대한 관심이 학계의 주제에서 현실의 이슈로 발전했다. 아울러 자율주행자동차가 운전자와 보행자 중 누구를 더 보호하도록 개발해야 하는가라는 윤리적 문제에 대한 관심도 보다 커졌다.

▲2016년 7월에는 미국 캘리포니아 주의 한 쇼핑센터에서 최신형 보안 서비스 로봇이 16개월 된 유아를 공격해서 다치게 한 사고가 발생했다. 사고 발생 후에는 이와 유사한 사례들이 그 전에도 있었다는 사실이 드러났다. 2000년대 이후 점점 늘어나고 있는 이런 사고들은 모두 ‘아이쿠’하는 순간에 일어났다는 공통점을 보이고 있다.

진성용 연구원에 따르면 인공지능 기기들이 이처럼 오작동을 일으키는 원인이 로봇이 스스로 결정할 수 있는 능력인 자율성을 가지고 있기 때문이라고 한다. 인공지능의 자율성이란 주변 환경을 관측하고 판단해서, 결심한 후 행동하는 의사 결정과정인 ‘OODA' 상의 각 단계별로 인공지능 스스로 결정할 수 있는 능력을 의미한다. 인공지능-로봇이 의사 결정을 하는 단계가 많을수록 자율성의 수준도 높다고 할 수 있다. 높아진 자율성만큼 인간 사용자의 기대와 통제를 벗어난 행동을 할 확률이 높아지며 그것이 사고로 연결될 가능성도 높아지게 된 셈이다.

진성용 연구원은 “모든 경우를 종합하면 결국 로봇과 관련된 윤리적 문제는 개발자와 사용자의 문제가 된다고 볼 수 있다”며 “만일 개발자가 선한 목적으로 만들고 사용자가 좋은 의도로 사용하면 착한 로봇이 될 것이고, 반대의 경우라면 나쁜 로봇이 될 것”이라고 지적했다. 그러면서 “결국 개발자와 사용자가 가진 철학적, 윤리적 가치관이 인공지능, 로봇의 확산에 따른 부작용 방지와 문제 해결을 좌우하는 중요한 기반으로 작용하게 될 것”이라고 말했다.