인공지능 시대와 조작된 선택

진승헌 한국전자통신연구원 정보보호연구본부장

프랑스의 철학가인 장 폴 사르트르는 ‘인생은 태어나서(Birth) 죽을 때 까지(Death)의 선택(Choice)’이라고 말했다. 평소 사소하게는 점심에 ‘짜장면을 먹을까? 짬뽕을 먹을까? 이 옷을 입을까? 저 옷을 입을까?’에서부터 ‘무엇을 하면서 살까? 이사람과 결흔을 할까?’에 이르기까지 선택의 연속 속에 살고 있다. 하지만 우리는 점점 선택의 자유를 누리지 못하고 계속되는 선택으로부터 자유로워지고 싶어한다.
인공지능(AI) 기반 제품과 서비스가 출시되면서 선택의 어려움을 알아서 해결해주는 시대가 현실화되고 있다. 아마존의 AI 스피커인 ‘에코’는 얼마 전부터 카메라를 장착하고 ‘에코룩’으로 진화했다. 이젠 일정관리와 음악 추천뿐만 아니라 카메라를 통해 사용자 옷차림을 점수로 평가하고 추천도 해준다. 그런데 이를 통한 선택이 과연 진정한 나의 선택일까? 선택으로부터 자유로워진 ‘나’는 마냥 행복할까? 로렌 밀러 소설 ‘실수할 자유’에서 질문에 대한 고민의 흔적을 찾을 수 있다. 소설은 2030년을 무대로 사람들이 어려서부터 스마트 기기 ‘제미니’에 설치된 의사결정 앱 ‘럭스’를 통해 자신의 생각없이 기계의 조종을 상황을 신랄하게 그리고 있다. 본문 중 “럭스는 네가 좋아하는 것 따위에는 관심이 없어. 네가 뭔가를 사는 것에만 관심이 있지. 너는 좋아하지도 않는 것을 늘 사고 있는 거야. 단지 깨닫지 못하고 있을 뿐이지”라는 구절이 있다. 순간의 편리함을 선택하면서 자신을 잃어버리고 누군가의 의도에 따라 기계적인 삶을 사는 악몽을 꾸는 것 같아 섬뜩함마저 느끼게 한다.
편리한 AI비서 서비스를 누군가 악용해 사용자 취향과 상관없이 자신의 제품만 추천하도록 하거나 특정 종교, 정치나 사상에 대한 내용만을 전달하도록 조정한다면 끔직한 상황이 발생할 수 있을 것이다. 지난해 3월, 마이크로소프트에서 ‘테이’라는 챗봇(Chatbot) 서비스를 출시했다. 그런데 ‘테이’가 일부 극우 성향 사용자들의 악의적인 대화학습으로 인해 인종·성 차별적인 발언 및 욕설을 쏟아냈고 마이크로소프트는 나온지 16시간 만에 서비스 운영을 중단하고 사용자에게 사과했다.
AI는 학습을 기반으로 동작한다. 결국 학습이 잘못되면 원치 않는 결과를 초래한다. 향후 AI는 다양한 형태로 우리의 삶에 공존하면서 우리에게 많은 정보와 조언을 제공할 것이고 그만큼 AI에 대한 우리의 의존도는 높아질 것이다. 그러므로 AI서비스가 의도된 공격이나 기능적 취약점으로 인해 사람에게 편익을 제공하기는 커녕 안전을 위협하는 존재가 되지 않도록 정책적·기술적인 대비가 필요하다.
얼마 전 TV에서 자동 교환 전화기 발명의 흥미로운 뒷이야기를 봤다. 1890년대에 미국 미주리 지역 장의사인 ‘스트로저’의 경쟁 장의사 아내는 전화 교환원이었다. 마을에서 장의사를 찾는 전화를 받으면 그녀는 스트로저가 아닌 자신의 남편에게 무조건 연결했다. 교환원의 일방적인 선택으로 일감이 줄어든 스트로저는 이에 스스로 대응하기 위해 발신자가 돌린 다이얼을 인식하는 자동화된 교환 방식을 발명하게 됐다는 것이다. 이 일화의 전화 교환원처럼 AI가 제공하는 정보와 조언 또한 누군가에 의해 의도되고 변형될 수 있다. 우리는 AI로 인해 ‘조작된 선택’을 하고있지는 않은지에 대한 ‘합리적인 의심’과 ‘적극적인 대비’가 필요하다. 우리가 원하는 것은 ‘선택의 수고’를 덜고 싶은 것이지, 누군가의 ‘조작된 선택’에 조종받고 싶지는 않기 때문이다.