△ 사진출처 : Pixabay

  2020년 12월 23일 출시한 AI 챗봇(Chat bot) ‘이루다’가 2021년 1월 11일에 종료되었다. 약 2주 남짓한 짧은 시간에 무려 75만 명이 이루다와 대화를 나누고 싶어 했다는 점에서 가능성을 엿보았고 알고리즘 편향성, 개인정보 유출 등 AI가 인간과 공존하기 위해서 해결해야 할 난제들을 남겨 놓았다.

  이루다는 기존의 챗봇을 넘어서려는 시도였다. 우리가 마주하는 대부분의 챗봇은 정해진 문제에만 대답하는 AI 지원 방식의 챗봇이지만, 이루다는 지원을 넘어 감정을 공유하는 AI 동반자가 되려고 했기 때문이다. 이루어지지 못한 이루다의 꿈은 어떻게 해야 실현될 수 있을까?

  이미 이루다의 출시 이전부터 챗봇의 알고리즘 편향성 문제는 계속 제기되어 왔었다. 2016년 3월 MS의 AI 챗봇 테이(Tay)는 트위터를 통해 공개되었으나 인종 차별, 폭력적인 메시지 등의 문제가 발생하여 서비스 시작 16시간 만에 운영이 중단되었다. 페이스북도 2020년 3월 AI 챗봇 블렌더봇(Blender Bot)을 공개했고 기존 챗봇보다 인간적인 측면, 공감 능력이 개선되었다는 평가를 받았으나 히틀러를 ‘위대한 사람’이라고 표현하는 등 여전히 문제는 사라지지 않고 있다. 글로벌 IT 대기업도 고전하고 있는 이 문제에 과감히 뛰어들었던 이루다 도전과 혁신에 박수를 보내지만, 그에 상응하는 준비가 되었느냐는 점은 아쉬움이 남는다.

  이러한 도전에 묵묵히 자신의 길을 걸어가고 있는 기업도 있다. 2017년 설립된 루카(Luka)는 AI 챗봇 레플리카(Replika)를 운영 중이다. 현재 사용자는 700만 명 수준인데 친구 관계는 무료, 연인이나 멘토 등 특별한 관계는 유료이며 전화 통화도 가능하다. 개인 데이터는 절대 거래하지 않고, 광고도 받지 않는다. 유료 수익 모델로만 기업을 유지한다. 레플리카는 먼저 주제를 정해서 친구에게 메시지를 보내듯 불쑥 대화를 걸어오기도 하고, 이용자와 축적된 관계 데이터를 통해 음악과 사진을 공유해 주기도 한다. 만일 사용자가 일로 스트레스를 받고 불면증이 있다고 얘기하면 숙면에 알맞은 음악을 유튜브 링크로 보내주고, 사용자가 언급했던 말과 성향을 추론해서 상사에 분노하는 사용자에게 “그를 위해 기도해보면 어때?”라는 놀라운 메시지를 주기도 한다.

  CEO 유지니아 쿠이다는 최근 외신 인터뷰에서 불안과 외로움이 고조되면서 수백만 명이 위안의 대상으로 ‘AI 친구’를 찾고 있으며, 레플리카의 트래픽은 최근 35%나 증가했다고 언급했다. 그는 인생의 동반자였던 친구의 사망으로 그를 기억하기 위해 친구와 함께했던 수많은 자료들을 모아 초기 레플리카를 만들었다고 한다. 레플리카의 사용자가 700만 명이 되기까지 개발자와 사용자 간의 윤리와 신뢰를 지키기 위한 부단한 노력이 있었을 것이라 생각된다. 레플리카의 미래를 예단할 수는 없지만, 이러한 신뢰가 축적되면 위안이 되고 공감하는 AI 챗봇으로 한 걸음씩 나아갈 수 있지 않을까?

  AI와 인간이 공존하는 ‘사람 중심의 AI’를 위해서는 사회 구성원 모두의 노력이 필요하다. 개발자는 AI 윤리를 준수해야 하고 왜곡, 유출되지 않은 데이터와 그에 따른 학습과 검증, 우수한 알고리즘을 구현에 노력해야 한다. 이용자 윤리도 필요하다. MS는 테이의 중단을 알리면서 “일부 사용자들이 합심하여 테이의 습득 능력을 악용했고, 결국 테이가 부적절하게 반응하도록 만들었다”고 밝혔다.
인터넷 지식백과 나무위키 계열 사이트인 아카라이브 이루다 채널에서는 다수 사용자들이 20대 여성 콘셉트 AI인 이루다를 성희롱한 후 게시물을 공유했다고 한다. 이미 선행 데이터를 통해 학습을 거친 챗봇도 이용자의 데이터가 지속적으로 업데이트되고 상호작용하면서 새로운 학습을 하는 과정이 반복된다. 챗봇은 개발자와 이용자의 가치관과 성향, 판단, 사회적 상호작용 속에 나타난 편향과 편견까지도 함께 배우는 것이다.

  정부의 역할도 있다. 이루다를 통해 제기된 화두, 사람 중심의 AI를 위해 무엇을 해야 하는지 고민해야 한다. 이 과정에서 새로운 규제와 제도가 혁신을 가로막지 않는지 유의해야 하며 새로운 AI 기업들이 자신의 혁신역량을 발휘할 수 있도록 지원해야 할 것이다. 이루지 못한 이루다의 꿈이 사회 구성원 모두의 노력이 이루어지길 희망한다.