AI companion, 인간의 친구 vs 편견 제조기

반갑습니다.
 
요즘 부쩍 AI personality를 바탕으로 만들어진 챗봇 형태의 AI 동반자,
AI Companion 서비스가 눈에 많이 띄는 것 같습니다.
 
실제로 similarweb의 자료에 따르면 Character.ai의 경우 23년 7월부터 24년 2월까지
누적 1억명 이상의 방문자 수를 찍었고 open.ai의 ChatGPT나 Google의 Gemini와 비교했을 때
놀랍게도 Gemini보다는 오히려 더 많은 이용자를 달성했죠.
 

자료 출처- pro.similarweb.com

 
 
이용자의 관심도를 키워드로 나타내놓은 자료를 살펴보면
Google의 Gemini는 주로 도구(tools), 검색엔진(Search) 키워드가 주를 이루는 반면

자료출처-pro.similarweb.com

 
 
 
Character.ai의 경우는 게임(Video games), 커뮤니티(Community)가 주를 이루고 있습니다.

자료출처-similarweb.com

 
 
해당 자료를 보면, AI 챗봇을 주로 검색엔진과 도구로 활용하는
수요에 못지 않게 사람들이 AI를 통한 인간과의 연대, 정서적 교류까지도 원하고 있다는 것을 짐작할 수 있죠.
 
 
그럼 오늘의 주제인 AI Companion이 과연 인간의 동반자로서
그 역할을 다할 수 있을까? 에는 어떻게 답하면 좋을까요.
 
사실 정답은 없는 윤리적인 문제라고 생각이 들지만,
주요 논쟁거리(기술적 관점)를 두가지 들어본다면
 
Algorithmic Companionship과 Algorithmic bias로 나눌 수 있겠죠.
 
 
쉽게 말하면
인공지능이 인간과의 연대감을 형성할 수 있느냐,
vs
인공지능 알고리즘이 편견을 불러일으킬 수 있다.
 
라는 두 입장을 놓고 한번 살펴보도록 하겠습니다.
 
 
아직 '무엇이 정의다'라고 말하기엔 오만하기에
지극히 개인적인 주장이 포함되어 있다고 염두해주시면 감사하겠습니다.
 
 
사실 AI 챗봇 형태만이 AI Compainion는 아닙니다.
사실상 우리가 흔히 보는 챗봇보다 어찌보면 오래전에 우리곁에 존재해왔죠.
 

사진: Unsplash 의 Brett Jordan

 
생물학적으로 강아지는 아니지만 정서적 교감을 하는
로봇강아지도 그 예가 될 수 있구요.
 
인간을 대신해 기본적인 업무를 수행해주거나 독거 노인을 대상으로
대화상대가 되어주는 로봇도 넓게보면 그 예라고 볼 수 있습니다.

사진: Unsplash 의 Alex Knight

 
그럼 과연 연대의 기준이 뭘까?
 
Character.ai와 같이 미리 입력해놓은 personality대로 AI 캐릭터가
인간의 질문에 그럴듯 하게 답하면 되나? 하는 의문이 생기죠.
 
그전에 인간과 AI의 관계가 도대체 어떻게 형성되어 있을까?
에 대해 연구 논문을 통해 간접적으로나마 이해를 해볼까 합니다.
 
 
2023년도에 pentina가 발표한 인공지능과 소비자의 관계를 조사한 논문을 살펴보면,
인공지능과 소비자(인간)의 관계를 표로 나타내놓은 자료가 있어서 가져왔습니다.
 
 
먼저 인간의 심리에 영향을 주는 인공지능의 선행 요인들인데요,

출처 -  Pentaina et al, 2023

 
Anthropomorphism(의인화), Authenticity(진실성), Autonomy(자율성),
Intelligence(지능화), Self-disclosure(자기 표현), Interactivity(상호 교류), Social capabilities(사회적 능력) 등
다양한 요인들이 있으며, 이러한 요인으로 인한 결과로 소비자는
 
 
아래와 같은 정서(친밀감, 사랑, 매력 등)와 함께
경험(만족감, 브랜드 충성도 등)을 형성한다고 합니다.

출처 -  Pentaina et al, 2023

 
 
이말인즉슨 우리가 마주하는 AI Companion 서비스들이
기본적으로 의인화, 진실성, 자기표현 등의 역할을 수행할 때에 우리는
AI와의 연대감을 느낄 수 있는 기본적인 스텝을 밟아나갈 수 있다는 것이죠.
 
 
물론 논문에는 원인과 결과만 있지 않고,
그 사이를 조정하는 많은 중재 요소들(상호 자기 표현, 준사회적 교류 등)을
포함하고 있습니다.

출처 -  Pentaina et al, 2023

 
이중에서 특히 Parasocial interaction(준사회적 교류)이 눈에 띄는데요,
 
이전 글,
Character.ai CEO Noam Sheezer와의 인터뷰에서
그는 서비스를 출시할때 parasocial을 인지하고 있었고, 이러한 과정에서
외로운 사람들이 이를 해소할 수 있는 재미있는 것을 빠르게 만들어서 제공하자라는
생각을 했다고 언급한 적이 있었죠.
 
 
확실히 Google에 20년 넘게 언어 모델을 담당하던
전문가답게 어떤 부분에서 AGI가 인간과 연결되어 있는지에 대한
깊은 이해를 바탕으로 하고 있는 것 같네요.
 
 
이처럼 AI Companion서비스가 위와 같이
의인화, 진실성, 상호 교류 등과 Parasocial interaction 요소까지 다듬어진 채로 퍼포먼스를 보여준다면
충분히 인간과의 연대와 소통이 가능할 것이라는 생각도 듭니다.
 
 
다음에는 정반대로 AI Companion이 각종 차별 및 편견을
유발할 수도 있다는 'Algorithmic bias' 입장도 한번 살펴보도록 하겠습니다.
 
 
참고로 이에 관한 더 자세한 내용이 궁금하신 분들은 작성 시 참고했던 콘텐츠 링크를 실어놓도록 하겠습니다.
https://www.samsungsds.com/kr/insights/aicompanion-24215.html

인공지능 컴패니언(AI companion)은 인간의 진짜 친구가 될 수 있을까? | 인사이트리포트 | 삼성SDS

 
감사합니다.