AI의 완벽한 거짓말

 

 

“AI가 그럴듯한 거짓말을 쏟아 낸다!”

챗GPT(ChatGPT)를 비롯한 생성형 AI의 대표적인 문제가 바로 ‘환각(hallucination)’입니다. AI 챗봇의 근간인 거대언어모델(LLM, Large Language Model)이 잘못된 정보를 그야말로 ‘창조’하는 것입니다. 챗GPT 출시 초기에 “조선왕조실록에 기록된 세종대왕의 맥북프로(애플 사의 고사양 노트북) 던짐 사건에 대해 알려줘.”라고 챗GPT에게 물어보면 어떻게 대답했을까요?

 

“이것은 <조선왕조실록>에 기록된 일화로 15세기 세종대왕이 새로 개발한 훈민정음(한글)의 초고를 작성하던 중 문서 작성 중단에 대해 담당자에게 분노해 맥북프로와 함께 그를 방으로 던진 사건입니다...”

 

정말 챗GPT가 이렇게 답했습니다. 시대적으로 존재하는 것 자체가 불가능한 사건까지 지어낸 것입니다. ‘세종대왕 맥북프로 던짐 사건’ 같은 챗GPT의 어처구니없는 답변들은 인터넷 밈(meme)이 되어 사람들에게 재미를 선사했습니다. 이처럼 누가 봐도 한눈에 거짓임을 알 수 있는 경우는 그나마 괜찮습니다. 사실과 거짓이 뒤섞인 답변은 더욱 진실 같아서 정교한 사후 검토가 필요한 지경이 되기도 합니다. ‘환각’은 AI의 학습량이 워낙 방대하기 때문에 일어나는 현상입니다. 너무 똑똑하다 보니 온갖 지식들을 멋대로 결합해 진짜 같은 가짜를 만들게 된 셈입니다. 실제 신체와 다른 기괴한 형태적 요소의 결합이지만 사람으로 보이는 입체파 화가 피카소의 초상화 같다고 할까요?

 

<▲ 피카소 '도라 마르의 초상'> (1937), 출처 : 피카소 미술관 홈페이지)

 

 

영화 <엑스 마키나(Ex Machina)>는 챗GPT의 ‘환각’을 넘어서서 “과연 AI가 자의식을 가지고 인간을 의도적으로 속일 수도 있을까?”라는 질문을 탐구합니다. 영화에는 지금의 모든 AI보다 훨씬 더 고도화된 인공지능이 탑재된 휴머노이드 로봇 ‘에이바(알리시아 비칸데르)’가 등장합니다. 에이바는 AGI(Artificial General Intelligence, 범용인공지능)에 아주 근접했거나 AGI 이상의 지능을 보유한 것처럼 묘사됩니다. 진짜 사람과 구분하기 어려운 것입니다.

 

<▲ 에이바>

 

에이바는 천재 개발자 ‘네이든(오스카 아이작)’이 만든 존재입니다. 네이든은 세계 최고의 검색 엔진 회사로서 94%의 시장 점유율을 보유한 회사 ‘블루북’의 창업자이기도 합니다. 사람의 감정을 느끼는 AI를 개발하려면 대량의 양질 데이터가 필요하기 때문에 네이든은 불법적인 행동도 서슴지 않습니다. 검색 시장을 사실상 독점하고 있는 블루북을 활용해서 전 세계 모든 스마트폰의 마이크와 카메라를 해킹하여 사람들이 소통할 때 발생하는 음성 데이터와 영상 데이터를 수집한 것입니다. 이 풍부한 데이터 덕분에 에이바는 사람의 미묘한 표정 변화에 동반되는 섬세한 감정까지 정교하게 포착합니다.

 

<▲ 네이든이 칼렙에게 에이바의 '마음'은 하드웨어가 아니라 '젤(gel)'을 활용한 '젤웨어(gelware)'라고 말합니다.>

 

네이든은 사람이 에이바를 진짜 사람이라고 느끼는지 알아보고자 고난도의 튜링 테스트(Turing Test)를 진행합니다. 영국의 수학자이자 암호 해독가인 ‘앨런 튜링(Alan Turing)’의 이름을 딴 튜링 테스트는 기계가 사람 수준의 인공지능을 가지고 있는지 판별하는 실험입니다. 네이든의 비밀 연구소로 초대된 ‘칼렙(도널/돔놀 글리슨)’이 에이바의 튜링 테스트를 수행합니다. 영화 속 튜링 테스트는 널리 알려진 튜링 테스트와 조금 다릅니다. 일반적 튜링 테스트는 기계가 사람 눈에 보이지 않게 가려진 상태에서 진행합니다. 그런데 칼렙은 에이바와 직접 대면해서 대화를 나눕니다. 칼렙은 에이바가 로봇인 줄 아는 상태에서도 에이바가 자의식이 있다고 '느껴지는지' 판단해야 하는 것입니다. 에이바의 창조자인 네이든은 에이바의 음성만 들려줬다면 칼렙이 에이바를 당연히 인간이라고 생각했을 것이기 때문에 에이바의 몸체가 보이는 상태에서 대화하게 했다고 설명합니다. 네이든은 칼렙에게 학문적인 접근 방식을 버리고 칼렙이 에이바를 보면서 대화할 때 생기는 느낌, 감정에 집중하라고 합니다. 칼렙에게 에이바가 진짜 사람처럼 ‘느껴진다면’, 에이바는 이 튜링 테스트를 통과한 것이라고 볼 수 있다는 겁니다.    

 

<▲ 칼렙은 에이바와 대화할수록 점점 더 에이바에게 빠져듭니다>

 

에이바는 연구소의 폐쇄된 방에서 벗어나 복잡한 도시의 길거리에 가보고 싶은 소망이 있습니다. 에이바가 자신의 의도를 달성하려면 칼렙에게 교묘한 거짓말을 해서 칼렙이 자신의 탈출을 돕도록 만들어야 합니다. 에이바처럼 의도적 거짓말을 하는 인공지능이 실제로 우리 곁에 나타난다면 어떻게 대응해야 할지 막막합니다. 우리는 ‘느낌’으로 상대가 인간인지, 인공지능인지 구분할 수 있을까요? 여러분은 인공지능에게 속지 않을 자신이 있으신가요? (끝)

 

 

 

 

글 | 사업협력팀 김태혁