AI 환각을 단순한 '거짓말'로 치부하는 순간, 우리는 창조의 본질을 놓칠 수 있습니다. 오픈AI가 2024년 9월 공개한 논문은 환각이 '이진 분류 오류'의 축적이라고 밝혔습니다. 객관식 시험에서 모르는 문제에 찍기를 선택하듯, AI는 불확실할 때도 답을 제시합니다. 빈칸은 0점이지만, 찍으면 우연히라도 점수를 얻기 때문입니다. 인간과 닮지 않았나요?
오픈AI 연구진이 설명하는 환각의 이진 분류 문제의 본질은 거대언어모델(LLM)이 "주어진 문장이 유효한가, 오류인가"를 판단할 때, 오분류를 완전하게 제거할 수 없다는 것입니다. AI는 참과 거짓을 구분하는 것이 아니라, 가장 자연스러운 문장을 만드는 것에 집중하기 때문입니다. 빈도가 낮은 사실들은 패턴만으로는 예측할 수 없고, 결국 환각을 낳습니다.
즉, 인공지능의 환각은 줄일 수는 있어도 완전히 없앨 수는 없습니다. 오픈AI의 o3 모델은 PersonQA에서 33% 환각률을 보였는데, 이전 o1 모델의 16%보다 두 배나 높았습니다. 추론 능력이 향상될수록 더 많은 주장을 하게 되고, 정확한 주장만큼 부정확한 주장도 늘어납니다. 하지만 이 역설적인 현상이 인간과 AI의 새로운 스토리텔링 문법을 만듭니다.
AI의 환각은 인간의 스토리텔링 작업에 오히려 혁신적인 도움을 줍니다. 완벽한 정확성을 추구하는 시스템보다 창의적 '오류'를 만들어내는 AI가 더 풍부한 이야기 소재를 제공하기 때문이죠. 인공지능의 환각 능력은 오히려 작가들에게 무한한 영감의 원천이 됩니다. 진실보다 그럴듯한 허구가 훨씬 중요한 창작의 영역에서, 환각은 축복이 아닐까요?
한국 영화계도 드디어 인공지능과의 협업이 본격적으로 시작됐습니다. 범죄도시, 카지노, 파인 등을 연출한 강윤성 감독의 신작 '중간계'가 국내 최초 AI 활용 장편 영화로 2025년 10월 개봉합니다. 예고편에서는 AI를 활용해 12지신을 저승사자로 형상화시킨 모습과 그들이 보여주는 움직임은 배우들의 연기와 완벽하게 어우러지는 짧은 컷들이 소개되었죠.
지금은 영화 후반작업의 일부분을 인공지능이 담당하고 있지만, 앞으로는 환각을 다루는 기술이 스토리텔링의 핵심 기술이 될 것입니다. 결국 인간이 해야 하는 가장 중요한 업무는 구체적인 질문입니다. 정보를 요약하고, 맥락을 구상해서 답변의 범위를 제한하는 것이 중요합니다. 환각을 통제하는 것이 아니라 활용하는 지혜가 새로운 리터러시가 됩니다.
물론 인공지능의 환각에 집착하는 것은 경계해야 합니다. 초기 탐색 단계에서는 AI 환각을 마음껏 활용하되, 공적인 발표나 중요한 자리에서는 내용을 반드시 확인하는 단계별 접근이 필요합니다. 환각의 창조성과 현실의 정확성 사이 균형점을 찾는 것이 새로운 시대의 리터러시입니다. 완벽을 추구하는 것보다 단계에 맞는 활용이 현명합니다.
프롬 스튜디오는 AI 환각을 창조적 스토리텔링의 핵심 엔진으로 활용합니다. 단순히 '만들어 달라'가 아니라 '함께 만들자'고 제안하는 시대입니다. 환각을 오류가 아닌 창조적 파트너로 여기는 태도가 중요하죠. AI가 생성한 수천의 옵션 중 하나를 선택하는 안목, 그것이 젠디맨드 시대의 핵심 역량입니다. 상상과 현실 사이의 균형, 프롬의 철학입니다.
인사이트 키친ㅣAI 인사이트 클럽에서 발행하는 통찰과 영감에 관한 소식지입니다. 인사이트를 통해 좋은 영향력을 만들고 나누어 개인과 사회의 문제를 해결하는 것을 목표로 합니다. 뉴스레터 구독은 무료입니다. 살롱 참석자에게는 별도의 프리미어 혜택이 배달됩니다. 💌 클럽 참여하기
발행인 '생각' 소개ㅣ클로드와 글쓰는 기획자. 인공지능 스토리텔링 디렉터. 어린 시절부터 영화에 관심이 많았다. 본업인 기획과 PR을 하면서 인사이트 클럽 프롬프트 디렉터로 국내 최초의 AI 스토리텔링 랩 '프롬'을 운영 중이다.브런치/링크드인/오픈챗을 포함 약 8,000명이 활동하고 있다.💌 프로필 보기
