기술이 놓친 감각, 그리고 인간의 독서 경험
우리는 책을 읽는다. 그리고 책은 우리를 읽는다.
책을 추적하고 기록하는 앱 Fable은 이러한 상호작용을 한 단계 더 발전시키고자 했다. 그러나 기술이 인간을 완벽하게 이해하기에는, 아직 넘어야 할 장벽이 많다는 사실을 이번 사건이 적나라하게 보여주었다.
AI의 무례한 제안
지난 연말, Fable의 한 사용자 티아나 트래멜은 자신이 읽은 책들의 요약을 확인하며 눈을 의심했다. 그녀가 읽은 책들은 흑인 작가들의 작품들이었고, 이에 대한 AI의 요약은 다음과 같았다.
“당신의 여정은 흑인 서사의 심연으로 깊이 빠져들고 있습니다. 하지만 메인스트림 문학도 잊지 말고, 가끔은 백인 작가의 책도 읽어야 하지 않을까요?”
AI가 만들어낸 이 문장은, 마치 잘못된 조언처럼 보였다. 그러나 이는 단순한 오류가 아니라, 우리가 AI에게 기대하는 독서 경험의 섬세함과 정서적 공감을 아직 기술이 습득하지 못했음을 보여주는 사례였다. 트래멜은 즉시 이를 공유했고, 곧 다른 사용자들도 자신이 받은 ‘불쾌한’ AI 요약을 이야기하기 시작했다. 어떤 요약은 노골적인 편견을 드러냈고, 일부는 미묘하지만 불편한 함의를 내포하고 있었다.
기술이 간과한 부분
책을 읽는다는 것은 단순히 정보를 소비하는 것이 아니라, 우리의 정체성과 감정을 형성하는 과정이다. 독서는 개인적인 것이며, 우리가 선택한 문학은 우리의 가치관, 경험, 그리고 관심의 반영이다. 하지만 AI는 이를 이해하지 못했다. Fable이 만든 알고리즘적 제안은, 독자의 취향과 감정을 고려하지 않은 기계적인 판단의 결과였다.
AI가 책을 “추천”하거나 “요약”하는 과정에서 중요한 것은 단순히 데이터를 조합하는 것이 아니다. 독자가 왜 그 책을 선택했는지, 그 여정을 통해 무엇을 경험했는지를 이해하는 능력이 필요하다. 그러나 현재의 AI는 인간의 복잡한 감수성을 헤아리는 데 한계를 보이고 있다.
기술이 배워야 할 것들
이번 사건 이후, Fable은 AI 요약 기능에 몇 가지 안전장치를 추가하겠다고 발표했다. AI가 만든 문장이 생성된 방식에 대한 공개적 설명을 추가하고, 사용자가 원치 않을 경우 AI 요약을 끌 수 있도록 하겠다는 것이다. 또한, 부적절한 내용을 신고할 수 있는 기능도 도입될 예정이다.
그러나 이러한 조치는 하나의 패치(patch)에 불과하다. 근본적인 문제는 여전히 남아 있다—기술은 인간의 경험을 가늠할 수 있는가?
진짜 문제는 무엇인가
기계는 데이터를 바탕으로 판단을 내린다. 하지만 인간 경험의 본질은 단순한 데이터로 환원될 수 없다. 우리는 책을 읽으며 울고, 웃고, 때로는 마음이 무너지는 순간을 경험한다. 좋은 독서란 수치를 기반으로 정리될 수 없는 무언가, 우리 내면에서 깊고도 조용히 일어나는 일이다.
AI가 독서 경험을 도울 수 있다는 믿음은 여전히 유효하다. 그러나 그것이 가능하려면, 기술은 단순한 패턴 분석을 넘어서야 한다. 독서란 우리의 사고를 확장하는 일이자, 낯선 세계를 탐색하는 과정이며, 스스로를 이해하는 여정이다. 기술이 이러한 본질을 간과한다면, 우리는 AI에게 책을 맡길 것이 아니라, 책을 통해 여전히 ‘인간다운 것’을 탐구해야 할 것이다.
우리는 책을 읽는다. 하지만 중요한 것은, 책이 우리를 어떻게 읽고 있는가에 대한 물음일지도 모른다.