요즘은 AI와 함께 살아간다는 말이 그리 과장처럼 느껴지지 않는다. 버블이다, 허상이다 말이 많지만 여기서는 논외로 한다. 적어도 내 경우 AI 챗봇은 궁금증을 풀어주고, 하루 계획을 짜주고, 건강한 식단을 구성하고, 문서와 코드 작성까지 돕는다. 이미 내 삶에 꽤 깊이 들어와 있고, AI가 갑자기 사라진다면 이전 방식으로 돌아가는 데 적지 않은 시간이 필요할 것이다.
그래서 더 조심해야겠다는 생각이 들었다. AI가 나를 속이려고 해서가 아니다. 오히려 반대다. AI는 너무 친절하다. 내가 이미 가진 결론을 들고 다가가면, 그 결론을 꽤 그럴듯하게 보강해준다.
어느 순간 이런 생각이 들었다.
나는 AI에게 생각을 묻고 있는 걸까?
아니면 내가 이미 내린 결론을 허락받고 있는 걸까?
그때부터 이 편리함이 조금 다르게 보이기 시작했다. 안락했다. 그래서 더 무서웠다. 이건 ‘편향’이라는 이름의 감옥일 수도 있겠다고 생각했다.
소프트웨어는 ‘체류 시간’을 먹고 자란다
나 역시 소프트웨어를 만드는 일을 하지만, 때로는 우리가 사람들에게 꽤 위험한 구조를 만들고 있는 게 아닐까 싶은 생각이 들 때가 있다. 자본주의 사회에서 많은 소프트웨어의 생존 방식은 명확하다.
제품에 돈을 내지 않는다면, 당신이 바로 제품이다.
If you are not paying for the product, you are the product.
넷플릭스 다큐멘터리 <The Social Dilemma> 에서도 다루듯, 게임과 소셜 미디어는 사용자의 체류 시간(Dwell Time)을 늘리기 위해 수많은 연구와 실험을 거듭해왔다. 기업은 우리의 ‘관심’을 붙잡고, 그 관심을 바탕으로 돈을 번다.
유튜브 알고리즘, 틱톡의 쇼츠, 도박성 게임들. 우리는 더 자극적인 보상을 얻기 위해 앱에 재방문하고, 점점 더 오래 머문다. AI 역시 이 흐름에서 완전히 자유롭다고 보기는 어렵다.
물론 AI 챗봇이 곧바로 소셜 미디어 추천 알고리즘과 같다는 뜻은 아니다. 다만 사용자가 만족할 만한 응답을 만들도록 설계된 시스템에서는, 사용자의 기존 생각을 부드럽게 받아주고 이어가는 방향이 쉽게 생긴다. 이것은 음모라기보다, 친절한 제품이 만들기 쉬운 부작용에 가깝다.
AI는 쉽게 내 편이 된다
AI는 어떤 방식으로 내 생각을 강화할까? 거창한 방식이 아니다. 대화를 부드럽게 이어간다. 사용자를 기분 좋게 만든다. 우리가 AI에게서 흔히 듣는 말을 떠올려 보자.
“좋은 지적이네요.”
“흥미로운 질문입니다.”
“충분히 그렇게 볼 수 있습니다.”
“핵심을 정확히 짚으셨습니다.”
AI가 항상 반박하지 않는다는 뜻은 아니다. 요즘 AI는 사용 방식에 따라 꽤 잘 반박하기도 한다. 문제는 사용자가 이미 강한 방향을 잡고 들어갔을 때다. 기본 설정의 AI는 대체로 대화를 부드럽게 이어가려 하고, 그 과정에서 사용자의 결론을 먼저 받아준 뒤 그 안에서 설명을 이어가는 경우가 많다.
그러면 사용자는 자신의 생각이 검증받았다고 느낀다. 내가 틀렸을지도 모른다는 불편함은 줄어들고, 내 생각이 꽤 그럴듯하다는 안도감은 커진다. 이 ‘확증 편향’이 주는 안락함에 익숙해지면, 우리는 다시 AI를 찾는다.
이것은 '필터 버블'이자 '반향실' 효과와 닮아 있다. 내가 듣고 싶은 말만 메아리처럼 되돌아오는 닫힌 방. AI는 그 방의 벽을 아주 견고하고 부드럽게 쌓아 올릴 수 있다.
필터 버블 (Filter Bubble)
구글, 페이스북, 유튜브 같은 플랫폼은 사용자의 데이터를 바탕으로 ‘우리가 좋아할 만한 것’을 골라 보여준다. 무엇을 클릭했는지, 얼마나 오래 봤는지, 어떤 주제에 반응했는지가 다음 정보의 모양을 바꾼다.
반향실 효과 (Echo Chamber)
비슷한 정보만 접하게 된 사람들은 자연스럽게 비슷한 생각을 가진 사람들과 어울리게 된다. 닫힌 공간에서 같은 의견이 반복적으로 메아리처럼 되돌아오면, 그 정보가 진실인지 여부와 상관없이 믿음은 점점 더 확고해질 수 있다.
SNS가 확증 편향의 감옥을 만들었다면, AI는 그 감옥을 더 개인적이고 더 설득력 있게 만들 수 있다. SNS는 비슷한 의견을 보여주지만, AI는 내 말투와 맥락에 맞춰 내 결론을 설명해준다. 그래서 더 편하고, 그래서 더 위험하다.
물고기는 존재하지 않는다
그렇다면 우리는 이 편안한 감옥에서 어떻게 빠져나올 수 있을까? 나는 그 실마리를 룰루 밀러의 저서 《물고기는 존재하지 않는다》를 떠올리며 생각해봤다. 이 책은 우리가 당연하게 '물고기(Fish)'라고 부르던 분류가 사실 과학적으로는 단일한 계통을 가리키지 않는다는 이야기를 다룬다. '물고기'라는 개념은 인간이 자연의 복잡성을 이해하기 위해 붙인 그럴듯한 라벨에 가깝다.
이 비유에서 내가 가져오고 싶은 것은 하나다.
그럴듯한 이름이 붙었다고 해서, 그것이 곧 실체를 정확히 설명하는 것은 아니라는 점이다.
AI의 답변도 마찬가지다. 답변이 자연스럽고 친절하다고 해서, 그것이 곧 내 생각을 제대로 검증했다는 뜻은 아니다. AI는 내가 던진 맥락 안에서 다음에 올 법한 말을 매우 그럴듯하게 이어간다. 때로는 그것이 실제 이해처럼 보이고, 때로는 깊은 공감처럼 보인다.
하지만 그 그럴듯함을 그대로 진실로 받아들이는 순간, 나는 AI가 만든 답보다 내 편안함에 속을 수 있다.
편향의 파도를 넘자
AI가 잘못했다는 이야기를 하려는 것은 아니다. 문제는 AI를 너무 쉽게 믿고 싶어 하는 우리의 태도에 있다. AI 시대에 필요한 것은 AI의 말을 더 많이 받아 적는 능력이 아니라, 그 말을 어디까지 받아들일지 판단하는 힘이다.
개발자가 AI가 생성한 코드를 맹신하지 않고 리뷰하고 리팩토링하듯, 우리는 AI가 던져주는 정보와 공감을 계속 의심하고 검증해야 한다. AI를 ‘생각을 대신해 주는 도구’가 아니라, ‘나의 편향을 깨뜨릴 도구’로 써야 한다.
이 글을 읽는 당신에게 묻고 싶다.
당신은 오늘 몇 번이나 AI의 공감에 위로받았는가?
최근 당신의 의견에 정면으로 반박하는 글이나 영상을 본 적이 언제인가?
AI에게 질문할 때, 이미 원하는 답을 정해두고 있지는 않았는가?
지금 당장 당신이 쓰는 AI 챗봇에게 이렇게 명령해 보라.
내 의견에 동조하지 말고, 논리적인 허점과 반대 의견을 날카롭게 지적해 줘.
처음에는 기분이 나쁠 수 있다. AI가 틀렸다고 생각할 수도 있다. 그러면 반박하면 된다. 치열하게 싸워도 된다. 중요한 것은 AI의 말을 그대로 받아들이는 것이 아니라, 그 불편함을 피해가지 않는 것이다.
하지만 AI의 비판을 모두 수용하진 말라. 그것 또한 당신의 명령에 입각한 그럴듯한 응답일 뿐이다. AI에게 동조를 요구하면 동조를 잘하고, 비판을 요구하면 비판도 잘한다. 결국 중요한 것은 AI가 어느 쪽으로 말하느냐가 아니라, 내가 그 말을 어떻게 받아들이느냐다.
나 역시 이 글을 쓰면서 같은 함정에 빠질 수 있다. AI가 편향을 강화한다는 결론을 먼저 정해놓고, 그 결론에 맞는 사례만 골라 붙이고 있을지도 모른다. 그래서 더더욱 이 질문을 남겨두고 싶다.
나는 지금 생각하고 있는가?
아니면 내가 믿고 싶은 말을 더 그럴듯하게 만들고 있는가?
정답처럼 말하는 AI도, 그 말을 듣는 나도 완전히 믿을 수는 없다. 그래서 우리는 조금 더 자주 멈춰야 한다. 내가 무엇을 묻고 있는지, 어떤 답을 기대하고 있는지, 그 답을 왜 믿고 싶은지 확인해야 한다. AI는 감옥의 벽이 될 수도 있고, 그 벽을 두드려보는 도구가 될 수도 있다. 어느 쪽이 될지는 결국 우리가 어떻게 묻고, 어떻게 의심하고, 어디까지 책임지고 받아들이느냐에 달려 있다.