1999년에 나온 《매트릭스》는 이제 오래된 영화입니다. 그런데 AI 검색과 리서치, 에이전트를 일상적으로 쓰고 나면 예전과는 다른 설정이 눈에 들어옵니다.
AI 검색에서는 검색 결과 목록보다 AI가 정리한 답을 먼저 읽습니다. 웹사이트의 메뉴를 직접 누르는 대신 AI에게 목표를 말하고 작업을 맡기기도 합니다. 영화 속 가상세계와는 다르지만, 현실과 원문을 만나는 첫 화면을 소프트웨어가 구성해 주는 상황은 이제 낯설지 않습니다.
《매트릭스》에서 사람들은 기계가 만든 가상현실을 평범한 일상으로 믿습니다. 현재의 AI를 이 설정과 똑같이 볼 수는 없습니다. 그래도 영화가 던진 질문 하나는 지금 다시 생각해볼 만합니다.
AI가 현실을 만드는 것은 아니더라도, 우리가 현실을 읽고 행동하는 순서를 먼저 정리해 준다면 사람의 역할은 어떻게 달라질까요?
검색 결과보다 AI의 답을 먼저 보게 됩니다
기존 검색에서는 링크 목록이 먼저 나왔습니다. 제목과 요약을 훑어보고, 몇 개의 원문을 연 다음, 서로 다른 내용을 조합해 답을 만들었습니다.
ChatGPT Search는 웹을 검색해 자연어 답변을 먼저 보여주고, 관련 원문 링크와 출처 목록을 함께 제공합니다. Deep Research는 온라인 자료 수백 개를 찾고 분석해 인용이 붙은 하나의 보고서로 묶습니다.
이렇게 답을 먼저 받으면 사람이 하는 일도 달라집니다. 자료를 하나씩 찾고 조합하는 시간은 줄고, 대신 질문의 범위를 정하고 AI가 만든 결과를 검토해야 합니다. 탐색과 종합의 첫 단계를 AI에게 맡긴 만큼 생기는 일입니다.
자연스러운 문장에도 오류는 들어갈 수 있습니다. NIST는 생성형 AI가 틀리거나 거짓인 내용을 자신 있게 제시하는 현상을 ‘컨페뷸레이션(confabulation)’이라는 위험으로 따로 다룹니다. 이때는 원문 링크를 열어 답을 확인할 수 있습니다.
AI가 웹사이트를 대신 조작할 때
답을 먼저 받는 데 익숙해지면, 찾은 정보를 바탕으로 해야 할 일까지 AI에 맡기게 됩니다.
ChatGPT agent는 자체 가상 컴퓨터에서 웹사이트를 탐색하고, 정보를 걸러내고, 코드를 실행하거나 분석하며 여러 단계의 작업을 이어갈 수 있습니다. 에이전트는 중요한 행동 전에 권한을 요청하고, 사용자는 필요하면 브라우저를 넘겨받거나 작업을 중단할 수 있습니다.
사람은 화면을 하나씩 조작하는 대신 목표를 말하고 권한을 정합니다. 예전에는 사람이 작업 순서를 정한 뒤 소프트웨어를 움직였다면, 에이전트형 AI에서는 AI가 중간 순서까지 구성합니다.
AI가 열 개의 화면을 대신 오가면 사용자는 그 화면을 모두 볼 필요가 없습니다. 편리한 만큼 중간 과정은 눈에 덜 들어옵니다. 어떤 자료를 골랐고 어떤 권한을 썼는지는 결과만 보고 알아차리기 어려울 수 있습니다.
검색에서는 AI가 자료 선택과 요약을 먼저 합니다. 에이전트에서는 실제 작업의 순서까지 먼저 정합니다. 이제 사용자는 결과뿐 아니라 AI가 어떤 과정을 거쳤는지도 필요에 따라 확인해야 합니다.
그렇다면 사람은 덜 생각하게 되는 걸까요
AI가 자료를 고르고 작업 순서까지 정해 주면 판단도 함께 넘기게 될까요. 사용자는 이미 “이 자료에서 무엇이 중요한가”, “어떤 선택이 나은가”, “이 일을 어떻게 처리할까” 같은 질문도 AI에 묻고 있습니다.
Microsoft Research의 한 연구에서는 특정 작업에서 AI에 대한 신뢰가 높을수록 비판적 사고를 덜 했다고 보고하는 경향이 나타났습니다. 동시에 생각이 필요한 일은 답을 직접 만드는 데서 검증하고, 업무에 맞게 고치고, 결과를 관리하는 쪽으로 옮겨갔습니다. 다만 자기보고식 설문이므로 AI가 사고력을 떨어뜨린다는 인과관계로 볼 수는 없습니다.
사람은 AI가 낸 답을 확인하고 자기 일에 맞게 고치는 과정에서 계속 판단합니다. 하지만 정리된 결과가 충분히 편하면, 이 확인은 쉽게 건너뛸 수 있습니다.
사이퍼의 선택은 편리함이 가리는 것을 보여줍니다
《매트릭스》의 사이퍼는 매트릭스 밖의 현실에 지쳐 그 안으로 돌아가길 원하고, 결국 동료들을 배신합니다. 이 장면을 지금의 AI와 나란히 놓으면 먼저 보이는 것은 편리함입니다.
직접 확인하는 과정은 번거롭고, 이미 정리된 결과는 편합니다. AI 검색은 여러 문서를 읽는 수고를 줄이고, 에이전트는 여러 화면을 직접 조작하는 수고까지 줄여줍니다. 덕분에 시간을 아낄 수 있습니다. 다만 수고가 줄어드는 동안 어떤 단계를 확인하지 않게 됐는지는 놓치기 쉽습니다.
NIST는 생성형 AI 위험을 설명하면서 자동화 편향과 과의존을 따로 다룹니다. AI가 내놓은 결과를 기본값처럼 받아들이기 시작하면, 틀렸을 때 어느 단계로 돌아가야 하는지 알기 어려워질 수 있습니다.
모든 작업을 같은 강도로 확인할 필요는 없습니다. 실패해도 쉽게 되돌릴 수 있는 초안은 AI의 속도를 활용하면 됩니다. 결과가 돈·권한·평판·의사결정에 영향을 줄 때는 원문과 실행 범위를 다시 확인하는 편이 안전합니다.
확인의 범위는 AI를 얼마나 많이 쓰느냐보다 어디까지 맡겼고, 실패했을 때 어디서 되돌릴 수 있느냐에 따라 달라집니다.
첫 화면과 유일한 현실은 다릅니다
그렇다면 우리도 매트릭스 안으로 들어가는 중일까요? 영화 속 매트릭스와 현재의 AI 사이에는 중요한 차이가 있습니다.
영화의 매트릭스는 안에 있는 사람이 현실을 직접 확인하기 어려운 폐쇄된 시스템입니다. 현재의 AI 검색과 Deep Research는 원문과 인용을 보여주고, AI 에이전트는 중요한 행동 전에 권한을 묻고 사용자가 개입하거나 중단할 수 있게 설계돼 있습니다. NIST가 검토하는 콘텐츠 인증과 출처 추적, 라벨링·워터마킹·탐지 기술도 결과가 어디에서 왔는지 확인할 길을 만들려는 시도입니다.
이런 장치가 답의 정확성을 자동으로 보장하지는 않습니다. 대신 사용자는 원문을 열고, 진행 중인 행동을 멈추고, 결과의 출처를 추적할 수 있습니다.
AI가 정리한 첫 화면은 편리합니다. 그 화면만 보게 되는지는 출처와 권한, 중단 장치가 실제 사용 과정에서 얼마나 잘 보이고 쓰이는지에도 달려 있습니다.
AI를 잘 쓰는 일은 현재 위치를 아는 일입니다
《매트릭스》는 내가 현실이라고 믿는 것이 어떤 과정을 거쳐 눈앞에 왔는지 묻습니다. AI를 자주 쓰는 사람에게는 꽤 실용적인 질문입니다.
지금 보고 있는 것은 원문일까요, AI가 고른 자료를 묶은 답일까요, 아니면 행동까지 맡긴 결과일까요? 원문을 읽는 중이라면 내용을 판단하면 됩니다. AI의 답을 읽는 중이라면 선택된 근거와 빠진 조건을 확인해야 합니다. 행동을 맡겼다면 권한과 중단 지점을 관리해야 합니다.
영화에서 빨간 약은 매트릭스의 의미를 알고 그 밖으로 나가기 위한 선택이었습니다. 지금 필요한 것은 거창한 탈출보다 AI가 어느 단계까지 맡았는지 알고, 필요할 때 직접 확인하는 일에 가깝습니다.
AI는 현실 그 자체가 아닙니다. 하지만 현실을 읽고 움직이는 첫 순서를 구성하는 인터페이스가 되어가고 있습니다. AI가 내놓은 첫 화면을 편하게 쓰되 필요할 때 원문과 직접 조작으로 돌아갈 수 있는가.
관련 글: 영화 《Her》의 AI를 다시 보다 — 우리가 테오도르가 되어가는 이유
참고한 자료
- American Film Institute, 《The Matrix》
- OpenAI, ChatGPT Search
- OpenAI, Deep Research
- OpenAI, ChatGPT agent
- OpenAI · Duke University · Harvard University, How People Use ChatGPT
- Microsoft Research, The Impact of Generative AI on Critical Thinking
- NIST, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile
- NIST, Reducing Risks Posed by Synthetic Content