AI에게 새 안내문을 붙여 넣으면, 처음 보는 내용도 정리해 줍니다. 그렇다면 그 순간 AI가 새로 공부한 걸까요? 이해하려면 ‘미리 학습한 것’과 ‘이번 답변에 참고하는 것’을 나눠 보면 좋습니다.
학습은 답변을 만드는 바탕이에요
언어 모델은 학습 과정에서 많은 자료의 패턴을 익히며 내부의 수치들을 조정합니다. 이 수치들은 이후 답을 만드는 데 쓰입니다. 학습 자료를 책장처럼 그대로 보관했다가 항상 정확히 꺼내 보여주는 방식으로 생각하면 오해하기 쉽습니다.
맥락은 지금 참고하는 자료예요
우리가 적은 요청, 대화에서 제공된 정보, 붙여 넣은 안내문 등은 이번 응답의 맥락이 될 수 있습니다. “이 문서는 세 줄로 요약해줘”라는 지시도 여기에 들어갑니다. 보통 대화 중에 새 자료를 주는 일은 모델을 별도로 다시 학습시키는 작업과 구분됩니다.
비유하자면 학습은 미리 익혀 둔 글 읽는 실력, 맥락은 지금 책상 위에 펼쳐 놓은 자료에 가깝습니다. 어디까지나 차이를 이해하기 위한 비유이며, AI가 사람과 같은 방식으로 공부하거나 기억한다는 뜻은 아닙니다.
가상의 예: 바뀐 모임 장소 알려주기
모임 장소가 바뀌어 최신 안내를 AI에게 건넸다고 해봅시다. “아래 안내문에 적힌 내용만 이용해 준비 사항을 정리해줘. 장소와 시간을 따로 적고, 없는 정보는 확인 필요로 표시해줘”라고 요청할 수 있습니다.
AI는 제공된 자료를 바탕으로 답할 수 있지만, 이전 안내와 새 안내를 혼동하지 않았는지는 확인해야 합니다. 최신 자료가 무엇인지 날짜를 붙이고, 이전 내용보다 우선해서 참고하라고 알려주면 요청이 더 분명해집니다.
현재 맥락과 서비스의 기억은 구분해요
한 번에 처리할 수 있는 맥락에는 한도가 있습니다. 긴 대화나 자료에서는 필요한 부분을 다시 짚어 주는 편이 좋습니다. 또 현재 답변에 자료를 쓰는 일, 서비스의 메모리 기능, 대화가 나중에 모델 개선에 사용되는 일은 서로 다른 문제입니다.
대화의 저장과 이용 범위는 제품과 설정에 따라 달라질 수 있으니, 민감한 내용을 입력하기 전에는 해당 서비스의 데이터 설정과 안내를 확인하세요.
이 글은 AI의 도움을 받아 작성했습니다. 중요한 정보는 아래 공식 자료와 이용 중인 서비스의 최신 원문을 직접 확인해 주세요.
참고한 공식 자료
OpenAI 도움말: ChatGPT와 기반 모델의 개발 방식
출처 확인일: 2026-10-20