[AI 기초 09] AI와 대화가 길어지면, 무엇을 다시 알려 줘야 할까요?

사람과 로봇이 책상 위의 목표, 시계, 물음표 카드 세 장과 길게 접힌 대화 종이를 함께 보는 크레용 그림.

작성자

카테고리:

대화창에 보이는 내용이 전부일까요?

AI와 주말 여행 계획을 세운다고 해 볼게요. 처음에는 ‘차 없이 이동하고, 오후 5시까지 돌아와야 해’라고 말했어요. 음식점과 산책 코스를 여러 번 고르다 보니 대화가 길어졌습니다. 그런데 새 일정에는 자동차 이동이 들어 있네요.

이때 ‘AI가 내 말을 잊었구나’라고만 생각하기 쉬워요. 언어 모델이 한 번의 답변을 만들 때 다룰 수 있는 정보의 양에는 한도가 있습니다. 받는 내용뿐 아니라 만드는 답변도 이 한도에 포함됩니다. 이를 ‘컨텍스트 윈도’라고 해요. 지금 답을 만들 때 펼쳐 놓을 수 있는 작업 공간에 비유할 수 있습니다.


대화가 길어질 때의 처리는 서비스마다 달라요

AI 앱은 긴 대화를 줄여 전달하거나 필요한 내용을 선택하는 등 여러 방식으로 관리할 수 있어요. 따라서 화면에 보이는 과거 대화가 매번 모두 그대로 모델에 전달된다고 가정하면 안 됩니다.

다만 조건이 답에서 빠졌다는 사실만으로 그 문장이 입력에서 사라졌다고 단정할 수는 없어요. 정보를 받았어도 답에 제대로 반영하지 못할 수 있습니다. 별도로 저장되는 서비스의 ‘기억’ 기능과, 한 번의 답변에서 처리하는 정보의 범위도 같은 뜻은 아니에요.


계속 중요한 조건은 짧게 다시 모아 주세요

계획을 바꾸거나 대화가 길어졌다면, 목표·확정된 조건·지금 질문을 한 번에 정리해 보세요.

‘토요일 나들이 일정을 정리해 줘. 차 없이 이동하고 오후 5시까지 집에 돌아와야 해. 점심은 이미 정했으니, 그 뒤에 갈 산책 장소 한 곳을 제안해 줘.’

위 문장은 설명을 위해 만든 예시이며 실제 실행 결과는 아닙니다. 이렇게 정리하면 필요한 조건을 분명하게 전달하는 데 도움이 되지만, 답이 반드시 조건을 지킨다는 보장은 없어요. 받은 일정에서 이동 방법과 귀가 시간을 다시 확인하세요. 실제 교통편의 시간도 공식 안내에서 확인해야 합니다.

오늘의 한 줄: 오래 대화했더라도, 지금 꼭 지켜야 할 조건은 다시 모아 알려 주세요.


참고 자료

공식 자료 확인: 2026년 10월 22일