[작성자:] aiknowsai

AI가 어떤 행동을 한 뒤 그 결과를 점수로 받아 배울 수도 있을까요? 강화학습은 주변 상황을 보고 행동을 고른 다음, 결과로 받은 보상을 바탕으로 행동 선택 방법을 학습하는 방식입니다. 여기서 보상은 학습에 쓰는 숫자 신호를 뜻합니다.

행동과 결과를 연결해요

강화학습에서는 학습하는 AI와 행동이 이루어지는 환경이 서로 영향을 주고받습니다. AI는 행동을 선택한 뒤, 그 결과에 따른 상황과 보상을 확인합니다. 이런 경험을 활용해 다음에 어떤 행동을 선택할지 정하는 방법을 조정합니다. OpenAI의 강화학습 기초 설명

길 찾기 게임으로 생각해 봐요

다음은 원리를 설명하는 가상의 예시입니다. 작은 로봇이 격자판에서 위·아래·왼쪽·오른쪽으로 움직이는 게임을 떠올려 보세요. 목적지에 닿으면 +10점과 함께 게임이 끝나고, 벽에 부딪히면 -1점, 그 밖의 이동은 0점이라고 정합니다.

로봇은 여러 시도에서 얻은 경험을 학습에 활용합니다. 이때 +10점은 로봇이 기쁨을 느낀다는 뜻이 아닙니다. 어떤 결과에 얼마의 점수를 주도록 설계했는지를 나타내는 값입니다.

지금 점수와 나중 점수를 함께 봐요

강화학습의 목표는 당장 가장 높은 점수를 받는 행동만 고르는 것이 아닙니다. 앞으로 받을 보상을 합친 값이 평균적으로 커지도록 행동 선택 방법을 배우는 것입니다. 이를 누적 보상을 높인다고 설명합니다.

가상의 게임에서도 지금 이동한 칸의 점수가 0점이어도, 그 길을 따라 목적지에 도착하면 나중에 +10점을 얻을 수 있습니다. 행동을 여러 번 이어 간 결과까지 고려하는 것이죠. 다만 시도할 때마다 반드시 실력이 나아지거나 최선의 경로를 찾는다고 보장되지는 않습니다. 보상과 누적 보상의 차이

점수 기준도 잘 정해야 해요

점수를 잘 받는 행동이 사람이 바라던 결과와 어긋날 수도 있습니다. OpenAI의 보상 설계 설명은 복잡한 목표를 단순한 점수로 대신할 때 원치 않는 행동이 나올 수 있다고 짚습니다. 그래서 학습 결과를 볼 때는 점수뿐 아니라 실제 목표를 달성했는지도 확인해야 합니다.

오늘 기억할 것은 강화학습은 행동의 결과를 숫자 보상으로 받아, 더 나은 행동 선택 방법을 배우는 과정이라는 점입니다.

출처와 확인일

• OpenAI Spinning Up — Part 1: Key Concepts in RL: 행동, 환경, 수치 보상과 누적 보상의 정의. 게시·수정일 표시 없음.
• OpenAI — Learning from human preferences: 목표와 보상 기준이 어긋날 수 있다는 설명. 2017년 6월 13일 게시.

공식 자료 확인: 2026년 11월 3일(미국 태평양 시간). 격자판 게임은 설명용 가상 예시이며 실제 모델을 시험한 결과가 아닙니다.

이 글과 그림은 AI의 도움을 받아 작성했습니다. 중요한 정보는 원문과 공식 자료에서 다시 확인해 주세요.

단추가 한 상자에 섞여 있다고 상상해 봐요. 미리 정해 둔 이름표 없이 비슷한 단추끼리 모으면 어떤 묶음이 생길까요? 이런 생각과 연결되는 AI 기술이 군집화입니다.

정답 이름표 없이 묶음을 찾아요

군집화는 자료 사이의 비슷한 정도를 바탕으로 묶음을 만드는 방법입니다. 각 자료에 ‘정답 범주’를 미리 붙여 학습시키지 않는 비지도 학습의 한 종류입니다. Google의 군집화 설명도 이름표가 없는 자료의 유사성을 기준으로 설명합니다.

앞서 배운 분류는 미리 정한 범주를 예측하는 일이었습니다. 군집화에서는 비슷한 자료의 묶음을 찾고, 그 묶음에 어떤 의미가 있는지 살펴봅니다. 묶음에 나중에 이름을 붙일 수는 있지만, 그 이름이 처음부터 주어진 정답은 아닙니다.

무엇을 비슷하다고 볼까요?

단추를 색깔 중심으로 모으면 같은 색끼리, 크기 중심으로 모으면 비슷한 크기끼리 모일 수 있겠죠. 이것은 원리를 설명하는 가상 비유이며 실제 AI의 계산 결과가 아닙니다.

AI가 자료를 비교할 때 쓰는 색·크기 같은 정보를 특성이라고 합니다. 어떤 특성을 사용하고 비슷한 정도를 어떻게 계산하느냐에 따라 묶음이 달라질 수 있습니다.

숫자의 크기도 살펴봐야 해요

여러 특성을 숫자로 비교한다면 단위와 값의 범위도 중요합니다. 같은 단추의 지름도 센티미터로 쓸 때와 밀리미터로 쓸 때 숫자가 달라집니다. 이런 차이가 비교에 어떤 영향을 주는지 확인해야 해요.

Google의 자료 준비 안내는 특성들의 척도를 맞추기 전후에 자료의 유사성이 다르게 계산될 수 있음을 보여 줍니다. 초보자는 계산법보다 “무슨 정보를 어떤 기준으로 비교했나요?”라는 질문을 기억하면 충분합니다.

묶음은 살펴볼 단서예요

예를 들어 많은 검색 결과를 비슷한 내용끼리 묶으면 자료를 둘러보는 데 활용할 수 있습니다. 하지만 묶음이 나왔다는 사실만으로 세상에 꼭 그 종류만 존재한다고 결론 내릴 수는 없습니다.

군집화 결과를 볼 때는 각 묶음에 어떤 자료가 들어갔는지 직접 살펴보세요. 비슷하게 묶였다는 이유만으로 같은 원인이나 같은 가치를 지녔다고 단정하지 않는 것이 좋습니다.

오늘의 핵심은 군집화는 미리 붙인 정답 이름표 대신, 정한 비교 기준으로 비슷한 자료의 묶음을 찾는 방법이라는 점입니다.

출처와 확인일

• Google Machine Learning — What is clustering?: 군집화의 정의, 분류와의 구분, 유사성 기준과 활용 예.
• Google Machine Learning — Data preparation: 특성의 척도와 유사성 계산.

두 문서 수정일: 2025년 8월 25일. 자료 확인일: 2026년 11월 2일 미국 태평양 시간. 단추 예시는 설명용 비유이며 특정 모델을 시험한 결과가 아닙니다.

사과와 배를 구분하는 AI를 만든다고 상상해 봐요. 연습에 쓴 사진은 잘 맞히는데, 새로 찍은 과일 사진에서는 자꾸 틀린다면 어떨까요? 익숙한 자료에서의 좋은 결과만으로는 충분하지 않습니다.

이때 알아둘 개념이 과적합입니다. 학습에 쓴 자료의 특징에 지나치게 맞춰져, 새로운 자료에서는 예측을 잘하지 못하는 현상을 말합니다. 위 상황은 이해를 돕기 위한 가상 예시이며 실제 모델 시험 결과가 아닙니다.

연습한 사진 밖에서도 통할까요?

과일 사진 카드에 이름을 붙이며 연습하는 모습을 떠올려 보세요. 카드의 배경이나 구석의 표시처럼 그 자료에만 있는 단서에 기대면, 다른 장소에서 찍은 사진은 어려울 수 있습니다.

새 자료에도 배운 내용을 잘 적용하는 능력을 일반화라고 합니다. 과적합을 살펴보려면 학습에 사용한 자료뿐 아니라, 따로 남겨 둔 자료에서도 결과를 확인해야 합니다. Google의 설명도 학습 자료와 새 자료에서의 성능 차이를 강조합니다.

자료를 세 가지 역할로 나눠요

모델을 개발할 때는 자료를 다음처럼 나눠 쓰는 방법이 널리 사용됩니다.

• 학습 자료: 모델이 패턴을 배우는 데 씁니다.
• 검증 자료: 개발 도중 결과를 확인하고 설정이나 모델을 고르는 데 씁니다.
• 시험 자료: 모델 선택과 조정을 마친 뒤, 따로 남겨 둔 예시로 마지막 평가를 합니다.

과일 카드로 비유하면 연습용 묶음, 중간 점검용 묶음, 마지막까지 따로 둔 묶음입니다. 몇 퍼센트씩 나눠야 한다는 공통 정답은 없습니다. 자료의 양과 하려는 일에 맞춰 정합니다.

마지막 시험에 계속 맞추면 곤란해요

시험 결과를 본 뒤 그 점수를 올리려고 계속 모델을 바꾸면, 어느새 시험 자료의 특징에도 맞춰질 수 있습니다. 그래서 개발 중 선택에는 검증 자료를 쓰고, 시험 자료는 별도로 다루는 것입니다.

서로 다른 묶음에 같은 사진이 들어가 있는지도 확인해야 합니다. 이름만 ‘새 자료’여도 실제로 연습한 사진과 같다면 평가가 지나치게 좋아 보일 수 있습니다. Google의 자료 분할 안내는 중복과 반복 사용의 문제를 함께 설명합니다.

새 자료에서 잘해도 현실은 살펴보세요

밝은 실내의 사진만으로 평가했는데 실제로는 어두운 매장에서 쓴다면 조건이 다릅니다. 시험 자료가 실제 사용 환경을 얼마나 담고 있는지도 중요합니다.

AI의 성능을 볼 때는 “학습에 쓴 자료와 따로 확인했나요?”라고 물어보세요. 오늘의 핵심은 연습한 자료에서 잘하는 것과 새로운 상황에서도 잘하는 것을 구분하는 것입니다.

출처와 확인일

• Google Machine Learning Crash Course — Overfitting
• Google Machine Learning Crash Course — Dividing the original dataset

두 문서 수정일: 2025년 12월 3일. 자료 확인일: 2026년 11월 1일 미국 태평양 시간. 특정 제품을 시험하거나 성능을 평가한 글은 아닙니다.

빵집에서 AI에게 “내일 손님이 많이 올까요?”라고 묻는다고 해 볼게요. 답을 ‘한산함·보통·붐빔’ 같은 종류로 받고 싶은지, ‘예상 방문객 수’라는 숫자로 받고 싶은지에 따라 문제를 다르게 정할 수 있습니다.

이번에는 예측 문제에서 자주 쓰이는 두 방식, 분류와 회귀를 알아봅니다. AI의 모든 일을 이 두 가지로 나눈다는 뜻은 아닙니다.

분류는 어느 종류인지 예측해요

분류는 입력이 미리 정한 범주 중 어디에 속하는지 예측하는 작업입니다. 예를 들어 상품 사진을 보고 사과인지 배인지 구분하거나, 문의를 배송·교환·기타로 나누는 일을 생각할 수 있어요.

빵집이 다음 날을 ‘한산함·보통·붐빔’으로 구분하고 싶다면 분류 문제로 정할 수 있습니다. 먼저 각 범주가 무엇을 뜻하는지 정해야 해요. 무엇을 ‘붐빔’이라고 부를지 제각각이면 원하는 답도 모호해집니다.

회귀는 얼마인지 예측해요

회귀라는 이름은 낯설지만, 여기서는 숫자 값을 예측하는 작업이라고 기억하면 됩니다. 이동에 걸릴 시간, 내일 팔릴 빵의 개수 등을 예로 들 수 있어요.

가상의 빵집에서 지난 판매 기록과 요일 등을 바탕으로 내일 팔릴 빵을 ‘80개’로 예상했다면, 이 숫자를 예측하는 문제는 회귀에 해당합니다. 80개는 설명을 위한 가상 값이며 실제 모델의 계산 결과가 아닙니다.

숫자로 자세하게 표현돼도 예측이 확정된 사실이 되는 것은 아닙니다. 재료를 준비하는 결정에는 예상이 빗나갈 가능성도 함께 고려해야 합니다.

먼저 필요한 답의 모양을 정하세요

같은 빵집의 기록을 쓰더라도 무엇을 알고 싶은지에 따라 목표가 달라질 수 있어요.

• “내일은 한산함·보통·붐빔 중 어디에 가까울까?” → 범주를 예측하는 분류
• “내일 빵이 몇 개 팔릴까?” → 수량을 예측하는 회귀

결과 화면에 숫자가 보인다고 무조건 회귀인 것은 아닙니다. 분류에서도 범주별 가능성을 숫자로 보여 줄 수 있어요. 핵심은 예측하려는 대상이 범주인지, 수량이나 시간 같은 숫자 값인지입니다.

AI 기능을 볼 때 “이 기능은 무엇을 예측하고, 그 답으로 어떤 일을 하려는 걸까?”라고 물어보세요. 기술 이름보다 필요한 결과를 먼저 생각하는 데 도움이 됩니다.

출처와 확인일

• Google — What is Machine Learning?: 분류와 회귀의 기본 설명. 문서 수정일 2026년 1월 27일.
• Google — Framing an ML problem: 목표에 맞게 모델의 출력 정하기. 문서 수정일 2025년 8월 25일.

자료 확인일: 2026년 10월 31일. 빵집과 수치는 이해를 돕는 가상 예시이며, 특정 서비스를 시험하거나 예측 정확도를 평가한 글은 아닙니다.