1. 편향은 한쪽으로 치우치는 경향이에요
네. AI의 답도 특정 관점이나 조건 쪽으로 반복해서 치우칠 수 있어요. 이런 경향을 ‘편향’이라고 해요. 말투가 차분하고 설명이 자연스럽다고 해서, 여러 사람의 상황을 고르게 고려한 답은 아닐 수 있어요.
다만 마음에 들지 않는 답이나 부족한 답 하나만으로 편향이 있다고 단정할 수는 없어요.
2. 학습 자료만의 문제는 아니에요
AI가 배운 자료에 어떤 정보가 많고 적은지는 답에 영향을 줄 수 있어요. 하지만 자료만 살펴봐서는 충분하지 않아요. AI를 설계하고 개발할 때의 선택, 사람들이 AI를 사용하는 환경도 함께 살펴야 해요. 미국 국립표준기술연구소(NIST)도 편향을 데이터와 알고리즘뿐 아니라 사람과 사회적 맥락까지 포함해 다룹니다. NIST 공식 설명
3. 주말 추천으로 생각해 볼까요?
이해를 돕기 위해 만든 가상 예시예요. 실제 AI를 시험한 결과가 아닙니다.
“주말에 할 일을 추천해 줘”라고 물었는데, 답이 늘 자동차로 멀리 가거나 돈이 많이 드는 활동에 몰린다고 해 볼게요. 차가 없거나 비용을 아끼고 싶은 사람에게는 선택지가 좁게 느껴질 수 있어요.
이때는 “차를 이용할 수 있다고 가정한 건가요?”라고 짚어 볼 수 있어요. 한 번의 추천만으로 편향을 판정하기보다, 어떤 조건이 빠졌고 비슷한 치우침이 반복되는지 살펴보는 거예요.
4. 빠진 조건과 다른 선택지를 물어보세요
다음처럼 질문을 이어 가 보세요.
- “이 추천은 어떤 조건을 가정했나요?”
- “차 없이 갈 수 있고, 무료로 즐길 수 있는 활동도 알려 주세요.”
- “처음 추천과 다른 방식으로 주말을 보내는 선택지도 있나요?”
이런 질문은 답의 가정을 살펴보고 선택지를 넓히기 위한 방법이에요. 질문을 바꾼다고 편향이 사라지거나 중립적인 답이 보장되는 것은 아니에요. 실제로 이용할 장소의 운영 시간과 비용 등은 공식 안내에서 확인해 주세요.
답글 남기기