003강｜생성형 AI의 확률 구조
강의 핵심 정의
생성형 AI는 진실을 찾는 시스템이 아니라, 확률에 기반하여 가장 그럴듯한 문장을 조립하는 시스템입니다.
이 강의를 통해 얻게 되는 관점
AI의 '그럴듯함'이 확률 계산의 결과임을 이해합니다.
Hallucination의 원인을 파악하고 Temperature로 통제하는 방법을 배웁니다.
AI 출력의 한계를 넘어 인간의 사실 검증 역할의 중요성을 깨닫습니다.
DREAMPAX AI ACADEMY · S1-EP03
오늘 강의의 핵심 질문
- 왜 생성형 AI는 그럴듯하지만 틀릴까?
- AI의 '그럴듯함'은 어디서 오는가?
- 어떻게 AI의 확률 구조를 통제할 수 있는가?
강의 핵심 포인트 요약
- 생성형 AI는 확률 모델: 패턴 재구성으로 문장 생성.
- '그럴듯함'은 수학적 확률의 결과, 사실과 무관.
- 오류 원인: 데이터 없는 정보 추정.
- Temperature: 다양성 vs 안정성 조절.
- 경쟁력: 인간의 사실 검증 능력.
개념 설명
AI의 확신과 우리의 맹신
왜 생성형 AI는 그럴듯하지만 틀릴까? 맞는 것처럼 보이는데 어딘가 어색합니다.
AI가 자신 있게 말하면 우리는 믿습니다. 하지만 AI는 "사실"을 말하는 것이 아닙니다.
생성형 AI의 본질: 가장 그럴듯한 문장 만들기
진실을 찾는 시스템이 아니라, 확률에 기반하여 문장을 조립하는 시스템입니다.
개념 정의: 패턴 재구성
Generative AI는 학습 데이터의 패턴을 바탕으로 다음 토큰을 확률적으로 생성합니다. 이것은 의미의 이해가 아닙니다.
언어적 패턴을 수학적으로 재구성하는 과정입니다.
구조적 예시: 확률의 선택
입력값: "AI의 미래는"
모델은 확률이 가장 높은 단어를 선택합니다. 이것이 문장이 자연스럽게 느껴지는 이유입니다.
밝다 (45%) / 불투명하다 (30%) / 위험하다 (15%)
오류의 원인: 확률과 사실
확률적 그럴듯함: 높은 확률을 가진 문장이 반드시 사실인 문장을 의미하지는 않습니다.
추정과 생성: 데이터에 없는 정보는 데이터 간의 거리를 "추정"하여 채웁니다.
그럴듯함은 수학적 확률의 결과일 뿐입니다.
심화: Temperature
High Temp: 다양성 증가 → 창의적 답변 (오류 가능성 상승)
Low Temp: 보수적 선택 → 안정적 답변 (반복적 출력)
확률 분포의 조절이 결과물의 품질을 결정합니다.
피해야 할 3가지 실수
AI 출력을 무조건 신뢰.
Temperature 무시하고 창의성만 추구.
사실 검증 없이 AI 의존.
심화 인사이트: 확률 통제
경쟁력: AI의 확률 구조 이해와 인간 검증 결합.
적용: 복잡 출력 시 Temperature 조절 + 사실 크로스 체크.
오늘 강의 핵심 정리
생성형 AI 구조 이해 → 오류 방지 → 활용 강화.
자주 헷갈리는 포인트
- ❌ AI는 사실을 말한다 / ⭕ 확률로 그럴듯한 문장 생성
- ❌ 그럴듯함 = 사실 / ⭕ 수학적 확률 결과
- ❌ High Temp 항상 좋음 / ⭕ 오류 증가 위험
사고 정리 프레임
Temperature로 통제하라.
인간 검증으로 보완하라.
오늘 강의 한 줄 정리
다음 강의 연결
004강 – 토큰의 개념과 비용 구조
AI를 통제하려면 토큰을 이해해야 한다.