프롬프트 엔지니어링 - Chain of Thought (CoT) 알아보자.

단계적 사고로 AI의 추론 능력을 강화하다

 

 

 

오늘은 사고 연결 기법(Chain of Thought)에 대해 알아보자.

오늘의 배움

사고 연결 기법(Chain of Thought)의 개념과 원리 CoT의 다양한 유형(Zero-shot, Few-shot) CoT의 실제 응용 분야와 효과

---

1. Chain of Thought(CoT)

 

• 정의: LLM이 복잡한 문제를 해결하기 위해 단계적 사고 과정을 명시적으로 전개하도록 설계된 프롬프트 전략
• 한 줄 요약: "한 번에 답하지 말고, 생각하는 과정을 모두 보여줘"라고 AI에게 지시하는 방법
• 특징:
  • 단계적 접근: 모델이 한 번에 답을 생성하지 않고, 단계별로 논리를 전개
  • 정확성 강화: 사고 과정을 명시해 오류를 줄이고 신뢰도를 높임
  • 프롬프트 설계: 명확한 지침으로 모델이 중간 단계를 출력하도록 유도
• 필요성:
  • 기존 LLM은 즉답형(End-to-End) 방식으로 답만 생성하여 복잡한 문제에서 오류 발생
  • 다단계 문제해결 과정에서 중간 단계의 검증이 필요함
• 장점/단점:
  • 장점: 정확성 향상, 투명성 제공, 논리적 사고력 강화
  • 단점: 출력이 길어짐, 계산 비용 증가, 모델 크기에 따른 효과 차이
• 예시:
  • CoT 없이: "Q: What is 12 × 15? A: 180"
  • CoT 적용: "Q: What is 12 × 15? A: First, calculate 12 × 10 = 120. Then, calculate 12 × 5 = 60. Add them: 120 + 60 = 180."

---

2. 핵심 개념 정리

2-1. Zero-shot CoT

• 정의: 단순한 지침(예: "Think step by step")만으로 LLM이 단계적 사고 과정을 전개하도록 유도하는 프롬프트 설계 전략
• 작동 원리: "step by step"과 같은 지시어를 통해 모델이 중간 과정을 생성하도록 유도
• 특징:
  • 예시 없이 단순 지침으로 작동
  • 적용이 간단하고 빠름
• 장점/단점:
  • 장점: 간단한 적용, 빠른 실행, 추가 학습 불필요
  • 단점: 복잡한 문제에서 정확도 부족, 일관성 부족
• 필요성: 복잡한 Few-shot 예시 없이도 빠르게 추론 과정을 확인하고자 할 때 유용
• 예시:

# Zero-shot CoT 프롬프트
Solve step by step: What is 12 × 15?

# 가능한 응답
First, calculate 12 × 10 = 120.
Then calculate 12 × 5 = 60.
Add these: 120 + 60 = 180.
The answer is 180.

 

---

 

2-2. Few-shot CoT

• 정의: 예시를 포함한 프롬프트로 LLM이 논리적 사고와 단계적 문제 해결 방식을 학습하도록 설계된 전략
• 작동 원리: 프롬프트에 문제와 그 풀이 과정을 포함하여 모델이 유사한 방식으로 새 문제를 해결하도록 학습
• 특징:
  • 문제-해결 과정 예시 포함
  • 예시의 수와 복잡성 조절 가능
• 장점/단점:
  • 장점: 높은 정확성, 복잡한 문제 해결, 일관된 형식
  • 단점: 프롬프트 길이 제한, 설계 복잡성 증가, 맥락 공간 제약
• 필요성: 정확도가 중요한 복잡한 문제 해결에 필수적
• 예시:

# Few-shot CoT 프롬프트
Q: What is 12 × 15?
A: First, calculate 12 × 10 = 120. Then calculate 12 × 5 = 60. Add these: 120 + 60 = 180.

Q: What is 8 × 7?
A:

# 가능한 응답
First, calculate 8 × 5 = 40.
Then calculate 8 × 2 = 16.
Add these: 40 + 16 = 56.
The answer is 56.

---

 

2-3. CoT의 실제 응용 분야

 

• 정의: Chain of Thought가 실제로 사용되는 다양한 영역과 그 효과
• 작동 원리: 단계적 사고를 통해 복잡한 문제를 분해하고 순차적으로 해결
• 특징:
  • 도메인별 최적화 가능
  • 다양한 산업 분야에 적용 가능
• 장점/단점:
  • 장점: 높은 정확성, 투명한 의사결정, 교육적 가치
  • 단점: 출력 길이 증가, 계산 리소스 증가
• 필요성: 정확성과 신뢰성이 중요한 분야에서 필수적
• 예시:

# 의료 진단에서의 CoT 적용
Q: 39세 남성 환자가 급성 복통, 오른쪽 하복부 통증, 구토, 37.8°C 발열 증상이 있습니다. 진단은?

A: 단계적으로 분석해보겠습니다.
1. 증상: 급성 복통, 오른쪽 하복부 통증, 구토, 발열
2. 위치: 오른쪽 하복부는 맹장(충수)이 위치한 곳임
3. 맥버니 포인트 압통이 있을 가능성이 높음
4. 증상과 위치를 종합적으로 고려할 때, 급성 충수염(맹장염) 가능성이 높음
5. 확진을 위해 추가적인 혈액검사와 CT 또는 초음파 검사가 필요함

따라서 가장 가능성 높은 예비 진단은 급성 충수염입니다.

---

 

3. 비교분석표

구분	Zero-shot CoT	Few-shot CoT
특징	예시 없이 "단계별로 풀어보세요" 지시만 포함	문제 해결 예시를 포함하여 모델 유도
장점	간단한 적용, 프롬프트 길이 짧음, 빠른 실행	높은 정확성, 복잡한 문제 해결 가능, 일관된 형식
단점	복잡한 문제에서 정확도 부족, 일관성 떨어짐	프롬프트 길이 제한, 설계 복잡성 증가
작동원리	단순 지시어로 단계적 사고 유도	예시 학습을 통한 유사 패턴 적용
개념 코드 예시	"Solve step by step: What is 12 × 15?"	"Q: What is 12 × 15? A: First, calculate 12 × 10 = 120. Then calculate 12 × 5 = 60. Add these: 120 + 60 = 180. Q: What is 8 × 7? A:"
활용사례	간단한 수학 문제, 일상적 질문	복잡한 추론, 논리 퍼즐, 의료 진단, 법률 분석
정확도	중간 수준	높은 수준
적용 난이도	쉬움	중간~어려움