LLM 사용에 대해 알아보자.

효과적인 프롬프트 설계와 API 활용 

 

 

 

오늘은 LLM(Large Language Model)의 사용 알아보자.

오늘의 배움

프롬프트 설계 기법과 중요성 LLM의 다양한 활용 사례 API를 통한 LLM 호출 방식

---

1. LLM이란?

• 정의: LLM(Large Language Model)은 대량의 텍스트 데이터를 학습하여 다양한 자연어 처리(NLP) 작업을 수행할 수 있는 AI 모델이다.
• 한 줄 요약: 인간과 자연스럽게 대화하거나 텍스트 생성, 요약, 번역 등을 수행하는 대규모 인공지능 모델.
• 특징:
  • 방대한 학습 데이터로 훈련됨
  • 다양한 자연어 작업 수행 가능
  • 입력된 프롬프트에 따라 출력이 달라짐
• 필요성: 고객 응대, 콘텐츠 생성, 번역, 법률 검토 등 다양한 분야에서 자동화 및 생산성 향상이 가능함.
• 장점:
  • 다양한 텍스트 작업 자동화
  • 맞춤형 응답 생성 가능
• 단점:
  • 정확도가 완벽하지 않음
  • 윤리적 문제 발생 가능

---

2. 핵심 개념 정리

2-1. 프롬프트 설계 기법

• 정의: LLM에게 원하는 작업을 정확히 수행하도록 지시하는 입력 텍스트
• 작동 원리: 명확하고 구체적인 프롬프트가 정확한 결과를 도출함
• 특징:
  • 역할 부여 가능
  • 단계적 추론 유도 가능
  • 제약 조건을 설정 가능
  • 예시 제공 가능
  • 반복적인 수정 가능
• 예시 코드:

prompt = "당신은 데이터 분석 전문가입니다. 주어진 데이터를 분석하고 트렌드를 요약하세요."

 

---

 

2-2. Zero-shot, One-shot, Few-shot 프롬프트 기법

• Zero-shot: 예시 없이 작업을 수행하는 것
  • 장점: 빠르고 간단함
  • 단점: 정밀도가 낮을 수 있음
  • 예: "Translate 'Bonjour' to English."
• One-shot: 하나의 예시 제공 후 작업 수행하는 것
  • 장점: 예제 기반으로 성능 향상
  • 단점: 한 개의 예제로는 부족할 수도 있음
  • 예: 예시: "ChatGPT는 AI다." / 작업: "BERT는" / 출력: "AI다."

• Few-shot: 여러 예시를 제공하는 것
  • 장점: 예제가 많아질수록 정밀도 증가
  • 단점: 토큰 사용량 증가 → 비용 증가
  • 예: 사과는 빨갛다. / 바나나는 노랗다. / 포도는 보라색이다.

---

2-3. API 방식 LLM 호출

• API 방식 LLM 호출은 프로그램에서 LLM을 활용하기 위해 HTTP 요청을 통해 모델과 상호작용하는 방법이다.
• 호출 흐름
  1. API 키 발급: OpenAI 계정에서 API 키 생성
  2. 프롬프트 작성: 모델에 요청할 작업 작성
  3. 요청 매개변수 설정
     • model: 사용할 모델 (예: gpt-4, gpt-3.5-turbo 등)
     • max_tokens: 출력 길이 제한
     • temperature: 응답 창의성 조절
  4. 응답 받기: 모델이 생성한 텍스트 활용

import openai

openai.api_key = "your-api-key"

response = openai.Completion.create(
    model="text-davinci-003",
    prompt="Explain AI in simple terms.",
    max_tokens=100,
    temperature=0.7
)

print(response.choices[0].text.strip())