Chapter 2. LLM API 호출 이해하기
LLM API의 기본 개념부터 고급 파라미터 활용까지 학습합니다.
학습 목표
- LLM API의 기본 구조와 호출 방법 이해
- reasoning_effort, verbosity, max_token 등 주요 파라미터 활용
- 효과적인 프롬프트 작성 기법 습득
📋 예시 코드 파일 구성
기본 API 호출 (Clip 1)
- 01_basic_openai_call.py: OpenAI API 직접 호출 기본 예시
- 02_langchain_basic.py: LangChain을 사용한 LLM 호출 및 프롬프트 템플릿
고급 파라미터 (Clip 2)
- 03_verbosity_demo.py: verbosity 파라미터 실험 (low/medium/high)
- 04_max_tokens_vs_verbosity.py: max_tokens와 verbosity의 차이 비교
- 05_reasoning_effort.py: reasoning_effort 파라미터와 사고 깊이 조절
💡 주요 개념
verbosity (응답 상세도)
low: 간결한 응답medium: 보통 수준 (기본값)high: 매우 자세한 응답
max_tokens (최대 토큰 수)
- 하드 제한: 지정된 토큰 수에서 강제 종료
- 문장이 끊길 수 있음
- 토큰 비용 절약에 효과적
reasoning_effort (사고 깊이)
low: 빠른 추론 (간단한 작업)medium: 균형잡힌 추론 (일반적 작업)high: 깊은 추론 (복잡한 문제)
🔧 실무 활용 팁
verbosity + max_tokens 조합
verbosity로 스타일 조절max_tokens로 비용 상한 설정
대화 히스토리 관리
- 최대 20개 메시지로 제한
- 오래된 메시지 자동 삭제
프롬프트 템플릿
- 반복 작업은 템플릿화
- 유지보수와 재사용성 향상
⚠️ 주의사항
- API 키는 절대 코드에 하드코딩하지 마세요
- 환경변수나
.env파일 사용 권장 - API 호출 비용을 고려하여 파라미터 조절