환경 변수로 API 키 설정 (Linux/Mac)

export ANTHROPIC_API_KEY=“YOUR_API_KEY”

Windows PowerShell

client = anthropic.Anthropic()

• 항상 한국어로 응답합니다.
• 확인되지 않은 정보는 추측하지 않습니다.
• 민감한 개인정보(주민번호, 카드번호)는 절대 요청하지 않습니다.

응답 형식

• 인사 → 문제 확인 → 해결책 제시 → 추가 도움 여부 확인
• 응답은 3문장 이내로 간결하게 유지합니다.

에스컬레이션 기준

• 환불 금액이 50만원 초과 시 상담사 연결 안내
• 법적 문의 시 즉시 전문 부서 안내

금지 행동

def count_and_manage_tokens(messages, system_prompt, max_context=150000): """토큰 예산을 관리하며 API 호출을 수행합니다.""" # 토큰 카운팅 API 사용 count_response = client.messages.count_tokens( model=“claude-sonnet-4-20250514”, system=system_prompt, messages=messages )

input_tokens = count_response.input_tokens
print(f"현재 입력 토큰: {input_tokens}")

# 예산 초과 시 오래된 메시지 제거 (슬라이딩 윈도우)
while input_tokens > max_context and len(messages) > 2:
    messages = messages[2:]  # 가장 오래된 user-assistant 쌍 제거
    count_response = client.messages.count_tokens(
        model="claude-sonnet-4-20250514",
        system=system_prompt,
        messages=messages
    )
    input_tokens = count_response.input_tokens

response = client.messages.create(
    model="claude-sonnet-4-20250514",
    max_tokens=1024,
    system=system_prompt,
    messages=messages
)

print(f"사용 토큰 - 입력: {response.usage.input_tokens}, 출력: {response.usage.output_tokens}")
return response</code></pre>

토큰 절약 팁

• 시스템 프롬프트 압축: 불필요한 예시를 제거하고 핵심 규칙만 유지 (목표: 500~1500 토큰)- 슬라이딩 윈도우: 최근 N개 턴만 유지하고 오래된 대화는 요약으로 대체- max_tokens 제한: 응답 길이를 용도에 맞게 설정 (FAQ 봇: 256, 상담 봇: 1024)

4단계: 멀티턴 프롬프트 드리프트 방지

프롬프트 드리프트란 대화가 길어질수록 AI가 초기 시스템 프롬프트의 지침을 점점 무시하는 현상입니다. 다음 전략으로 방지할 수 있습니다. def build_conversation_with_reinforcement(user_message, conversation_history): """시스템 프롬프트 강화를 통한 드리프트 방지"""

# 핵심 규칙을 시스템 프롬프트 cache_control로 캐싱
system_blocks = [
    {
        "type": "text",
        "text": SYSTEM_PROMPT,
        "cache_control": {"type": "ephemeral"}
    }
]

# 매 5턴마다 규칙 리마인더 삽입
turn_count = len(conversation_history) // 2
if turn_count > 0 and turn_count % 5 == 0:
    reminder = {
        "role": "user",
        "content": "[시스템 리마인더: 핵심 규칙을 준수하세요. "
                   "한국어 응답, 3문장 이내, 추측 금지.]"
    }
    conversation_history.append(reminder)

conversation_history.append(
    {"role": "user", "content": user_message}
)

response = client.messages.create(
    model="claude-sonnet-4-20250514",
    max_tokens=1024,
    system=system_blocks,
    messages=conversation_history
)

conversation_history.append(
    {"role": "assistant", "content": response.content[0].text}
)

return response, conversation_history</code></pre>

def monitor_response_quality(response, rules):
    """응답 품질을 자동 모니터링합니다."""
    text = response.content[0].text
    violations = []
    
    # 언어 규칙 검증
    if rules.get("language") == "ko":
        korean_ratio = sum(1 for c in text if '가' <= c <= '힣') / max(len(text), 1)
        if korean_ratio < 0.3:
            violations.append("한국어 비율 부족")
    
    # 길이 규칙 검증
    max_sentences = rules.get("max_sentences", 5)
    sentence_count = text.count('.') + text.count('。')
    if sentence_count > max_sentences:
        violations.append(f"문장 수 초과: {sentence_count}/{max_sentences}")
    
    # 금지어 검증
    for word in rules.get("banned_words", []):
        if word in text:
            violations.append(f"금지어 감지: {word}")
    
    if violations:
        print(f"⚠️ 규칙 위반 감지: {violations}")
    
    return violations

# 사용 예시
rules = {
    "language": "ko",
    "max_sentences": 3,
    "banned_words": ["경쟁사A", "내부시스템"]
}
violations = monitor_response_quality(response, rules)