Prompt Engineering and Context Engineering

Prompt Engineering and Context Engineering

					 datalink 박종영(2025-07-06)

1. Prompt Engineering (프롬프트 엔지니어링)

정의:
LLM에게 원하는 결과를 얻기 위해 입력 문장(prompt) 을 정교하게 설계하고 최적화하는 기술입니다.
AI 모델, 특히 대화형 AI나 생성형 AI에서 원하는 결과를 얻기 위해 입력 텍스트(프롬프트)를 체계적으로 설계하고 최적화하는 기법입니다.

주요 요소들:

• 명확성: 구체적이고 명확한 지시사항 제공
• 구조화: 단계별 접근법이나 특정 형식 요구
• 예시 활용: Few-shot learning을 통한 패턴 학습
• 역할 부여: AI에게 특정 전문가 역할 할당
• 제약 조건: 출력 길이, 형식, 톤 등 명시

주요 목적:

• AI가 정확하고 유용한 응답을 하도록 유도
• 애매한 답변, 오류, 부정확한 정보를 최소화
• 사용자의 의도에 맞는 형식과 구조로 결과 생성

예시:

Before:

요약해줘

After (개선된 Prompt):

다음 기사 내용을 3줄로 요약해줘. 핵심 내용만 포함하고, 문장 끝에는 마침표를 붙여줘.

2. Context Engineering (컨텍스트 엔지니어링)

정의:
LLM이 더 정확한 판단과 응답을 하도록 하기 위해, 배경 정보, 대화 이력, 문서 내용, 사용자 상황 등 ‘문맥(Context)’을 전략적으로 구성하는 기술입니다.
Context Engineering은 AI 모델이 작업을 수행하는 데 필요한 배경 정보, 맥락, 환경을 설계하고 관리하는 과정입니다.

핵심 구성요소:

• 도메인 지식: 해당 분야의 전문 정보와 용어
• 작업 환경: 현재 상황과 조건에 대한 정보
• 이전 대화: 대화 히스토리와 연속성 유지
• 메타데이터: 시간, 장소, 사용자 정보 등
• 참조 자료: 관련 문서, 데이터베이스 정보

주요 목적:

• LLM이 의도를 더 잘 파악하고 일관성 있는 응답을 하도록 도움
• 장기적인 맥락을 기억하고 반영
• 복잡한 멀티턴 대화나 업무에서 정확한 맥락 유지

예시:

사용자가 LLM에게 문서 요약을 시킬 때:

context = 
"""
문서 제목: 스마트공장 도입 전략
핵심 키워드: 자동화, MES, 제조AI, 데이터 수집
"""
prompt = context + "\n위 문서를 CEO에게 3줄로 요약해주세요."

차이점 요약:

두 개념의 차이점은 프롬프트 엔지니어링이 '어떻게 질문할 것인가'에 초점을 맞춘다면, 컨텍스트 엔지니어링은 '어떤 환경에서 작업할 것인가'에 중점을 둡니다. 제조 분야에서는 생산 공정 데이터, 품질 기준, 안전 규정 등을 컨텍스트로 구성하고, 이를 바탕으로 효과적인 프롬프트를 설계하는 것이 중요합니다.

함께 쓰면 더 강력

Prompt Engineering과 Context Engineering은 보통 동시에 적용됩니다.
예:

• Prompt로 "요약해줘"라고 하면,
• Context에는 "이 문서의 목적은 정부 지원 스마트공장 구축 사례를 정리하는 것입니다" 같은 정보가 포함될 수 있습니다.

사례 1: 제조업 공정에서의 AI 품질 진단

목적:

센서 데이터를 기반으로 공정 이상 여부 판단 + 해결 방법 제안

Prompt Engineering

기본 Prompt:

"불량품이 발생했습니다. 원인을 분석해주세요."

개선된 Prompt:

당신은 20년 경력의 반도체 패키징 전문가입니다.
현재 상황:
- 제품: 모바일 프로세서 칩 (LOT-240706-003)
- 불량 유형: 와이어 본딩 불량 5건 연속 발생
- 발생 시간: 14:15-14:25 (10분간)
- 위치: 3호 라인 6번 스테이션
분석 요청:
1. 가능한 원인 3가지를 우선순위별로 제시
2. 각 원인에 대한 점검 항목 명시
3. 즉시 조치 가능한 임시 대응책 제안
4. 근본 원인 해결을 위한 중장기 개선안 제시
답변 형식:
- 긴급도: 상/중/하
- 예상 해결 시간: 구체적 시간 명시
- 필요 인력: 담당자 지정

개선된 Prompt:

prompt = f""" 
다음은 금속 절삭 공정에서 발생한 센서 데이터입니다. 
- 진동: 2.3 mm/s - 온도: 85°C 
- 소음: 78 dB  
이상 여부를 진단하고, 조치 방안을 제시해 주세요. 응답 형식은 [진단 결과 / 조치 방안]으로 해주세요. 
"""

Context Engineering

제조 환경 정보:
- 공장: 반도체 패키징 라인 3호기
- 제품: 모바일 프로세서 칩
- 현재 시간: 2025년 7월 6일 14:30
- 작업조: B조 (오후 근무)
- 온도: 22.5°C, 습도: 45%
- 현재 생산 배치: LOT-240706-003

최근 24시간 공정 데이터:
- 본딩 온도: 평균 280°C (정상 범위: 275-285°C)
- 압력: 평균 15.2 bar (정상 범위: 15-16 bar)
- 컨베이어 속도: 2.3 m/min
- 불량률: 0.8% (목표: <1%)

context = """
장비: FANUC MCT
재료: SM45C
이상 기준:
- 진동 > 2.0 mm/s 이상 시 베어링 문제 가능
- 온도 > 80°C는 윤활 부족 의심
- 소음 > 75 dB는 칩 막힘 가능성 있음
"""

이 Context를 LLM에 system message 또는 첫 message로 삽입**하면 더 정확한 응답을 도출할 수 있음.

사례 2: 비즈니스 문서 요약 시스템 (PDF + LLM)

**목적:

직원이 업로드한 회사 내부 문서를 요약하고 중요 항목 추출

Prompt Engineering:

다음 보고서 내용을 부서장에게 보고할 수 있도록 5줄로 요약해줘.
- 핵심 내용만 정리
- 숫자 데이터는 강조
- 문장 끝에 마침표 포함

Context Engineering:

[문서 제목: 2025년도 반도체 제조 설비 투자 계획]
[작성 부서: 전략기획실]
[작성일: 2025-07-03]
[기조방향: CAPEX 30% 증액, AI 도입 우선순위 부여]

** Context를 LangChain에서 document.metadata로 넣고, prompt에서 활용하면 효과적입니다.

사례 3: 고객 서비스 챗봇 (RAG 기반)

목적:

고객이 자주 묻는 제품 질문에 LLM이 실시간으로 대응

Prompt Engineering:

고객 질문에 대해 최대한 정확하게 답해주세요.
문서 내용을 기반으로 하되, 모를 경우 "정보가 없습니다"라고 말하세요.

Context Engineering (RAG Retrieval Context):

{
  "Product": "AX-900 절삭유 필터",
  "QnA": [
    {
      "Q": "필터 교체 주기는?",
      "A": "평균 3개월입니다. 사용량에 따라 달라질 수 있습니다."
    },
    {
      "Q": "적정 사용 온도는?",
      "A": "5도 ~ 45도입니다."
    }
  ]
}

** 이 QnA를 Vector DB (예: Chroma)로 저장 후, 질문에 맞춰 검색한 결과를 context로 삽입 → 정밀한 응답 가능

정리