- 당신의 AI가 갑자기 멍청해지는 이유: Prompt & Context 엔지니어링
- 12-29
- TECH
당신의 AI가 갑자기 멍청해지는 이유: Prompt & Context 엔지니어링
# 똑똑한 AI가 왜 바보같은 답을 할까?
ChatGPT에게 “이번 주 생산량 분석해 주세요”라고 요청했는데, 엉뚱한 데이터를 근거로 그럴듯한 결론을 내린 경험이 있으신가요? 같은 AI에 같은 질문을 했는데도 답이 매번 달라지는 이유는 대부분 두 가지입니다. '어떻게 요청했는지(Prompt)', 그리고 '어떤 배경 정보를 줬는지(Context)'가 달랐기 때문입니다.
오늘은 AI 결과물의 품질을 확 끌어올리는 두 가지 실전 기술, Prompt Engineering과 Context Engineering을 정리해보겠습니다.
# Prompt Engineering: AI에게 “지시하는 법”
Prompt Engineering은 AI에게 요청을 정확하고 효과적으로 전달하는 기술입니다. “분석해 주세요”처럼 포괄적으로 말하는 대신, AI가 무엇을 어떻게 출력해야 하는지 명확히 지정하는 것이 핵심입니다.
Prompt 핵심 원칙 4가지
1. 역할 부여: “당신은 10년차 배터리 생산 관리자입니다.”
2. 목표 구체화: “불량률 2% 이상 구간의 원인 가설 Top3를 제시해 주세요.”
3. 단계화: “데이터 확인 → 분석 → 개선안 제시 순서로 작성해 주세요.”
4. 출력 형식 지정: “표로 정리하고 항목별로 2문장 설명을 붙여 주세요.”
예시: ❌ → ✅
❌ 모호한 지시
“생산량 분석해 주세요.”
✅ 역할+범위+형식을 명확히
“당신은 배터리 생산 관리자입니다. 12월 1~15일 3번 라인의 생산량과 불량률을 전월 대비로 비교해 표로 정리해 주세요. 이상치가 있으면 가능한 원인을 가설로 제시하고, 확인에 필요한 추가 데이터도 함께 적어 주세요.”
이렇게 요청하면 AI는 ‘무엇을’(비교/이상치) ‘어떤 방식으로’(표/가설/추가 데이터) 해야 하는지 명확히 이해해 결과물의 품질이 안정됩니다.
# Context Engineering: AI에게 “배경지식” 주는 법
Context Engineering은 AI가 참고할 **배경 정보(컨텍스트)**를 설계·관리하는 기술입니다. AI는 질문(Prompt)뿐 아니라 이전 대화, 업무 규칙, 데이터 요약 등 제공된 컨텍스트를 바탕으로 답을 만듭니다. 다만 컨텍스트는 무한정 넣을 수 없고, 너무 많으면 오히려 핵심을 놓치기 쉬워 “무엇을 넣고, 무엇을 빼고, 어떤 순서로 보여줄지”가 중요합니다.
Context 관리 3원칙
1. 최소화: 정답에 필요한 정보만 넣습니다(원문 전체 대신 요약표/핵심 수치).
2. 구조화: “사내 규칙 / 과거 사례 / 현재 데이터”처럼 구획을 나눕니다.
3. 동적 업데이트: 상황이 바뀌면 오래된 정보를 지우고 최신 상태를 상단에 반영합니다.
예시: ❌ → ✅
❌ 컨텍스트 과다·무정리
- 컨텍스트: 3개월치 로그 원문, 회의록 전체, 이슈 트래커 전체, 매뉴얼 PDF 전문
- 지시: “이상 원인 분석해 주세요.”
→ 정보가 과다하면 AI가 중요도를 판단하기 어려워 요약 수준에서 멈추거나, 핵심과 다른 결론을 낼 수 있습니다.
✅ 컨텍스트 최소화 + 구조화
- 컨텍스트:
[사내 기준] 불량률 1.5% 이상 Red / 1.0~1.5% Yellow
[관찰 요약] 3번 라인 불량률: 0.9% → 1.8%(12/2~12/4) 상승
[관련 신호] 냉각수 온도 편차(+3°C), 밸브 알람 2회
- 지시: “위 컨텍스트만 근거로 원인 가설 Top3와, 확인해야 할 추가 데이터 5개를 표로 제시해 주세요.”
이 방식은 AI에게 ‘정리된 업무 폴더’를 쥐여주는 것과 같습니다. 기준과 사실이 구조화되어 있어 판단이 흔들리지 않습니다.
# Prompt Engineering vs. Context Engineering 간단 비교
# 제조·물류 실무에서 바로 써먹는 템플릿
가장 강력한 조합은 Context로 배경을 세팅하고 → Prompt로 정확히 지시하는 방식입니다. 아래 템플릿 2가지는 그대로 가져다 쓰셔도 됩니다.
1) 배터리 생산 보고서 작성
[Context]
규칙: 불량률 1.5% 이상 Red, 1.0~1.5% Yellow
과거 사례: 11월 3번 라인 불량 증가 → 냉각수 온도 이슈
[Prompt]
“당신은 10년차 생산관리자입니다. 위 컨텍스트를 바탕으로 12월 1주차 보고서 초안을 작성해 주세요. 형식은 (1) 요약표 (2) 핵심 분석 (3) 대안 3가지 순서로 작성해 주세요.”
2) 물류 최적화 요청
[Context]
현재 상황: 부산항 컨테이너 500TEU 대기, 트럭 20대
제약: 8시간 내 처리, 야간 화물 비용 +20%
[Prompt]
“당신은 물류 최적화 전문가입니다. 최적 배차 계획 Top3를 제시하고, 각 안의 운송비와 소요시간을 비교해 주세요. 단계는 (1) 우선순위 화물 선정 (2) 트럭 배정 (3) 소요시간 계산 순서로 작성해 주세요.”
# 활용의 80%는 “질문과 맥락”입니다
결국 ‘좋은 AI’보다 ‘좋은 질문과 좋은 맥락’이 더 중요합니다. Prompt Engineering과 Context Engineering은 누구나 배워 바로 업무에 적용할 수 있는 실전 기술입니다. 오늘 소개한 템플릿 중 하나만 내일 업무에 적용해 보셔도, 결과물의 품질과 작업 속도가 확연히 달라질 것입니다.
