프롬프트 엔지니어링에서 자주 사용되는 전문용어를 소개합니다. 이 용어들은 AI 모델과 원활하게 상호작용하고, 원하는 결과를 최적화하는 데 유용합니다. 이 내용을 이해하면 원하는 답변을 더 정확하게 얻을 수 있습니다. 1~3번은 Chat Gpt나 다른 AI의 API를 사용하는 내용을 기본으로 설명하고 4번부터는 실제로 chatgpt에서 활용 할 수 있는 도움을 줄 수 있는 내용입니다.
1. 토큰 (Token)란?
AI가 문장을 이해하는 기본 단위예요. 문장을 작게 쪼갠 조각이라고 생각하면 돼요.
ChatGPT는 AI 모델입니다. → [“Chat”, “GPT”, “는”, “AI”, “모델”, “입니다.”]
단어 하나가 여러 개의 토큰으로 나뉘는 경우도 있어요. 특히 영어에서는 긴 단어가 여러 조각으로 나눠질 수 있어요. 토큰이 길면 길수록 API 사용 요금이 올라갑니다. 그래서 적게 효율적으로 적는 것이 이상적입니다.
2. 컨텍스트 윈도우 (Context Window)
AI 모델이 한 번에 처리할 수 있는 토큰의 최대 길이를 의미합니다.
GPT-4는 한 번에 8,192~32,768개의 토큰을 처리할 수 있어요. 이 범위를 초과하면 앞의 내용이 잘려서 기억하지 못할 수 있어요.
3. 제로샷 프롬프팅 (Zero-Shot Prompting)
예시 없이 질문만 던지는 방식이에요.
질문: 서울의 유명 관광지를 3개 알려줘.
답변: 경복궁, 남산타워, 한강공원 등
이 방식은 빠르지만 정답률이 낮을 수도 있어요.
4. 원샷 프롬프팅 (One-Shot Prompting)
한 개의 예시를 주고 원하는 답을 유도하는 방식이에요.
예시: 서울의 유명 관광지는 경복궁입니다. 질문: 부산의 유명 관광지는 무엇인가요? 답변: 해운대입니다.
예시가 하나 있어서 AI가 패턴을 이해하고 더 정확한 답변을 할 확률이 높아져요.
5. 퓨샷 프롬프팅 (Few-Shot Prompting)
여러 개의 예시를 모델에게 제공하여 더 정확한 출력을 유도하는 방식입니다. 보통 퓨샷 프롬프트를 사용 하면 거의 원하는 답변의 형식을 받을 수 있습니다.
예시를 2개 이상 제공함으로써 패턴을 학습하게 합니다.
질문: 서울의 유명 관광지는?
답변: 경복궁입니다.
질문: 제주도의 유명 관광지는?
답변: 한라산입니다.
질문: 부산의 유명 관광지는?
답변: 해운대입니다.
6. 체인 오브 소트 프롬프팅 (Chain of Thought Prompting)
AI가 복잡한 문제를 단계별로 풀어가도록 유도하는 방식이에요. 논리적 사고가 필요한 문제를 해결할 때 매우 유용합니다.
예제 1: 비즈니스 투자 결정
문제: 당신은 스타트업을 운영하고 있으며 새로운 마케팅 전략을 고민 중입니다. 광고 예산은 한정되어 있고, SNS 광고와 콘텐츠 마케팅 중에서 어느 것이 더 효과적일까요?
답변:
1. SNS 광고는 단기간에 높은 노출을 확보할 수 있습니다.
2. 콘텐츠 마케팅은 장기적으로 브랜드 신뢰도를 높이고, SEO에도 긍정적인 영향을 줍니다.
3. 제품이 즉각적인 구매를 유도하는 성격이라면 SNS 광고가 더 효과적일 가능성이 높습니다.
4. 반면, 장기적인 브랜드 인지도를 높이고 충성 고객을 확보하려면 콘텐츠 마케팅이 더 적합합니다.
5. 따라서, 예산이 충분하다면 초기에는 SNS 광고를 활용하고, 점진적으로 콘텐츠 마케팅을 확대하는 것이 최적의 전략일 수 있습니다.예제 2: 신제품 출시 전략
문제: 중소기업에서 신제품을 출시할 때 어떤 마케팅 전략을 세워야 할까요?
답변:
1. 목표 고객층을 정의해야 합니다. 주 타겟이 20~30대라면 SNS를 적극 활용하는 것이 효과적일 수 있습니다.
2. 초기 시장 반응을 확인하기 위해 소규모 베타 테스트를 진행하는 것도 좋은 방법입니다.
3. 제품의 주요 차별점을 명확히 해야 합니다. 경쟁 제품과 비교했을 때 어떤 강점이 있는지 강조해야 합니다.
4. 인플루언서 마케팅을 활용하면 신뢰도를 높이는 데 도움을 줄 수 있습니다.
5. 사전 주문을 유도하여 시장 반응을 미리 살펴보는 것도 효과적인 전략입니다.이처럼 AI가 단계별로 논리적으로 분석하도록 유도하면 더욱 정확한 전략을 세울 수 있습니다.
7. 온도 (Temperature)
AI의 답변 스타일을 조정하는 설정 값입니다. 보통 AI를 이용한 ChatBot은 낮은 Temperature를 쓰고 사람같은 느낌?의 글을 쓸 때는 높은 Temperature를 사용합니다.
- 낮은 온도 (0.1~0.5): 일관되고 정밀한 답변을 생성
- 높은 온도 (0.7~1.0): 창의적이고 다양한 답변을 생성
예제:
온도 0.1 설정:
질문: 제품 가격을 결정할 때 고려해야 할 요소는?
답변: 생산 원가, 경쟁사 가격, 소비자 지불 의사, 유통 마진.온도 0.9 설정:
질문: 제품 가격을 결정할 때 고려해야 할 요소는?
답변: "우리는 단순한 가격 책정을 넘어서 소비자의 심리적 가격 저항선까지 고려해야 합니다. 예를 들어, 99,900원과 100,000원은 차이가 거의 없지만 소비자는 전자가 더 저렴하다고 느끼죠. 또한, 브랜드 가치에 따라 고가 전략이 더 유리할 수도 있습니다!"온도가 높아질수록 AI의 답변이 더 창의적이고 풍부해집니다.
8. 탑-P 샘플링 (Top-P Sampling)⭐
탑-P 샘플링은 AI가 단어를 선택할 때 확률이 높은 것들 중에서만 선택하도록 제한하는 방식입니다. 이 기법을 활용하면 더 자연스럽고 논리적인 출력을 생성하는 데 도움이 됩니다.
🔹 탑-P 샘플링이란?
- P는 확률(probability)을 의미합니다. AI가 다음에 출력할 단어(토큰)를 결정할 때, 확률이 높은 상위 P%의 단어들 중에서만 선택하는 방식입니다.
- 확률이 낮은 단어들은 고려 대상에서 제외되므로 더 일관되고 자연스러운 답변을 얻을 수 있습니다.
- Top-P 값이 높을수록 AI가 더 다양한 단어를 사용할 가능성이 커지고, 낮을수록 더 집중된 답변을 생성합니다.
📌 탑-P(P) 값의 의미:
- P = 1.0 → 모든 단어가 선택 가능 (제한 없음)
- P = 0.9 → 상위 90% 확률의 단어만 선택 가능
- P = 0.3 → 상위 30% 확률의 단어만 선택 가능
예를 들어, AI가 다음 단어를 예측할 때 가능한 단어들의 확률이 아래와 같다면:
1. "최고의" (50%)
2. "좋은" (20%)
3. "훌륭한" (10%)
4. "무난한" (8%)
5. "괜찮은" (7%)
6. "어색한" (3%)
2. "이상한" (2%)
- P = 1.0이면 모든 단어 중에서 선택
- P = 0.9이면
"이상한"(2%)과"어색한"(3%)같은 확률이 낮은 단어들은 제거됨 - P = 0.3이면
"최고의" (50%),"좋은" (20%),"훌륭한" (10%)까지만 선택 가능
➡ 탑-P 값을 낮추면, AI가 더 안전하고 논리적인 선택을 하게 됩니다.
📌 탑-P 값에 따른 예제
예제 1: 고객 문의에 대한 답변
Top-P = 1.0 (제한 없음, 다양함)
🗣 이 제품의 주요 기능이 무엇인가요?
💬 이 제품은 스마트 AI 기능을 포함하며, 내구성이 뛰어나고, 다양한 색상 옵션이 제공됩니다. 디자인도 매우 세련되어 고객 만족도가 높습니다.
Top-P = 0.3 (더 제한됨)
💬 “이 제품은 스마트 AI 기능이 있으며, 내구성이 뛰어납니다.”
→ Top-P 값을 낮추면 더 간결하고 예측 가능한 답변이 나오고, 높이면 더 풍부하고 창의적인 답변이 나옵니다.
예제 2: 제품 설명 작성
Top-P = 1.0 (다양한 표현 포함)
이 혁신적인 청소 기계는 강력한 증기 기술을 통해 오염을 완벽하게 제거합니다. 사용자 친화적인 인터페이스와 내구성 있는 설계로 누구나 손쉽게 사용할 수 있으며, 환경 친화적인 방식으로 위생을 극대화합니다.
Top-P = 0.3 (일관된 표현 중심)
이 청소 기계는 강력한 증기 기술을 사용하여 오염을 제거하며, 사용이 간편합니다.
→ Top-P 값을 조정함으로써 더 창의적인 표현을 허용할지, 단순하고 명확한 설명을 유지할지 결정할 수 있습니다.
🎯 탑-P 샘플링의 활용 팁
- Top-P 0.9~1.0: 마케팅, 스토리텔링, 창의적인 글쓰기에서 유용
- Top-P 0.3~0.6: 고객 응대, 제품 설명, 공식적인 문서 작성 시 효과적
- Top-P 0.1~0.3: 기술 문서, 법률 문서, 매뉴얼 등에서 안정적인 답변 제공
즉, 더 논리적이고 일관된 답변이 필요할수록 낮게 설정하고, 더 창의적이고 자연스러운 표현이 필요할수록 높게 설정하면 됩니다!
온도 (Temperature)와 Top-P를 어떻게 같이 써야 할지 모르실 분이 있을 것 같아 온도와 Top-P를 같이 쓰는 법에 관한 내용을 적었습니다.
9. 시스템 메시지 (System Message)
AI 모델의 역할이나 성격을 정의하는 메시지로, 대화의 톤이나 방향을 설정합니다.
예:
시스템 메시지: 너는 친절한 여행 가이드야. 관광지 정보를 제공해줘.
10. 롱폼 생성 (Long-Form Generation)
긴 텍스트를 생성하는 기법으로, 블로그, 논문, 스크립트 작성 시 사용됩니다.
이 용어들을 적절히 활용하면 프롬프트를 더 구조화하고 원하는 결과를 효과적으로 얻을 수 있습니다.