FlOWING SINI

AI Literacy - 프롬프트 기초 (AI에게 잘 묻는 법) 본문

PM TIL/Tech Lecture

AI Literacy - 프롬프트 기초 (AI에게 잘 묻는 법)

by SINI 2026. 6. 11. 16:10

1. 오늘 학습 키워드

- 프롬프트

- Zero-Shot Prompting

- Few-Shot Prompting

- Chain-of-Thought Pompting
- Tree of Thoughts

- Structured Prompting

- Generated Knowledge Prompting


2. 오늘 학습 한 내용을 나만의 언어로 정리하기

 

<프롬프트>

- LLM한테 입력하는 모든 문장

- LLM에게 전달하는 지시문
→ LLM의 정체성, 주 임무, 사용자 설정 등

- LLM을 잘 사용하기 위해서는 프롬프트를 잘 설계해야 함

 

 

프롬프트 구성 요소

- 프롬프트 요소는 상황에 따라 추가되거나 생략될 수 있음

  • 지시(Instruction) - LLM이 수행해야 할 명령
  • 입력값(Input Data) - LLM이 처리할 데이터 (텍스트, 이미지 등)
  • 문맥(Context) - 추가 정보, 말투, 역할 설정
  • 출력 지시자(Output Indicator) - 원하는 출력 형식
  • 예시(Example) - 원하는 결과 예시 제공

 

매개 변수

  • Temperature(자유도)
    - LLM의 답변 자유도를 조절하는 값
    - 온도가 높을수록 다양한 답변 생성
    - 온도가 낮을수록 정형화된 답변 생성
    - 너무 높으면 환각(Hallucination) 발생 가능
    - 너무 낮으면 답변의 다양성과 추론 능력이 제한될 수 있음
    - 목적에 따라 적절한 값을 설정해야 함

    - 예시
    금융, 법률, 의료 → 낮은 자유도
    마케팅, 홍보, 콘텐츠 생성 → 높은 자유도

  • Token(토큰)
    - 최대 토큰 수 → LLM이 소화할 수 있는 최대 토큰 수
    - LLM이 문장을 처리하는 단위
    - 단어, 글자, 문장 등이 토큰이 될 수 있음
    - 토큰 수가 많을수록 더 많은 문맥 처리 가능
    - 토큰 수가 너무 많으면 GPU 등 연산 자원 부담 증가
    - 토큰 수가 너무 적으면 입력 가능한 문장과 답변 길이가 제한됨
    - 리소스가 충분하다면 큰 토큰 수를 사용하는 것이 유리함

    - 예시
    300 토큰
    대부분 한글 200~250 글자 / 영어 200~220 글자

 

 

<Prompt Engineering> 프롬프트 엔지니어링

- 원하는 결과를 얻기 위해 프롬프트를 설계하고 개선하는 활동
- LLM의 추론 능력과 답변 품질을 향상시킴
- 모델의 역할과 정체성을 설정할 수 있음
- 사용자의 의도와 목적에 맞는 답변을 유도함
- 상황과 목적에 따라 다양한 프롬프트 기법을 활용함

 

1) Zero-Shot Prompting
- 예시 없이 원하는 작업만 지시하는 프롬프트 기법
- 사전 학습된 지식을 바탕으로 답변 생성
- 가장 기본적이고 직관적인 프롬프트 방식

장점

- 사용이 간단함

- 별도의 예시 제공이 필요 없음

- 빠르게 결과를 얻을 수 있음

 

단점

- LLM의 기존 학습 내용에 의존함

- 복잡하거나 전문적인 작업에서는 정확도가 떨어질 수 있음

- 원하는 형식의 답변이 나오지 않을 수 있음

 

 

 

2) Few-Shot Prompting

- 소수의 예시를 함께 제공하는 프롬프트 기법

- 예시를 통해 원하는 답변 형식과 패턴을 전달함

- Zero-Shot보다 더 구체적인 결과를 얻을 수 있음

 

장점

- 예시를 통해 원하는 답변 형식을 전달할 수 있음

- 다음 출력 결과를 보다 예측할 수 있음
- Zero-Shot보다 더 정확하고 일관된 답변을 얻을 수 있음

 

단점

- 예시를 직접 작성해야 함
- 정확한 답변을 원할수록 더 많은 예시가 필요함
- 예외 상황까지 고려하면 프롬프트가 길어질 수 있음

 

 

 

3) Chain-of-Thought Prompting(생각의 사슬)

- 복잡한 문제를 단계별로 추론하며 해결하는 프롬프트 기법
- 정답만 제시하는 것이 아니라 사고 과정을 함께 설명함
- 문제를 작은 단계로 나누어 해결하도록 유도함

 

장점
- LLM의 추론 과정을 확인할 수 있음
- 잘못된 추론 과정이 있다면 수정 및 피드백하기 쉬움
- 복잡한 문제의 정확도를 높일 수 있음

단점
- 답변이 길어질 수 있음
- 불필요한 내용까지 포함될 수 있음
- 결과를 별도로 정리하거나 가공해야 할 수 있음

 

 

 

4) Tree of Thoughts (생각의 나무)

- 여러 가지 해결 방안을 탐색하고 비교하여 최적의 답을 찾는 프롬프트 기법
- 하나의 추론 경로만 따라가는 것이 아니라 여러 가능성을 동시에 검토함
- 복잡한 문제 해결과 의사결정에 적합함

 

장점
- 다양한 해결책을 도출할 수 있음
- 여러 선택지를 비교·평가할 수 있음
- 최적의 해결 방안을 찾는 데 도움을 줌

단점
- 답변이 길어질 수 있음
- 어떤 결과가 가장 적절한지 검증이 필요함
- 경우의 수가 많아질수록 판단이 어려워질 수 있음

 

활용 방법
- 가지 수를 제한하여 탐색 범위를 줄일 수 있음
- 추가 질문을 통해 불필요한 선택지를 제거할 수 있음

 

 

 

5) Structured Prompting (구조화 지시)

- 구조를 갖추어 절차적으로 프롬프트를 작성하는 기법
- 원하는 입력 형식과 출력 형식을 명확하게 지정함
- 기계가 이해하기 쉬운 형태로 정보를 전달함

위 이미지 - JSON 형식 / 아래 이미지 - 문장 형식

 

장점
- LLM이 절차를 수행하는 데 가장 직관적인 방식
- 답변 형식을 일관되게 유지할 수 있음
- 원하는 형태의 결과를 얻기 쉬움

단점
- 사람이 아닌 기계가 이해하기 쉬운 형태로 작성해야 함
- 프롬프트 설계에 시간이 필요함
- 자유로운 답변 생성에는 제약이 있을 수 있음

 

 

 

6) Generated Knowledge Prompting (지식 생성)

- 답변하기 전에 관련 지식을 먼저 생성한 뒤 답변하는 프롬프트 기법
- LLM이 추론 과정을 한 번 더 점검할 수 있도록 도움
- 관련 배경지식을 정리한 후 답변하여 정확도와 추론 능력을 향상시킴

 

장점
- 답변에 필요한 지식을 먼저 정리할 수 있음
- 정확도와 추론 능력 향상에 도움됨
- 복잡한 문제를 더 체계적으로 해결할 수 있음

단점
- 생성한 지식이 틀리면 최종 답변도 틀릴 수 있음
- 잘못된 지식을 기반으로 오류가 확대될 수 있음
- 답변 생성 시간이 길어질 수 있음


[당일 과제]


"프롬프트 기법들의 예시들을 직무 관련 업무와 연관지어 사용해보기"

 

1. Zero-Shot Prompting
"다음 리뷰의 문제점을 분석해줘."

2. Few-Shot Prompting
"리뷰를 기능, UI/UX. 혜택 카테고리를 아래 예시처럼 만들어줘."
예시1)
리뷰 : 검색 결과가 다르게 나와요.
분류 : 기능
예시2)
리뷰 : 쿠폰 찾기가 어려워요.
분류 : UI/UX
예시3)
리뷰 : 화면 로딩이 너무 길어요.
분류 : 

3. Chain of Thought Prompting

"문제 원인 → 사용자 영향 → 개선 방안 순으로 단계별로 설명해줘."

 

4. Tree of Thoughts

"사용자 리텐션 향상을 위한 개선안을 10개 도출해줘"

 

5, Structured Prompting
"VOC 분석 결과를 정리를 아래 형식으로 만들어줘."

[문제]
[원인]
[영향]
[개선안]

 

6. Generated Knowledge Prompting

"발견형 쇼핑 서비스의 특징을 먼저 정리한 후 개선안을 제안해줘."


[당일 과제]


"LLM을 통해 취득하고 싶은 자격증에 대한 요점 요약 핵심 암기노트 만들기"

 

[GA4(Google Analytics 4) 핵심 암기노트]

1. GA4란?

  • Google Analytics의 최신 버전
  • 사용자 중심(Event 기반) 데이터 분석 도구
  • 웹과 앱 데이터를 통합 분석 가능

 

2. 핵심 개념

이벤트(Event)

  • 사용자의 모든 행동을 이벤트로 수집
  • 페이지 조회, 클릭, 구매 등이 모두 이벤트

예시

  • page_view
  • click
  • purchase
  • scroll

전환(Conversion)

  • 비즈니스 목표 달성 행동
  • 중요한 이벤트를 전환으로 설정

예시

  • 회원가입
  • 구매 완료
  • 문의하기

사용자(User)

  • 서비스를 이용하는 사람

세션(Session)

  • 사용자가 방문하여 활동하는 기간

 

3. 주요 지표

사용자 수 (Users)

  • 방문한 사용자 수

세션 수 (Sessions)

  • 방문 횟수

참여율 (Engagement Rate)

  • 적극적으로 상호작용한 세션 비율

전환율 (Conversion Rate)

  • 전환 발생 비율

4. UA와 GA4 차이

UA(Universal Analytics)

  • 세션 중심 분석

GA4

  • 이벤트 중심 분석

암기

"UA = 세션"
"GA4 = 이벤트"

 

 

5. 시험 핵심 암기

  • GA4는 이벤트 기반 분석 도구
  • 웹과 앱 통합 분석 가능
  • 중요한 이벤트는 전환으로 설정
  • 참여율은 이탈률을 대체하는 주요 지표
  • UA는 세션 중심, GA4는 이벤트 중심

한 줄 암기

"GA4 = 이벤트 기반 + 사용자 중심 + 웹·앱 통합 분석"


3. 학습하며 겪었던 문제점 & 에러

1) 

 한 번에 여러 프롬프트 엔지니어링 기법을 배우다 보니 각 기법의 차이가 헷갈렸다.
 이를 해결하기 위해 각 기법의 특징과 활용 목적을 다시 정리해보았고, 상황과 목적에 따라 적절한 기법을 선택하는 것이 중요하다는 점을 알게 되었다.

2)
 Structured Prompting과 Few-Shot Prompting의 차이가 헷갈렸다.
 이를 해결하기 위해 두 기법을 비교해보았고, Few-Shot은 예시를 제공하여 답변을 유도하는 방식이고, Structured Prompting은 입력과 출력 형식을 구조화하여 답변을 생성하도록 하는 방식이라는 점을 알게 되었다.
3)
 학습 도중 매개변수라는 개념이 생소해 이해에 어려움을 느꼈다.

 이를 해결하기 위해 매개변수의 역할을 추가로 학습해 보았고, Temperature와 Token 등이 LLM의 답변 자유도와 처리 범위를 조절하는 중요한 설정값이라는 점을 알게 되었다.