프롬프트 길이의 비밀: 짧게 vs 길게, 언제 어떻게 쓸까

ChatGPT나 Claude를 쓰다 보면 한 번쯤 이런 의문이 듭니다. "프롬프트는 길게 쓰는 게 좋을까, 짧게 쓰는 게 좋을까?"

저도 처음엔 무조건 길고 자세하게 쓰는 게 정답이라고 믿었습니다. 그런데 막상 써보니 어떤 작업은 한 줄짜리 질문이 더 정확한 답을 내고, 어떤 작업은 A4 한 장 분량의 지시문이 있어야 결과가 쓸만했습니다.

이 글은 그 차이를 정리한 글입니다. 코드를 모르는 분도 따라올 수 있게 일상 비유를 많이 썼고, 실제 프롬프트 예시도 함께 넣었습니다.

프롬프트 길이가 결과를 바꾸는 이유

프롬프트(AI에게 주는 지시문)의 길이는 단순히 "정성"의 문제가 아니라, AI가 답을 만드는 방식 자체에 영향을 줍니다.

LLM(ChatGPT 같은 거대 언어 모델)은 입력된 모든 글자를 한꺼번에 읽고 그 안에서 패턴을 찾습니다. 사람처럼 앞에서부터 차근차근 읽는 게 아닙니다.

그래서 프롬프트가 길수록 AI가 참고할 단서는 많아지지만, 동시에 주의가 분산됩니다. 회의실에 자료 100장을 쌓아놓고 "이 중에서 핵심만 뽑아주세요"라고 하면 오히려 헷갈리는 것과 비슷합니다.

핵심은 이겁니다.

💡 길이 그 자체가 좋은 게 아니라, 작업이 요구하는 정보량과 프롬프트 길이가 맞을 때 결과가 가장 좋습니다.

짧은 프롬프트가 유리한 경우

짧은 프롬프트는 AI가 이미 잘 아는 일반적인 작업, 또는 창의적 발산이 필요한 작업에 유리합니다.

이를테면 이런 질문들이 그렇습니다.

• "한국 1990년대 히트곡 10곡 추천해줘"
• "JavaScript와 Python의 차이 한 줄 요약"
• "주말에 할 만한 취미 5가지"

이런 작업은 AI가 학습 과정에서 이미 충분히 본 내용입니다. 굳이 "당신은 음악 평론가입니다. 단계별로 분석해서…" 같은 긴 지시문을 붙이면 오히려 답이 딱딱해집니다.

제가 직접 비교해본 결과는 이렇습니다.

프롬프트	결과 품질	응답 속도
"감성적인 시 한 편 써줘"	자연스러운 시	빠름
"당신은 30년 경력의 시인입니다. 다음 조건을 따라 단계별로… (긴 지시 5문단)"	어색한 짜깁기 시	느림

짧은 프롬프트가 유리한 작업을 정리하면 다음과 같습니다.

• 일반 상식·정보 검색
• 브레인스토밍, 아이디어 발산
• 짧은 창작 (시, 카피, 슬로건)
• 간단한 번역·요약
• 일상 대화

긴 프롬프트가 필요한 경우

반대로 긴 프롬프트가 결정적인 경우도 분명히 있습니다. 핵심은 AI가 모르는 맥락이나 제약 조건이 많을 때입니다.

블로그 글 쓰는 직장인을 예로 들어보겠습니다. "블로그 글 써줘"라고만 하면 평범한 글이 나옵니다. 그런데 이렇게 쓰면 다릅니다.

다음 조건으로 블로그 글을 써주세요.

- 주제: 재택근무 1년 차의 책상 정리법
- 독자: 30대 직장인, IT 업계
- 톤: 친근하지만 전문성 있게, "~합니다"체
- 분량: 2,000자
- 구조: 도입(공감) → 본론 3가지 팁 → 마무리
- 피해야 할 표현: "여러분", "결론적으로"
- 본인 경험 1개 이상 자연스럽게 포함

이렇게 맥락(누가 읽는지), 제약(분량·톤), 형식(구조)을 다 적어주면 결과물 품질이 확연히 올라갑니다.

긴 프롬프트가 효과적인 작업은 다음과 같습니다.

• 특정 도메인 작업: 회사 내부 문서 스타일 따라하기, 특정 업종 용어 사용
• 복잡한 코드 작성: 입력·출력 형식, 예외 처리, 사용 라이브러리 명시
• 데이터 가공: 정확한 출력 포맷(표·JSON 등) 지정
• 역할극·페르소나: 특정 캐릭터·말투 일관성 유지
• 다단계 추론: 풀이 과정을 단계별로 명시해야 하는 수학·논리 문제

길이별 비교 한눈에 보기

지금까지 내용을 표로 정리하면 이렇습니다.

작업 유형	권장 길이	이유
일반 상식 질문	1~2문장	AI가 이미 학습한 영역
창의적 발산	1~3문장	제약이 많을수록 발상이 좁아짐
형식이 중요한 작업	5~15문장	출력 포맷·예시 필요
도메인 특화 작업	길게 (10문장 이상)	외부 맥락 주입 필수
코드 생성 (복잡)	길게 (10문장 이상)	입출력·제약 명시 필요

흐름으로 그려보면 이런 모양입니다.

              [작업이 일반적인가?]
                     │
          ┌──────────┴──────────┐
         YES                    NO
          │                      │
   짧게 쓰기 (1~3문장)    [AI가 모르는 맥락 있나?]
                                 │
                      ┌──────────┴──────────┐
                     YES                    NO
                      │                      │
              길게 쓰기 (10문장+)      중간 길이 (5~10문장)
              + 예시·제약 포함         + 핵심 형식만 지정

토큰 비용도 함께 봐야 합니다

ChatGPT 무료 버전을 쓰는 분이라면 비용은 신경 안 써도 됩니다. 그런데 API(개발자가 프로그램에서 AI를 직접 호출하는 통로)나 유료 플랜의 사용량 한도를 쓰는 분이라면 길이 = 비용입니다.

LLM은 토큰(token) 단위로 과금됩니다. 토큰은 단어보다 작은 글자 조각인데, 한국어는 대략 1글자 = 1~2토큰 정도입니다.

OpenAI 공식 문서 기준(글 작성 시점), GPT-4o 모델은 입력 100만 토큰당 약 2.5달러입니다. 별것 아닌 것 같지만, 매일 긴 프롬프트를 수백 번 날리는 자동화 시스템이라면 차이가 큽니다.

💡 같은 결과를 얻을 수 있다면 프롬프트는 짧은 게 이깁니다. 비용도 줄고, 응답도 빨라지고, AI 주의도 분산되지 않으니까요.

자주 빠지는 함정 세 가지

직접 써보면서 자주 마주친 실수들입니다.

1. "혹시 모르니까" 식의 조건 추가

"공손하게, 친절하게, 전문적으로, 간결하게, 그러면서도 자세하게" — 이렇게 형용사를 늘어놓으면 서로 충돌해서 결과가 흐릿해집니다. 형용사는 2~3개로 압축하고 충돌하지 않게.

2. 예시 없이 긴 설명만 늘어놓기

"이런 식으로 답해줘"라고 길게 설명하기보다, 예시 1~2개를 직접 보여주는 쪽이 훨씬 효과적입니다. AI는 추상적 설명보다 구체적 샘플을 더 잘 따라합니다.

나쁜 예: "친근하지만 너무 캐주얼하지 않은 톤으로 써줘"
좋은 예: "다음 톤으로 써줘. 예시: '이 부분은 처음엔 헷갈리는데요, 
       조금만 익숙해지면 금방 따라오실 수 있습니다.'"

3. 같은 지시를 여러 번 반복

"중요한 건 간결함입니다. 다시 강조하지만 간결하게. 짧게 써주세요. 길게 쓰지 마세요." — 이런 식의 반복은 토큰만 잡아먹고 효과는 없습니다. 한 번 명확하게 쓰는 게 낫습니다.

실전: 길이 조절 체크리스트

프롬프트를 작성할 때마다 이 체크리스트를 머릿속으로 돌려보면 길이 감을 잡기 쉽습니다.

• [ ] 이 작업은 AI가 흔히 봤을 일반적인 작업인가? → 그렇다면 짧게
• [ ] 출력 형식(표, JSON, 특정 구조)이 정해져 있는가? → 그렇다면 형식 명시
• [ ] AI가 모를 만한 맥락(내 회사 사정, 특수 용어)이 있는가? → 그렇다면 풀어 설명
• [ ] 결과 예시를 1~2개 줄 수 있는가? → 줄 수 있다면 무조건 포함
• [ ] 같은 지시를 두 번 이상 쓰지 않았는가?
• [ ] 형용사 제약이 서로 충돌하지 않는가?

마무리

프롬프트 길이는 "길수록 좋다" 또는 "짧을수록 좋다"의 문제가 아니라, 작업의 성격에 맞춰야 한다는 게 핵심입니다.

일반적인 질문이나 창의적 발산은 짧게 쓰는 쪽이 결과가 더 자연스럽고, 도메인 특화 작업이나 형식이 중요한 작업은 예시와 제약을 충분히 적어줘야 합니다.

오늘 당장 해볼 만한 건 이겁니다. 평소 자주 쓰는 프롬프트 하나를 골라서 절반 길이로 줄여보고 결과를 비교해보세요. 의외로 짧은 쪽이 더 깔끔한 답을 내는 경우가 많습니다. 반대로 결과가 들쭉날쭉했던 프롬프트는 예시를 1개만 추가해보면 안정성이 확 올라갑니다.

길이는 도구일 뿐이고, 진짜 중요한 건 "AI에게 무엇이 부족한지"를 파악하는 감각입니다. 그 감각은 결국 직접 써보고 비교해보는 시간에서 나옵니다.