프롬프트 엔지니어링

프롬프트 엔지니어링(영어: prompt engineering)은 거대 언어 모델(large language model, LLM)을 비롯한 생성형 인공지능 모델에 입력되는 자연어 지시문, 즉 프롬프트(prompt)의 구성과 표현, 형식을 설계하여 모델이 원하는 방향의 출력을 산출하도록 유도하는 실천과 그에 관한 지식 체계를 가리키는 용어이다. 모델 자체의 매개변수(가중치)를 변경하는 대신 모델에 주어지는 입력만을 조정하여 응답의 품질이나 정확성을 끌어올린다는 점에서, 모델을 추가로 학습시키는 파인튜닝(fine-tuning)과 같은 기법과 구별된다. 이미지 생성 모델 등 다른 양식의 생성형 인공지능에도 유사한 개념이 적용되지만, 이 용어는 주로 텍스트 기반 언어 모델과 관련하여 쓰인다.

프롬프트를 통해 사전 학습된 모델의 행동을 이끌어내려는 시도는 2019년 마스킹 언어 모델에서 빈칸 채우기 문장으로 지식을 끌어내려 한 연구까지 거슬러 올라가지만, 이 개념이 폭넓게 주목받게 된 계기는 2020년 오픈AI가 1750억 개의 매개변수를 가진 GPT-3를 공개하면서였다. 당시 연구진은 모델의 가중치를 전혀 갱신하지 않고도 프롬프트 안에 소수의 예시를 포함하는 것만으로 모델이 새로운 과제를 수행할 수 있다는 인컨텍스트 러닝(in-context learning) 현상을 체계적으로 보였으며, 이는 프롬프트의 설계 자체가 모델의 실질적 성능을 좌우할 수 있음을 널리 알리는 계기가 되었다.

프롬프트 엔지니어링은 예시를 전혀 제시하지 않는 제로샷(zero-shot) 프롬프팅부터 몇 개의 예시를 함께 제공하는 퓨샷(few-shot) 프롬프팅, 모델이 중간 추론 과정을 순차적으로 서술하도록 유도하는 사고연쇄(chain-of-thought) 프롬프팅, 모델에 특정한 역할이나 관점을 부여하는 역할 프롬프팅, 그리고 프롬프트 자체를 알고리즘으로 탐색하고 최적화하는 자동 프롬프트 최적화 기법에 이르기까지 다양한 방법을 포괄한다.

초창기에는 주로 연구자와 소수의 숙련된 이용자가 활용하던 기법이었으나, 2022년 말 대화형 인터페이스가 대중화되면서 일반 이용자에게도 널리 퍼졌고, 소프트웨어 개발과 검색 증강 생성, 인공지능 에이전트의 도구 사용 등으로 응용 범위가 확장되었다. 2023년에는 일부 기관이 프롬프트 엔지니어를 유망 직종으로 꼽고 기업들이 고액 연봉의 채용 공고를 내면서 하나의 독립된 직업으로 주목받았으나, 이후 관련 역할이 소프트웨어 엔지니어링이나 인공지능 엔지니어링 등 더 넓은 직무로 흡수·재편되는 경향을 보였다는 분석도 함께 제기되었다.

프롬프트 엔지니어링을 둘러싸고는 이것이 장기적으로 지속될 독립된 전문 분야인지, 아니면 모델 성능이 향상되고 자동화 도구가 발전함에 따라 점차 소멸할 과도기적 기술인지에 대한 상반된 시각이 제기되어 왔다. 아울러 신뢰할 수 없는 외부 콘텐츠를 통해 모델의 지시를 조작하는 프롬프트 인젝션(prompt injection)과 같은 보안 위험, 그리고 개별 프롬프팅 기법의 실제 효과에 대한 학술적 재검토도 관련 논쟁으로 이어지고 있다.

정의와 어원

“프롬프트”는 본래 연극이나 방송에서 출연자에게 대사나 신호를 알려 주는 것을 뜻하는 일반 영어 단어이며, 컴퓨팅 분야에서는 이용자에게 입력을 요구하는 인터페이스상의 표시를 가리키는 말로도 오래전부터 쓰여 왔다. 자연어 처리 분야에서 프롬프트는 언어 모델에 주어지는 입력 텍스트, 즉 모델이 이어서 생성할 내용의 문맥을 이루는 텍스트를 의미하게 되었다. “프롬프트 엔지니어링”이라는 복합어는 이러한 입력을 다루는 작업에 “엔지니어링”이라는 표현을 결합한 것으로, 프롬프트의 작성이 단순한 질의 입력을 넘어 반복적인 시행착오와 검증, 형식화를 거치는 절차로 다뤄질 수 있음을 함의한다.

프롬프트 엔지니어링에 관한 학술적 정리에서는 이를 모델의 핵심 매개변수를 수정하지 않고 과제별 지시문을 통해 사전 학습된 모델의 효용을 높이는 접근으로 정의한다. 프롬프트는 사람이 읽고 쓸 수 있는 자연어 지시문뿐 아니라, 특정 행동을 이끌어내도록 학습을 통해 최적화된 연속적인 벡터, 이른바 소프트 프롬프트를 포괄하는 더 넓은 개념으로 쓰이기도 한다. 다만 통상적으로 프롬프트 엔지니어링이라는 표현은 사람이 직접 자연어로 작성하고 다듬는 이산적(discrete) 프롬프트를 다루는 작업을 가리키며, 벡터 형태의 소프트 프롬프트를 학습시키는 작업은 프롬프트 튜닝이라는 별도의 이름으로 구별되는 경우가 많다.

역사적 배경과 전개

인컨텍스트 러닝 이전의 프롬프트 개념

2019년 페트로니 등은 마스킹 언어 모델인 BERT 등이 사전 학습 과정에서 어느 정도의 사실적 지식을 습득하는지를 평가하기 위해, 지식 베이스의 사실 관계를 빈칸 채우기 문장으로 변환한 LAMA 데이터셋을 제안하였다. 예를 들어 “파리는 [빈칸]의 수도이다”라는 문장을 모델에 제시하고 빈칸에 들어갈 단어를 예측하게 함으로써, 모델을 추가로 학습시키지 않고도 프롬프트만으로 모델에 내재된 지식을 끌어낼 수 있음을 보였다. 이러한 클로즈(cloze) 방식의 프롬프팅은 이후 등장하는 대규모 언어 모델에 대한 프롬프트 연구의 초기 형태로 여겨진다.

GPT-3와 인컨텍스트 러닝의 등장

2020년 오픈AI의 브라운 등은 GPT-3 모델을 발표하면서, 모델의 가중치 갱신 없이 프롬프트 안에 소수의 입력-출력 예시를 포함하는 것만으로 모델이 새로운 과제를 수행할 수 있는 현상을 인컨텍스트 러닝이라 명명하고 체계적으로 검증하였다. 이 연구는 예시를 전혀 제공하지 않는 제로샷, 하나만 제공하는 원샷, 여러 개를 제공하는 퓨샷 방식을 구분하였으며, 모델의 규모가 커질수록 프롬프트에 포함된 예시를 활용하는 능력이 향상된다는 점을 다양한 과제에서 확인하였다. 일부 과제에서는 퓨샷 프롬프팅만으로도 별도로 미세조정된 기존 모델과 비슷하거나 더 나은 성능에 도달하였다.

지시문 튜닝과 대화형 인터페이스의 대중화

GPT-3 공개 이후에도 모델은 이용자의 의도에 맞지 않는 응답을 하는 경우가 많았다. 2022년 오픈AI의 오양 등은 사람이 작성한 시범 응답에 대한 지도 학습과, 여러 응답에 대한 사람의 순위 평가로 학습시킨 보상 모델을 이용해 강화학습으로 모델을 다시 학습시키는 절차를 결합하여 InstructGPT를 만들었다. 이 연구는 매개변수가 100배 이상 적은 InstructGPT의 응답을 사람 평가자들이 원래의 GPT-3보다 선호하였다고 보고하였다. 이처럼 인간 피드백 기반 강화학습(RLHF)을 거친 모델은 자연어 지시를 더 직접적으로 따르게 되었으며, 2022년 11월 이를 바탕으로 한 대화형 서비스가 공개되면서 프롬프트를 작성해 모델과 상호작용하는 방식이 일반 대중에게도 널리 퍼졌다.

직업으로서의 부상과 재편

대화형 인터페이스의 대중화 이후 프롬프트를 다루는 능력에 대한 수요가 빠르게 늘면서, 2023년 세계경제포럼은 프롬프트 엔지니어를 그해의 새로운 유망 직종으로 꼽았다. 일부 기업은 별도의 학위나 프로그래밍 경험을 요구하지 않으면서도 높은 연봉을 제시하는 프롬프트 엔지니어 채용 공고를 내기도 하였는데, 한 인공지능 기업이 게시한 “프롬프트 엔지니어 겸 사서” 직무 공고는 연봉 범위를 17만 5천 달러에서 33만 5천 달러 사이로 제시하여 언론의 주목을 받았다. 그러나 2024년에서 2025년에 걸쳐 독립적인 직함으로서의 “프롬프트 엔지니어” 채용 공고는 감소하는 경향을 보였다. 구인 정보 업체 인디드의 한 이코노미스트는 프롬프트 엔지니어링이 하나의 유용한 기술로는 남아 있지만 독립된 직함으로 자리 잡지는 못하였다고 평가하였으며, 세일즈포스벤은 2025년 기사에서 해당 직무가 사실상 소멸하였다고 평가하였다. 반면 프롬프트 엔지니어 커뮤니티를 운영하는 한 업계 관계자는 2026년 시점에서 정확한 직함으로서의 구인 공고는 줄었지만, 관련 기술이 소프트웨어 엔지니어링 역량과 결합된 형태로 다른 직무 안에 흡수되며 명맥을 이어가고 있다고 분석하였다.

핵심 기법

제로샷 프롬프팅과 퓨샷 프롬프팅

제로샷 프롬프팅은 과제에 대한 예시를 전혀 제공하지 않고 지시문만으로 응답을 요구하는 방식이며, 퓨샷 프롬프팅은 프롬프트 안에 입력과 원하는 출력의 짝으로 이루어진 몇 개의 예시를 포함시켜 모델이 그 패턴을 따르도록 유도하는 방식이다. GPT-3에 대한 실험에서는 대체로 퓨샷 방식이 제로샷 방식보다 높은 성능을 보였으며, 모델의 규모가 클수록 그 격차가 더 뚜렷하게 나타났다.

사고연쇄 프롬프팅과 파생 기법

2022년 웨이 등은 모델에 최종 답만 요구하는 대신 중간 추론 단계를 순차적으로 서술하도록 예시나 지시를 제공하면, 산술이나 상식 추론처럼 여러 단계를 거쳐야 하는 과제에서 성능이 크게 향상된다는 사고연쇄(chain-of-thought) 프롬프팅을 제안하였다. 같은 해 고지마 등은 별도의 예시 없이 “단계별로 생각해 보자”와 같은 짧은 문구만 덧붙여도 유사한 효과를 얻을 수 있음을 보이고 이를 제로샷 사고연쇄라 불렀다. 왕 등은 하나의 추론 경로만 채택하는 대신 여러 개의 추론 경로를 생성한 뒤 그중 가장 일관되게 도출된 답을 선택하는 자기 일관성(self-consistency) 기법을 제안하여 사고연쇄 프롬프팅의 성능을 추가로 개선하였다. 야오 등은 여러 사고 경로를 나무 구조로 탐색·평가하며 필요하면 되돌아가는 트리 오브 소트(tree of thoughts) 기법을 제안하는 등, 사고연쇄 프롬프팅을 확장하는 다양한 후속 기법이 뒤따랐다.

역할 지정과 시스템 프롬프트

많은 언어 모델 서비스는 이용자가 실제로 입력하는 프롬프트와 별도로, 대화 전체에 적용되는 지시를 담는 시스템 프롬프트를 구분하여 제공한다. 역할 프롬프팅은 모델에 특정한 역할이나 관점을 부여하여 응답의 어조나 전문성, 형식을 조정하는 기법이다. 초기에는 프롬프트 안에 XML 태그 등을 사용해 지시문과 데이터, 예시를 구조적으로 구분하는 방식이 널리 권장되었으나, 한 인공지능 기업은 2026년 안내 문서에서 모델의 지시 이해 능력이 향상됨에 따라 이러한 구조화 장치의 필요성이 예전보다 줄었으며, 명확한 문장과 단락 구분만으로도 충분한 경우가 많아졌다고 안내하였다.

자동 프롬프트 최적화

프롬프트를 사람이 직접 시행착오를 거쳐 다듬는 대신, 알고리즘으로 자동 생성하고 평가하려는 시도도 이루어졌다. 2022년 저우 등이 제안한 자동 프롬프트 엔지니어(APE)는 언어 모델 스스로 후보 지시문을 생성하게 한 뒤 정해진 점수 함수에 따라 후보를 탐색하고 선별하는 방식으로, 다수의 자연어 처리 과제에서 사람이 작성한 지시문에 준하거나 이를 능가하는 결과를 얻었다. 2023년 스탠퍼드 대학교 연구진이 공개한 DSPy 프레임워크는 프롬프트를 긴 문자열로 직접 작성하는 대신, 입력과 출력의 형식을 선언적으로 정의한 모듈을 조합해 파이프라인을 구성하고 소수의 예시로부터 프롬프트와 예시 선택을 자동으로 최적화하는 방식을 제시하며, 스스로를 “프롬프팅이 아닌 프로그래밍”으로 규정하였다. 이러한 흐름은 프롬프트 작성을 수작업 기예가 아니라 코드로 다루려는 접근으로, 수동 프롬프트 엔지니어링에 대한 대안으로 제시되고 있다.

적용 분야

소프트웨어와 API 통합

언어 모델을 외부 애플리케이션의 프로그램 인터페이스(API)를 통해 호출하는 소프트웨어에서는, 시스템 프롬프트로 모델의 역할과 제약을 지정하고 이용자 입력을 별도의 필드로 전달하며, 응답을 정해진 구조로 반환하도록 요청하는 방식이 흔히 쓰인다. 아래의 타입스크립트 예시는 시스템 프롬프트로 분류 과제를 지정하고, 이용자 문의를 정해진 형식으로 처리하도록 요청하는 전형적인 구조를 보여 준다.

const response = await client.messages.create({
  model: MODEL_NAME,
  system:
    "당신은 고객 문의를 '환불', '배송', '기타' 세 범주 중 " +
    "하나로 분류하는 어시스턴트다. 반드시 JSON 형식으로만 답하라.",
  messages: [
    { role: "user", content: "주문한 물건이 아직도 도착하지 않았어요." },
  ],
});

이처럼 프롬프트를 코드베이스 안에서 관리하고 버전을 통제하며 자동화된 평가로 검증하는 관행은, 프롬프트 엔지니어링이 소프트웨어 개발 과정에 통합되는 대표적인 사례로 꼽힌다.

검색 증강 생성

언어 모델은 학습 데이터에 포함되지 않았거나 이후에 바뀐 정보에 대해서는 부정확한 답을 내놓는 한계가 있다. 2020년 루이스 등이 제안한 검색 증강 생성(retrieval-augmented generation, RAG)은 이용자의 질의와 관련된 문서를 외부 지식 저장소에서 검색한 뒤 이를 프롬프트에 포함시켜, 모델이 이를 근거로 답을 생성하도록 하는 방식이다. 이 접근은 모델 내부에 저장된 지식과 외부에서 검색한 지식을 결합하며, 어떤 문서를 어떤 형식으로 프롬프트에 배치할 것인가는 그 자체로 프롬프트 엔지니어링의 한 응용 영역을 이룬다.

에이전트와 도구 사용

언어 모델이 검색이나 계산, 외부 API 호출과 같은 도구를 스스로 선택하고 실행하는 에이전트로 활용되는 경우, 프롬프트는 모델이 어떤 도구를 어떤 순서로 사용할지 판단하는 데도 관여한다. 2022년 야오 등이 제안한 ReAct 방법은 모델이 한 번에 최종 행동을 결정하는 대신, 현재 상황에 대한 추론과 실제 행동, 그 결과에 대한 관찰을 반복적으로 교대하도록 프롬프트를 구성하여 복잡한 다단계 과제에서의 신뢰성을 높였다.

flowchart LR
    A["사고<br/>Thought"] --> B["행동<br/>Action"]
    B --> C["관찰<br/>Observation"]
    C --> A

보안과 신뢰성 문제

프롬프트 인젝션

2023년 그레스하케 등은 언어 모델이 신뢰할 수 있는 이용자의 지시와 외부에서 유입된 데이터를 구분하지 못한다는 구조적 특성을 이용해, 모델이 처리하는 웹페이지나 문서와 같은 외부 콘텐츠에 악의적인 지시문을 심어 모델의 원래 지시를 무력화하는 프롬프트 인젝션 공격을 체계적으로 정리하였다. 이 가운데 공격자가 이용자를 거치지 않고 모델이 처리하는 외부 콘텐츠에 지시를 은닉하는 방식은 간접 프롬프트 인젝션으로 불리며, 정보 유출이나 자동화된 확산과 같은 피해로 이어질 수 있음이 시연되었다. 오픈 웹 애플리케이션 보안 프로젝트(OWASP)의 생성형 인공지능 보안 프로젝트는 2025년 프롬프트 인젝션을 대규모 언어 모델 응용에서 우선적으로 다루어야 할 취약점 목록의 1순위로 분류하였다.

탈옥과의 구분

프롬프트 인젝션은 흔히 탈옥(jailbreaking)과 혼동되지만 두 개념은 구별된다. 보안 연구자들이 제시한 구분에 따르면, 프롬프트 인젝션은 응용 프로그램이 신뢰할 수 있는 지시와 신뢰할 수 없는 외부 데이터를 함께 처리하는 구조 자체의 취약점을 겨냥하는 반면, 탈옥은 모델의 안전 학습을 우회하여 원래는 거부하도록 학습된 응답을 이끌어내는 데 초점을 둔다. 다만 OWASP는 탈옥을 프롬프트 인젝션의 한 형태로 분류하는 등, 두 개념의 경계를 어떻게 그을 것인가에 대해서는 문헌에 따라 견해차가 있으며 실제 공격에서는 두 기법이 함께 쓰이는 경우도 많다.

같이 보기

대규모 언어 모델
인컨텍스트 러닝
사고연쇄 프롬프팅
검색 증강 생성
파인튜닝
인간 피드백 기반 강화학습
소프트 프롬프트
인공지능 에이전트
프롬프트 인젝션
컨텍스트 엔지니어링

참고 자료

Petroni, Fabio; Rocktäschel, Tim; Riedel, Sebastian; Lewis, Patrick; Bakhtin, Anton; Wu, Yuxiang; Miller, Alexander (2019), “Language Models as Knowledge Bases?”, Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing and the 9th International Joint Conference on Natural Language Processing (EMNLP-IJCNLP)
Brown, Tom B. et al. (2020), “Language Models are Few-Shot Learners”, Advances in Neural Information Processing Systems 33 (NeurIPS 2020)
Lewis, Patrick et al. (2020), “Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks”, Advances in Neural Information Processing Systems 33 (NeurIPS 2020)
Lester, Brian; Al-Rfou, Rami; Constant, Noah (2021), “The Power of Scale for Parameter-Efficient Prompt Tuning”, Proceedings of the 2021 Conference on Empirical Methods in Natural Language Processing
Ouyang, Long et al. (2022), “Training Language Models to Follow Instructions with Human Feedback”, Advances in Neural Information Processing Systems 35 (NeurIPS 2022)
Wei, Jason et al. (2022), “Chain-of-Thought Prompting Elicits Reasoning in Large Language Models”, Advances in Neural Information Processing Systems 35 (NeurIPS 2022)
Wang, Xuezhi et al. (2022), “Self-Consistency Improves Chain of Thought Reasoning in Language Models”, arXiv:2203.11171
Kojima, Takeshi et al. (2022), “Large Language Models are Zero-Shot Reasoners”, arXiv:2205.11916
Yao, Shunyu et al. (2022), “ReAct: Synergizing Reasoning and Acting in Language Models”, arXiv:2210.03629
Zhou, Yongchao et al. (2022), “Large Language Models Are Human-Level Prompt Engineers”, International Conference on Learning Representations (ICLR 2023)
Yao, Shunyu et al. (2023), “Tree of Thoughts: Deliberate Problem Solving with Large Language Models”, Advances in Neural Information Processing Systems 36 (NeurIPS 2023)
Greshake, Kai; Abdelnabi, Sahar; Mishra, Shailesh; Endres, Christoph; Holz, Thorsten; Fritz, Mario (2023), “Not What You’ve Signed Up For: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection”, Proceedings of the 16th ACM Workshop on Artificial Intelligence and Security
Khattab, Omar et al. (2023/2024), “DSPy: Compiling Declarative Language Model Calls into Self-Improving Pipelines”, International Conference on Learning Representations (ICLR 2024)
Sahoo, Pranab; Singh, Ayush Kumar; Saha, Sriparna; Jain, Vinija; Mondal, Samrat; Chadha, Aman (2024), “A Systematic Survey of Prompt Engineering in Large Language Models: Techniques and Applications”, arXiv:2402.07927
Schulhoff, Sander et al. (2024), “The Prompt Report: A Systematic Survey of Prompting Techniques”, arXiv:2406.06608
Meincke, Lennart et al. (2025), “Prompting Science Report 2: The Decreasing Value of Chain of Thought in Prompting”, arXiv:2506.07142
OWASP Gen AI Security Project (2025), “LLM01:2025 Prompt Injection”, genai.owasp.org
Anthropic (2025), “Effective Context Engineering for AI Agents”, Anthropic Engineering Blog
Anthropic (2026), “Prompt Engineering Best Practices for 2026”, Claude Blog
Virtualization Review (2023), “There’s a New Job in Town: Prompt Engineer (to the Tune of $335K/Year)”
CFO Brew (2023), “So Long, Prompt Engineers”
Salesforce Ben (2025), “Prompt Engineering Jobs Are Obsolete in 2025 – Here’s Why”
Fortune (2025), “This Six-Figure Role Was Predicted to Be the Next Big Thing—It’s Already Obsolete Thanks to AI”
Prompt Engineer Collective (2026), “Is Prompt Engineering a Real Career in 2026? Job Demand and Salary Data”
Promptfoo (2025), “Prompt Injection vs Jailbreaking: What’s the Difference?”