AI 프롬프트 기초, 원하는 답변을 얻기 위해 먼저 바꾼 질문 습관

AI에게 똑같은 질문을 해도 누군가는 핵심 답변을 받고, 누군가는 뻔한 교과서 같은 말만 돌려받는다. 차이는 AI 성능이 아니라 질문하는 방식, 즉 프롬프트에 있었다.

솔직히 말하면 저도 처음엔 AI한테 “블로그 글 써줘”라고 던지고 왜 결과가 별로인지 불만만 가졌거든요. ChatGPT가 나온 초기에 하루 종일 붙잡고 있었는데, 돌아오는 건 어디서 복붙한 것 같은 밋밋한 텍스트뿐이었어요. 그때는 진심으로 “이게 뭐가 대단하다는 거지?” 싶었죠.

근데 프롬프트라는 개념을 제대로 파고들기 시작하면서 완전히 달라졌어요. 질문의 구조를 바꿨을 뿐인데 같은 모델이 전혀 다른 수준의 답변을 내놓더라고요. 그래서 오늘은 제가 직접 겪으면서 깨달은 프롬프트 기초와 질문 습관 바꾸는 법을 풀어보려 해요.

AI가 엉뚱한 답을 내놓는 건 AI 탓이 아니었다

“마케팅 전략 알려줘.” 제가 처음 AI에게 던진 질문이 딱 이 수준이었어요. 당연히 돌아온 답변은 누구나 아는 4P 이론이랑 SWOT 분석 같은 교과서 내용이었죠. 그걸 보고 “역시 AI는 아직 멀었어”라고 단정지었는데, 지금 생각하면 정말 부끄러운 판단이었어요.

AI 모델은 사용자가 입력한 텍스트를 기반으로 가장 확률이 높은 다음 단어를 예측하는 구조거든요. 그러니까 질문이 모호하면 AI 입장에서는 가장 범용적이고 안전한 답을 내놓을 수밖에 없는 거예요. OpenAI 공식 프롬프트 가이드에서도 첫 번째로 강조하는 게 “구체적이고 상세하게 원하는 맥락, 결과, 길이, 형식, 스타일을 명시하라”는 점이에요.

결국 핵심은 이거였어요. AI가 멍청한 게 아니라 내 질문이 멍청했던 거예요. 사람한테도 “뭐 좀 추천해줘”라고 하면 막연한 대답이 돌아오잖아요. AI는 그게 더 극단적으로 드러날 뿐이에요.

이걸 깨닫고 나니까 프롬프트라는 개념이 전혀 다르게 보이기 시작했어요. 프롬프트는 단순한 명령어가 아니라 AI와 나 사이의 커뮤니케이션 설계도에 가깝더라고요. 설계도가 부실하면 건물이 엉망이듯, 질문이 부실하면 답변도 엉망인 거죠.

모호한 질문을 구체적으로 바꾸는 3단계 공식

프롬프트 엔지니어링이라고 하면 뭔가 거창해 보이는데, 사실 핵심 원리는 놀라울 정도로 단순해요. 제가 직접 써보면서 정리한 공식은 이 세 단계예요. 맥락(Context) → 지시(Instruction) → 출력 형식(Format). 이 세 가지만 갖추면 답변 품질이 확 달라지거든요.

예를 들어볼게요. “건강한 식단 알려줘”라는 질문을 이 공식에 대입하면 이렇게 바뀌어요. “나는 30대 직장인인데, 점심을 회사 근처 편의점에서 해결하는 경우가 많아. 하루 1,500kcal 이내로 단백질 위주 식단을 편의점 메뉴 조합으로 3가지만 표 형태로 추천해줘.” 같은 주제인데 출발점부터 완전히 다르죠.

이 구조를 쓰기 시작한 게 한 6개월 전쯤인데, 처음엔 맥락 쓰는 게 귀찮았어요. 근데 한두 번만 습관이 붙으니까 오히려 시간이 절약되더라고요. 모호한 질문 던지고 → 마음에 안 드는 답 받고 → 다시 질문하고, 이 루프가 사라지니까요.

Prompt Engineering Guide에서도 강조하는 건데, “시작은 간단하게 하되 점진적으로 구체화하라”는 거예요. 처음부터 완벽한 프롬프트를 쓰려고 부담 가질 필요 없어요. 짧게 던져보고, 부족한 부분을 하나씩 채워 넣는 반복이 핵심이에요.

역할 부여와 맥락 제공, 프롬프트의 뼈대 만들기

프롬프트 기법 중에 제가 가장 효과를 크게 본 건 역할 부여(Role Prompting)였어요. “너는 10년 경력 UX 디자이너야”라고 한 줄 붙이는 것만으로 답변의 깊이가 달라지거든요. AI에게 페르소나를 주면 해당 분야의 전문 용어, 사고방식, 우선순위 기준이 반영된 답변이 나와요.

처음에 이걸 들었을 때 솔직히 반신반의했어요. “그냥 앞에 한 줄 붙이는 게 뭐가 달라지겠어?” 싶었는데, 직접 해보면 체감이 꽤 커요. 똑같이 “랜딩 페이지 피드백 줘”라고 물어도 역할 없이 물으면 일반론만 나오고, “너는 전환율 최적화 전문 마케터야”라고 붙이면 CTA 버튼 위치, 히트맵 기반 시선 흐름 같은 구체적 포인트가 나오더라고요.

맥락 제공도 같은 원리예요. OpenAI에서는 구분자(###이나 “””)를 써서 지시문과 맥락을 물리적으로 분리하라고 권장해요. 이게 별것 아닌 것 같지만 AI가 “어디까지가 명령이고 어디부터가 참고 자료인지” 정확히 구분하게 해주는 장치거든요.

제가 실제로 업무에 쓰는 패턴은 이래요. 맨 위에 역할, 그 아래 배경 설명, 구분선 긋고, 실제 작업 지시, 마지막에 출력 형식 지정. 이 네 블록을 습관처럼 쓰니까 답변 재작성 횟수가 눈에 띄게 줄었어요.

예시를 보여주면 AI가 달라진다: Few-shot 기법

프롬프트 기법 중에서 초보한테 가장 즉각적인 효과를 주는 게 Few-shot 프롬프팅이에요. 말로 설명하는 대신 “이런 식으로 해줘”하고 예시 2~3개를 직접 보여주는 방식이거든요. AI는 패턴 인식에 강하기 때문에 예시를 보면 그 형식과 톤을 거의 그대로 따라와요.

제가 블로그 제목 뽑을 때 실감한 건데요. “블로그 제목 만들어줘”라고 하면(Zero-shot) 평범한 제목이 나와요. 근데 “예시1: 3년 써본 사람이 말하는 아이패드 진짜 후기 / 예시2: 전세 계약 전에 이것만 확인했어도 500만원 안 날렸다 / 이런 톤으로 5개 만들어줘”라고 하면 결과물의 수준이 확 뛰어요.

기법	방식	결과 품질
Zero-shot	예시 없이 지시만	범용적, 평이함
One-shot	예시 1개 제공	방향성 잡힘
Few-shot	예시 2~5개 제공	톤·형식 일관 유지

Prompt Engineering Guide에서도 Few-shot을 “문맥 내 학습(in-context learning)”이라고 설명하는데, 모델을 재훈련하지 않고도 입력만으로 행동을 바꾸는 거라 비용이나 기술 장벽이 전혀 없어요. 그냥 예시를 붙여 넣기만 하면 돼요.

한 가지 주의할 건, 예시의 품질이 결과를 좌우한다는 거예요. 엉성한 예시를 주면 AI도 엉성하게 따라 하거든요. 그래서 저는 예시를 고를 때 “내가 실제로 원하는 최종 결과물”을 기준으로 골라요. 귀찮아도 이 과정이 결국 시간을 아껴줘요.

프롬프트 초보가 반복하는 실수 패턴

프롬프트를 배우기 시작하면 누구나 비슷한 실수를 거치더라고요. 제가 겪었던 것도 있고, 주변 사람들이 보여준 프롬프트를 보면서 느낀 것도 있어요. 가장 흔한 게 “하지 마”라고만 쓰는 실수예요. “전문용어 쓰지 마”보다 “중학생도 이해할 수 있는 단어로 써줘”가 훨씬 나은 결과를 만들어요. OpenAI 가이드에서도 “하지 말아야 할 것보다 해야 할 것에 집중하라”고 명확히 얘기해요.

두 번째로 많이 보이는 건 한 번에 너무 많은 걸 요구하는 거예요. “시장 분석하고, 경쟁사 비교하고, 마케팅 전략까지 세워줘”를 한 프롬프트에 몰아넣으면 어느 하나도 제대로 안 돼요. 큰 작업은 작은 단위로 쪼개서 순차적으로 요청하는 게 정석이에요. 저도 처음엔 한 방에 끝내고 싶은 욕심 때문에 이 실수를 반복했거든요.

세 번째는 의외로 오타와 문법 실수예요. 사람 대 사람 대화에서는 맥락으로 보정이 되지만, AI는 입력된 텍스트를 글자 그대로 처리하기 때문에 오타 하나가 전혀 다른 방향으로 답변을 끌고 가기도 해요. 특히 영어 프롬프트에서 전치사 하나 틀리면 결과가 확 바뀌는 걸 몇 번 경험했어요.

그리고 흔한 오해 하나를 짚자면, “프롬프트가 길수록 좋다”는 건 사실이 아니에요. 불필요한 정보를 잔뜩 넣으면 오히려 AI가 핵심을 놓쳐요. 관련성 높은 맥락만 간결하게 넣는 게 핵심이에요. Prompt Engineering Guide에서도 “세부 사항은 당면 과제에 기여해야 한다”고 명시하고 있어요.

질문 습관을 바꾸고 나서 달라진 점

프롬프트 기초를 익히고 습관으로 정착시키기까지 한 달 정도 걸린 것 같아요. 처음 2주는 의식적으로 “맥락-지시-형식” 구조를 머릿속에서 조립했고, 그 이후로는 거의 자동으로 질문이 구조화되더라고요. 흥미로운 건 이게 AI 대화뿐 아니라 사람한테 뭔가를 요청할 때도 영향을 미쳤다는 거예요.

구체적으로 달라진 건 이래요. 이전에는 AI한테 같은 질문을 평균 3~4번 다시 던졌어요. 원하는 결과가 안 나오니까요. 지금은 대부분 1~2번이면 끝나요. 재질문 횟수가 줄었다는 건 곧 시간 절약이고, 하루에 AI 활용하는 업무량 자체가 늘었다는 뜻이에요.

한 가지 후회가 있다면 역할 부여를 더 일찍 알았으면 좋았겠다는 거예요. 처음 석 달은 그냥 맥락+지시만 쓰다가 역할 부여를 추가했는데, 그 차이가 생각보다 커서 “이걸 왜 이제야 했지?” 싶었거든요. 특히 전문적인 주제일수록 역할 한 줄의 위력이 체감돼요.

결국 프롬프트의 본질은 기술이 아니라 생각을 정리하는 습관인 것 같아요. 내가 뭘 원하는지, 어떤 맥락에서 필요한지, 결과물이 어떤 모양이면 좋겠는지. 이 세 가지를 먼저 정리한 뒤에 질문을 던지는 거예요. AI가 계속 발전하고 있지만, 이 원칙은 어떤 모델을 쓰든 변하지 않을 거라고 확신해요.

지금 이 글을 읽고 있는 분이 아직 AI를 막연하게만 써왔다면, 오늘 딱 하나만 바꿔보세요. 질문 앞에 “나는 ~한 상황이고, ~가 필요해”라는 맥락 한 줄만 추가하는 거예요. 그 한 줄이 만들어내는 차이에 아마 놀랄 거예요.