'질문'이면 어서오고, '프롬프트'면 나가시오!
부제: 새로 들어온 사원이 나에게 질문이 아닌 프롬프팅을 하기 시작했다…
본 글은 AI시대에서 프롬프팅이 필수가 되어가는 과정속에서, 좋은 질문에 대한 고찰을 바탕으로 작성되었습니다. 주니어 시절 알았다면 좋았을 내용을 담고있습니다.
1. 우리가 배워온 ‘좋은 질문’의 기술
업무 현장에서 ‘좋은 질문’은 일을 잘하기 위한 하나의 스킬로 인식됩니다.
싸가지 없는 “해줘.”가 아닌 좋은 질문을 하기 위해 우리는 성장하며 수없이 노력해왔습니다.
하지만, 좋은 질문을 위해 노력하는 우리는 과연 주어진 업무의 질문은 파악하려 하고 있을까요?
가령 Agile 환경에서 일하는 주니어 DevOps 준희에게, 시니어가 첫 업무로 A를 할당했다고 해봅시다.
A: 사과 프로젝트의 CI 작업을 쿠버네티스 위에서 수행하던 중 일부 빌드가 스토리지 부족으로 실패하였다. 이슈를 해결하여라.
준희: 처음이라 간단한 업무를 주셨네!
스토리지가 부족하다니! 스토리지를 알맞게 늘려야겠어!
테스트를 통해 MAX 값을 찾아 적절한 용량을 찾고 Evidence로 제출하면? 근거에 기반한 완벽한 나의 첫 번째 PR이 탄생할 거야!
그렇게 하루 만에 해결하고 PR을 올리고 리뷰를 신청한 준희는, 곧 적용될 자신의 패치를 기대합니다.
그리고 곧이어 리뷰가 달립니다.
시니어: 할당 스토리지를 늘리는 방법을 선택한 이유가 뭔가요?
준희: 할당 스토리지를 왜 200Gi로 늘렸는지 이미 테스트 결과와 리포트를 통해 제시하였는데…?
준희가 어리둥절한 이유는 무엇일까? 바로 업무에 던져진 질문을 파악하지 못했기 때문입니다. “스토리지 부족”이라는 키워드에 집중한 나머지, 업무가 왜 준희에게 할당되었는지를 파악하지 못했습니다.
단순 스토리지 용량문제로 값을 늘리기만 하면 되는 업무였다면 , 시니어 입장에서는 1시간도 안돼서 해결할수 있는 문제이다. 시니어는 준희가 빠른시간 안에 용량을 늘리는 것을 원했을까? 혹시 테스트가 귀찮아서, 속히말해 짬처리를 위해 준 업무일까?
할당된 업무의 메세지는 로봇같은 “스토리지용량의 끝이 도래했다 ” 가 아니다. 준희를 이해하는 인간이 보낸 메세지이자 질문이다.
실제 메시지는 이러했을 것입니다:
Message: “스토리지 용량 이슈의 디버깅을 너에게 할당할게, 이것을 통해서 너의 경험을 넓혀가면 좋겠어.”
Question: “너의 경험을 바탕으로, 이런 문제를 어느 정도로 확장해 나갈 수 있니?”
준희가 이런 메세지와 질문을 먼저 파악했다면, 스토리지 용량을 늘리는 단편적인 접근은 하지 않았을것이다. 스스로에게 ‘좋은 질문’을 던졌을지도 모른다.
“스토리지 용량 부족의 경우 , 용량을 늘리면 될것같은데… 왜 이렇게 간단한 업무를 주셨을까 ?”
2. AI, 니가 ‘좋은 질문’이라는 걸 아니?
- 프롬프팅의 본질은 질문이 아닌 명령이다. 우리가 배척했던 “해줘”의 역사가 AI의 최신 수트를 입고 당신을 마주 할지도 모른다. 그리고 당신에게 말할것이다. “해줘”
최근 곳곳에서 ‘AI에게 좋은 질문을 해야만 좋은 결과를 얻는다’라는 이야기가 들려온다. 사실 이 문장은 얼핏 들으면 아주 합리적으로 보이기도 합니다. “질문을 잘해야 원하는 답을 얻는다.”는 논리의 연장선 같기도 하고요. 그런데, 정말 이 ‘질문’을 인간 대 인간의 상호작용에서 말하는 ‘좋은 질문’과 동일시해도 괜찮을까요?
AI가 상용화된 이 시점에 , AI를 사용하는 아이들은 인간대 인간의 ‘좋은 질문’ 이라는 의미를 AI에게 요청하는 ‘명령어 입력 프롬프팅’ 과 구별 할수 있을까요?
앞서 이야기했듯이, 저는 ‘좋은 질문’이란 인간이 인간에게 던지는, 또는 특정 업무나 상황을 통해 자연스럽게 도출되는 상호작용의 결과라고 생각합니다. 꼭 “그럼 이건 어떻게 해요?” 같은 직접적인 물음이 아니더라도, 업무가 던지는 문제 속에서 “왜 이 문제는 나에게 주어졌을까?”, “시니어는 이걸 통해 내게 어떤 경험을 쌓게 하려는 걸까?”처럼 스스로에게 던지는 물음도 훌륭한 질문입니다. 이런 과정을 통해 우리는 문제 해결 능력뿐 아니라 새로운 관점과 인사이트를 얻을 수 있게 되죠.
그렇다면 AI에게 “좋은 질문”을 해야 한다는 건 또 무슨 이야기일까요? 사실, AI가 등장할 무렵, 우리는 AI와의 대화를 ‘질문–답변’ 형태라고 보기보다는, 명령어를 입력하면 LLM모델이 석사급의 Output 을 내놓는다 라고 이해하였습니다. 프로그래밍에서 명령어(커맨드)를 입력하면 컴퓨터가 동작하는 것과 비슷하니까요.
이처럼 AI에게 입력되는 문장을 가리켜 요즘은 ‘프롬프트(prompt)’라고 부릅니다. 프롬프팅이라는 단어는, 쉽게 말해 “AI에게 특정 출력을 얻기 위해 입력하는 텍스트나 명령”을 의미합니다.
즉, 사용자가 AI에게 “내가 원하는 정보를 주세요”라고 요청하는 행위는 본질적으로 명령에 가깝습니다. “이걸 알려주세요”, “저걸 정리해보세요”처럼 AI가 수행해야 할 행동을 지시하는 것이니까요. 물론, 그 지시가 의문문 형태를 띠고 있을 수는 있습니다. 예를 들어 “이걸 어떻게 해야 하나요?”라고 묻는 식이죠. 하지만 AI가 답변을 생성해내는 과정을 생각해보면, 그건 사실상 ‘질문’보다는 “이 목적을 위해 필요한 정보를 제공해라”라는 명령에 가깝습니다.
이 부분에서 누군가는 이렇게 말할 수도 있습니다.
“정확하고 명확한 정보를 얻기 위해서는 AI 맞춤형 질문, 즉 프롬프트를 잘 짜는 게 필수 아니겠습니까? 인간과 인간의 상호작용이 아니라고 해서 그걸 ‘좋은 질문’이 아니라고 할 순 없죠.”
맞습니다. AI 시대에 필요한 ‘프롬프팅’ 능력이 중요하다는 점을 부정할 수는 없습니다. 문제는 이것을 인간 대 인간의 ‘좋은 질문’과 동일한 것으로 오인하는 것입니다. 우리가 흔히 말하는 “좋은 질문”은 상대방(혹은 스스로)에게 숨겨진 경험과 고민을 이끌어내고, 그로부터 생각의 확장을 유도합니다. 하지만 AI에게 프롬프트를 입력하는 것은, 설령 의문문 형태를 띄고 있어도 정해진 알고리즘과 데이터를 토대로, 우리가 원하는 특정 맥락의 답변을 빠르게 뽑아내는 데 초점이 맞춰져 있습니다.
그래서 저는 이렇게 표현하고 싶습니다.
“AI에게 ‘좋은 질문’을 하는 게 아니라, ‘좋은 프롬프팅’ 혹은 ‘적절한 명령’을 내리는 것이다.”
물론 영어권에서는 “The best question leads to the best answer” 같은 문구도 흔히 볼 수 있습니다. 그런데 여기서 말하는 ‘Question’이 정말 ‘질문(質問)’의 뉘앙스로 쓰였는지, 아니면 ‘프롬프트’로서의 ‘질문’인지는 맥락에 따라 다를 수 있습니다. 한국어로 직역해버리면 “AI에게 최고의 질문을 하면 최고의 답변을 얻는다”가 되겠지만, 그 사이에는 언어적, 문화적 간극의 차이가 존재합니다.
대학시절 읽은 프랑수아 줄리앙의 책『문화적 정체성은 없다』에서 , 언어의 간극이 새로운 철학을 만든다 라고 하였습니다. 실제로 영어와 한국어 사이의 간극은 이미 많은 새로운 개념들과 사고방식을 만들어내고 있습니다. 특히 동사화된 행위와 명사로서의 개념 사이에는 적지 않은 차이가 존재하죠.
결국 이러한 간극을 제대로 이해하고, 불필요한 혼동을 줄이기 위해서라도 “AI에게 좋은 질문을 해야 한다”고 말할 때 그것이 정말 ‘질문’인지 다시 생각해볼 필요가 있습니다. AI에게 우리가 하는 행위는 사실상 명령에 가깝고, 목적 또한 우리가 원하는 정보를 빠르게 획득하는 데 있으니까요.
3. ‘좋은 질문’이라는 의미가 퇴색되지 않기를 바랍니다
“AI 시대에도 인간 대 인간이 오가는 진짜 ‘좋은 질문’은 여전히 중요합니다.”
AI와의 상호작용에서는 최적의 결과물을 위한 ‘프롬프팅’이 핵심이겠지만, 사람 대 사람 사이에서 만들어지는 ‘질문’의 가치는 한쪽이 알지 못했던 통찰과 경험을 끄집어내어 함께 확장해가는 과정이라는 점에서 결이 다릅니다.
“프롬프팅”과 “질문”을 애매하게 섞어 부르기 시작하면, 정작 인간 대 인간의 진짜 ‘좋은 질문’이 가진 의미가 흐려질 수 있습니다. AI가 발전할수록 마치 “AI에게 질문하는 법만 잘 익히면, 인간 상호작용에서의 질문도 자연스럽게 잘할 수 있다”는 착각이 퍼질 수 있다는 것이죠.
그런데 실제로 인간의 내면과 맥락을 이해하고, 상호작용에서 의미를 이끌어내는 ‘질문’은 완전히 다른 차원의 역량입니다.
결론
“AI에게 좋은 질문을 해야 좋은 답변을 얻는다”라는 말이, 우리가 말하는 ‘좋은 질문’의 본질을 흐리지 않길 바랍니다. 오히려 ‘좋은 프롬프팅’이라는 표현을 적극 사용하여 언어적 간극을 좁히는 것이 더 바람직한 방향이라고 생각합니다.
이제 우리는 ‘좋은 질문’과 ‘좋은 프롬프팅’을 구분하여 사용해야 할 때입니다. 그래야만 각각의 가치가 더욱 빛날 수 있을 테니까요.





