본문 바로가기
카테고리 없음

AI를 잘 쓰는 사람과 못 쓰는 사람의 차이는 무엇일까?

by 난해인 2026. 8. 19.

ChatGPT를 비롯한 생성형 AI(Generative AI)가 빠르게 보급되면서 이제는 누구나 쉽게 AI를 사용할 수 있게 되었다. 하지만 같은 AI를 사용하더라도 얻어내는 결과에는 상당한 차이가 있다. 어떤 사람은 AI를 단순한 검색창처럼 사용하는 반면, 어떤 사람은 글쓰기, 자료 분석, 아이디어 정리, 업무 자동화, 의사결정 보조 등 다양한 영역에서 적극적으로 활용한다.

그렇다면 AI를 잘 사용하는 사람과 그렇지 않은 사람의 차이는 무엇일까? 흔히 좋은 Prompt를 작성하는 능력이 중요하다고 생각하지만, 실제로는 그것보다 더 중요한 요소들이 있다.

 

AI를 잘 쓰는 사람과 못 쓰는 사람의 차이는 무엇일까?
AI를 잘 쓰는 사람과 못 쓰는 사람의 차이는 무엇일까?

1. AI를 잘 쓰는 사람은 '질문'보다 먼저 '목적'을 정한다

AI에게 무엇을 물어보느냐도 중요하지만, 그보다 먼저 필요한 것은 내가 무엇을 얻고 싶은지 명확하게 정하는 것이다.

예를 들어 단순히 "운동에 대해 알려줘"라고 질문하면 AI는 매우 일반적인 답변을 내놓을 수밖에 없다. 반면 "40대 직장인이 체력을 높이기 위해 일주일에 세 번 할 수 있는 운동계획을 짜줘. 운동시간은 하루 40분 이내로 하고, 근력운동과 유산소운동을 모두 포함해줘"라고 요청하면 훨씬 구체적인 결과를 얻을 수 있다.

차이는 단순히 Prompt가 길어졌기 때문이 아니다. 사용자가 원하는 Goal, Context, Constraint​가 명확해졌기 때문이다.

AI를 잘 활용하는 사람은 먼저 다음과 같은 생각을 한다.

"내가 해결하려는 문제는 무엇인가?"

"결과물을 어디에 사용할 것인가?"

"어떤 조건을 반드시 지켜야 하는가?"

"어느 정도 깊이의 답변이 필요한가?"

결국 좋은 Prompt의 출발점은 특별한 기술이 아니라 문제를 정확하게 정의하는 능력(Problem Definition)​이다.

AI는 사용자가 원하는 목적을 정확하게 알수록 더 적절한 결과를 만들어낼 수 있다. 따라서 AI 활용 능력은 단순히 AI에게 명령하는 기술이라기보다 자신이 해결하려는 문제를 명확하게 표현하는 능력에 가깝다.

2. 한 번의 질문으로 끝내지 않고 계속 수정한다

AI를 잘 사용하지 못하는 경우 흔히 나타나는 패턴이 있다.

질문을 한 번 입력하고, AI가 내놓은 첫 번째 답변을 최종 결과라고 생각하는 것이다.

하지만 생성형 AI의 가장 큰 장점 중 하나는 대화를 통해 결과를 계속 수정할 수 있다는 것이다.

예를 들어 AI에게 보고서를 작성하도록 요청했는데 내용이 너무 어렵다면,

"전문용어를 줄이고 일반인이 이해할 수 있게 다시 설명해줘."

라고 요청할 수 있다.

내용이 너무 길다면,

"핵심 내용만 남기고 절반 정도로 줄여줘."

라고 할 수도 있다.

반대로 설명이 부족하다면,

"두 번째 부분을 실제 사례를 포함해서 더 자세하게 설명해줘."

라고 요청하면 된다.

처음부터 완벽한 Prompt를 작성하려고 애쓸 필요가 없는 이유가 여기에 있다.

질문 → 답변 → 수정 → 추가 질문 → 재작성

이 과정을 반복하면서 원하는 결과에 가까워지면 된다.

AI를 잘 사용하는 사람은 AI를 자동판매기처럼 생각하지 않는다. 버튼을 한 번 누르면 완성된 결과가 나오는 것이 아니라, 여러 차례 대화를 주고받으면서 결과물을 공동으로 만들어가는 Iterative Process로 활용한다.

더 나아가 AI가 제시한 답변 자체를 평가하도록 할 수도 있다.

예를 들어,

"방금 네가 작성한 답변에서 논리적으로 부족한 부분을 찾아줘."

"이 주장에 반대하는 입장에서 반론을 제시해줘."

"이 글을 전문가가 비판한다면 어떤 문제를 지적할까?"

와 같이 요청하면 처음에는 보이지 않았던 문제점을 발견할 수 있다.

AI에게 단순히 답을 요구하는 것을 넘어 비판자, 검토자, 아이디어 파트너​의 역할까지 맡기는 것이다.

3. 가장 중요한 능력은 AI의 답을 그대로 믿지 않는 것이다

AI를 잘 활용한다는 것은 AI가 만들어준 결과를 많이 사용하는 것과는 다르다.

오히려 중요한 것은 AI의 결과를 적절하게 의심하고 검증하는 능력이다.

생성형 AI는 매우 자연스럽고 논리적인 문장을 만들어낸다. 문제는 내용이 틀린 경우에도 그럴듯하게 설명할 수 있다는 점이다.

따라서 AI가 알려준 내용을 그대로 받아들이기보다는 중요한 정보일수록 다시 확인해야 한다.

특히 논문, 법률, 통계, 의학정보, 투자정보처럼 정확성이 중요한 분야에서는 더욱 그렇다.

AI가 어떤 논문을 소개했다면 실제 존재하는 논문인지 확인해야 하고, 특정 통계를 제시했다면 공식적인 자료인지 확인해야 한다. 법률이나 제도에 관한 내용이라면 최신 법령과 공식 자료를 검토하는 과정도 필요하다.

이것은 AI를 믿지 말라는 의미가 아니다.

AI가 잘하는 것과 인간이 해야 하는 일을 구분해야 한다는 의미다.

AI는 많은 정보를 빠르게 정리하고, 아이디어를 확장하고, 복잡한 내용을 쉽게 설명하는 데 매우 유용하다. 하지만 어떤 정보가 중요한지 판단하고, 사실 여부를 확인하고, 최종 결정을 내리는 책임은 여전히 인간에게 있다.

결국 AI를 잘 사용하는 사람은 AI에게 모든 생각을 맡기는 사람이 아니다.

오히려 AI를 이용해 자신의 생각을 더 빠르고 넓게 확장하면서도, 마지막에는 스스로 판단한다.

그래서 AI 활용 능력을 한 문장으로 정리한다면 다음과 같이 말할 수 있다.

AI를 잘 쓰는 사람은 질문을 잘하는 사람이 아니라, 문제를 정확하게 정의하고 AI와 반복적으로 대화하며 그 결과를 검증할 줄 아는 사람이다.

앞으로 AI가 더욱 발전할수록 이런 능력은 더욱 중요해질 것이다. AI가 좋은 답을 만들어내는 능력은 계속 향상되겠지만, 어떤 질문을 해야 하는지, 어떤 답을 믿어야 하는지, 그리고 그 답을 실제 상황에서 어떻게 사용할 것인지를 결정하는 것은 결국 인간이기 때문이다.