일 잘하는 사람은 AI를 이렇게 쓴다
AI는 이제 답하지 않고 일을 시작한다
AI 실무 리터러시는 어떻게 달라지는가
생성형 AI를 처음 업무에 활용할 때는 주로 ‘어떻게 질문해야 원하는 답을 얻을 수 있을까’에 관심이 쏠렸습니다. 하지만 AI가 답변을 만드는 데서 그치지 않고 여러 단계의 업무를 수행하고, 현실의 기기와 로봇까지 움직이기 시작하면서 실무자가 따져야 할 것도 많아졌습니다.
이제는 질문을 잘하는 것만으로 충분하지 않습니다. 다음 5가지를 함께 판단할 수 있어야 합니다.
1. 어떤 업무를 AI에게 맡길 것인가? :
업무를 나누고, AI가 맡기에 적합한 과업을 가려냅니다.
2. AI에게 어디까지 권한을 줄 것인가? :
초안 작성까지만 맡길지, 실행까지 허용할지 범위를 정합니다.
3. AI가 제대로 수행했는지 어떻게 확인할 것인가? :
결과를 검토할 기준과 확인 절차를 마련합니다.
4. 예외 상황에서는 누가 개입할 것인가? :
AI가 판단하기 어려운 상황과 사람이 개입해야 할 시점을 정합니다.
5. 최종 책임은 누가 질 것인가? :
AI가 업무를 수행하더라도 최종 판단과 책임의 주체를 분명히 합니다. 이 5가지는 새로운 기술을 외우는 능력이라기보다 AI에게 일을 맡기고 그 과정을 관리하는 능력에 가깝습니다. 앞으로의 AI 실무 리터러시는 프롬프트를 잘 쓰는 데서 한 걸음 더 나아가, 업무를 나누고 권한을 정하며 결과를 검증하는 능력까지 포함하게 됩니다.
모호한 지시와 구체적인 지시
AI에게 일을 맡길 때는 지시가 구체적일수록 결과도 달라집니다. 예를 들어 물류센터에서 단순히 “작업을 최적화해 줘”라고 지시하면 AI가 무엇을 우선해야 하는지 알기 어렵습니다. 배송 마감 시간을 먼저 고려해야 하는지, 작업자의 이동 거리를 줄여야 하는지, 처리량을 늘리는 것이 중요한지 기준이 없기 때문입니다.
이럴 때는 “당일 출고 물량을 배송 마감 시간, 작업자의 이동 거리, 상품 우선순위를 고려해 배정하라. 안전 통로를 침범하거나 작업자 1인당 처리량이 기준을 넘을 경우에는 자동으로 실행하지 말고 관리자에게 승인을 요청하라”처럼 지시할 수 있습니다. 해야 할 일뿐 아니라 판단 기준과 실행을 멈춰야 할 조건까지 함께 주는 것입니다.
보고서 작성도 마찬가지입니다. “보고서를 작성해 줘”라고 하는 대신 “지난 3개월간의 고객 불만 데이터를 유형별로 분류하고, 빈도/심각도/처리 시간을 기준으로 우선순위를 정한 뒤 개선안 3개를 제안해 줘. 원 자료에서 확인할 수 없는 내용은 추정하지 말고 별도로 표시해 줘”라고 지시하면 AI가 따라야 할 범위와 기준이 분명해집니다.
사람이 언제 개입할 것인가
AI를 ‘믿을 것인가, 믿지 않을 것인가’의 문제로만 보면 답을 찾기 어렵습니다. 실제 업무에서는 위험도에 따라 AI가 스스로 처리할 범위와 사람이 개입할 시점을 정하는 것이 더 중요합니다. 이를 ‘사람 개입형 운영(Human-in-the-loop)’이라고 합니다.
물류 로봇을 예로 들어 보겠습니다. 통로가 비어 있고 작업에 문제가 없다면 로봇이 정해진 업무를 수행하고 사람은 전체 상황을 살펴보는 정도면 됩니다. 하지만 이동 중 사람이 나타나거나 판단하기 어려운 상황이 생기면 이야기가 달라집니다. 로봇은 감속하거나 멈추고, 필요한 경우 사람의 확인을 받은 뒤 다시 움직이도록 할 수 있습니다. 통로가 막혔거나 상품이 파손되는 등 위험한 상황에서는 작업을 즉시 중단하고 관리자가 직접 판단하도록 해야 합니다.
AI 시대, 일하는 방식이 바뀐다
그럴듯한 오류를 알아채고 바로잡는 법
AI는 이렇게 답을 만든다
1. <입력> 내가 쓴 지시와 제공한 자료를 받는다
2. <토큰> 입력된 내용을 작은 단위인 토큰으로 나눈다
3. <예측> 학습한 패턴과 주어진 맥락을 바탕으로 다음에 올 토큰을 예측한다
4. <출력> 예측을 이어 가며 문장을 완성한다
강의에서는 이렇게 한 줄로 말합니다. “AI는 정답을 찾는 것이 아니라 문장을 만들어 냅니다.” 그래서 사실과 다른 내용도 자연스럽게 만들어 낼 수 있습니다.
여기서 나온 ‘토큰(token)’은 AI가 글을 처리하는 기본 단위입니다. 문서가 길어질수록 처리해야 할 토큰도 많아집니다. 서비스와 요금제에 따라 한 번에 처리할 수 있는 양이나 사용 한도에도 차이가 있습니다. 토큰, 컨텍스트, 환각. 이 세 단어만 알아도 AI의 작동 방식과 한계를 이해하는 데 도움이 됩니다.
메모리는 또 다른 이야기
최근 AI 서비스에는 사용자의 선호나 업무 정보를 기억해 이후 대화에 활용하는 기능도 있습니다. 편리하지만 대화의 맥락과 저장된 기억은 구분해서 이해해야 합니다.
대화 안의 맥락: 현재 대화에서 주고받은 내용과 제공한 자료. 지금 하는 작업에 직접 활용된다.
저장된 기억: 이전 대화나 설정 등을 바탕으로 이후 대화에 활용되는 정보. 모든 내용이 그대로 저장되는 것은 아니다.
묻는 데서 끝내지 말고 일을 맡겨라
AI 에이전트
쉽게 말해 AI 에이전트는 ‘목표를 주면 필요한 단계를 계획하고, 도구를 활용해 여러 단계의 업무를 수행하는 AI’입니다. 챗봇이 주로 질문에 답하는 역할을 했다면, 에이전트는 하나의 업무를 맡아 처리하는 방향으로 확장된 AI라고 볼 수 있습니다.
최근 주요 AI 서비스에서는 이러한 에이전트형 기능이 빠르게 확대되고 있습니다. 하지만 AI가 더 많은 일을 맡을수록 사람의 역할이 줄어드는 것은 아닙니다. 직원에게 일을 맡길 때와 마찬가지로, 무엇을 맡길지 명확하게 지시하고 과정과 결과를 확인하는 일이 더 중요해집니다.
위임 수준 4단계
1. <묻기> 정보/설명
2. <초안 작성> 문서 하나
3. <과제 위임> 여러 단계의 결과물
4. <반복 자동화> 예약/연결 실행
단계가 올라갈수록 AI가 하는 일은 늘고, 내가 하는 일은 ‘작성’에서 ‘설계와 승인’으로 바뀝니다. 높은 단계가 항상 좋은 것은 아닙니다. 한 번 하고 끝날 일에 4단계 자동화를 설계하는 것은 오히려 비효율입니다.
어디까지 맡길까 - 승인 설계 3가지 질문
AI에게 여러 단계의 업무를 맡길수록 어느 지점에서 사람의 확인을 거칠지 미리 정해 두는 것이 중요합니다. 무엇을 승인 대상으로 둘지는 다음 3가지 질문으로 판단할 수 있습니다.
1. 되돌릴 수 있는가? - 메일 발송, 파일 삭제, 결제처럼 되돌리기 어렵거나 복구에 비용이 드는 작업은 실행 전에 확인합니다.
2. 밖으로 나가는가? - 고객/상급자/외부 기관에 전달되는 결과물은 사람이 확인한 뒤 내보냅니다.
3. 민감한 정보가 담기는가? - 개인정보나 내부 기밀이 포함된 작업은 조직의 보안 기준을 확인하고 사람이 개입합니다.
세 질문에 모두 ‘아니오’라면 AI가 수행할 수 있는 범위를 넓히고 결과를 확인하는 방식으로 운영할 수 있습니다. 반대로 하나라도 ‘예’라면 어느 단계에서 사람이 확인하거나 승인할지 미리 정해 두는 편이 안전합니다.
AI에게 일을 잘 시키는 법
좋은 프롬프트보다 정확한 업무 정의가 먼저다
프롬프트는 ‘업무 지시서’다
프롬프트는 AI에게 주는 업무 지시서입니다. 신입사원에게 일을 맡길때 필요한 정보가 AI에게도 필요합니다.
이렇게 생각해 보세요. 능력은 뛰어나지만 우리 회사에는 오늘 처음 출근한 신입사원이 있습니다. 회사 사정도, 업무 방식도, 보고서 양식도 아직 모릅니다. 이 사람에게 아무 설명 없이 “보고서 써 와”라고만 하면 어떤 보고서가 나올까요? 내용이 틀리지 않더라도 내가 원한 보고서와 전혀 다를 수 있습니다.
AI도 마찬가지입니다. 무엇을 해야 하는지뿐 아니라 왜 하는지, 누구를 위한 것인지, 어떤 자료를 참고하고 어떤 형식으로 만들어야 하는지 알려 줘야 원하는 결과에 가까워집니다.
AI가 헤매지 않게 맥락과 자료를 건네는 법
맥락은 ‘설명’보다 ‘보여 주기’다
맥락은 AI가 내 상황과 의도를 이해하는 데 필요한 정보입니다. 무엇을 하는지 길게 설명하는 것보다 실제 예시나 기준, 참고할 자료를 함께 보여 주는 편이 더 정확하게 전달될 때가 많습니다. 같은 정보라도 어떤 방식으로 전달하느냐에 따라 결과는 달라질 수 있습니다.
원하는 문체와 형식을 보여 주는 예시를 함께 제공하면, AI가 요청을 이해하는 데 도움이 됩니다. 다만 예시를 하나만 주면 AI가 그 내용이나 표현까지 따라갈 수 있습니다. 내용이 서로 다른 예시 2~3개를 보여 주고, “내용은 새로 작성하되 형식과 말투만 참고해 줘”라고 덧붙이세요.
AI와 함께 맥락 팩 만들기 20분
1. 내 핵심 업무의 잘된 결과물 2~3개를 모읍니다.
2. 아래 프롬프트를 활용해 AI가 결과물에 공통으로 적용된 규칙과 특징을 찾아내게 합니다.
3. AI가 추가로 묻는 질문에 답하면서 빠진 맥락을 채웁니다.
4. 완성된 맥락 팩을 문서로 저장한 뒤 다음 업무에 첨부해 결과가 어떻게 달라지는지 확인합니다.
맥락 팩 추출기
PROMPT. [역할] 너는 업무 표준화 담당자다.
[목표] 내 업무 [업무명]을 AI가 매번 같은 품질로 돕도록 ‘맥락 팩’ 문서를 만든다.
[입력 자료] 아래는 이 업무의 잘된 결과물 [2~3]개다.
[작업]
1) 결과물에서 공통된 말투 / 구성 / 분량 / 자주 쓰는 표현을 찾는다.
2) 대상, 목적, 금지 사항 등 결과물만으로 알 수 없는 것은 나에게 한 번에 최대 5개씩 질문한다.
3) 내 답을 반영해 맥락 팩을 완성한다.
[출력 형식] 나와 조직 / 업무 목적 / 용어집 / 문체, 형식 규칙 / 좋은 예시 요약 / 판단 기준 / 금지 사항. A4 2쪽 이내.
[품질 기준] 이 문서만 보고도 처음 온 동료가 같은 품질의 결과물을 만들 수 있어야 한다.
[결과물 붙여넣기]
매일 하는 업무를 AI로 바꾸는 법
메모를 결재 가능한 보고서로 바꾸는 6단계
AI로 문서 작성 6단계
1. 자료 투입
2. 목차 설계
3. 본문 초안
4. 필요한 곳만 부분 수정
5. 교차 검증
6. 기관 서식으로 완성
핵심은 2단계, 목차 설계입니다. 목차를 먼저 확정해 두면 이후에 손봐야 할 부분이 크게 줄어듭니다. 본문을 모두 작성한 뒤 구조를 바꾸려면 여러 문단을 다시 써야 하지만, 목차 단계에서는 항목 한두 줄만 바꿔도 전체 흐름을 바로잡을 수 있습니다.
바로 쓰는 실무 프롬프트
PROMPT. 보고서 초안 - 2단계형
당신은 [부서]의 보고서 작성 담당자입니다.
첨부한 자료를 바탕으로 [현안명] 보고서를 작성합니다.
1단계: 아래 구조로 목차만 먼저 제안해 주세요.
개요 - 현황 및 문제점 - 추진 방안 - 기대 효과 - 향후 계획
2단계: 제가 목차를 확인하면 본문을 작성합니다.
형식: a - b - 개조식, 문장 끝 ‘~함’
분량: A4 [2]쪽 이내
첨부 자료에 없는 수치는 쓰지 말고 [확인 필요]로 표시해 주세요.
다른 직군이라면
같은 방법은 직군에 맞게 조금씩 바꿔 적용할 수 있습니다.
기업: 목차를 ‘요약 - 현황 - 원인 - 제안 - 일정’ 순으로 구성하고, 결론과 의사 결정이 필요한 사항을 앞에 배치합니다.
소상공인: 매출과 재고 메모를 넣고 “이번 달 가게 운영 현황을 1쪽으로 정리하고, 다음 달 할 일 3가지를 제안해 줘”처럼 요청할 수 있습니다.
교사/강사: 학급 운영이나 행사 결과를 보고서로 정리하는 데 활용할 수 있습니다. 이때 학생 이름은 제외하고 학년, 인원 등 필요한 정보만 제공합니다.
여러 AI를 연결해 업무 완성하기
AI 하나로 끝낼 일과 나눠 맡길 일
표준 파이프라인
대부분의 지식 업무는 다음 5단계로 진행할 수 있습니다.
1. 조사: 최신/외부 자료 수집
2. 정리: 내 자료와 통합
3. 작성: 구조 설계/초안 작성
4. 검토: 교차 검증
5. 개선/완성: 수정/최종 확인
연결에는 비용이 든다
AI 도구를 바꿀 때마다 3가지 비용이 발생합니다. 자료를 복사하거나 업로드하는 데 드는 시간, 앞 단계에서 내린 판단의 맥락, 그리고 출처 정보가 누락될 위험입니다. 따라서 여러 AI를 연결할지는 업무의 특성과 필요에 따라 판단해야 합니다.
최근에는 하나의 AI 도구에서 검색/파일 분석/문서 작성까지 처리할 수 있는 경우가 많습니다. 여러 도구를 연결할 필요가 없다면 하나의 도구로 작업을 마치는 편이 효율적입니다.
바통 문서
작업 단계를 나눌 때는 앞 단계의 결과물을 다음 AI가 바로 활용할 수 있는 문서로 정리해 전달합니다. 릴레이에서 바통을 넘기듯 작업에 필요한 정보를 다음 단계로 이어 주는 것입니다.
바통 문서에는 4가지가 들어갑니다. 작업 목적, 지금까지 확정된 내용, 판단의 근거와 출처, 아직 확인되지 않은 사항입니다.
바로 쓰는 실무 프롬프트
PROMPT. 바통 문서 만들기 - 단계를 마칠 때
지금까지의 작업을 다음 단계 담당 AI에게 넘길 인수인계 메모로 정리해 줘.
1) 최종 목적: [최종 결과물과 독자]
2) 확정된 내용: 핵심 사실과 수치(각각 출처 표기)
3) 진행 중 내가 내린 결정과 이유
4) 아직 확인되지 않은 것, 출처가 약한 것
이 메모만 읽고도 다음 단계를 시작할 수 있게, A4 1쪽 이내로.