AI를 업무에 써보면 처음에는 정말 편하다.
메일 초안도 써주고, 회의록도 정리해주고, 보고서 목차도 빠르게 만들어준다.
그런데 몇 번 써보면 이런 생각이 든다.
“이 답변을 그대로 믿어도 될까?”
“회사 자료를 넣어도 괜찮을까?”
“AI가 엉뚱한 자료를 참고하면 어떻게 하지?”
이때 필요한 개념이 바로 AI 하네스 엔지니어링이다.
기존에는 좋은 프롬프트를 쓰는 것이 중요했다면, 이제는 AI가 움직이는 업무 환경 자체를 안전하게 설계하는 것이 중요해지고 있다.
AI 하네스 엔지니어링이란?
AI 하네스 엔지니어링은 AI 에이전트가 마음대로 행동하지 않도록 입력, 도구, 검증, 출력 방식을 미리 설계하는 방법이다.
쉽게 말하면 AI에게 전달하는 말은 아래와 같다.
“아무 자료나 보지 말고, 이 폴더 안의 문서만 봐.”
“결과는 표 형식으로만 정리해.”
“외부로 보내기 전에는 사람이 확인해야 해.”
“확실하지 않은 내용은 추측하지 말고 모른다고 해.”
OpenAI Agents SDK 문서에서도 에이전트 흐름에서 도구, MCP, 검증, 사람 검토 같은 요소를 함께 다룬다. 즉, 최신 AI 활용은 단순 대화보다 도구 사용과 통제 구조가 중요해지는 방향이다. (OpenAI 개발자)
왜 프롬프트만으로는 부족할까?
프롬프트 엔지니어링은 AI에게 “어떻게 답변할지” 알려주는 방식이다.
하지만 업무 자동화에서는 이것만으로 부족하다.
예를 들어보자.
“이번 주 뉴스 요약해줘”라고 하면 AI는 어떤 뉴스를 참고해야 할지 스스로 판단한다.
이 과정에서 오래된 자료를 보거나, 신뢰하기 어려운 글을 섞을 수 있다.
반대로 하네스가 적용되면 흐름이 달라진다.
- 지정된 RSS 또는 문서만 읽기
- 요약 기준에 맞춰 정리하기
- 출처가 없는 내용은 제외
- 최종 발행 전 사람이 확인
AI 하네스 엔지니어링 5단계
1. 입력 범위 정하기
가장 먼저 해야 할 일은 AI가 참고할 자료를 제한하는 것이다.
잘못된 예시는 이렇다.
“인터넷에서 찾아서 정리해줘.”
좋은 예시는 이렇다.
“아래 3개 문서와 알려준 URL 5개만 참고해서 정리해줘.”
입력 범위를 정하지 않으면 AI는 그럴듯하지만 검증하기 어려운 답변을 만들 수 있다.
그래서 업무용 AI에서는 자료 출처가 필수다.
예를 들어 회사 내부 회의록을 요약할 때는 외부 웹 검색이 필요 없다.
반대로 시장 조사 보고서를 만들 때는 공식 통계, 기업 IR, 보도자료처럼 신뢰 가능한 소스를 지정하는 것이 좋다.
2. 사용할 도구 제한하기
AI 에이전트는 이메일, 캘린더, 스프레드시트, 노션, 슬랙, 웹브라우저 같은 도구와 연결될 수 있다.
편리하지만 위험도 함께 커진다.
그래서 AI에게 모든 권한을 주면 안 된다.
| 업무 | 허용 도구 | 제한해야 할 것 |
|---|---|---|
| 회의록 정리 | 문서 읽기, 요약 | 외부 전송 |
| 메일 초안 작성 | 메일 작성 | 자동 발송 |
| 일정 정리 | 캘린더 조회 | 임의 일정 삭제 |
| 보고서 작성 | 지정 문서 참고 | 외부 웹 무제한 검색 |
핵심은 AI가 읽을 수 있는 것, 쓸 수 있는 것, 실행할 수 있는 것을 나누는 것이다.
OpenAI의 Guardrails 문서에서도 에이전트 실행 전후에 검증 단계를 둘 수 있다는 구조를 설명한다. 업무 자동화에서는 이런 검증 장치가 하네스의 핵심 역할을 한다. (OpenAI GitHub)
3. 결과물 형식 고정하기
AI가 만든 결과물이 매번 다르면 업무에 쓰기 어렵다.
그래서 출력 형식을 미리 정해야 한다.
예를 들어 회의록 자동화라면 아래처럼 고정할 수 있다.
- 회의 주제
- 참석자
- 결정 사항
- 할 일
- 담당자
- 마감일
- 추가 확인 필요 사항
보고서 초안이라면 이렇게 정할 수 있다.
- 제목
- 핵심 요약
- 배경
- 주요 내용
- 리스크
- 대응 방안
- 결론
이렇게 형식을 고정하면 AI 결과물을 사람이 검토하기도 쉽고, 반복 업무에도 적용하기 쉽다.
4. 검증 루프 만들기
AI 하네스 엔지니어링에서 가장 중요한 부분은 검증이다.
AI가 답변을 만들었다고 바로 끝내면 안 된다.
최소한 아래 질문을 확인해야 한다.
- 출처가 있는가?
- 숫자가 맞는가?
- 회사 내부 정책과 충돌하지 않는가?
- 개인정보가 포함되어 있지 않은가?
- 너무 단정적으로 표현하지 않았는가?
- 사람이 최종 확인해야 할 내용이 표시되어 있는가?
기존 글에서도 “검수 전용 에이전트”와 체크리스트를 활용해 AI 결과물을 다시 확인하는 구조를 소개했다. 후속 글에서는 이 부분을 더 강조하는 것이 좋다. (dailyfix)
5. 사람이 최종 승인하기
AI가 아무리 좋아져도 업무에서 최종 책임은 사람에게 있다.
특히 메일 발송, 고객 안내, 계약 문서, 보안 정책, 비용 집행처럼 영향이 큰 업무는 반드시 사람이 확인해야 한다.
직장인이 바로 적용할 수 있는 예시
예시 1. 메일 초안 작성
나쁜 방식:
“고객에게 안내 메일 써줘.”
좋은 방식:
“아래 공지 내용을 바탕으로 고객 안내 메일 초안을 작성해줘.
단, 가격·일정·정책 내용은 원문에 있는 내용만 사용하고, 없는 내용은 추가하지 마.
최종 발송은 사람이 검토할 예정이므로 제목 3개와 본문 1개를 작성해줘.”
예시 2. 회의록 정리
나쁜 방식:
“회의 내용 요약해줘.”
좋은 방식:
“아래 회의 내용을 결정 사항, 담당자, 마감일, 추가 확인 필요 항목으로 나눠 정리해줘.
확실하지 않은 내용은 ‘확인 필요’로 표시해줘.”
예시 3. 보고서 초안 작성
나쁜 방식:
“이 내용으로 보고서 써줘.”
좋은 방식:
“아래 자료만 참고해서 보고서 목차를 먼저 작성해줘.
자료에 없는 수치나 사례는 만들지 말고, 부족한 부분은 ‘추가 자료 필요’로 표시해줘.”
이 차이가 바로 AI 하네스 엔지니어링이다.
프롬프트를 예쁘게 쓰는 것이 아니라, AI가 실수하기 어려운 구조를 만드는 것이다.
AI 하네스 설계 체크리스트
업무에 AI를 적용하기 전 아래 항목을 확인해보자.
| 체크 항목 | 확인 질문 |
|---|---|
| 입력 제한 | AI가 참고할 자료가 정해져 있는가? |
| 도구 제한 | AI가 사용할 수 있는 앱과 권한이 제한되어 있는가? |
| 출력 형식 | 결과물 형식이 고정되어 있는가? |
| 검증 단계 | 출처, 숫자, 개인정보를 확인하는가? |
| 사람 승인 | 최종 실행 전 사람이 확인하는가? |
| 예외 처리 | 모르는 내용은 멈추거나 확인 요청하는가? |
이 체크리스트만 있어도 AI 업무 자동화의 품질이 훨씬 안정된다.
AI 하네스 엔지니어링에서 피해야 할 실수
가장 흔한 실수는 AI에게 너무 많은 자유를 주는 것이다.
- “알아서 정리해줘”
- “적당히 써줘”
- “좋은 자료 찾아서 만들어줘”
- “완성되면 바로 보내줘”
이런 표현은 편해 보이지만 업무에서는 위험하다.
AI가 어떤 기준으로 판단했는지 알기 어렵기 때문이다.
또 하나의 실수는 문제가 생겼을 때 프롬프트만 계속 고치는 것이다.
프롬프트를 바꾸는 것도 필요하지만, 더 중요한 건 입력 자료, 도구 권한, 검증 과정, 승인 절차를 함께 조정하는 것이다.
오늘부터 시작하는 가장 쉬운 방법
처음부터 거창한 AI 자동화 시스템을 만들 필요는 없다.
오늘은 딱 하나만 해보자.
AI에게 업무를 맡기기 전에 “참고할 자료”와 “결과물 형식”을 먼저 지정하기.
예를 들면 이렇게 시작하면 된다.
“아래 문서만 참고해줘.”
“결과는 표로 정리해줘.”
“자료에 없는 내용은 추측하지 말고 확인 필요라고 표시해줘.”
이 세 문장만 넣어도 AI 답변의 품질이 훨씬 안정된다.