AI는 매뉴얼을 스스로 안 읽습니다 — 한 개발자가 6개월 만에 도달한 결론

규칙을 더 길게 써 넣어도, AI는 그대로였습니다

당신은 아마 이렇게 믿고 있을 겁니다 — AI가 자꾸 엉뚱하게 답하는 건, 내가 규칙을 제대로 안 알려 줘서다. 그래서 더 자세히, 더 길게 규칙을 써서 넣습니다. 그런데 답변은 그대로입니다. 문제는 규칙의 내용이 아니라, 규칙을 언제·어떻게 쥐여 주느냐였습니다.

실제로 한 개발자는 AI에게 규칙을 지키게 하려고 1,400줄짜리 문서를 썼습니다. 결과를 그는 한 단어로 요약했습니다 — 무시당했다.

이건 특별한 실수가 아닙니다. 요즘 많은 한인 비즈니스가 AI를 들이면서 똑같은 일을 겪습니다. ChatGPT에게 우리 식당은 이렇게 응대해, 우리 세탁소 가격표는 이래, 이런 말투로 답해라고 규칙을 정리해서 줍니다. 그런데 정작 답변은 규칙을 무시하고 제멋대로 나옵니다. 규칙을 잘못 쓴 게 아닙니다 — AI에게 규칙을 ‘주는 것’과, AI가 그 규칙을 ‘지키게 만드는 것’은 완전히 다른 일이기 때문입니다.

계산대 뒤 벽에 주문 받는 법, 환불 규칙, 손님 응대 순서를 아무리 정성껏 붙여 둬도 새 직원이 사흘째 환불을 규칙과 다르게 처리하는 것과 같습니다. 매뉴얼이 나빴던 게 아닙니다. 벽에 붙어 있는 매뉴얼은 아무도 스스로 읽지 않습니다.

왜 AI는 규칙을 스스로 안 읽을까요

여기서 한 걸음 더 들어가야 합니다. 안 읽는다는 건 현상이고, 이유를 알아야 해법이 보이기 때문입니다.

AI는 대화가 길어질수록 앞에서 준 규칙을 비중 있게 붙들지 못합니다. 사람처럼 “아 맞다, 환불 규칙 있었지” 하고 필요한 순간에 스스로 꺼내 오지 않습니다. 규칙은 대화 초반에 한 번 스쳐 간 수많은 문장 중 하나일 뿐, 정작 일하는 순간엔 눈앞의 요청에만 반응합니다. AI가 한 번에 붙들고 참고하는 대화 범위, 즉 컨텍스트 윈도우AI가 한 번에 붙들고 참고하는 대화 범위. 길어질수록 앞 내용의 영향력이 옅어진다가 길어질수록 앞에서 준 규칙의 힘이 옅어지는 것입니다.

그래서 규칙을 더 잘 쓰는 것으로는 잡히지 않습니다. 일하는 그 순간에 다시 들이밀어야 잡힙니다. 이게 저 1,400줄이 무시당한 진짜 이유입니다.

규칙을 문서로 준다

대화 초반에 한 번 건넨다

일하는 순간엔 눈앞 요청만 본다 → 규칙 없이 답이 나감

일이 시작되는 순간 들이민다

그 순간에 관련 규칙을 강제로 쥐여 준다

규칙이 적용된 결과가 나옴

그래서 그는 두 개의 장치를 지었습니다

규칙을 더 잘 쓰려고 애쓰는 대신, 저 개발자는 일이 시작되는 바로 그 순간에 관련 규칙을 강제로 들이미는 장치를 만들었습니다. 개발 용어로는 훅일이 시작·끝나는 특정 순간에 자동으로 끼어들어 정해진 동작을 실행하는 장치이라고 부릅니다. 매장으로 옮기면 — 벽에 매뉴얼을 붙여 두는 대신, 신입이 주문을 받으려는 그 순간에 매니저가 이거 먼저 봐 하고 해당 규칙을 손에 쥐여 주는 것입니다. 이게 1번째 장치입니다.

2번째 장치는 결과를 검사하는 쪽입니다. 직원에게 일을 시키면 다 했어요라는 대답이 돌아옵니다. 좋은 관리자는 그 말을 그냥 믿지 않고 실물을 확인합니다. AI는 이 문제가 더 심합니다 — AI는 다 하지 않고도 태연히 됐습니다라고 말합니다. 그래서 그는 AI가 완료를 선언하는 순간, 사람의 판단이 아니라 기계적인 검사가 자동으로 돌아가 남은 오류가 하나라도 있으면 통과시키지 않도록 만들었습니다. AI가 스스로 잘했어요라고 자기 채점하게 두지 않고, 별도의 검사기결과물이 정한 기준을 통과했는지 기계적·객관적으로 확인하는 자동 장치에 통과시킨 것입니다.

규칙을 쥐여 주는 장치와 결과를 검증하는 장치. 6개월의 시행착오가 이 두 개로 압축됐습니다.

서로 모른 채, 똑같은 것을 지었습니다

여기서부터가 저희가 이 글을 쓰는 이유입니다. 저 개발자는 이음을 모릅니다. 이음도 저 글을 나중에야 봤습니다. 그런데 그가 6개월간 손으로 깎아 만든 장치와, 이음이 고객을 위해 미리 지어 둔 장치가 거의 1:1로 겹칩니다.

그가 손으로 만든 것	이음이 지어 둔 것
일 시작 순간, 관련 규칙을 강제 주입하는 훅	작업 전, 지켜야 할 규칙을 리마인더보다 강하게 ‘차단’으로 강제하는 게이트
완료 선언 시 남은 오류를 거르는 기계 검사	카피·페이지 품질이 기준 미달이면 통과시키지 않는 검사기

이건 저희가 그의 시스템을 베낀 것도, 그가 저희 것을 본 것도 아닙니다. 다른 길로 걸었는데 같은 자리에 도착한 것입니다. 진지하게 AI를 일에 붙여 본 사람은, 국적도 업종도 달라도 결국 같은 결론에 이릅니다 — 규칙 문서만으로는 안 되고, 규칙을 지키게 만드는 장치와 결과를 검증하는 장치가 반드시 필요하다.

이 결론이 옳았다는 가장 확실한 증거가 하나 더 있습니다. 그가 훅으로 손수 튜닝했던 그때그때 관련 규칙만 골라 들이미는 방식은, 얼마 지나지 않아 AI 회사가 공식 기능으로 제품에 흡수했습니다 . 개발자 원문 기록은 여기에 있습니다 . 한 개인이 6개월 갈아 넣어 얻은 결론이, 회사의 표준이 될 만큼 옳았다는 뜻입니다.

그래서 당신이 사야 할 건 ‘구독’이 아닙니다

여기서 SMB 오너에게 착지합니다. 저 개발자가 6개월간 산 것은 매달 나가는 구독료뿐입니다. 그가 지은 것은 훅·규칙·검사기라는 하나의 작업 시스템AI 위에 규칙 주입·검증·자동 실행 장치를 얹어, 매번 같은 품질이 나오게 만든 구조. 이음은 이를 ‘하네스’라 부른다입니다. 그리고 실제로 일을 되게 만든 건, 산 쪽이 아니라 지은 쪽입니다.

월 20불짜리 ChatGPT를 결제해 두고도 여전히 밤마다 손님 문의에 직접 답하고 있다면, 당신이 산 건 엔진이지 일하는 시스템이 아닙니다. 자동차 열쇠를 샀다고 목적지에 도착하는 게 아닌 것과 같습니다. 구독은 엔진일 뿐이고, 그 위에 우리 비즈니스의 규칙을 지키게 만드는 장치와 결과를 검증하는 장치를 얹어야 비로소 매번 같은 품질이 나옵니다. AI 도입이 도구 구매가 아니라 시스템 구축인 이유가 이것입니다.

한 가지 덧붙이면 — 이 시스템은 만들고 끝이 아닙니다. 저 개발자도 잘못 짠 자동 장치 하나가 비용을 크게 새게 만들어 결국 걷어냈다고 그의 말에 따르면 털어놨습니다. 장치는 지은 뒤에도 계속 손보고 정리해야 제값을 합니다. 이걸 혼자 감당하기 어렵기 때문에, 저희가 파트너로 곁에 남는 것입니다.

이음이 하는 일

이음은 당신에게 AI 구독을 팔지 않습니다. 저 개발자가 6개월에 걸쳐 손으로 지은 것을 — 당신의 비즈니스에 맞춘 작업 시스템으로 대신 지어 드립니다.

1 당신의 규칙(응대 방식·가격·말투·금기)을 AI가 일할 때 스스로 챙겨 읽길 바라는 대신, 일하는 순간 반드시 쥐게 만드는 장치를 답니다.

2 AI의 됐습니다를 그냥 믿지 않고, 기준 미달이면 손님 앞에 나가기 전에 걸러내는 검사기를 붙입니다.

3 지어 두고 떠나지 않고, 장치가 계속 제값을 하도록 곁에서 손봅니다.

덧붙이면 — 지금 읽으신 이 글도, 이음이 스스로에게 건 카피 규칙 게이트를 통과한 산출물입니다. 저희는 고객에게 파는 장치를 저희 일에 먼저 겁니다.

다음 한 걸음

당신이 이미 AI를 쓰고 있는데 자꾸 규칙을 무시당하고 있다면, 그건 당신의 잘못도 AI의 결함도 아닙니다 — 규칙을 쥐여 주는 장치가 아직 없을 뿐입니다.

이음의 무료 진단은 30분입니다. 당신의 AI가 어디서 규칙을 흘리고 있는지, 그 흘리는 지점 하나를 찾아 한 페이지로 그려 드립니다. 구독을 하나 더 권하는 자리가 아니라, 지어야 할 시스템의 첫 조각을 함께 그려 보는 자리입니다.