AI 이용 비용이 기업 예산 항목이 되다

AI 이용료가 개별 도구 구독료에서 관리 대상 예산 항목으로 옮겨가고 있습니다. 대기업들이 별도 대책을 세우기 시작한 이유입니다.

왜 지금 문제가 되나

세 가지가 동시에 일어났습니다.

1. 사용자 수 증가 — 일부 개발자에서 전사로
2. 작업 규모 증가 — 짧은 질문에서 장시간 자율 작업으로
3. 에이전트 확산 — 한 번의 지시가 수십 번의 호출로 이어짐

각각은 작아도 곱하면 커집니다.

즉시 적용 가능한 절감 방법

1. 프롬프트 캐싱 적용

반복되는 앞부분(지침, 참조 문서, 도구 정의)을 캐시에 올립니다. 재사용이 잦은 워크로드에서 효과가 가장 큽니다.

주의: 앞부분에 타임스탬프나 세션 ID가 섞이면 캐시가 절대 적중하지 않습니다.

2. 출력을 잘라서 주기

npm run test 2>&1 | tail -50

수천 줄 로그를 통째로 넣는 습관 하나만 고쳐도 눈에 띄게 줄어듭니다.

3. 작업에 맞는 모델 선택

분류, 추출, 형식 변환 같은 단순 작업에 최고 성능 모델을 쓸 이유가 없습니다. 워크로드를 나누세요.

4. 안 쓰는 도구 연결 정리

MCP 서버를 10개 붙여 두면 그 도구 정의가 매 요청에 실립니다. 실제로 쓰는 것만 남기세요.

5. 컨텍스트 위생

• 주제가 바뀌면 세션 분리
• 조사는 서브 에이전트에 위임
• 프로젝트 지침을 짧게 유지

비용을 볼 때 주의할 점

절감만 목표로 삼으면 도입이 실패합니다. 봐야 할 것은 비용이 아니라 비용 대비 산출입니다.

개발자 인건비와 비교하면 대부분의 AI 지출은 여전히 작습니다. 문제는 총액이 아니라 낭비 구조입니다.

실행 순서

1. 한 달간 사용 패턴 관찰 (한도 없이)
2. 이상 패턴 식별 (위 5가지 중 어디에 해당하는지)
3. 구조적 개선 적용
4. 그 다음에 한도 검토

순서를 뒤집어 한도부터 걸면 필요한 작업까지 막혀 도입 자체가 좌초합니다.