우버는 AI 에이전트 사용이 늘어도 지출이 어디서 생기는지 분리해서 봅니다. 우버 기술 블로그 에 따르면 2026년 2월 이후 에이전트 서비스를 쓰는 주간 활성 직원은 7배, 주간 요청은 9.4배 늘었지만 총지출은 비교적 안정됐습니다. 원문은 이 결과를 한 가지 절약책보다 여러 비용 항목을 측정하고 줄인 운영의 결과로 설명합니다.

비용을 여섯 항목으로 나누기

우버는 총비용을 사용자 수 × 사용자당 세션 × 세션당 턴 × 턴당 요청 × 요청당 토큰 × 토큰 가격으로 분해합니다. 도입과 사용은 늘리되 에이전트가 불필요하게 추가하는 턴, 요청과 토큰을 줄이는 데 집중합니다. 팀은 도구별 사용자 수와 비용, 요청 1천 건당 비용, 캐시 적중률뿐 아니라 병합된 PR이나 리뷰 한 건당 비용과 품질 지표도 추적합니다.

모델·캐시·도구를 따로 조정하기

모델은 한 종류를 모든 작업의 기본값으로 고정하지 않습니다. 실제 작업을 이용한 벤치마크로 품질과 비용을 비교하고 코드 리뷰 같은 관리형 에이전트의 모델을 선택합니다. 추론 강도와 서브에이전트 기본 모델도 작업에 맞게 정합니다.

대화 중 잠시 멈추는 시간이 긴 엔지니어 세션은 프롬프트 캐시 수명을 5분에서 1시간으로 늘렸습니다. 반면 짧게 끝나는 서브에이전트에는 5분 수명을 유지합니다. 캐시 쓰기 가격과 재사용 가능성을 함께 따진 선택입니다.

많은 MCP 도구의 정의를 매 세션에 싣는 비용도 줄였습니다. 우버는 필요한 도구를 실행 시점에 CLI로 찾거나 도구 검색으로 선택합니다. 반복적인 상태 확인은 코드 안에서 처리하고 요약만 모델에 돌려줘 요청 턴과 컨텍스트 증가를 줄입니다.

낭비를 보이게 만들기

세션 상태줄과 대시보드에는 비용과 사용 패턴을 표시합니다. 원문은 낭비 유형을 자동으로 찾아내는 세션 분석과 엔지니어의 피드백 루프도 소개합니다. 절감액만 보면 품질이 떨어진 비용 이전을 놓칠 수 있으므로 작업 결과와 품질 지표를 함께 봅니다.

요약

  • 사용자 증가와 작업당 비용을 분리해 측정합니다.
  • 실제 업무 벤치마크, 작업 길이에 맞춘 캐시 수명, 필요한 시점의 도구 호출로 비용을 줄입니다.
  • 세션 비용과 결과 품질을 함께 추적해 어디서 낭비가 생겼는지 확인합니다.