소프트웨어 개발 전 과정에 AI 도구가 자리 잡으면서 우버는 에이전트 사용량이 늘어났습니다. 도구 도입 이후 주간 활성 사용자와 요청 수가 증가했으나 비용은 안정세를 유지합니다. 비용을 관리하고자 우버는 전체 지출을 여러 세부 항목으로 나누어 측정하고 최적화합니다.

비용 방정식과 측정 지표

우버는 에이전트 세션 비용을 사용자, 세션 수, 턴 수, 요청 수, 토큰 수, 토큰 가격의 곱으로 분해합니다. 이 지표들을 독립적으로 측정하며 어디에서 비용이 발생하는지 파악합니다. 특히 포트폴리오 수준부터 모델 경제학과 드라이버 분해까지 주간과 월간 단위로 추적합니다. 비용이 변동한 원인을 분석하는 것이 핵심입니다.

가격과 토큰 최적화 레버

모델 가격 자체는 벤더가 정하지만 어떤 모델에 어떤 워크로드를 할당할지는 선택할 수 있습니다. 우버는 실제 작업으로 벤치마크를 구축하고 가장 비용 효율적인 모델을 선택합니다. 예를 들어 코드 리뷰를 담당하는 uReview는 실제 풀 리퀘스트를 바탕으로 성능과 비용을 측정합니다. 서브에이전트 기본 설정도 비용 절감에 영향을 미칩니다. 복잡한 추론이 필요 없는 작업에는 더 가볍고 경제적인 모델을 기본으로 지정합니다.

비용과 성능의 균형을 맞추는 작업이 중요하다.

요약

  • 비용을 여러 변수로 쪼개어 독립적으로 측정하고 관리해야 합니다.
  • 실제 업무 기반 벤치마크를 활용해 워크로드에 맞는 최적의 모델을 선택합니다.
  • 서브에이전트 기본 모델을 가벼운 모델로 지정하여 불필요한 비용을 줄입니다.