스마트폰 보급과 함께 모바일 PM이 탄생했고 분석 인프라가 갖춰지며 그로스 PM이 등장했습니다. 이제는 인공지능 기술의 대중화로 AI PM이라는 직무가 새롭게 만들어집니다. 기존 역량 위에 확률적 시스템을 다루는 감각을 얹는 과정에 가깝습니다. 지금이 바로 그 전환기입니다.

엔지니어와 소통하기 위한 AI 리터러시

개발팀과 원활하게 협업하려면 엔지니어 수준의 코딩 능력은 없더라도 기술적 개념을 알아야 합니다. 토큰 이나 컨텍스트 한계를 알고 RAG 나 Temperature 옵션을 조율하며 대화해야 합니다. 기술적 개념을 알아야 비로소 대화가 통합니다. 그래야 단순히 구현 여부를 묻는 수준을 넘어 구체적인 시스템 개선과 테스트 설계를 제안합니다.

평균이 아닌 분포를 읽는 데이터 직관

AI 제품을 운영할 때는 단순한 평균 데이터에 속지 않는 직관이 요구됩니다. 5%의 최악의 경험을 찾으려면 P95 응답 시간 이나 Groundedness 같은 지표를 정밀하게 뜯어봐야 합니다. 평균이 아닌 분포를 보아야 합니다. 환각률이나 사용자 개입률의 분포를 매일 추적하고 분석하는 훈련을 반복해야 신뢰도 높은 시스템을 구축합니다.

실패를 설계하는 시스템 사고

인공지능 기능은 단일 프롬프트가 아니라 입력 처리와 오케스트레이션이 맞물려 돌아가는 하나의 시스템으로 완성됩니다. 기획 단계부터 RAG 가 실패하거나 모델이 환각을 일으킬 경우를 대비한 대체 시나리오를 촘촘하게 설계해야 합니다. 철저한 대비가 필요합니다. 실패 정의와 제한사항들이 PRD 에 명확하게 반영되어야 비용 폭주나 서비스 장애 같은 리스크를 방어합니다.

작은 프로젝트로 증명하는 포트폴리오

실무 경력이 없다고 해서 지레 겁을 먹고 도전을 포기할 이유는 전혀 없습니다. 미국 채용 시장 통계를 보면 실제 AI PM으로 활약하는 인재 중 컴퓨터공학 전공자는 16%에 불과합니다. 이러한 통계 숫자가 이를 증명합니다. 나머지 84%는 비즈니스나 디자인 등 다양한 배경에서 출발하여 실무 감각을 익히고 역할을 쟁취했습니다.

사내 도구 개선과 기록의 가치

사내 회의록 요약기나 피드백 분류기 같은 내부 툴을 개선한 경험은 훌륭한 자산이 됩니다. RAG 챗봇 을 다루며 환각률을 12%에서 3%로 낮추거나 비용을 최적화한 과정을 상세하게 기록해야 합니다. 기록으로 남겨두어야 합니다. 시도하고 실패하며 배운 노하우를 글로 공유하는 활동 자체가 이력서보다 강력한 무기가 됩니다.

에이전트 시대와 앞으로의 5년

앞으로는 질문에 답하는 형태를 넘어 사용자를 대신해 행동을 수행하는 Agent 가 표준으로 자리 잡습니다. 인공지능에게 부여할 행동 권한의 범위와 사람의 최종 승인 단계를 어떻게 설계할지가 기획의 중심이 됩니다. 시장의 변화가 무척 빠릅니다. 텍스트를 넘어 이미지와 음성이 섞이는 멀티모달 환경까지 시야에 넣고 준비해야 합니다.

확률과 함께 살아가는 시스템을 설계하는 여정은 이미 시작되었습니다. 참으로 즐거운 일입니다. 부족한 상태로 한 걸음씩 내딛다 보면 어느새 스스로 직무를 정의하며 성장하는 자신을 발견하게 됩니다.

요약

  • AI PM은 전통적인 결정론적 시스템 설계에서 벗어나 확률론적 시스템의 오차 범위를 관리하고 조율하는 직무입니다.
  • 인공지능 개발 협업을 위해 토큰, 컨텍스트, RAG, Temperature 같은 핵심 기술 개념에 대한 직관적 리터러시가 필수적입니다.
  • 포트폴리오 구축 시 완벽한 이력보다 사내 내부 도구 개선이나 사이드 프로젝트의 실패 과정을 글로 상세히 기록한 경험이 더 강력한 무기가 됩니다.