가장 비싼 코드

가장 비싼 코드는 아무도 원하지 않는 코드이다. 사람이든 AI든 코드를 작성하는데는 비용이 든다. 그런데 그 결과물을 아무도 원하지 않는다면, 가장 비싼 코드라 부를 수 있다.

코드는 제품을 구성하는 작은 단위다. 제품을 만들려면 Needs와 요구사항이 필요한데, 이를 놓치면 비싼 코드가 탄생한다.

많은 엔지니어가 디스커버리(Discovery)를 PM의 영역으로 치부하지만, 비싼 코드를 막기 위해서는 이 역할이 매우 중요하다. 단순히 미팅을 하고 PRD를 작성하는 것이 아니다. 현장에 나가 고객 관점의 실제 워크플로우를 관찰하고, 정량화하고, 프로토타입을 만드는 과정이 필요하다.

여기서 핵심은 관찰과 질문이다. 고객이 말하는 워크플로우와 실제로 수행되는 워크플로우 사이에는 차이가 존재한다. 이 간극을 캐치하는 것이 디스커버리의 본질이다.

현장의 문제를 풀기 위해서는 접근 방식은 크게 두 가지 형태로 나뉜다. 이 두가지를 구분하는 것은 프로젝트의 성격에 따라 판단해야 한다.

첫째는 데이터 기반의 접근 방식이다.
문제를 안고 있는 곳은 대부분 방대한 데이터를 보유하고 있다. 그러나 이를 제대로 활용하지 못한다. 데이터를 연결하고, 모델링 하고, 의사 결정 단계까지 전달하는 역할을 해야 한다.

이런 업무를 잘하는 팔란티어는 이러한 모델의 시초이고, 팔란티어의 FDE들은 대부분의 시간을 ETL(추출, 변환, 로드) 작성, 데이터 온톨로지 설계, 데이터베이스 연결, 데이터 유효성 검사에 할애한다.

이러한 작업의 최종 결과물은 데이터 파이프라인과 비즈니스 담당자가 수치를 통해 답변을 얻을 수 있도록 지원하는 대시보드일 가능성이 높다.

둘째는 LLM 기반의 접근 방식이다.
워크플로우에서 반복적인 작업의 상당 부분을 자동화할 수 있다. 여기서의 역할은 워크플로우와 LLM 애플리케이션을 통합하는 것이다. 상당 부분을 프롬프트 조정, 평가 실행, 검색 방법 수정, 에이전트 도구 호출 및 디버깅에 할애한다.

최종 결과물은 워크플로우에서 특정 작업에 소요된 평균 시간을 크게 단축하는 LLM 애플리케이션이다.

<두 접근 방식의 비교>

	데이터 기반	LLM 기반
핵심 문제	데이터 활용 방법	워크플로우를 자동화 하는 방법
결과물	데이터 온톨로지 + 데이터 파이프 라인 + 대시보드	LLM 지원서 + 가이드 + 평가 세트 + 도구 세트
알아야 할 전문 기술	SQL, Spark, ETL, dbt, 모델링	LLM, 프롬프트, RAG, Agent framework
알아야 할 소프트 스킬	데이터 관련 담당자와의 커뮤니케이션과 데이터 거버넌스의 이해	비즈니스 담당자와의 커뮤니케이션과 비즈니스 프로세스에 대한 이해
성공의 모습	의사 결정을 할 때 데이터를 활용	워크플로우에서 특정 작업에 소요되는 평균 시간 감소
실패의 모습	아무도 사용하지 않을 때	프로토타입은 훌륭했지만, 실제 사용하기에는 부적합

두 접근 방식은 다르지만 핵심 원칙은 같다.

"현장에 상주하며 코드보다는 결과에 책임을 지고, 엔지니어링 판단을 통해 의사 결정을 내릴 수 있도록 지원 하는 것"

이것이 비싼 코드를 만들지 않는 길이다.