하네스 엔지니어링 - 신뢰할 수 있는 AI 에이전트 구축

“더 나은 프롬프트는 하나의 답변을 개선하지만, 더 나은 하네스(Harness)는 모든 실행을 개선한다.” 에이전트가 추론 능력을 갖추었음에도 제약 조건을 잊어버리거나, 도구 선택을 잘 못 하거나, 무한 루프를 돈다면 이는 모델만의 문제...

Read more

Jev의 System One Model

System One Model은 상황을 분석하여 텍스트가 아닌 결정을 내리는 AI 모델이다. 온라인 쇼핑몰을 운영한다고 가정해보자. 고객이 카드 결제가 두 번 되었다고 고객 센터에 문의를 했다. 고객이 문의한 내용을 내부의 어떤 팀에서 ...

Read more

GPT-5.6 Luna/Terra 가격 다운

 OpenAI가 GPT-5.6 Luna API의 가격을 80%, GPT-5.6 Terra API의 가격을 20% 인하했다. We are committed to pushing the model frontier across cost efficiency...

Read more

LLM + 하네스 - 에이전트란 무엇인가?

'에이전트(Agent)'라는 단어는 흔히 사용되지만, 그 의미는 매우 다양하다. 누군가에게는 챗봇을 의미하고, 누군가에게는 복잡한 자동화 프로그램을 뜻한다. 이처럼 모호한 에이전트 개념을 개인적인 관점에서 정리해본다. LL...

Read more

Kimi K3에 대한 OpenAI 전략책임자 Dean Ball의 글

  Dean Ball이 Kimi K3에 대한 글을 올렸다. Dean Ball은 트럼프 행정부 출신(MAGA 지지자는 아님)이고 현재 OpenAI에서 전략적 미래 부문 책임자이다. 첫번 째 게시된 글( https://x.com/deanwball/st...

Read more

가혹한 토큰 경제학

그동안 대다수 기업들은 AI를 무료 혹은 비교적 저렴한 비용으로 이용해왔다. (구독 모델을 허용한 기업이라면 지금도 저렴한 편이다.) 현재 시점에서는 AI 기업들이 감당하던 재정적 출혈이 임계점에 다다르고 있는 실정이다. 데이터 센터를 ...

Read more

가장 비싼 코드

가장 비싼 코드는 아무도 원하지 않는 코드이다. 사람이든 AI든 코드를 작성하는데는 비용이 든다. 그런데 그 결과물을 아무도 원하지 않는다면, 가장 비싼 코드라 부를 수 있다. 코드는 제품을 구성하는 작은 단위다. 제품을 만들려면 Nee...

Read more

거대 모델의 시대를 넘어

최근 몇 년간 AI의 발전 공식은 명확했다. 더 많은 데이터, 더 큰 컴퓨팅 파워 그리고 더 거대한 모델을 만드는 것이었다. 하지만 모델이 커질수록 천문학적인 비용이 발생하고 효율성이 떨어지는 문제에 직면하게 되었다. 시장의 시선은 단순...

Read more

LLM 라우팅, 요청에 적합한 모델 선택하기

요즘 팀에서는 Token 비용에 대한 관심이 많다. '토큰 이코노미'에 대해서 대부분 비슷할꺼라 생각된다. 단일 모델(예산 범위내에서 가장 좋은 모델)로 제품을 만들고, 다른 사용 사례에도 확장하는 형태로 대부분 사용한다. 이유는 간단하...

Read more

모델 하나로는 부족한 시대

요즘 하나의 모델만 사용하진 않는다. 새롭게 사용하고 있는 Goose 기반에 여러 모델들을 상황에 맞춰 사용중이다. Antigravity에서 자주 사용하던 스킬들도 Goose용으로 Porting 해두었으니, 사용해보실분들은 참고하세요. ( https...

Read more

데이터는 누구의 일인가?

전사 데이터의 ‘기반’과 서비스 데이터의 ‘제품화’ 사이에서 요즘 생각이 많습니다. 회사에서 “데이터”라는 단어는 자주 하나로 뭉개집니다. 전사 데이터도 데이터고, 서비스 로그도 데이터고, 추천 점수도 데이터입니다. 하지만 같은 단어...

Read more

RAG의 환각에 대한 대응

현 거대 언어 모델(LLM)은 지난 몇 년간 급격한 성장을 이루었습니다. 단순히 AI 모델을 사용하는 것을 넘어, 자사의 방대한 내부 데이터를 LLM에 연동하여 실질적인 비즈니스 가치를 창출하고자 하는 요구에 직면해 있습니다. 이런 배경에는 RAG(R...

Read more