OpenAI가 GPT-5.6 Luna API의 가격을 80%, GPT-5.6 Terra API의 가격을 20% 인하했다. We are committed to pushing the model frontier across cost efficiency...
7/31/2026
7/29/2026
7/19/2026
Kimi K3에 대한 OpenAI 전략책임자 Dean Ball의 글
Dean Ball이 Kimi K3에 대한 글을 올렸다. Dean Ball은 트럼프 행정부 출신(MAGA 지지자는 아님)이고 현재 OpenAI에서 전략적 미래 부문 책임자이다. 첫번 째 게시된 글( https://x.com/deanwball/st...
7/15/2026
가혹한 토큰 경제학
그동안 대다수 기업들은 AI를 무료 혹은 비교적 저렴한 비용으로 이용해왔다. (구독 모델을 허용한 기업이라면 지금도 저렴한 편이다.) 현재 시점에서는 AI 기업들이 감당하던 재정적 출혈이 임계점에 다다르고 있는 실정이다. 데이터 센터를 ...
7/11/2026
7/04/2026
거대 모델의 시대를 넘어
최근 몇 년간 AI의 발전 공식은 명확했다. 더 많은 데이터, 더 큰 컴퓨팅 파워 그리고 더 거대한 모델을 만드는 것이었다. 하지만 모델이 커질수록 천문학적인 비용이 발생하고 효율성이 떨어지는 문제에 직면하게 되었다. 시장의 시선은 단순...
5/10/2026
LLM 라우팅, 요청에 적합한 모델 선택하기
요즘 팀에서는 Token 비용에 대한 관심이 많다. '토큰 이코노미'에 대해서 대부분 비슷할꺼라 생각된다. 단일 모델(예산 범위내에서 가장 좋은 모델)로 제품을 만들고, 다른 사용 사례에도 확장하는 형태로 대부분 사용한다. 이유는 간단하...
5/09/2026
모델 하나로는 부족한 시대
요즘 하나의 모델만 사용하진 않는다. 새롭게 사용하고 있는 Goose 기반에 여러 모델들을 상황에 맞춰 사용중이다. Antigravity에서 자주 사용하던 스킬들도 Goose용으로 Porting 해두었으니, 사용해보실분들은 참고하세요. ( https...
3/03/2026
데이터는 누구의 일인가?
전사 데이터의 ‘기반’과 서비스 데이터의 ‘제품화’ 사이에서 요즘 생각이 많습니다. 회사에서 “데이터”라는 단어는 자주 하나로 뭉개집니다. 전사 데이터도 데이터고, 서비스 로그도 데이터고, 추천 점수도 데이터입니다. 하지만 같은 단어...
1/12/2026
RAG의 환각에 대한 대응
현 거대 언어 모델(LLM)은 지난 몇 년간 급격한 성장을 이루었습니다. 단순히 AI 모델을 사용하는 것을 넘어, 자사의 방대한 내부 데이터를 LLM에 연동하여 실질적인 비즈니스 가치를 창출하고자 하는 요구에 직면해 있습니다. 이런 배경에는 RAG(R...
12/30/2025
가독성의 은밀한 비용, 코드 포맷팅이 LLM 예산을 어떻게 소모하는가?
아카이브( arXiv.org )에서 흥미로운 논문 을 읽었고 내용을 정리해봅니다. 소프트웨어 엔지니어링 역사에서 “가독성”은 성역과도 같은 가치였습니다. 코드는 컴퓨터가 실행하기 위해 작성되지만, 인간이 읽기 위해서도 작성된다는 이야기가 많았지요. 그...
