Posts
All the articles I've posted.
-
개발과 인프라를 같이 하면서 아키텍처를 보는 방식이 바뀌었다
개발과 인프라를 같이 하다 보니 코드에서 보이지 않던 운영 비용이 보이기 시작했다. NoteGate의 background job runtime을 정리하면서 외부 메시징 큐 대신 PostgreSQL Job 구조를 먼저 선택하게 된 이유를 정리한다.
-
AI 사이에서 컨텍스트를 나르는 일을 그만두기
AI와 장비가 늘어날수록 사람이 직접 옮기던 작업 맥락을, MCP를 지원하는 여러 AI 도구가 함께 쓰는 개인 중앙 기록으로 남기기 위해 Notegate를 만든 과정을 정리한다.
-
AI가 쓸 도구는, 만드는 것보다 깎는 게 일이었다
AI에게 도구를 쥐여주려면 기능만 만들면 끝날 줄 알았다. 하지만 opsgate를 만들어 실제로 붙여보니, 진짜 일은 기능 구현이 아니라 응답을 줄이고, 실패 이유를 설명하고, 다음 요청을 유도하는 데 있었다. AI용 도구를 만든다는 건 결국 도구의 출력을 계속 깎는 일이었다.
-
모델이 바뀔 때마다 코드를 고치고 싶지는 않았다
모델의 가격, 입력 한도, 과금 방식이 자주 바뀌는 상황에서, 내부 도구와 작은 서비스의 모델 호출 정책을 코드 밖으로 빼기 위해 llmgate를 만든 과정을 정리한다.