개발

vLLM vs Ollama - 로컬 LLM 추론, 언제 무엇을 골라야 하는가

Ollama는 쉽고 vLLM은 빠르다는 통념을 2026년 RTX 4090 공개 벤치마크로 다시 검증합니다. 단일 사용자에서는 격차가 13% 안팎이지만, 동시 50명에서는 vLLM이 약 6배 처리량을 냅니다. PagedAttention과 연속 배칭이 만드는 확장 곡선의 차이, 그리고...

첫 AI 에이전트를 만든다면 - 가드레일이 붙은 최소 루프부터

AI 에이전트 입문 가이드는 대부분 LLM 두뇌, 메모리, 도구, 에이전트 루프 네 조각을 설명하고 끝납니다. 정작 프로덕션에서 무너지는 지점은 루프를 멈추는 가드레일입니다. 외부 LLM 없이 순수 파이썬으로 가드레일이 붙은 최소 ReAct 루프를 직접 돌려, 단계 상한과 반복 탐...

‘자는 동안 일하는 AI’의 진짜 엔지니어링: Opus 4.8 동적 워크플로와 병렬 서브에이전트를 뜯어봤습니다

‘40가지 워크플로로 자는 동안 돈을 번다’는 바이럴 X 아티클이 타임라인을 흔들었습니다. 패시브 인컴이라는 포장은 과장이지만, 그 밑에 깔린 동적 워크플로와 병렬 서브에이전트 팬아웃, 그리고 루프를 닫는 검증 게이트는 실재합니다. 무인 장기 실행 에이전트가 만들어내는 GPU 워크...