Ming-Lite-Omni: GPT-4o 수준의 멀티모달 AI 모델
이미지, 텍스트, 오디오, 비디오를 통합 처리하는 2.8B 파라미터 경량 멀티모달 모델
Thaki Cloud | ThakiCloud 기술 블로그 - AI/ML Engineering & DevOps
최근 포스트
vLLM + Evalchemy 벤치마킹 완벽 최적화 가이드: 동적 배칭부터 실전 튜닝까지
동적 배칭과 요청 큐를 이해하여 신뢰할 수 있는 LLM 성능 측정을 위한 서버-클라이언트 통합 최적화 전략
LM-Evaluation-Harness 완전 가이드: 언어 모델 평가의 표준 프레임워크
EleutherAI의 LM-Evaluation-Harness로 GPT, Claude, Llama 등 다양한 언어 모델을 체계적으로 평가하는 방법을 단계별로 알아봅니다.
vLLM 서버로 고성능 모델 벤치마킹하기: Evalchemy 완벽 실전 가이드
vLLM 서버와 Evalchemy를 연동하여 대규모 언어 모델을 효율적으로 평가하는 방법과 50+ 벤치마크 태스크 총정리
로컬 LM Studio 모델을 API처럼 벤치마킹하기: Evalchemy + LiteLLM 완벽 가이드
LM Studio와 Evalchemy를 연동하여 로컬 언어 모델을 OpenAI API처럼 간편하게 평가하는 방법