LM Studio + DeepSeek R1 튜토리얼: 맥북에서 로컬 AI 모델 실행하기
클라우드 기반 AI 서비스에 의존하지 않고 로컬에서 강력한 AI 모델을 실행하고 싶으신가요? LM Studio와 DeepSeek R1 모델을 사용하면 맥북에서 완전히 오프라인으로 고성능 AI 어시스턴트를 구축할 수 있습니다. 이 튜토리얼에서는 설치부터 실제 사용까지 단계별로 안내해...
Thaki Cloud | ThakiCloud 기술 블로그 - AI/ML Engineering & DevOps
최근 포스트
Chatterbox TTS 튜토리얼: 맥북에서 오픈소스 음성 합성 시스템 사용하기
음성 합성(TTS) 기술이 급속도로 발전하면서, 이제 개인 개발자도 고품질의 음성 생성 시스템을 사용할 수 있게 되었습니다. Chatterbox TTS는 Resemble AI에서 개발한 최초의 프로덕션급 오픈소스 TTS 모델로, ElevenLabs와 같은 상용 서비스와 비교해도 뛰...
Unsloth: LLM 파인튜닝을 2배 빠르게, 메모리는 80% 절약하는 혁신적 프레임워크
Qwen3, Llama 4, Gemma 3를 2배 빠르게 파인튜닝하면서 VRAM을 80%까지 절약. OpenAI Triton 기반의 정확도 손실 없는 최적화 엔진
TRL: Hugging Face의 차세대 LLM 후처리 프레임워크 완전 가이드
SFT, DPO, GRPO, PPO 등 최신 강화학습 기법으로 Transformer 모델을 후처리하는 포괄적 라이브러리. CLI부터 분산 학습까지 모든 것을 지원
PEFT: 대형 모델을 0.2%만 학습해도 전체 파인튜닝 성능을 내는 혁신 기술
LoRA, AdaLoRA, IA3 등 최신 PEFT 기법으로 메모리는 80% 절약하면서 성능은 그대로. Llama, BERT, Stable Diffusion까지 모든 모델에 적용 가능