24B 모델인데 2B만 켜요 — Liquid AI LFM2.5가 맥북에서 초당 184토큰을 찍었어요
Liquid AI의 LFM2.5-24B-A2B는 240억 파라미터 중 20억만 활성화하는 MoE 모델이에요. Apple M5 Max 맥북에서 초당 184토큰을 내고, 에이전트·도구 호출 벤치마크 8개 중 5개에서 비슷한 크기의 Qwen3.6-35B-A3B를 이겼어요.
- LFM2.5-24B-A2B는 24B 파라미터 중 2B만 활성화하는 MoE 구조예요. 전문가 64개 중 상위 4개만 켜는 방식이에요.
- Apple M5 Max에서 초당 184토큰, AMD Ryzen AI Max+ 395에서 초당 114토큰을 냈어요. 비슷한 MoE보다 최대 1.7배 빨라요.
- 에이전트 벤치마크 AutomationBench에서 27.69점으로 Qwen3.6-35B-A3B(8.72점)를 크게 앞섰어요. 컨텍스트 창은 131,072토큰이에요.
로컬에서 도구 호출이 필요한 에이전트를 돌릴 때, 클라우드 API 없이 맥북 하나로 초당 184토큰 속도를 쓸 수 있어요.
인터넷 없는 환경에서도 13만 토큰 컨텍스트로 긴 문서를 분석하거나 초안을 뽑을 수 있어요.
API 비용이 부담될 때, 맥북이나 윈도 노트북에서 무료로 돌릴 수 있는 고성능 로컬 모델이에요.
1. huggingface.co/LiquidAI/LFM2.5-24B-A2B 에서 모델 다운로드 2. llama.cpp 또는 Ollama로 로컬 서버 실행 3. 간단한 도구 호출 프롬프트(날씨 조회 등)로 에이전트 테스트 4. 속도·품질을 기존 클라우드 API와 비교
로컬에서 돌아가는 에이전트 도구를 만들 때 API 비용 걱정 없이 테스트해 보기 좋을 것 같아요.
클라우드 API 없이 노트북에서 에이전트를 돌릴 수 있을까요? Liquid AI의 LFM2.5-24B-A2B는 그쪽으로 한 발 더 나아간 모델이에요.
24B인데 2B만 켜요
이 모델은 MoE(Mixture of Experts, 전문가 혼합) 구조예요. 총 240억 파라미터 중에서 토큰 하나를 처리할 때 실제로 켜지는 파라미터는 20억뿐이에요. 40개 레이어마다 전문가 64개가 있고, 그중 상위 4개만 골라 쓰는 방식이에요.
맥북에서 초당 184토큰
활성 파라미터가 적으니 속도가 빨라요. Apple M5 Max 맥북에서 초당 184토큰, AMD Ryzen AI Max+ 395 노트북에서 초당 114토큰을 냈어요. Liquid AI에 따르면 비슷한 크기의 MoE 모델보다 최대 1.7배 빠르다고 해요.
에이전트 벤치마크에서 강해요
비슷한 크기인 Qwen3.6-35B-A3B(350억 파라미터, 30억 활성)와 비교하면, 에이전트·도구 호출 벤치마크 8개 중 5개에서 앞섰어요. 특히 AutomationBench에서는 27.69 대 8.72로 큰 차이를 냈고, LiveClaw에서도 48.09 대 38.19였어요.
컨텍스트 4배, 어휘 확장
이전 모델 대비 컨텍스트 창이 32,768에서 131,072토큰으로 4배 늘었고, 어휘도 128K 토큰으로 확장됐어요. 사전 학습 데이터도 17조에서 33조 토큰으로 두 배 가까이 늘었어요.
오픈 웨이트, API도 싸요
모델 가중치는 Hugging Face에 공개됐고, Liquid AI Playground에서도 써 볼 수 있어요. API 가격은 입력 100만 토큰당 0.10달러, 출력 100만 토큰당 1달러예요.
