Blog — FuriosaAI
Furiosa SDK 2026.3: A new kernel framework, and the models it unlocks
AI 엔지니어링 브리핑
Furiosa SDK 2026.3은 새로운 커널 개발 방식과 재사용 가능한 실행 파일 형식을 도입해 더 다양한 AI 모델을 빠르게 배포하고 운영하도록 만든 업데이트입니다.
문제 & 배경
- 문제 & 배경: AI 모델 구조가 빠르게 늘어나는 가운데 기존 방식은 모델의 의미가 작은 연산 단위로 쪼개져 새 모델을 지원하고 하드웨어에 맞게 최적화하는 데 많은 작업이 필요했습니다.
기술 & 해결책
- 기술 & 해결책: 모델의 핵심 연산을 그대로 표현하는 TCL과 재사용 가능한 커널 모음인 furiosa-kernels로 모델 지원을 블록 조립처럼 단순화하고, FXB에 컴파일 결과를 묶어 재컴파일 없이 다른 환경이나 호환되는 파인튜닝 모델에도 배포할 수 있게 했습니다.
교훈 & 주의점
- 교훈 & 주의점: Qwen3-VL 같은 멀티모달 모델과 여러 MoE 모델을 지원하게 되었고, 오버랩 스케줄러와 점수 기반 라우팅으로 장치 활용률과 요청 분산을 높일 수 있지만, 오버랩 스케줄링은 아직 선택 기능이며 업그레이드 전 변경 사항과 안내서를 확인해야 합니다.
함께 읽을 글
내용이 비슷해요내용이 비슷한 글을 먼저 보여드려요. 같은 문제나 해결책을 다룬다는 뜻은 아니에요.