요즘 개발자 사이에 핫한 Qwen 3.8, 그리고 새로 발표된 Fable 5.1
Qwen 3.8 이야기가 몇 주째 도는데 저는 아직 안 깔았습니다. 받아서 돌려보고 쓰는 게 순서인 건 알지만, 27B 짜리 하나 받는 데 20분 가까이 걸리고 그거 돌리려고 다른 거 다 내려야 하니 손이 안 갔습니다. 그래서 깔기 전에 뭐가 어떻게 바뀐 건지부터 찾아봤습니다. 그러다 어제 Fable 5.1 이 나왔습니다. 원래는 Qwen 이야기만 하려고 했는데, 둘을 나란히 놓고 보니까 각각 볼 때는 안 보이던 게 하나 보였습니다. 두 회사가 같은 방향으로 갔습니다. 모델을 더 오래 생각하게 만들어놓고, 그 대신 같은 결과를 얻는 데 드는 값을 내렸습니다. 그래서 "싸졌다" 는 말과 "느려졌다" 는 말이 동시에 참이 되는 상황이 됐습니다. 정리하면서 든 생각까지 같이 적어둡니다. 설치나 도입을 앞두고 저처럼 먼저 알아보시는 분한테는 쓸 데가 있을 것 같습니다. Qwen 3.8 은 하나가 아니라 세 갈래로 나왔습니다 이게 첫 번째로 헷갈렸던 부분입니다. "Qwen 3.8 써봤다" 는 글을 읽으면서 저는 계속 같은 모델 이야기인 줄 알았는데, 읽다 보면 어떤 사람은 API 를 쓰고 있고 어떤 사람은 자기 그래픽카드에 올려놨습니다. 알고 보니 이름이 세 개입니다. Qwen 3.8-Max 가 맨 위에 있습니다. 8월 3일에 API 로 열렸습니다. 총 파라미터가 2.4T 인데 토큰마다 실제로 쓰는 건 95B 정도인 MoE 구조입니다. 컨텍스트는 1M 이고, 이미지도 받습니다. 이건 가중치를 안 주니까 그냥 API 로 쓰는 모델입니다. Qwen 3.8-27B 가 그 아래 있고, 제 관심은 사실 여기 하나였습니다. 8월 중순에 Hugging Face 에 올라왔고 라이선스가 Apache 2.0 입니다. 네이티브 컨텍스트가 262K 이고 비전이 들어 있습니다. 4비트로 줄이면 19GB 근처라서 24GB 카드 한 장에 들어갑니다. Qwen 3.8-2.4T-A95B 라는 게 하나 더 있습니다. Max ...