(출처: 딥시크)
딥시크가 프로 모델을 이긴 플래시 모델인 V4.1 플래시 공개 한 달 만에 다시 V4.1-Flash-1017를 선보였습니다. V4.1 플래시는 백본 552B + Engram 196B = 총 748B 파라미터를 가지지만, 토큰당 활성 파라미터는 prefill 시 8B, decode 시 16B에 불과합니다. 하지만 V4 Pro(총 1.6T / 활성 49B) 대비 총 파라미터의 1/3, 활성 파라미터의 1/6으로 모든 벤치마크에서 우위를 보이며 강력한 가성비를 선보인 모델입니다.
이 모델의은 긴 컨텍스트 에이전트 워크로드의 병목인 KV 캐시 문제를 다층적으로 해결해 메모리 소모량을 대폭 줄인 것이 특징입니다. 덕분에 딥시크의 제한적인 하드웨어로도 서비스가 가능하고 로컬에서 돌릴 때도 하드웨어 사양을 크게 낮출 수 있습니다.
이전 포스트: https://blog.naver.com/jjy0501/224408164001
그후 한달 만에 내놓은 1017 모델은 RLSF (Reinforcement Learning with Self-Feedback) 기술을 적극 사용해 성능을 더 높였습니다. 모델이 사후 훈련을 하는 과정에서 인간의 개입 없이 스스로 모델 자신이 스스로 평가해서 성능을 높였기 때문에 빠른 성능 향상이 가능합니다.
특히 딥시크가 공개한 오픈소스 AI 코딩 에이전트 프레임워크이자 작업 환경(에이전트 런타임)인 하네스 (Harness) 최적화를 통해 에이전틱 코딩 환경에서 자기 코드 테스트→실패→수정→재시도 루프에서 이전 버전보다 현저히 향상된 모습을 보이고 있습니다.
여기에 불필요한 설명을 제거하는 결과 압축에 초점을 맞춰 토큰 수를 줄여 속도는 높이고 비용은 줄인 것이 특징입니다. 결과적으로 모델이 자신의 출력 품질을 스스로 평가하고 최적화하는 순환 과정을 형성해 "인간이 원하는 것을 말하면 코드가 된다"(wish-driven coding)는 목적을 쉽게 달성할 수 있습니다.
딥시크 V4.1 플래시 1017은 작은 크기에도 불구하고 몇몇 벤치마크에서 서방의 프런티어 모델을 앞섰다고 주장하고 습니다. 예를 들어 DeepSWE에서 77%의 점수를 기록했는데, 이는 Opus 5.0의 74%를 앞선 수치입니다. 또 AutomationBench에서는 60.5%로 Opus 5.0의 50.3%보다 높았고, Apex Bench에서는 72.1%로 Opus 5.0의 65.8%보다 높았습니다.
딥시크는 이를 "민주화(democratization)"라고 이야기하고 있는데, 저렴한 비용으로 비용 장벽을 제거해서 누구나 서비스를 저렴하게 이용할 수 있기 때문입니다. 또 KV 캐시를 토큰 당 890바이트로 줄여 HBM 요구 용량을 극적으로 줄였기 때문에 소규모 데이터 센터에서도 사용할 수 있습니다. 여기에 스스로 보상하는 RLSF로 모델을 수정하고 학습시키기도 쉽습니다. 마지막으로 가중치를 공개한 오픈 모델로 누구나 사용할 수 있습니다.
이번 모델의 놀라운 부분은 더 큰 모델을 만드는데 집중하지 않고 작은 모델로도 큰 모델을 이길 수 있는 효율을 확보했을 뿐 아니라 스스로 학습할 수 있는 능력을 통해 모델을 개선할 수 있다는 점을 보여준데 있습니다. 이것이 시장에 어떤 충격을 가져올 지 앞으로 주목됩니다.
참고
https://api-docs.deepseek.com/news/news261017/
댓글
댓글 쓰기