작년 증시에 큰 충격을 준 딥시크는 최근에는 상대적으로 뉴스에 나오는 빈도가 줄어들었지만, 사실 7월 한 달 동안 소비된 토큰 총량 기준으로 앤스로픽에 이어 2위를 차지했습니다. 그리고 딥시크는 최근 오픈AI와 앤스로픽의 맞설 DeepSeek-V4-Pro-0813 모델을 공개했습니다.
딥시크는 API 및 채팅 서비스에 V4-Pro 모델을 출시하면서 해당 모델의 가격을 입력 토큰 100만 개당 0.435달러, 출력 토큰 100만 개당 0.87달러로 책정했습니다. 반면 오픈 AI는 최근 GPT-5.6 루나(Luna)를 최대 80%까지 할인하며 사실상 가격 전쟁을 시작했습니다. 입력 토큰은 기존 100만 개당 1달러에서 0.2달러로, 출력 토큰은 기존 6달러에서 100만 개당 1.2달러로 가격이 인하되었습니다.
딥시크가 볼륨 사용량이 크게 늘어난 비결은 압도적인 가격 경쟁력이었습니다. 가격은 저렴하고 성능은 서방 프런티어 모델에 근접했기 때문에 사용자가 몰렸습니다. 보유한 하드웨어가 엔비디아 H100 2만 개 정도에 불과한 것으로 알려진 상태에서 토큰 사용량 2위까지 올라도 감당이 가능했던 이유는 매우 효율적인 모델 덕분이었습니다.
최근 공개한 V4-Flash-0731의 경우 단 2,840억 개의 파라미터만을 가지고 있음에도 불구하고, 수조 개의 파라미터를 가진 것으로 추정되는 Anthropic의 Opus 4.8과 유사한 성능을 제공합니다. 여기에 MoE 구조로 실제 활성화되는 파라미터는 130억개 (13B) 정도에 불과합니다. 추가적으로 어텐션/메모리 최적화로 KV 캐시를 줄이고 아키텍처 자체는 크게 바꾸지 않고, 에이전트·코딩·도구 사용에 특화된 후훈련으로 성능을 끌어올렸습니다. 그리고 DSpark(speculative decoding) 등으로 생성 속도를 높여 제한된 하드웨어에서 성능을 최대한 올렸습니다.
덕분에 딥시크는 V4 플래시를 입력 토큰 100만 개당 0.14달러 , 출력 토큰 100만 개당 0.28달러라는 파격적인 가격으로 책정해서 결국 경쟁사인 오픈 AI가 가격을 인하하게 유도했습니다. 훨씬 비싸진 V4 프로 모델의 경우에도 여전히 서방측 고성능 모델보다 저렴한 편입니다. 참고로 V4 프로의 경우 1.6조 파라미터를 지니고 있으며 활성화되는 파라미터는 490억 개 (49B) 정도입니다. 현재 위챗에 올라온 예비 결과에 따르면 DeepSeek의 V4-Pro 모델은 Terminal Bench 2.1, Cybergym, DeepSWE 및 AutomationBench 벤치마크에서 Opus 4.8보다 우수한 성능을 보였습니다.
그럼에도 토큰 사용량이 몰리면서 딥시크는 감당하기 힘든 수요 증가에 직면해 있습니다. 특히 피크 시간 대에는 모델의 추론 속도가 매우 느려지는 문제가 있습니다. 가격 인상은 당장에 몰리는 수요를 분산시키고 추가 컴퓨팅 자원을 구매할 여력을 확보하기 위한 것으로 보입니다. 특히 피크 시간 대에는 추가 요금을 더 설정했는데, 요금 인상의 주요 목적인 수요 분산에 있음을 보여줍니다.
현재 딥시크는 엔비디아 GPU를 구매하는데 어려움을 겪고 있으며 대안으로 화웨이에서 어샌드 계열 GPU를 구매하는 것으로 알려져 있습니다. 이전에 밝힌 내용에 따르면 화웨이 어샌드 950 GPU 네 개가 엔비디아 GB 300 한 개 성능을 지니고 있다고 합니다. 현재 확보한 물량은 16,000개 정도로 GB 300 GPU 4,000장에 해당하는 분량입니다.
이전 포스트: https://blog.naver.com/jjy0501/224358988848
따라서 여전히 훈련 및 서비스에 필요한 자원이 부족한 가운데 모델 최적화를 통해 토큰 사용량 1위를 달성할 수 있을지 주목됩니다. 만약 성공한다면 서구 프런티어 모델들도 연산 자원을 마구잡이로 늘리는 것에 대해 다시 생각하는 계기가 될지도 모릅니다.
참고
댓글
댓글 쓰기