Twój dedykowany NVIDIA DGX Spark

Instancja AI tylko dla Twojej firmy. Modele lokalne działają na niej, w chronionym obiegu danych.

  • 128 GBpamięci zunifikowanej
  • GB10Grace Blackwell
  • 6144rdzenie CUDA
  • 200 Gb/słącze klastra

Do jakich zadań

Prototypy i agenci AI

Budowa i testy modeli oraz agentów.

Dostrajanie modeli

Modele do ok. 70 mld parametrów.

Inferencja

Modele do ok. 200 mld parametrów (FP4).

Dokumenty i wyszukiwanie

Odpowiedzi na podstawie dokumentów firmy.

Parametry

Procesor
20 rdzeni Arm (10× Cortex-X925 + 10× Cortex-A725)
GPU
Blackwell, 6144 rdzenie CUDA, 192 rdzenie Tensor
Pamięć
128 GB LPDDR5x, wspólna dla CPU i GPU, 273 GB/s
Moc obliczeniowa AI
do 1 PFLOP FP4 (ze sparsity)
Dysk
NVMe, od 1 TB
Łącze klastra
ConnectX-7, 200 Gb/s
System
NVIDIA DGX OS (Ubuntu 24.04), CUDA 13

Parametry sprzętu według specyfikacji NVIDIA.

Klaster Dual Spark

Dwa DGX Spark połączone łączem 200 Gb/s. Więcej pamięci dla jednego modelu.

256 GBpamięci łącznie
~405 mldparametrów modelu (FP4)
2–4urządzenia w klastrze

Taryfy

NVIDIA DGX Spark

  • 1× GB10 Grace Blackwell
  • 128 GB pamięci zunifikowanej
  • NVMe od 1 TB
od 100 EUR / mies.Zamów serwer

Klaster Dual Spark

  • 2× GB10 Grace Blackwell
  • 256 GB pamięci łącznie
  • Łącze 200 Gb/s
od 100 EUR / mies.Zamów serwer

Rozliczenie miesięczne. Szczegóły umowy i termin uruchomienia ustalamy przed startem.Billed monthly. Contract details and the launch date are agreed before the start.

Jak testowaliśmy DGX Spark

Na jednym DGX Spark uruchomiliśmy cztery otwarte modele językowe (llama.cpp) i zmierzyliśmy szybkość, równoległe zapytania oraz długi kontekst.

20–30tokenów na sekundę
3–4równoległe zapytania
128 tys.tokenów kontekstu
1–2 minprzełączenie modelu

Sprawdza się, gdy

  • przetwarzasz dokumenty firmy: umowy, faktury, raporty, także nocą, w paczkach;
  • obsługujesz zgłoszenia klientów z danymi osobowymi;
  • budujesz wewnętrznego asystenta i agentów połączonych z CRM i HelpDesk;
  • potrzebujesz prywatnego API zgodnego z OpenAI.

Model chmurowy wygra, gdy

  • usługa ma obsłużyć naraz dziesiątki niezależnych użytkowników;
  • liczy się przede wszystkim najniższy koszt tokena i szybkość;
  • dane nie wymagają ochrony.

A gdy dane firmy potrzebują modelu chmurowego, jest model hybrydowy: dane są maskowane, zanim tam trafią.

Wyniki z naszego stanowiska testowego. Zależą od modelu, kwantyzacji i obciążenia, nie są gwarancją wydajności.

Pełny raport z testów (po rosyjsku)

Nie wiesz, co wybrać?

Opisz zadanie, a dobierzemy serwer.

Bezpłatna konsultacja