Prototypy i agenci AI
Budowa i testy modeli oraz agentów.
Instancja AI tylko dla Twojej firmy. Modele lokalne działają na niej, w chronionym obiegu danych.
Budowa i testy modeli oraz agentów.
Modele do ok. 70 mld parametrów.
Modele do ok. 200 mld parametrów (FP4).
Odpowiedzi na podstawie dokumentów firmy.
Parametry sprzętu według specyfikacji NVIDIA.
Dwa DGX Spark połączone łączem 200 Gb/s. Więcej pamięci dla jednego modelu.
Rozliczenie miesięczne. Szczegóły umowy i termin uruchomienia ustalamy przed startem.Billed monthly. Contract details and the launch date are agreed before the start.
Na jednym DGX Spark uruchomiliśmy cztery otwarte modele językowe (llama.cpp) i zmierzyliśmy szybkość, równoległe zapytania oraz długi kontekst.
A gdy dane firmy potrzebują modelu chmurowego, jest model hybrydowy: dane są maskowane, zanim tam trafią.
Wyniki z naszego stanowiska testowego. Zależą od modelu, kwantyzacji i obciążenia, nie są gwarancją wydajności.
Pełny raport z testów (po rosyjsku)Opisz zadanie, a dobierzemy serwer.