Współdzielona usługa AI wymaga więcej niż karty graficznej. Budżet obejmuje serwer, pamięć, dyski, zasilanie, chłodzenie oraz jasno określoną odpowiedzialność za utrzymanie. Konkretny przykład HPE ProLiant pokazuje, jak przejrzyście policzyć te elementy.
Ograniczony scenariusz rack jako punkt wyjścia
Do planowania przyjmujemy HPE ProLiant DL380 Gen11 z jednym procesorem, 128 GB pamięci ECC i jedną NVIDIA L4 z 24 GB pamięci graficznej. Usługa ma przetwarzać teksty przygotowane wewnętrznie i zatwierdzone dokumenty. Rozsądną liczbę równoczesnych zapytań wyznaczy test z rzeczywiście używanym modelem i jego długością kontekstu.
Gen11 jest tu świadomie wybraną platformą przykładową. Przy nowym zakupie porównuje się także aktualne generacje i inne odpowiednie systemy. Sama nazwa modelu nie mówi jeszcze, jakie obudowy, kosze dyskowe i rozszerzenia są kompatybilne.
Decyduje dokładna konfiguracja
Dokumentacja HPE wymienia DL380 Gen11 jako platformę obsługującą akcelerator L4 S0K89C. W przykładzie wybieramy obudowę 8SFF z jednym przednim koszem dyskowym i bez tylnych koszy. Poniższa tabela opisuje podstawę planowania; przed zamówieniem potrzebna jest w pełni sprawdzona lista komponentów.
| Element | Założenie w przykładzie |
|---|---|
| CPU | Jeden Intel Xeon Silver 4514Y, 16 rdzeni, TDP 150 W; odpowiedni wariant Gen11 dla piątej generacji Xeon. |
| Pamięć operacyjna | 128 GB jako cztery zgodne moduły HPE DDR5 ECC RDIMM po 32 GB. Montaż według zasad obsadzania; nie zajmuje to wszystkich ośmiu kanałów pamięci. |
| GPU | Jedna NVIDIA L4 24 GB, HPE S0K89C, PCIe Gen4 x16, maksymalna moc karty 72 W. |
| PCIe | GPU w gnieździe 2 głównego standardowego risera, połączonym elektrycznie jako x16. Nie przewidziano dodatkowego risera pomocniczego. |
| Chłodzenie | High Performance Fan Kit P48820-B21; radiator CPU i przepływ powietrza dostosowane do końcowej konfiguracji. |
| Zasilanie | Dwa zgodne zasilacze Titanium Flex Slot P03178-B21 po 1 000 W; osobno sprawdzić pracę po awarii jednego zasilacza. |
| Dyski | Dwa SSD HPE SATA Mixed Use P40503-B21 po 960 GB w lustrze, kontroler MR216i-o P47789-B21 i odpowiedni backplane oraz kable. Przewidziano oddzielny cel kopii zapasowej. |
| Sieć | Odpowiedni adapter sieciowy wraz z wymaganym połączeniem OCP w budżecie bazowym; uzgodnienie z kontrolerem i obsadą CPU. |
Dla L4 HPE zaleca pamięć systemową co najmniej dwukrotnie większą od łącznej pamięci GPU. Przyjęte 128 GB przekracza obliczone 48 GB dla jednej karty. To wskazówka do wymiarowania; dodatkowe usługi, przygotowanie dokumentów i przenoszenie części obliczeń na CPU wymagają osobnej oceny pojemności.
Riser, gniazdo i chłodzenie sprawdza się razem. Mechanicznie pasujące gniazdo może mieć mniej linii elektrycznych. Inne karty lub kosze dyskowe mogą zmienić dostępne miejsce montażu. Końcowa lista komponentów obejmuje więc także mocowania, firmware, sterowniki i zatwierdzenie producenta.
Jak wygląda przejrzysty budżet planistyczny?
Kwoty to swobodnie przyjęte założenia budżetowe dla tego przykładu obliczeniowego, stan na 15 października 2026. Nie są zweryfikowaną ofertą sprzedawcy ani zobowiązaniem cenowym DAXS. Przed zakupem sprawdza się dostępność i uzyskuje konkretną ofertę całej konfiguracji.
| Pozycja budżetu | Kwota netto | Zakres |
|---|---|---|
| Baza serwera | 9 000,00 EUR | Obudowa, jeden CPU, 128 GB ECC RAM, kontroler i dwa zasilacze; bez GPU i SSD. |
| Jedna L4 | 3 000,00 EUR | Zatwierdzona wersja akceleratora HPE. |
| Dwa SSD | 1 800,00 EUR | Zgodne wersje klasy enterprise dla planowanego lustra. |
| Dodatki | 700,00 EUR | Zestaw wentylatorów, szyny, mocowania i wymagane drobne części; unikać podwójnego liczenia w ofercie. |
| Serwis sprzętu | 1 500,00 EUR | Zarezerwowana kwota na trzy lata; sprawdzić rzeczywisty zakres i objęcie GPU serwisem. |
| Uruchomienie i odbiór | 1 800,00 EUR | Budżet na integrację i ograniczony test funkcjonalny; zakres do indywidualnego uzgodnienia. |
| Suma netto | 17 800,00 EUR | Suma sześciu przyjętych pozycji. |
| 20% VAT | 3 560,00 EUR | Przyjęta austriacka stawka podstawowa dla tego przykładu. |
| Suma z VAT | 21 360,00 EUR | Opodatkowanie konkretnej transakcji ustala się osobno. |
Zakładamy dostępność istniejącej szafy rack, odpowiednich obwodów zasilania, sieci i platformy kopii zapasowych. Nowy UPS, klimatyzacja, licencje systemu operacyjnego i oprogramowania AI, bieżąca administracja oraz prąd nie są tutaj wliczone. Oferta musi wyraźnie wyjaśniać te granice. Inaczej pozornie korzystna cena serwera wydaje się pełniejsza, niż jest naprawdę.
24 GB VRAM nie rozstrzyga jeszcze wyboru modelu
Do rozmiaru modelu dochodzi pamięć na kontekst, przetwarzanie równoległe i środowisko wykonawcze. Model działający przy jednym krótkim zapytaniu może inaczej obciążać system przy długich dokumentach lub wielu użytkownikach. Dlatego pilotaż pod reprezentatywnym obciążeniem sprawdza łącznie jakość, czas oczekiwania i rezerwy.
Także rachunek za energię wynika z całego systemu. Maksymalna moc GPU 72 W nie jest pomiarem serwera rack w gniazdku. Dwa zasilacze po 1 000 W również nie oznaczają stałego zapotrzebowania usługi na 2 000 W. Wiarygodna kalkulacja kosztów utrzymania mierzy bezczynność, typowe obciążenie i szczyty.
Serwis, kopie zapasowe i przywracanie planować wspólnie
Umowa serwisowa określa konkretne świadczenia dla wskazanych komponentów i lokalizacji. Czas reakcji, okno serwisowe, dostępność części i przywrócenie usługi AI to odrębne kwestie. W utrzymaniu musi być jasne, kto instaluje część zamienną, sprawdza oprogramowanie i potwierdza przywrócenie funkcjonalności biznesowej.
Lustro SSD pomaga przy awarii pojedynczego dysku. Przypadkowo usunięte dokumenty, uszkodzona konfiguracja lub awaria całego serwera wymagają oddzielnej kopii ze sprawdzoną drogą odtworzenia. Zarządzanie użytkownikami, wersje modeli i wymagana konfiguracja usługi należą do tego planu.
DAXS wspiera inwentaryzację, konfigurację, integrację i uzgodnione utrzymanie. Nasza strona ekspercka o lokalnej infrastrukturze LLM przedstawia kontekst architektury. Artykuł o Ollama i Open WebUI opisuje współdzieloną usługę AI; nasza strona ekspercka HPE uzupełnia kwestie infrastruktury i opieki.
Omówić odpowiednie zastosowanie AI i dostępny budżet.
Źródła: HPE: DL380 Gen11 QuickSpecs (link zewnętrzny) · HPE: akceleratory NVIDIA i zatwierdzone platformy (link zewnętrzny) · Intel: Xeon Silver 4514Y (link zewnętrzny) · NVIDIA: specyfikacja L4 (link zewnętrzny) · HPE: opis usług Tech Care (link zewnętrzny) · USP: stawki VAT (link zewnętrzny).
