Własny serwer AI czy API w chmurze: co opłaca się MŚP?

Tania karta graficzna nie tworzy jeszcze taniej usługi AI. Z kolei rozwiązanie chmurowe to więcej niż ceny tokenów. Jawne porównanie na 36 miesięcy pokazuje, które założenia zakupu, prądu, obsługi i wykorzystania robią różnicę.

Najpierw zadanie, potem linia kosztów

W przykładzie zatwierdzone notatki mają zmieniać się w krótkie projekty tekstów. Sensowne porównanie wymaga określenia jakości, dozwolonych dróg danych, długości kontekstu, oczekiwania i równoczesnego użycia. Mały model lokalny i model chmurowy nie oferują automatycznie tej samej wydajności.

Poniższe kwoty tworzą przykładową kalkulację. Zweryfikowane ceny katalogowe API są oddzielone od swobodnie wybranych założeń planistycznych. Linie kosztów nie są ofertami i nie dowodzą równej wydajności ani jakości wyników. Wszystkie bieżące wartości porównawcze są netto lub kosztami kalkulacyjnymi.

Ile kosztuje własny serwer przez 36 miesięcy?

Przyjmujemy budżet początkowy 17 800 euro netto: 14 500 euro na sprzęt, 1 500 euro na trzy lata serwisu sprzętowego i 1 800 euro na uruchomienie. Przy założonym austriackim VAT 20 % ten początkowy blok wynosi 21 360 euro z VAT. Rzeczywiste rozliczenie podatkowe ustala się dla konkretnej transakcji.

W rachunku ekonomicznym rozkładamy 17 800 euro na 36 miesięcy. Obejmuje to założony okres amortyzacji sprzętu; nie określa podatkowego okresu użytkowania. Kwota miesięczna jest wartością kalkulacyjną, a nie miesięczną ratą finansowania.

Założenie energetyczne: 0,250 kW średniego całkowitego poboru × 8 760 godzin/rok × 0,25 euro/kWh netto × współczynnik 1,20 na dodatkowe potrzeby otoczenia ÷ 12. Daje to 54,75 euro miesięcznie. Współczynnik jest osobnym założeniem dla chłodzenia i otoczenia, niezależnym od VAT.

W rzeczywistym obliczeniu mierzy się cały system w spoczynku i pod obciążeniem. Cena prądu musi odpowiadać faktycznym składnikom energii, sieci i opłat firmy. Nie twierdzimy tu, że jest to aktualna średnia taryfa austriacka.

Kalkulacja API wymaga wykorzystania i taryfy

Datowanym przykładem dostawcy jest OpenAI GPT-6.1 Sol w taryfie Standard z krótkim kontekstem: 2 dolary amerykańskie za milion niebuforowanych tokenów wejściowych, 2,50 dolara za zapis w pamięci podręcznej i 10 dolarów za milion tokenów wyjściowych. Cennik wskazuje dopłatę 10 % za przetwarzanie regionalne tam, gdzie jest dostępne.

Kalkulacja zakłada 2 000 tokenów wejściowych i 500 faktycznie rozliczonych wyjściowych na operację. Ostrożnościowo liczymy całe wejście według wyższej stawki zapisu w pamięci podręcznej 2,50 dolara. Zwykłej stawki wejścia nie doliczamy ponownie. Trafienia pamięci podręcznej, dodatkowe narzędzia i ponowienia nie są ujęte w tym scenariuszu.

10 000 operacji daje 20 milionów tokenów wejściowych i 5 milionów wyjściowych: 20 × 2,50 + 5 × 10 = 100 dolarów amerykańskich. Z założoną dopłatą regionalną jest to 110 dolarów. Zastosowany swobodnie ustalony przelicznik 0,92 euro za dolara amerykańskiego daje 101,20 euro; nie jest zweryfikowanym kursem dziennym.

Dochodzi założone 1 200 euro integracji rozłożone na 36 miesięcy, 50 euro miesięcznej obsługi i 20 euro monitoringu lub kopii. Ten koszt bazowy wynosi po zaokrągleniu 103,33 euro miesięcznie. Przy 10 000 przykładowych operacji daje to 204,53 euro na miesiąc.

Jak wpływa większe wykorzystanie?

Lokalna linia kosztów pozostaje w tabeli matematycznie stała. Wyraźnie nie dowodzi to, że założony sprzęt obsłuży takie obciążenie z odpowiednią jakością i czasem odpowiedzi. Większa równoległość, długie konteksty lub większy model mogą wymagać dodatkowego sprzętu i obsługi.

Kwota chmurowa też się zmienia, gdy rozliczanych jest więcej tokenów, używa się dodatkowych narzędzi lub zmienia się klasa taryfowa. Decydują rzeczywiste dane użycia. Sama widoczna długość odpowiedzi nie jest wystarczającą miarą rozliczenia.

Które założenia ma zastąpić pilotaż?

Dwie godziny lokalnej administracji po 100 euro, mniejszy nakład obsługi API, pobór prądu i przelicznik są założeniami planistycznymi. Po kilku reprezentatywnych tygodniach można zastąpić je obserwowanymi wartościami. Potrzebną weryfikację merytoryczną i poprawki ewidencjonuje się dodatkowo w obu wariantach.

Lokalna kalkulacja daje przez 36 miesięcy łącznie 28 771 euro netto lub kosztów kalkulacyjnych. Zakłada istniejącą szafę rack, sieć i odpowiednią infrastrukturę lokalizacji. Nie obejmuje nowej adaptacji pomieszczenia, finansowania, skutków awarii ani końcowej wartości rezydualnej. Potrzebne dodatkowe licencje oprogramowania trzeba sprawdzić i dodać przed decyzją.

Istniejąca maszyna może zmniejszyć dodatkową inwestycję, ale nadal oznacza prąd, utrzymanie, wartość rezydualną i zajętą wydajność. Z kolei inny dostawca API, mniejszy odpowiedni model, trafienia pamięci podręcznej lub właściwe przetwarzanie asynchroniczne mogą zmienić rachunek chmurowy. Porównuje się nakład na użyteczny wynik.

Łącznie oceniać przydatność techniczną i organizacyjną

Zatwierdzone drogi danych, zależność od internetu, czas odpowiedzi, możliwość zmian i wznowienie działania należą do decyzji. Model hybrydowy może celowo podzielić zadania, ale także wymaga zasad i obsługi. DAXS ocenia lokalną infrastrukturę i usługi zewnętrzne według rzeczywistego zadania.

Nasza strona o optymalizacji kosztów AI wyjaśnia wybór modelu i kierowanie zadań. Informacje o lokalnej infrastrukturze LLM oraz pilotażu pod rzeczywistym obciążeniem uzupełniają weryfikację techniczną. W ogólnej ocenie pomaga porównanie modeli eksploatacji.

Omówić zadanie AI, budżet i model eksploatacji.

Źródła: OpenAI: stawki GPT-6.1 Sol (link zewnętrzny) · OpenAI: klasy przetwarzania i dopłaty (link zewnętrzny) · E-Control: składniki ceny prądu (link zewnętrzny) · USP: stawki VAT (link zewnętrzny). Pozostałe dane kalkulacji to wyraźnie wybrane założenia scenariusza.