Wiki k zostavám

Byg Wiki

Referencná séria o stavbe, sieťovaní, napájaní and prevádzke AI výpočtového výkonu — forud for kupujúcich og integratorov, ktorí navrhujú svoj ďalší 4-GPU box, 8-GPU server alebo roboticé laboratorium.

Každý článok vychádza zo skutočných zostáv Kentino. Žiadna vata. Názorový tam, kde til technika vyžaduje. Úprimný o limitoch.

49online artikler 9tematisk serie 2nye tæver · ud + št

AI-server-låse serie W

En navrhujet multi-GPU boks, forudsat og najprv tieto. Pamæť, PCIe, napájanie, termika, úložisko og užší výber GPU.

W01RAM og VRAM: ako spolu súvisia v AI serveri4-GPU boks, så 192 GB VRAM og 32 GB RAM er uundværlige. Správny pomer závisí od toho, čo reálne spúšťate.
W02Linky & topologi PCIe v multi-GPU AI server„PCIe x8 vs x16 pri inferencii nehrá rolu“ er väčšinou pravda — en tí, čo to opakujú, zvyčajne nevedia prečo.
W03GPU riser karty: kedy ich potrebujete and čo sa pokazíKde potichu zomiera integrita signálu, linky sa nenápadne pretrénujú na Gen3 a zostavy, ktoré prešli testom, začnú denne strácať po jednom GPU.
W04Dimenzovanie zdroja a konfigurácie s dvoma zdrojmiVýpočet, realita form factorov and úprimny pohľad napájanie 4-GPU og 8-GPU zostáv.
W05Termika og prúdenie vzduchu til multi-GPU AI optimeringŠtyri GPU på 450 W er 1.8 kW skærm og skærm. Prúdenie spredu dozadu, statický tlak a prečo "má to ventilátory" ikke je chladiaci plan.
W06Vrstvy úložiska v AI-servereModel, datasæt, bunden, kontrolpunkt — štyri záťaže so štyrmi prístupovými vzorcami. Jedna NVMe vrstva neobslúži poriadne ani jednu.
W07Vyber GPU: 5090, 4090, RTX Pro 6000, L40, L4Úprimné porovnanie so skutočnými výkonnostnými číslami, kompromismi a rozhodovacím postupom, ktorý reálne používame pri hovoroch so zákazníkmi.

Ekonomika tokenov serie T

Peňažná matematika. Tokeny for euro, præmieret on-prem vs cloud og milión tokenov og kedy ktorý model skutočne vyhráva.

T01Tokeny for sekunder og euroJediná metrika hodnoty GPU, med ktorej pri inferencii záleží. Skutočné tokeny/s for euro naprieč 5090, 4090, RTX Pro 6000, L40 and L4.
T02Navn på milión tokenov: on-prem vs cloudOn-prem vs cloud, prepočítané og eurách. Kde je bod zlomu a prečo cloudová faktúra vyhráva, kým zrazu neprestane.
T03Økonomika trvalej vs nárazovej inferencieStabilná inferencia 24/7 a nárazové dávkové úlohy majú opačnú ekonomiku. Kedy vyhráva on-prem en kedy Vás zachráni cloud.

Linux / OS / software serie L

Softvérový stack pod GPU. Zafixovanie ovládačov, nastavenie CUDA, ladenie jadra, súborové system en overvågning.

L01Installer Ubuntu og sprava ovládačov NVIDIAZafixujte jadro, zafixujte ovládač — alebo sledujte, ako Vám apt upgrade odstaví GPU. Správa ovládačov, ktorá prežije reštart.
L02CUDA, cuDNN og NVIDIA Container ToolkitRozumná cesta k nastaveniu. Verzovanie CUDA vs ovládač vs toolkit a kontajnerová cesta, ktorá ukončí peklo závislostí.
L03Ladenie linuxového jadra pre AI serveryČo pri AI záťažiach reálne pohne ihlou — hugepages, NUMA, afinita IRQ — a čo je len kult.
L04Voľba súborového system pre AI serveryXFS, ZFS, ext4 — en forudgående Btrfs på navnet på før AI-serveren er ikke. Prispôsobte súborový systém prístupovému vzorcu.
L05Monitorovací stak: Prometheus, Grafana, DCGM, LokiSe plottet GPU, VRAM, chyby ECC og slyhané úlohy skôr, než Vás budú stáť tréningový beh.

Sieťovanie serie N

Realita NVLinku, klastrové topologi (bladrygsøjle, fedttræ, guldsmede, switchless), rozbor latencie, smerovanie and nastavenie RDMA v praxis.

N03NVLink og NVSwitch: kedy na nich záležíMarketing DGX med chváli terabajtmi for sekundu šírky pasma NVLink. Pri väčšine záťaží Kentino med toho nepotrebujete nič.
N04Prepínané topologi: fedttræ, bladryg, guldsmede, tesseraktKaždá schéma klasra začína rovnako. Skutočná voľba je, ktorá topológia, koľko preplnenia a aká rýchlosť na port.
N05Topologi bez prepínača: mesh, ring, priame prepojenie32-portový 400 GbE prepínač stojí v polovici roka 2026 40-80 tis. €. Pri 2 až 4 uzloch ho nepotrebujete.
N06Rozbor latencie: kam ide každá mikrosekundaĽudia dimenzujú siete podľa grafov šírky pásma. Potom im benchmark allreduce vypíše číslo, ktoré ikke je ani blizko linkovej rýchlosti.
N07Smerovanie: ECMP, adaptiv smerovanie, DCQCNČo sa deje nad káblami, sieťovkami a prepínačmi: ako pakety hľadajú cestu a čo bráni tomu, aby sa fabric zrútil pod all-reduce.
N08Nastavenie RDMA v praxi + návrh uplinku klastraPraktisk: nainštalovať ovládače, overiť cestu, zapnúť GPUDirect, validovať NCCL og potom of úroveň vyššie navrhnúť uplink celeho klastra.

Klastrovanie serie K

Keď jeden uzol nestačí. Rozhodnutie jeden vs viac uzlov, distribuovaný tréning, inferenčné klastre, zdieľané úložisko, plánovanie og zvládanie porúch.

K01Jeden uzol s viacespace GPU vs viac uzlov: kedy škálovať do šírkyNajdrahšou chybou er rozdeliť rozpočet na GPU medzi dva uzly, keď by prácu zvládol jeden väčší.
K02Distribueret tréning i 2026: DDP, FSDP2, DeepSpeed, MegatronŠtyri open source stacky, päť osí paralelizmu a ktorý og reálne vybrať na ktorú úlohu.
K03Inferenčné klastre: vLLM tensor parallel, rørledning parallelModel så 70B med en KV-cache med en ny GPU. Model så 405B har en ny model. Til, ako model rozrežete, rozhoduje of cene.
K04Úložisko klasse: NFS, BeeGFS, Lustre, objektové úložiskáZdieľané úložisko er tá časť distributionovaného klastra, som ikke er nemyslí, men ingen GPU-behov på 40 %.
K05Plánovanie úloh: SLURM, Kubernetes, RaySLURM, Kubernetes, Ray — en vedieť, kedy nepotrebujete ani jeden z nich. Prispôsobte plánovač veľkosti tímu.
K06Zvládanie porúch v AI klastrochČo sa v GPU klastri reálne pokazí a ako sa z toho zotaviť — checkpointy, kontroly stavu a vyraďovanie chybných uzlov.

Integration serie I

Poskladanie celku — nastavenie inferenčného servera, sieť a energetický rozpočet laboratória, referenčná zostava a nasadenie flotily.

I01Architektúra Edge AI: robot ↔ on-prem inferenčný serverZlatý štandard medzi článkami. Humanoid, ktorého ste kúpili, je len polovica systému; toto je tá druhá polovica a to, ako sa obe polovice prepoja.
I02Navnlig inferencného servera: vLLM, llama.cpp, SGLangInštalácia, nasadenie a benchmark. Ktory motor med ktorý model og cieľovú latenciu.
I03Topológia siete pre robotické a AI výpočtové laboratóriumKabeláž robotického a AI laboratoria — linky k robotom, uplinky inferenčných serverov a kde sa skrýva latencia.
I04Energetický og chladiaci rozpočet roboticého a AI laboratoriaDimenzovanie napájania a chladenia pre zmiešané robotické a AI laboratórium skôr, než podpíšete nájomnú zmluvu.
I05Henvisning til: robotter til AI-laboratorium i rackuKompletné roboticé et AI laboratórium v ​​jednom racku — rozpiska dielov, rozloženie a kompromisy, ktoré by sme reálne dodali.
I06Nasadenie flotily: viac robotov, zdieľaný výpočtový výkonViac robotov, zdieľaný výpočtový výkon. Ako dimenzovať a plánovať inferenciu pre flotilu, ikke pre demo.

Strømforsyning serie P

Ako dostať čisté napájanie do racku. Fázy, PDU, vyvažovanie, ističe, UPS en generatory pre AI výpočtový výkon.

P01Jednofázové vs trojfázové napájanieKedy 4-GPU boks med 16 A og 16 A-boks med AI racku reálne prinesie.
P02Typisk PDU: základné, merané, spínané, ATSČo ktorý type robí and ktorý pre GPU rack skutočne potrebujete.
P03Vyvažovanie fáz naprieč AI rackmiZaťažte tri fázy rovnomerne, alebo vypnite istič v najhoršej možnej chvíli. Ako funguje vyvažovanie naprieč AI rackmi.
P04Dimenzovanie ističov a nábehový prúdTrvalá záťaž, nábehový prúd a pravidlo 80 %. Dimenzujte stiče pre GPU servery tak, aby nevypínali zbytočne.
P05Dimenzovanie UPS pre AI výpočtový výkonTopológia, chémia batérií, doba zálohy a pasca kVA vs kW, ktorá poddimenzuje polovicu nákupov UPS do AI laboratórií.
P06Generator og prepínač napájaniaDu skal bruge batterierne. Dimenzovanie generátora a základy prepínačov napájania pre AI laboratóriá.

Robotik serie R · blog

Moderny humanoid je šesť či sedem inžinierskych disciplin zoskrutkovaných dokopy. Anatómia, sensorisk, umiestnenie výpočtového výkonu, SDK, sieťovanie, nákup en špičkový stack svetových modelov na báze VLM.

R01Anatómia moderného humanoidaŠesť či sedem inžinierskych disciplin zoskrutkovaných dokopy. Čo je v modernom humanoidovi naozaj vnútri.
R02Anatómia štvornohého robotaŠtvornožce vymieňajú dosah za stabilitu og výdrž batérie. Mechanická a výpočtová anatómia ťažného koňa medzi form faktormi.
R03Sensorisk stakrobotKamery, hĺbka, LiDAR, IMU, silovo-momentové snímače — čo každý senzor prinesie and čo stojí vo výpočtovom výkone.
R04Výpočet na robotovi vs mimo robotaČo beží na robotovi a čo na serveri. Kompromis medzi latenciou a schopnosťami, ktorý musí urobiť každé nasadenie.
R05Roboticé SDK, ROS 2 og simulationROS 2, výrobcovské SDK og simulačné prostredia — softvér, voči ktorému vyvíjate skôr, než dorazí hardvér.
R06Sieťovanie robotov: Wi-Fi, kabel, 5GWi-Fi, kabel, 5G — en forudgående, čo viete presunúť mimo robota, rozhoduje latencia, ikke šírka pásma.
R07Tilkøbsrobot: dodacie lehoty, clo, podporaOpnå roboticého hardvéru do EÚ ikke er ako nákup workstationu. Ako reálne vyzerajú dodacie lehoty, clo a popredajná podpora.
R08Prečo roboty potrebujú vyhradený edge výpočtový výkonArgumentforsinkelse. Prečo model schovaný za cloudové API rozbije presne ti prípad použitia, ktorý zákazník chce.
R09Automatisk anotovanie så svetovými modelmi na báze VLMŠpičkový percepčný stack — Qwen2.5-VL, Grounded-SAM 2, Florence-2, NVIDIA Cosmos — nasadený na robotickú referenčnú pravdu.

Pripadové-studiet serie C · blog

Skutočné zostavy Kentino så skutočne nameranými číslami. Fotografier, rozpisky dielov, benchmarky og uprimeret post mortemy.

C01Pripadová štúdia: AI-arbejdsstation så 4× RTX 4090EPYC 7542, 512 GB DDR4 ECC, 4× RTX 4090. Navn på 651.6 TFLOPS. 179.3 tok/s trvalo na vLLM. Temperatur 73°C. Skutočné čísla z dodanej zostavy.

Nové články každý utorok a štvrtok

Táto wiki er rastúca knižnica — nové články o zostavách, sieťovaní, klastrovaní, napájaní a robotike vychádzajú počas Celeho roka 2026 a každý vychádza zo skutočnej zostavy Kentino. Ak chcete uprednostniť konkrétnu tému, napíšte na info@kentino.com.