NVIDIA L4 24 GB GDDR6 — Lavprofil Passiv
Platform i virksomhedsklassen, samlet og testet i EU.
NVIDIA L4 24 GB — 72 W inferenskortet
En lavprofileret, passivt kølet datacenter-GPU med enkelt slot, der kun trækker 72 W direkte fra PCIe-slottet – intet strømkabel, intet ekstra luftstrømsdesign. Den mest kompakte måde at tilføje 24 GB inferenskapacitet til en server.
Tæthed og effektivitet, ikke peak gennemløb
L4 er bygget op omkring en anden prioritet end de store acceleratorkort: ydeevne pr. watt og pr. slot. Med 72 W behøver den slet ingen ekstra strømstik, og da den har et enkelt slot og er lavprofileret, passer den til chassis, der fysisk ikke kan acceptere et kort i fuld højde. Denne kombination er det, der gør den til det praktiske valg til at pakke mange uafhængige inferensbelastninger på én server eller til at tilføje kapabel AI-acceleration til kompakte og edge-systemer, hvor strøm og plads er de bindende begrænsninger. Det er også et stærkt grafikkort – hardware-encode og -decode inklusive AV1 – hvilket gør det til et almindeligt valg til transkodning sammen med inferens.
Tekniske data
| GPU | NVIDIA AD104 — Ada Lovelace |
| Part nummer | TCSL4PCIE-PB |
| Hukommelse | 24 GB GDDR6 med ECC |
| Hukommelsesbåndbredde | ~ 300 GB / s |
| CUDA-kerner | 7,680 |
| Tensorkerner | 240 (4. generation) · ~242 TOPS INT8 |
| RT-kerner | 60 (3. generation) |
| grænseflade | PCIe 4.0 × 16 |
| Bestyrelses strømforsyning | 72 W — trækkes fra stikket, intet strømstik |
| Formfaktor | Enkelt slot, lav profil, fuld længde |
| Køling | Passiv — kræver luftstrøm i chassis |
| Skærmudgange | Ingen — kun beregning |
| Videomotorer | Hardware-encodering/decodering inkl. AV1 |
| Garanti | 36 måneder |
Hvor det passer ind
- Til små og mellemstore modeller — 24 GB rummer komfortabelt en kvantiseret 7B-13B-model.
- Mange-GPU inferensservere: Med 72 W pr. kort kan du montere flere uden at skulle ombygge strømforsyning eller køling.
- Lavprofileret og kompakt kabinet, der ikke kan rumme et kort med to slots i fuld højde.
- Videotranskodningspipelines, inklusive AV1, sammen med inferens på det samme kort.
- Edge- og on-premise-implementeringer, hvor det samlede strømforbrug er begrænset.
Ofte stillede spørgsmål
Skal den have et strømkabel?
Nej. Hele kortet kører inden for PCIe-slottets 75 W-budget, så der er ikke noget 8-bens eller 12-bens stik at føre. Det er en stor del af dets appel i tætte konstruktioner - det fjerner fuldstændigt strømforsyningskabler som en begrænsning.
Vil den køle sig selv ned?
Nej. Ligesom andre datacenterkort er det passivt og afhænger af kabinettets luftgennemstrømning. I en server med en ordentlig front-til-bag-passage er dette ideelt; i et stille desktop-kabinet vil det overophede. Spørg os, hvis du er usikker på dit kabinet.
Hvilke modelstørrelser passer til 24 GB?
En kvantiseret 7B-13B-model passer med plads til kontekst. En 70B-model gør ikke – den kræver cirka 40 GB ved 4-bit, så kig i stedet på et 96 GB-kort eller en multi-GPU-konfiguration.
Hvordan er den i sammenligning med L40?
L40 har 48 GB og langt mere datakraft på omkring 300 W og en formfaktor med to slots i fuld højde. L4 bytter den hastighed ud med 72 W, ét slot og lav profil. Vælg L4, når kraft og tæthed bestemmer konstruktionen, L40, når du har brug for ydeevne.
Kan jeg sætte flere på én server?
Ja, og det er her, L4 er bedst — flere kort på 72 W hver holder sig inden for budgetter, der ville være umulige med højtydende GPU'er. Kentino bygger multi-L4 inferensservere, hvis du hellere vil købe den færdige maskine.
Hvad er ledtiden?
Leveres efter bestilling, typisk 10-21 dage. Bed os om at bekræfte den aktuelle tilgængelighed, før du planlægger en dato.
De spørgsmål, købere oftest stiller os, før de bestiller en server.
Hvor lang tid tager det?
Maskiner bygget af komponenter, vi har på lager, sendes hurtigt; alt, der kræver en specifik GPU-generation, afhænger af levering. Vi giver dig en dato, før du betaler, og hvis den ændrer sig, fortæller vi dig det i stedet for at lade dig finde ud af det.
Kan konfigurationen ændres, før du bygger den?
Næsten altid. GPU'er, hukommelse, lagerplads og køling vælges pr. ordre, og den angivne konfiguration er et udgangspunkt snarere end en fast pakke. Hvis du har brug for mere VRAM, hurtigere lagerplads eller en anden kølemetode, så sig det til, inden du bestiller, og vi vil give et tilbud på ændringen.
Kan jeg afhente serveren personligt?
Det kan du. Vores lager ligger i Prag, og personlig afhentning er velkommen – de fleste, der kommer, bruger besøget til at gennemgå maskinen med vores tekniker og stille de spørgsmål, der er akavede, via e-mail. For ordrer inden for Tjekkiet forsøger vi også at levere personligt og guide dig gennem opsætningen på stedet.
Kan jeg tale med en person, der rent faktisk forstår arbejdsbyrden?
Ja. Vi har en ingeniør, der specifikt arbejder med AI-systemer, ikke en generel salgsdisk. Hvis dit spørgsmål handler om batchstørrelser, kvantisering, sammenkobling eller hvor din flaskehals vil være, så stil det – den samtale ændrer normalt konfigurationen til det bedre.
Hvilken model kan jeg køre på denne konfiguration?
Ja. Hver maskine samles, testes med burn-in og benchmarkes på rigtige AI-arbejdsbelastninger, før den sendes, og det efterlader os med en LLM, der allerede er installeret og kører. Du tilslutter den, forbinder den til dit netværk og begynder at arbejde – den eneste beslutning, der er tilbage, er, hvilket projekt den kører først.
Hvordan tester man en server før afsendelse?
Vi kører det mod faktiske AI-arbejdsbelastninger i stedet for syntetiske scorer: inferensgennemstrømning, vedvarende belastningsadfærd og temperaturer under kontinuerlig drift. Du får benchmarkresultaterne med maskinen, så den ydeevne, du blev lovet, er den ydeevne, du kan verificere på dag ét.
Er serveren klar til at køre, når den ankommer?
Ja. Hver maskine samles, testes med burn-in og benchmarkes på rigtige AI-arbejdsbelastninger, før den sendes, og det efterlader os med en LLM, der allerede er installeret og kører. Du tilslutter den, forbinder den til dit netværk og begynder at arbejde – den eneste beslutning, der er tilbage, er, hvilket projekt den kører først.
Sendes fra vores EU-lager. Tunge varer kan kræve fragtaftale — kontakt os for et tilbud på fragt og leveringstid. 2 års begrænset garanti med avanceret RMA-support; udvidet garanti tilgængelig.
Ikke lige præcis hvad du har brug for?
Fortæl os din arbejdsbyrde, så specificerer vi platformen omkring den — GPU'er, hukommelse, lagerplads og køling matchet med det, du rent faktisk kører.