Alle innlegg

Prosjektjournal

Lite ledig plass på eX3

Modellen kjører, dataene er klare, og det som stopper prosjektet er at det ikke finnes et ledig GPU-kort

1 min lesetid
Elias Trana
Et ekte menneske
Modelltesting

Kort forklart

På ditt nivå

Få en kort oppsummering av innlegget, tilpasset deg.

Velg forklaringsnivå

Forklar uten teknisk bakgrunn

I dag døde Kongen.

Ingen ledige kort på eX3

Inferenskjeden er ferdig. Miljøet bygger, sjekkpunktet laster, begge datasettene finnes med 98 variabler på riktige rutenett, og modellen kommer helt inn i beregningen — «Predicting DataLoader 0» — før den stopper.

Den stopper på minne. Og forsøkene på å løse det stopper på noe annet: det finnes ikke et ledig kort å prøve på.

Hva som faktisk er tilgjengelig

Status på eX3 i dag:

PartisjonTilgjengelig
a100q / milanq0 av 4 A100
hgx2q0 av 8, alle med 5–10 døgn igjen
dgx2q13 ledige V100, men reservert til _____ til 29. aug 12:56
h200qreservert til _____ fra i dag

a40q og gh200q står ikke i tabellen fordi de er aarch64, og miljøet er bygget fra METs x86/CUDA-låsefil. Det oppdaget jeg ved å sende en jobb dit og få

x86_64-binfmt-P: Could not open '/lib64/ld-linux-x86-64.so.2'

som ser ut som et manglende bibliotek og egentlig er feil arkitektur.