hpc
Skirtumai
Čia matote skirtumus tarp pasirinktos versijos ir esamo dokumento.
Both sides previous revisionPrevious revisionNext revision | Previous revisionNext revisionBoth sides next revision | ||
hpc [2021/11/10 11:49] – [Paketinis užduočių vykdymas (SLURM)] rolnas | hpc [2021/12/15 13:51] – [Programinė įranga] rolnas | ||
---|---|---|---|
Linija 3: | Linija 3: | ||
Paskirstytų skaičiavimų tinklas (PST) yra specialiai paruoštas kompiuterių tinklas, kuriame yra galimybė vykdyti programas, kurios galėtų efektyviai apsikeisti duomenimis. | Paskirstytų skaičiavimų tinklas (PST) yra specialiai paruoštas kompiuterių tinklas, kuriame yra galimybė vykdyti programas, kurios galėtų efektyviai apsikeisti duomenimis. | ||
- | **Vyksta TESTAVIMAS iki 2021m spalio | + | **Vyksta TESTAVIMAS iki 2021m gruodžio |
VU MIF PST sudaro superkompiuteris iš telkinių (pirmas skaičius - faktiškai pasiekiamas kiekis): | VU MIF PST sudaro superkompiuteris iš telkinių (pirmas skaičius - faktiškai pasiekiamas kiekis): | ||
Linija 22: | Linija 22: | ||
Instaliuotų OS paketų sąrašą galite pasitikrinti su komanda '' | Instaliuotų OS paketų sąrašą galite pasitikrinti su komanda '' | ||
- | Su komanda [[https:// | + | Su komanda [[https:// |
+ | |||
+ | Su singularity galite paruošti savo konteinerį, | ||
+ | <code shell> | ||
+ | $ singularity build --sandbox /tmp/python docker:// | ||
+ | $ singularity exec -w /tmp/python pip install paketas | ||
+ | $ singularity build python.sif / | ||
+ | $ rm -r / | ||
+ | </ | ||
+ | Analogiškai galima pasinaudoti R, Julia ar kitais konteineriais, | ||
+ | |||
+ | Jeigu norima papildyti singularity kontainerį OS paketais, tam reikia root/ | ||
+ | <code shell> | ||
+ | $ singularity build --sandbox /tmp/python docker:// | ||
+ | $ singularity exec -w /tmp/python mkdir -p / | ||
+ | $ fakeroot singularity exec -w /tmp/python apt-get update | ||
+ | $ fakeroot singularity exec -w /tmp/python apt-get install python3.8 ... | ||
+ | $ singularity build python.sif / | ||
+ | $ rm -r / | ||
+ | </ | ||
Kataloge ''/ | Kataloge ''/ | ||
- | Su [[https:// | + | Su [[https:// |
+ | |||
+ | <code shell> | ||
+ | $ python3.7 -m pip install --upgrade pip setuptools wheel | ||
+ | $ python3.7 -m pip install --ignore-installed batchspawner jupyterlab | ||
+ | </ | ||
====== Registracija ====== | ====== Registracija ====== | ||
Linija 51: | Linija 75: | ||
Jeigu naudojate SSH raktus (pvz: jei norite kopijuoti didelius failus): | Jeigu naudojate SSH raktus (pvz: jei norite kopijuoti didelius failus): | ||
- | * Jei neturite SSH raktų, instrukciją kaip juos susikurti Windows aplinkoje rasite [[duk: | + | * Jei neturite SSH raktų, instrukciją kaip juos susikurti Windows aplinkoje rasite |
* | * | ||
* | * | ||
+ | |||
+ | Pirmą kartą prisijungus jūs **negalėsite** paleisti **SLURM užduočių** per pirmąsias **5 minutes**. Po to jums bus automatiškai sukurtas **SLURM naudotojas** ir priskirti **resursų limitai**. | ||
====== Bendra failų sistema (Lustre) ====== | ====== Bendra failų sistema (Lustre) ====== | ||
Linija 86: | Linija 112: | ||
#SBATCH -p main | #SBATCH -p main | ||
#SBATCH -n4 | #SBATCH -n4 | ||
- | module load openmpi/default | + | module load openmpi |
mpicc -o mpi-test mpi-test.c | mpicc -o mpi-test mpi-test.c | ||
mpirun mpi-test | mpirun mpi-test | ||
Linija 196: | Linija 222: | ||
* Jeigu naudosite parametrą '' | * Jeigu naudosite parametrą '' | ||
- | ====== Nuorodos ====== | + | ====== Nuorodos |
+ | |||
+ | |||
+ | **1 mokymų dalis** | ||
+ | |||
+ | - Trumpai apie HPC, kas tai yra, kam jo reikia | ||
+ | |||
+ | - Kokie HPC būna, koks yra VU ir kokia MIF dalis | ||
+ | |||
+ | - Kaip prisijungti MIF darbuotojams / studentams prie HPC | ||
+ | |||
+ | - SSH rakto kūrimas ir naudojimas Windows aplinkoje | ||
+ | |||
+ | - WinScp naudojimas Windows aplinkoje | ||
+ | |||
+ | |||
+ | * [[https:// | ||
+ | |||
+ | * [[https:// | ||
+ | |||
+ | **2 mokymų dalis** | ||
+ | |||
+ | - Slurm komandos darbams paleisti/ | ||
+ | |||
+ | - Sbatch failas ir jo tipiniai parametrai CPU ir GPU particijoms | ||
+ | |||
+ | - Darbai interaktyviu režimu ir darbai liekantys veikti po atsijungimo (Sbatch) | ||
+ | |||
+ | - Python/ | ||
+ | |||
+ | - Singularity konteineriai: | ||
+ | |||
+ | - Darbas su MPI | ||
+ | |||
+ | - Rezultatų išvedimas ir parsisiuntimas į naudotojo kompiuterį | ||
+ | |||
+ | - Papildomų resursų užsakymai (Waldur) | ||
+ | |||
+ | * [[https:// | ||
+ | |||
+ | * [[https:// | ||
* [[http:// | * [[http:// |
hpc.txt · Keista: 2024/02/21 12:50 vartotojo rolnas