IT wiki

VU MIF STSC

User Tools

Site Tools

Kelias:
hpc

Skirtumai

Čia matote skirtumus tarp pasirinktos versijos ir esamo dokumento.

Link to this comparison view

Both sides previous revisionPrevious revision
Next revision		Previous revision
Next revisionBoth sides next revision
hpc [2022/02/17 12:45] – [Paketinis užduočių vykdymas (SLURM)] rolnashpc [2022/04/14 13:43] – [Programinė įranga] grikiete
Linija 31: Linija 31:
 Analogiškai galima pasinaudoti R, Julia ar kitais konteineriais, kuriuose paketams instaliuoti nereikia naudotojo root teisių. Analogiškai galima pasinaudoti R, Julia ar kitais konteineriais, kuriuose paketams instaliuoti nereikia naudotojo root teisių.
  
-Jeigu norima papildyti singularity kontainerį OS paketais, tam reikia root/superuser teisių. Su fakeroot jas simuliuojame, o jam reikalingas bibliotekas kataloge ''/usr/lib/x86_64-linux-gnu/libfakeroot'' prikabiname į konteinerį, pvz:+Jeigu reikia papildyti singularity kontainerį OS paketais, tam reikia root/superuser teisių. Su fakeroot jas simuliuojame, o jam reikalingą biblioteką ''libfakeroot-sysv.so'' kopijuojame į konteinerį, pvz:
 <code shell> <code shell>
 $ singularity build --sandbox /tmp/python docker://ubuntu:18.04 $ singularity build --sandbox /tmp/python docker://ubuntu:18.04
-$ mkdir /tmp/python/usr/lib/x86_64-linux-gnu/libfakeroot +$ cp /libfakeroot-sysv.so /tmp/python/ 
-$ fakeroot singularity exec -B /usr/lib/x86_64-linux-gnu/libfakeroot -w /tmp/python apt-get update +$ fakeroot -l /libfakeroot-sysv.so singularity exec -w /tmp/python apt-get update 
-$ fakeroot singularity exec -B /usr/lib/x86_64-linux-gnu/libfakeroot -w /tmp/python apt-get install python3.8 ... +$ fakeroot -l /libfakeroot-sysv.so singularity exec -w /tmp/python apt-get install python3.8 ... 
-$ fakeroot singularity exec -B /usr/lib/x86_64-linux-gnu/libfakeroot -w /tmp/python apt-get clean +$ fakeroot -l /libfakeroot-sysv.so singularity exec -w /tmp/python apt-get clean 
-$ rm -rf /tmp/python/var/lib/apt/lists (galima ir daugiau išvalyti, ko nereikia)+$ rm -rf /tmp/python/libfakeroot-sysv.so /tmp/python/var/lib/apt/lists (galima ir daugiau išvalyti, ko nereikia)
 $ singularity build python.sif /tmp/python $ singularity build python.sif /tmp/python
 $ rm -rf /tmp/python $ rm -rf /tmp/python
Linija 45: Linija 45:
 Kataloge ''/apps/local/bigdata'' yra paruošti scenarijai pasileisti savo **hadoop** užduotis pasinaudojant [[https://github.com/LLNL/magpie|Magpie]] rinkiniu. Kataloge ''/apps/local/bigdata'' yra paruošti scenarijai pasileisti savo **hadoop** užduotis pasinaudojant [[https://github.com/LLNL/magpie|Magpie]] rinkiniu.
  
-Su [[https://hpc.mif.vu.lt/hub|JupyterHub]] galite interneto naršyklės pagalba vykdyti skaičiavimus su python komandų eilute ir pasinaudoti [[https://jupyter.org|JupyterLab]] aplinka. Jeigu savo namų kataloge instaliuosite savo JupyterLab aplinką, tai reikia instaliuoti papildomai ''batchspawner'' paketą - tada jums startuos jūsų aplinką, pvz:+Su [[https://hpc.mif.vu.lt/hub/|JupyterHub]] galite interneto naršyklės pagalba vykdyti skaičiavimus su python komandų eilute ir pasinaudoti [[https://jupyter.org|JupyterLab]] aplinka. Jeigu savo namų kataloge instaliuosite savo JupyterLab aplinką, tai reikia instaliuoti papildomai ''batchspawner'' paketą - tada jums startuos jūsų aplinką, pvz:
  
 <code shell> <code shell>
Linija 65: Linija 65:
 Su suteiktu (pasirinktu) naudotojo vardu ir savo įvestu slaptažodžiu įgyjama teisė jungtis prie serverio **uosis.mif.vu.lt**, VU MIF mokymo klasių ir dalies VU MIF darbo vietų kompiuterių. Su suteiktu (pasirinktu) naudotojo vardu ir savo įvestu slaptažodžiu įgyjama teisė jungtis prie serverio **uosis.mif.vu.lt**, VU MIF mokymo klasių ir dalies VU MIF darbo vietų kompiuterių.
  
-Adresu [[https://hpc.mif.vu.lt|Waldur]] yra savitarnos portalas, kur su savo universiteto (eduGAIN arba LITNET tinkle) prisijungimu galima pačiam susikurti VU MIF HPC prisijungimą ir prašyti gauti prieigą prie šių resursų.+Adresu [[https://hpc.mif.vu.lt|Waldur]] yra savitarnos portalas, kur su savo universiteto (per **eduGAIN** arba **LITNET**) prisijungimu galima pačiam susikurti **HPC** prisijungimą. Daugiau info apie tai [[waldur|čia]].
  
 ====== Prisijungimas ====== ====== Prisijungimas ======
Linija 122: Linija 122:
 </code> </code>
  
-Pateikus paraišką ITAPC ir gavus teigimą sprendimą, reikia susikurti naudotoją https://hpc.mif.vu.lt/. Sukurtas naudotojas bus įtrauktas į atitinkamą projektą, kuris turės tam tikrą kiekį resursų. Norint naudoti projekto resursus atliekant skaičiavimus reikia nurodyti savo alokacijos numerį. Žemiau pateiktas pavyzdys su nustatytu alokacijos parametru "alloc_xxxx_projektas".+Pateikus paraišką ITAPC ir gavus teigimą sprendimą, reikia susikurti naudotoją https://hpc.mif.vu.lt/. Sukurtas naudotojas bus įtrauktas į atitinkamą projektą, kuris turės tam tikrą kiekį resursų. Norint naudoti projekto resursus atliekant skaičiavimus reikia nurodyti savo alokacijos numerį. Žemiau pateiktas pavyzdys su nustatytu alokacijos parametru "alloc_xxxx_projektas" (taikomas ne VU MIF naudotojams, VU MIF naudotojai -- account parametro nurodyti neturi).
  
 <code shell mpi-test-job.sh> <code shell mpi-test-job.sh>
Linija 244: Linija 244:
  
 ====== Resursų limitai ====== ====== Resursų limitai ======
 +
 +Jeigu jūsų užduotys nestartuoja su priežastimi **AssocGrpCPUMinutesLimit** arba **AssocGrpGRESMinutes**,
 + tai pasitikrinkite ar užduotims dar liko neišnaudotų CPU/GPU resursų iš (mėnesio) limito.
  
 Peržiūrėti kiek išnaudota resursų Peržiūrėti kiek išnaudota resursų
Linija 263: Linija 266:
 kur **USERNAME** MIF naudotojo vardas. Arba parametre **-A** nurodyti tą sąskaitą (account), kurio naudojimą norima pažiūrėti. Duomenys pateikiami minutėmis. **GrpTRESRaw** - kiek išnaudota. **GrpTRESMins** - koks yra limitas. **TRESRunMins** - likę resursai dar vis vykdomų užduočių. kur **USERNAME** MIF naudotojo vardas. Arba parametre **-A** nurodyti tą sąskaitą (account), kurio naudojimą norima pažiūrėti. Duomenys pateikiami minutėmis. **GrpTRESRaw** - kiek išnaudota. **GrpTRESMins** - koks yra limitas. **TRESRunMins** - likę resursai dar vis vykdomų užduočių.
  
-====== Nuorodos ir mokymo medžiaga ====== +====== Mokymų medžiaga ======
- +
- +
-**1 mokymų dalis** +
- +
- - Trumpai apie HPC, kas tai yra, kam jo reikia +
- +
- - Kokie HPC būna, koks yra VU ir kokia MIF dalis +
- +
- - Kaip prisijungti MIF darbuotojams / studentams prie HPC +
- +
- - SSH rakto kūrimas ir naudojimas Windows aplinkoje +
- +
- - WinScp naudojimas Windows aplinkoje +
- +
- +
- * [[https://drive.mif.vu.lt/s/xcK4cS8k3rZoKG9|Įvadas į HPC (skaidrės)]] +
- +
- * [[https://drive.mif.vu.lt/s/ipy3FLNGnEqm8TE|Įvadas į HPC (video) ]] +
- +
-**2 mokymų dalis** +
- +
- - Slurm komandos darbams paleisti/stabdyti ar progresui peržiūrėti. +
- +
- - Sbatch failas ir jo tipiniai parametrai CPU ir GPU particijoms +
- +
- - Darbai interaktyviu režimu ir darbai liekantys veikti po atsijungimo (Sbatch) +
- +
- - Python/R/julia ar kitų kalbų paketų diegimas +
- +
- - Singularity konteineriai: atsisiuntimas ir/arba esamų modifikavimas +
- +
- - Darbas su MPI +
- +
- - Rezultatų išvedimas ir parsisiuntimas į naudotojo kompiuterį +
- +
- - Papildomų resursų užsakymai (Waldur) +
- +
- * [[https://drive.mif.vu.lt/s/tHGtLZHbyQHpXK8|Užduočių valdymas, naudotojų PĮ ir CPU skaičiavimai HPC infrastruktūroje (skaidrės)]]+
  
- * [[https://drive.mif.vu.lt/s/mDTbB3stWe9AKyS|Užduočių valdymas, naudotojų PĮ ir CPU skaičiavimai HPC infrastruktūroje (video)]]+Toliau pateikiama informacija apie mokymus, kurie vyko 2021m gruodžio mėn.
  
-**3 mokymų dalis**+===== 1 mokymų dalis =====
  
-- GPU skaičiavimai+  * Trumpai apie HPC, kas tai yra, kam jo reikia 
 +  * Kokie HPC būna, koks yra VU ir kokia MIF dalis 
 +  * Kaip prisijungti MIF darbuotojams / studentams prie HPC 
 +  * SSH rakto kūrimas ir naudojimas Windows aplinkoje 
 +  * WinScp naudojimas Windows aplinkoje
  
-- CUDA programinio kodo spartinimui naudojant GPU+  * [[https://drive.mif.vu.lt/s/xcK4cS8k3rZoKG9|Įvadas į HPC (skaidrės)]] 
 +  * [[https://drive.mif.vu.lt/s/ipy3FLNGnEqm8TE|Įvadas į HPC (video) ]]
  
-- Programavimas Python Jupyter-notebooks su GPU+===== 2 mokymų dalis =====
  
-- Simuliacinių skaičiavimų pavyzdys+  * Slurm komandos darbams paleisti/stabdyti ar progresui peržiūrėti. 
 +  * Sbatch failas ir jo tipiniai parametrai CPU ir GPU particijoms 
 +  * Darbai interaktyviu režimu ir darbai liekantys veikti po atsijungimo (Sbatch) 
 +  * Python/R/julia ar kitų kalbų paketų diegimas 
 +  * Singularity konteineriai: atsisiuntimas ir/arba esamų modifikavimas 
 +  * Darbas su MPI 
 +  * Rezultatų išvedimas ir parsisiuntimas į naudotojo kompiuterį 
 +  * Papildomų resursų užsakymai (Waldur)
  
-- Mašininio mokymo projektas (duomenys/modelis jų įkėlimas/atsisiuntimas)+  * [[https://drive.mif.vu.lt/s/tHGtLZHbyQHpXK8|Užduočių valdymas, naudotojų PĮ ir CPU skaičiavimai HPC infrastruktūroje (skaidrės)]] 
 +  * [[https://drive.mif.vu.lt/s/mDTbB3stWe9AKyS|Užduočių valdymas, naudotojų PĮ ir CPU skaičiavimai HPC infrastruktūroje (video)]]
  
-- Mašininio mokymo pavyzdys naudojant vieną GPU+===== 3 mokymų dalis =====
  
-- Mašininio mokymo pavyzdys naudojant kelis GPU+  * GPU skaičiavimai 
 +  * CUDA programinio kodo spartinimui naudojant GPU 
 +  * Programavimas Python Jupyter-notebooks su GPU 
 +  * Simuliacinių skaičiavimų pavyzdys 
 +  * Mašininio mokymo projektas (duomenys/modelis jų įkėlimas/atsisiuntimas) 
 +  * Mašininio mokymo pavyzdys naudojant vieną GPU 
 +  * Mašininio mokymo pavyzdys naudojant kelis GPU
  
- * [[https://drive.mif.vu.lt/s/MgH6Y9NNA63bQpA|GPU skaičiavimai HPC insfrastruktūroje (skaidrės)]]+  * [[https://drive.mif.vu.lt/s/MgH6Y9NNA63bQpA|GPU skaičiavimai HPC insfrastruktūroje (skaidrės)]] 
 +  * [[https://drive.mif.vu.lt/s/9Zpzxzq4XCyMozp|GPU skaičiavimai HPC insfrastruktūroje (video) ]]
  
- * [[https://drive.mif.vu.lt/s/9Zpzxzq4XCyMozp|GPU skaičiavimai HPC insfrastruktūroje (video) ]]+====== Nuorodos ======
  
 +  * [[waldur|HPC Waldur portalo aprašymas]]
   * [[http://mif.vu.lt/itapc#paslaug%C5%B3-u%C5%BEsakymas|ITAPC paslaugų užsakymas]]   * [[http://mif.vu.lt/itapc#paslaug%C5%B3-u%C5%BEsakymas|ITAPC paslaugų užsakymas]]
   * [[https://slurm.schedmd.com/quickstart.html|Quick Start User Guide (SLURM)]]   * [[https://slurm.schedmd.com/quickstart.html|Quick Start User Guide (SLURM)]]
   * [[https://docs.qlustar.com/Qlustar/11.0/HPCstack/hpc-user-manual.html|HPC User Manual (Qlustar)]]   * [[https://docs.qlustar.com/Qlustar/11.0/HPCstack/hpc-user-manual.html|HPC User Manual (Qlustar)]]
   * [[http://www.mcs.anl.gov/research/projects/mpi/|MPI standartas]]   * [[http://www.mcs.anl.gov/research/projects/mpi/|MPI standartas]]
-  * pagalba@mif.vu.lt - problemų su PST registracija+  * pagalba@mif.vu.lt - problemų su **HPC** registracija
  
hpc.txt · Keista: 2024/02/21 12:50 vartotojo rolnas
Donate Powered by PHP Valid HTML5 Valid CSS Driven by DokuWiki