IT wiki

VU MIF STSC

User Tools

Site Tools


hpc

Skirtumai

Čia matote skirtumus tarp pasirinktos versijos ir esamo dokumento.

Link to this comparison view

Both sides previous revisionPrevious revision
Next revision
Previous revision
Next revisionBoth sides next revision
hpc [2021/12/14 10:05] – [Nuorodos ir mokymo medžiaga] mif28585hpc [2021/12/15 15:51] – [Programinė įranga] rolnas
Linija 29: Linija 29:
 $ singularity exec -w /tmp/python pip install paketas $ singularity exec -w /tmp/python pip install paketas
 $ singularity build python.sif /tmp/python $ singularity build python.sif /tmp/python
-$ rm -/tmp/python+$ rm -rf /tmp/python
 </code> </code>
 Analogiškai galima pasinaudoti R, Julia ar kitais konteineriais, kuriuose paketams instaliuoti nereikia naudotojo root teisių. Analogiškai galima pasinaudoti R, Julia ar kitais konteineriais, kuriuose paketams instaliuoti nereikia naudotojo root teisių.
 +
 +Jeigu norima papildyti singularity kontainerį OS paketais, tam reikia root/superuser teisių. Su fakeroot jas simuliuojame, o jam reikalingas bibliotekas kataloge ''/usr/lib/x86_64-linux-gnu/libfakeroot'' prikabiname į konteinerį, pvz:
 +<code shell>
 +$ singularity build --sandbox /tmp/python docker://ubuntu:18.04
 +$ mkdir /tmp/python/usr/lib/x86_64-linux-gnu/libfakeroot
 +$ fakeroot singularity exec -B /usr/lib/x86_64-linux-gnu/libfakeroot -w /tmp/python apt-get update
 +$ fakeroot singularity exec -B /usr/lib/x86_64-linux-gnu/libfakeroot -w /tmp/python apt-get install python3.8 ...
 +$ fakeroot singularity exec -B /usr/lib/x86_64-linux-gnu/libfakeroot -w /tmp/python apt-get clean
 +$ rm -rf /tmp/python/var/lib/apt/lists (galima ir daugiau išvalyti, ko nereikia)
 +$ singularity build python.sif /tmp/python
 +$ rm -rf /tmp/python
 +</code>
  
 Kataloge ''/apps/local/bigdata'' yra paruošti scenarijai pasileisti savo **hadoop** užduotis pasinaudojant [[https://github.com/LLNL/magpie|Magpie]] rinkiniu. Kataloge ''/apps/local/bigdata'' yra paruošti scenarijai pasileisti savo **hadoop** užduotis pasinaudojant [[https://github.com/LLNL/magpie|Magpie]] rinkiniu.
Linija 42: Linija 54:
 </code> </code>
  
 +Taip pat jūs galite pasinaudoti savo pasidarytu konteineriu per JupyterHub. Tam konteineryje būtinai reikia instaliuoti aukščiau nurodytus jupyterlab paketus bei sukurti script'ą ''~/.local/bin/batchspawner-singleuser''
 +<code shell>
 +#!/bin/sh
 +exec singularity exec --nv myjupyterlab.sif batchspawner-singleuser "$@"
 +</code>
 ====== Registracija ====== ====== Registracija ======
  
Linija 217: Linija 234:
 **1 mokymų dalis** **1 mokymų dalis**
  
-- Trumpai apie HPC, kas tai yra, kam jo reikia+ - Trumpai apie HPC, kas tai yra, kam jo reikia
  
-- Kokie HPC būna, koks yra VU ir kokia MIF dalis+ - Kokie HPC būna, koks yra VU ir kokia MIF dalis
  
-- Kaip prisijungti MIF darbuotojams / studentams prie HPC+ - Kaip prisijungti MIF darbuotojams / studentams prie HPC
  
-- SSH rakto kūrimas ir naudojimas Windows aplinkoje+ - SSH rakto kūrimas ir naudojimas Windows aplinkoje
  
-- WinScp naudojimas Windows aplinkoje+ - WinScp naudojimas Windows aplinkoje
  
  
-* [[https://drive.mif.vu.lt/s/xcK4cS8k3rZoKG9|Įvadas į HPC (skaidrės)]]+ * [[https://drive.mif.vu.lt/s/xcK4cS8k3rZoKG9|Įvadas į HPC (skaidrės)]]
  
-* [[https://drive.mif.vu.lt/s/ipy3FLNGnEqm8TE|Įvadas į HPC (video) ]]+ * [[https://drive.mif.vu.lt/s/ipy3FLNGnEqm8TE|Įvadas į HPC (video) ]]
  
 **2 mokymų dalis** **2 mokymų dalis**
  
-- Slurm komandos darbams paleisti/stabdyti ar progresui peržiūrėti.+ - Slurm komandos darbams paleisti/stabdyti ar progresui peržiūrėti.
  
-- Sbatch failas ir jo tipiniai parametrai CPU ir GPU particijoms+ - Sbatch failas ir jo tipiniai parametrai CPU ir GPU particijoms
  
-- Darbai interaktyviu režimu ir darbai liekantys veikti po atsijungimo (Sbatch)+ - Darbai interaktyviu režimu ir darbai liekantys veikti po atsijungimo (Sbatch)
  
-- Python/R/julia ar kitų kalbų paketų diegimas+ - Python/R/julia ar kitų kalbų paketų diegimas
  
-- Singularity konteineriai: atsisiuntimas ir/arba esamų modifikavimas+ - Singularity konteineriai: atsisiuntimas ir/arba esamų modifikavimas
  
-- Darbas su MPI+ - Darbas su MPI
  
-- Rezultatų išvedimas ir parsisiuntimas į naudotojo kompiuterį+ - Rezultatų išvedimas ir parsisiuntimas į naudotojo kompiuterį
  
-- Papildomų resursų užsakymai (Waldur)+ - Papildomų resursų užsakymai (Waldur)
  
-* [[https://drive.mif.vu.lt/s/tHGtLZHbyQHpXK8|Užduočių valdymas, naudotojų PĮ ir CPU skaičiavimai HPC infrastruktūroje (skaidrės)]]+ * [[https://drive.mif.vu.lt/s/tHGtLZHbyQHpXK8|Užduočių valdymas, naudotojų PĮ ir CPU skaičiavimai HPC infrastruktūroje (skaidrės)]]
  
-* [[https://drive.mif.vu.lt/s/mDTbB3stWe9AKyS|Užduočių valdymas, naudotojų PĮ ir CPU skaičiavimai HPC infrastruktūroje (video)]]+ * [[https://drive.mif.vu.lt/s/mDTbB3stWe9AKyS|Užduočių valdymas, naudotojų PĮ ir CPU skaičiavimai HPC infrastruktūroje (video)]]
  
   * [[http://mif.vu.lt/itapc#paslaug%C5%B3-u%C5%BEsakymas|ITAPC paslaugų užsakymas]]   * [[http://mif.vu.lt/itapc#paslaug%C5%B3-u%C5%BEsakymas|ITAPC paslaugų užsakymas]]
hpc.txt · Keista: 2024/02/21 12:50 vartotojo rolnas

Donate Powered by PHP Valid HTML5 Valid CSS Driven by DokuWiki