IT wiki

VU MIF STSC

User Tools

Site Tools


hpc

Skirtumai

Čia matote skirtumus tarp pasirinktos versijos ir esamo dokumento.

Link to this comparison view

Both sides previous revisionPrevious revision
Next revision
Previous revision
hpc [2022/09/30 07:44] – [Programinė įranga] rolnashpc [2024/02/21 12:50] (esamas) – [Singularity] rolnas
Linija 19: Linija 19:
  
 Instaliuotų OS paketų sąrašą galite pasitikrinti su komanda ''dpkg -l'' (prisijungimo mazge **hpc** arba **power** mazguose). Instaliuotų OS paketų sąrašą galite pasitikrinti su komanda ''dpkg -l'' (prisijungimo mazge **hpc** arba **power** mazguose).
 +
 +===== Singularity =====
  
 Su komanda [[https://sylabs.io/guides/3.2/user-guide/index.html|singularity]] galima pasinaudoti jau paruoštomis konteinerių failų kopijomis kataloguose ''/apps/local/hpc'', ''/apps/local/nvidia'', ''/apps/local/intel'', ''/apps/local/lang'' arba pačiam atsisiųsti iš singularity ir docker internetinių katalogų. Pasinaudojus MIF cloud paslauga galima susikurti ir savo singularity konteinerius. Su komanda [[https://sylabs.io/guides/3.2/user-guide/index.html|singularity]] galima pasinaudoti jau paruoštomis konteinerių failų kopijomis kataloguose ''/apps/local/hpc'', ''/apps/local/nvidia'', ''/apps/local/intel'', ''/apps/local/lang'' arba pačiam atsisiųsti iš singularity ir docker internetinių katalogų. Pasinaudojus MIF cloud paslauga galima susikurti ir savo singularity konteinerius.
Linija 25: Linija 27:
 <code shell> <code shell>
 $ singularity build --sandbox /tmp/python docker://python:3.8 $ singularity build --sandbox /tmp/python docker://python:3.8
-$ singularity exec -w /tmp/python pip install paketas+$ mkdir ~/workdir 
 +$ singularity exec -H ~/workdir:$HOME -w /tmp/python pip install paketas
 $ singularity build python.sif /tmp/python $ singularity build python.sif /tmp/python
 $ rm -rf /tmp/python $ rm -rf /tmp/python
 </code> </code>
 +
 +Tam kad pasinaudoti tokiu konteineriu, patariama (kad nesusikirstų su esamais python paketais namų kataloge) - pakeisti jame namų katalogą.
 +<code shell>
 +$ mkdir ~/workdir
 +$ singularity exec -H ~/workdir:$HOME python.sif python3 ...
 +</code>
 +
 Analogiškai galima pasinaudoti R, Julia ar kitais konteineriais, kuriuose paketams instaliuoti nereikia naudotojo root teisių. Analogiškai galima pasinaudoti R, Julia ar kitais konteineriais, kuriuose paketams instaliuoti nereikia naudotojo root teisių.
  
 Jeigu reikia papildyti singularity kontainerį OS paketais, tam reikia root/superuser teisių. Su fakeroot jas simuliuojame, o jam reikalingą biblioteką ''libfakeroot-sysv.so'' kopijuojame į konteinerį, pvz: Jeigu reikia papildyti singularity kontainerį OS paketais, tam reikia root/superuser teisių. Su fakeroot jas simuliuojame, o jam reikalingą biblioteką ''libfakeroot-sysv.so'' kopijuojame į konteinerį, pvz:
 <code shell> <code shell>
-$ singularity build --sandbox /tmp/python docker://ubuntu:18.04+$ singularity build --sandbox /tmp/python docker://ubuntu:20.04
 $ cp /libfakeroot-sysv.so /tmp/python/ $ cp /libfakeroot-sysv.so /tmp/python/
 $ fakeroot -l /libfakeroot-sysv.so singularity exec -w /tmp/python apt-get update $ fakeroot -l /libfakeroot-sysv.so singularity exec -w /tmp/python apt-get update
Linija 42: Linija 52:
 $ rm -rf /tmp/python $ rm -rf /tmp/python
 </code> </code>
 +
 +===== Hadoop =====
  
 Kataloge ''/apps/local/bigdata'' yra paruošti scenarijai pasileisti savo **hadoop** užduotis pasinaudojant [[https://github.com/LLNL/magpie|Magpie]] rinkiniu. Kataloge ''/apps/local/bigdata'' yra paruošti scenarijai pasileisti savo **hadoop** užduotis pasinaudojant [[https://github.com/LLNL/magpie|Magpie]] rinkiniu.
 +
 +===== JupyterHub =====
  
 Su [[https://hpc.mif.vu.lt/hub/|JupyterHub]] galite interneto naršyklės pagalba vykdyti skaičiavimus su python komandų eilute ir pasinaudoti [[https://jupyter.org|JupyterLab]] aplinka. Jeigu savo namų kataloge instaliuosite savo JupyterLab aplinką, tai reikia instaliuoti papildomai ''batchspawner'' paketą - tada jums startuos jūsų aplinką, pvz: Su [[https://hpc.mif.vu.lt/hub/|JupyterHub]] galite interneto naršyklės pagalba vykdyti skaičiavimus su python komandų eilute ir pasinaudoti [[https://jupyter.org|JupyterLab]] aplinka. Jeigu savo namų kataloge instaliuosite savo JupyterLab aplinką, tai reikia instaliuoti papildomai ''batchspawner'' paketą - tada jums startuos jūsų aplinką, pvz:
  
 <code shell> <code shell>
-$ python3.-m pip install --upgrade pip setuptools wheel +$ python3.-m pip install --upgrade pip setuptools wheel 
-$ python3.-m pip install --ignore-installed batchspawner jupyterlab+$ python3.-m pip install --ignore-installed batchspawner jupyterlab
 </code> </code>
  
Linija 97: Linija 111:
  
 ^Eilė (partition) ^Laiko limitas ^RAM    ^Pastabos| ^Eilė (partition) ^Laiko limitas ^RAM    ^Pastabos|
-^main             ^7d            ^7000MB  ^CPU telkinys| +^main             ^nėra          ^7900MB  ^CPU telkinys| 
-^gpu              ^48h           ^12000MB ^GPU telkinys| +^gpu              ^nėra          ^12700MB ^GPU telkinys| 
-^power            ^48h           ^2000MB  ^IBM Power9 telkinys|+^power            ^nėra          ^8000MB  ^IBM Power9 telkinys|
  
-Visose eilėse užduotims laiko limitas yra **2h**, jei jis nebuvo nurodytas, o lentelėje yra pateiktas maksimalus leidžiamas laiko limitas.+Visose eilėse užduotims laiko limitas yra **2h**, jei jis nebuvo nurodytas, o lentelėje yra pateiktas maksimalus leidžiamas laiko limitas (nėra).
  
 **RAM** stulpelyje yra pateikiamas kiekvienam rezervuotam **CPU** branduoliui skiriamas RAM kiekis. **RAM** stulpelyje yra pateikiamas kiekvienam rezervuotam **CPU** branduoliui skiriamas RAM kiekis.
hpc.1664523894.txt.gz · Keista: 2022/09/30 07:44 vartotojo rolnas

Donate Powered by PHP Valid HTML5 Valid CSS Driven by DokuWiki