Articles

Getstarted

Obținerea unui cont

Pentru a solicita un cont pe clusterul de calcul HTCF, vă rugăm să trimiteți un e-mail pentru mai multe informații.

Acces

Utilizarea nodului de trimitere HTCF

Serverul de conectare este htcf.wustl.edu

~$ ssh [email protected]

Dacă utilizați un server X la nivel local, vă puteți conecta cu -Y pentru unele aplicații grafice. odată logat, puteți crea un spațiu de lucru interactiv sau trimite lucrări pe loturi.

~$ ssh -Y [email protected] 

Date & Stocarea datelor

Directoare personale

Care cont de utilizator HTCF are un director personal de 20GB. Acest director poate fi folosit pentru a stoca scripturi, instrumente de dezvoltare, etc. Directoarele de acasă sunt localizate în „/home/WUSTL_KEY_ID” și sunt disponibile pe toate nodurile. Acestea sunt păstrate pe un sistem de stocare cu toleranță la erori și se fac snapshop-uri frecvente pentru a preveni pierderea accidentală a datelor. Copii ale celor mai recente instantanee zilnice sunt păstrate în afara site-ului în scopul recuperării în caz de dezastru.

Long Term Storage

LTS este utilizat pentru a stoca date brute și date „finalizate” ale proiectului. Directoarele LTS nu sunt disponibile pe nodurile de cluster. Stocarea pe termen lung este spațiu de proiect de laborator, disponibil în creșteri de terabyte. Acesta este păstrat pe un spațiu de stocare tolerant la erori, cu snapshop-uri. Copii ale celor mai recente instantanee zilnice sunt păstrate în afara site-ului în scopul recuperării în caz de dezastru.

Stocare de mare viteză

Stocarea de mare viteză HTCF este un sistem de fișiere mare, distribuit, capabil să gestioneze o viteză totală de peste 6GB/secundă. HTS este spațiu de zgârieturi și nu face obiectul unei copii de rezervă. Stocarea de mare viteză este temporară. Nu putem absolut deloc să recuperăm nimic din /scratch odată ce a fost eliminat.

*Datele stocate în /scratch sunt supuse Politicii de curățare a datelor Scratch.

Mai multe informații sunt disponibile pe pagina noastră de stocare a datelor & Data Storage Page

Software

Înumeră software-ul disponibil pe HTCF

module avail

Pentru a încărca software-ul:

module load bowtie2

Pentru a solicita module software suplimentare, vă rugăm să ne contactați.

Mai multe informații sunt disponibile pe pagina noastră de software

Software GUI

Ca urmare a faptului că HTCF este în primul rând un sistem de coadă de așteptare pe loturi pentru procesarea de mare viteză a unor cantități mari de date, aplicațiile GUI nu sunt suportate direct de HTCF. Instalarea și configurarea aplicațiilor GUI pe HTCF sunt lăsate la latitudinea utilizatorului final.

Fluxul de lucru

Job-urile urmează de obicei un flux de lucru generic.

  • A – Datele brute preprocesate intră în LTS
  • B – Datele brute sunt copiate la scratch pentru procesare
  • C – Datele postprocesate sunt copiate în LTS
  • D – Datele postprocesate sunt copiate în LTS
  • D – Datele intermediare generate în etapa B sunt eliminate

Partiții

.

Partiție Memorie maximă Durată Mai multe unități centrale de procesare în coadă
debug 250GB fără limită 3004
interactive 250GB 8 ore 3004

Jobs

Interactive

Sesiunile interactive sunt pentru rularea scripturilor interactive, vizualizare, orice sarcini care sunt prea intensive din punct de vedere computațional pentru a fi rulate pe nodul de conectare și care nu sunt transmise prin sbatch. Valorile implicite sunt: 1 nucleu CPU, 1 GB RAM și o limită de timp de 8 ore.

Puteți crea o sesiune interactivă executând:

~$ interactive

sau puteți modifica următoarea comandă pentru a se potrivi cerințelor dumneavoastră:

srun --mem=2000 --cpus-per-task=1 -J interactive -p interactive --pty /bin/bash -l

Submitere lucrare pe lot

  • Determinare resurse
  • Creare fișier de lucrare
  • Creare fișier sbatch cu resursele necesare
  • Submitere
  • Monitorizare

Exemple de lucrări pe lot

Creare un script de lucrare (myjob.sbatch):

#!/bin/bash#SBATCH --cpus-per-task=1#SBATCH --mem=1Gml programprogram /scratch/lab/files/ABC.fasta /scratch/lab/files/ABC.out

Submiteți scriptul sbatch.

sbatch myjob.sbatch

Veziți lucrarea în coada de așteptare

user@htcf:~$ squeueJOBID PARTITION NAME USER ST TIME NODES NODELIST(REASON)106 debug example example R 0:13 1 n067

GPUs

HTCF are în prezent un număr mic de GPU NVIDIA Tesla V100.

Un GPU este accesibil folosind următorii parametri slurm:

#SBATCH -p gpu#SBATCH --gres=gpu

.