Paralelní algoritmy

Přednášky:

Úvod do problematiky. Motivace a historické poznámky. Vymezení pojmů.

Paralelní výpočetní systémy. Flynnova klasifikace. Propojovací subsystémy.

Volně vázané multiprocesory. Počítačové sítě a masivně paralelní systémy. Klastr Termit a IBM SP.

Paralelní programové modely. Model předávání zpráv.

Návrh paralelního algoritmu: dekompozice, komunikační analýza, aglomerace, alokace na procesory.

Techniky vyvažování zátěže.

Hodnocení paralelních algoritmů. Urychlení, účinnost, cena. Amdahlův zákon.

Škálovatelnost paralelních aplikací. Izoúčinnostní funkce.


Parallel Virtual Machine (PVM). Aplikační uživatelské rozhraní.

PVM (pokračování). Přehled knihovních procedur: řízení procesů, získávání informací,
předávání zpráv aj.

PVM (pokračování). Kolektivní komunikace. Problematika ladění. Vizualizace paralelního běhu.

Vybrané algoritmy ze zvolené aplikační oblasti a jejich paralelizace.

Úvod do Message Passing Interface (MPI). Porovnání s PVM, pokročilé konstrukty.

Programování symetrických multiprocesorů. Vlákna a OpenMP.

Aktuální vývojové trendy v oblasti náročných výpočtů.