Předmět je základní jednotka výuky, jejímž prostřednictvím si student osvojí ucelenou část souboru znalostí a dovedností, potřebnou pro zvládnutí studijního oboru/specializace. Za věcný obsah předmětu zodpovídá garant předmětu. Časovou náročnost předmětu zhruba vyjadřuje atribut předmětu rozsah kontaktní výuky. Například rozsah = 2+2  značí, že předmět bude mít týdně dvě hodiny přednášek a dvě hodiny cvičení týdně. Na závěr semestru musí vyučující provést vyhodnocení, nakolik si ten který student osvojil poznatky a dovednosti, kterých měl během výuky nabýt. Jakým způsobem toto hodnocení vyučující provedou určuje atribut způsob zakončení. U předmětu lze definovat, že předmět je zakončen pouze zápočtem(Z), klasifikovaným zápočtem(KZ), pouze zkouškou(ZK), nebo zápočtem a zkouškou(Z,ZK). Náročnost úspěšného absolvování předmětu je vyjádřena ECTS kreditními body. Výuka předmětu probíhá během semestru. Opakovaně se předmět vyučuje vždy v zimním(Z), nebo v letním(L) semestru každého akademického roku. Výjimečně může předmět být nabízen studentům v obou semestrech(Z,L). Za organizační zajištění výuky zodpovídá přiřazená katedra, která zejména vytvoří časový rozvrh předmětu a zajistí pro předmět vyučující. Někteří přednáší a zkouší, jiní vedou cvičení a udělují zápočty.
Obsahová náplň a další organizační informace, týkající se předmětu je popsána pomocí různých popisných textů(anotace, týdenní osnova, literatura, apod.)
$DODATEK_POPIS

Anotace:
21st century in computer architectures is primarily influenced by the shift of the Moore's law into parallelization of CPUs at the level of computing cores. Parallel computing systems are becoming a ubiquitous commodity and parallel programming becomes the basic paradigm of development of efficient applications for these platforms. Students get acquainted with architectures of parallel and distributed computing systems, their models, theory of interconnection networks and collective communication operations, and languages and environments for parallel programming of shared and distributed memory computers. They get acquianted with fundamental parallel algorithms and on selected problems, they will learn the techniques of design of efficient and scalable parallel algorithms and methods of performance evaluation of their implementations. The course includes a semester project of practical programming in OpenMP and MPI for solving a particular nontrivial problem.

Osnovy přednášek:

1.		Introduction into parallel and distributed programming.
2.		Introduction into OpenMP.
3.		Parallel algorithms for the state space search.
4.		Prpgramming and performance tuning in OpenMP.
5.		Parallel sorting in OpenMP.
6.		Introduction into MPI.
7.		Interconnection networks of parallel computers I.
8.		Interconnection networks of parallel computers II.
9.		Collective communication operations.
10.		Parallel reduction and parallel scan. Parallel I/O.
11.		Parallel algorithms in OpenMP/MPI I.
12.		Parallel algorithms in OpenMP/MPI II.

Osnovy cvičení:

1.		Design and implementation of a sequential algorithm in C/C++.
2.		Design and implementation of a parallel algorithm using OpenMP task parallel constructs.
3.		Design and implementation of a parallel algorithm using OpenMP data parallel constructs.
4.		Design and implementation of a parallel algorithm using MPI on a cluster.
5.		Analysis of parallel performance and scalability of the resulting program and writing a technical report.

Literatura:

[1]		Mattson, T.G. - Sanders, B.A. - Massingill, B.L.: Patterns for Parallel Programming. Addison-Wesley Professional. 2004. 978-0321940780.
[2]		Kumar, V. - Grama, A. - Gupta, A. - Karpis, G.: Introduction to Parallel Computing: Design and Analysis of Parallel Algorithms. Benjamin-Cummings. 1994. 0805331700.
[3]		Miller, R. - Boxer, L.: Algorithms Sequential and Parallel: A Unified Approach. Pearson Education. 1999. 0130863734.
[4]		Wilkinson, B. - Allen, M.: Parallel Programming: Techniques and Applications Using Networked Workstations and Parallel Computers. Prentice Hall. 1998. 0136717101.
[5]		Jaja, J.: An Introduction to Parallel Algorithms. Addison-Wesley. 1992. 0201548569.

Požadavky:
Basic sequential algorithmics, programming, the C/C++programming language, complexity theory, computer architecture, graph theory.

Předmět je zahrnut do těchto studijních plánů:

Plán Obor Role Dop. semestr NIE-DBE.2023 Digital Business Engineering PP 2 NIE-SI.21 Software Engineering 2021 PP 2 NIE-TI.21 Computer Science 2021 PP 2 NIE-NPVS.21 Design and Programming of Embedded Systems 2021 PP 2 NIE-PSS.21 Computer Systems and Networks 2021 PP 2 NIE-PB.21 Computer Security 2021 PP 2