Pro e-learningovou podporu bude hlavní důraz kladen na self-contained výukové prezentace, které studentům poskytnou dostatečný obsah k porozumění bez nutnosti intenzivního dohledávání externích zdrojů. K prezentacím budou doplněny podpůrné soubory a případně doprovodná videa, aby byl výklad jasný a přístupný i při samostudiu. V rámci cvičení budou k dispozici také vzorová startovací řešení a podpůrné materiály, které studentům usnadní zahájení práce na praktických úlohách a umožní jim efektivněji rozvíjet vlastní řešení.
Možnost využití AI asistenta nebo agenta je v rámci kurzu uvažována pouze jako doplněk, který může studentům poskytnout dodatečnou interaktivní podporu (např. formou vysvětlení složitějších konceptů nebo konzultací k algoritmům). Hlavní vzdělávací obsah však bude koncipován tak, aby byl plně pochopitelný a zvládnutelný z poskytnutých materiálů samotných.
Umělá inteligence
| Typ studia | navazující magisterské |
|---|---|
| Jazyk výuky | čeština |
| Kód | 460-4169/01 |
| Zkratka | UI |
| Název předmětu česky | Umělá inteligence |
| Název předmětu anglicky | Artificial Inteligence |
| Kreditů | 5 |
| Garantující katedra | Katedra informatiky |
| Garant předmětu | prof. Ing. Roman Šenkeřík, Ph.D., DBA |
Osnova předmětu
AI - přehled, paradigmy, use-cases a limity: AI jako systém, co dnes AI umí/neumí, typické „failure modes“ (halucinace), metriky úspěchu, náklady a rizika, doménová adaptace a mapování AI pipeline.
Trustworthy, Interpretable & Explainable AI: Ante-hoc vs. post-hoc (SHAP/LIME/counterfakty), kalibrace/nejistota, fairness/bias, auditovatelnost, provozní monitoring kvality.
Reinforcement Learning I – základy: value-based (Q-learning, DQN), policy-based, actor-critic; exploration, reward shaping, stabilita učení, MDP/POMDP.
Reinforcement Learning II – pokročilé a nasazení: Offline RL, safe RL, multi-agent, simulace a evaluace politik; použití v doporučování/řízení.
Přehled a aplikační srovnání generativních modelů: VAE, GAN, Flow, Diffusion
Rodiny modelů a jejich vzájemné porovnání a aplikovatelnost, multimodální generování a syntetická data, bezpečnost a evaluace.
LLM vs. SLM: Porovnání, architektury, škálování a parametry; halucinace, factuality a robustnost. Rozhodovací rámec LLM/SLM – výběr modelu a provozní robustnost (kvalita/latence/náklady /soukromí), kontextové okno vs. RAG, caching; typologie halucinací, factuality/groundedness a mitigace halucinace na úrovni modelu a dekódování.
RAG vs. Fine-tuning v praxi: návrhové vzory a evaluace. Indexace (chunking, okna, komprese), benchmarking RAG, typy retrieval metodik, re-ranking, context routing; metriky faithfulness/groundedness (system-centric pohled); bezpečnost (content filters, prompt-injection guard).
Agentní přístupy a tool-use (Model Context Protocol): Rozklad cílů, orchestrace více rolí, plánování úkolů, paměť, volání nástrojů/API, self-critique; function/tool calling; MCP – standardizované bezpečné napojení nástrojů a audit logy; bezpečnostní mantinely.
Soukromí a spolupráce: Federované učení & privacy-preserving AI. Federated AI a frameworky, agregace a škálování, diferencované soukromí, lokální RAG a hybridní dotazování, on-premise/edge AI.
Efektivní inference engineering, produkční prompting a In-Context Learning (ICL): zero-/few-shot a nasazení v praxi, jak navrhnout bezpečný a měřitelný prompting/ICL v produkci; jak zrychlit inference bez fatální ztráty kvality, Kvantizace, distilace, pruning, spekulativní dekódování, cache; programmatic prompting, prompt-security (prompt-injection/jailbreak), ICL selection a A/B evaluace.
Neuro-symbolická AI a znalostní systémy (KG – knowledge graphs),
jak propojit LLM se znalostní bází pro přesnost a audit, RDF/OWL, SPARQL, pravidla a odvozování, pravděpodobnostní rozšíření; LLM+KG, KG-RAG (verifikace, citace).
AutoML, metaučení a reprodukovatelné hodnocení: HPO, konfigurace a výběr portfolia, metaučení; zásady reprodukovatelnosti, datových protokolů a benchmarkingu napříč doménami, syntetická
Trustworthy, Interpretable & Explainable AI: Ante-hoc vs. post-hoc (SHAP/LIME/counterfakty), kalibrace/nejistota, fairness/bias, auditovatelnost, provozní monitoring kvality.
Reinforcement Learning I – základy: value-based (Q-learning, DQN), policy-based, actor-critic; exploration, reward shaping, stabilita učení, MDP/POMDP.
Reinforcement Learning II – pokročilé a nasazení: Offline RL, safe RL, multi-agent, simulace a evaluace politik; použití v doporučování/řízení.
Přehled a aplikační srovnání generativních modelů: VAE, GAN, Flow, Diffusion
Rodiny modelů a jejich vzájemné porovnání a aplikovatelnost, multimodální generování a syntetická data, bezpečnost a evaluace.
LLM vs. SLM: Porovnání, architektury, škálování a parametry; halucinace, factuality a robustnost. Rozhodovací rámec LLM/SLM – výběr modelu a provozní robustnost (kvalita/latence/náklady /soukromí), kontextové okno vs. RAG, caching; typologie halucinací, factuality/groundedness a mitigace halucinace na úrovni modelu a dekódování.
RAG vs. Fine-tuning v praxi: návrhové vzory a evaluace. Indexace (chunking, okna, komprese), benchmarking RAG, typy retrieval metodik, re-ranking, context routing; metriky faithfulness/groundedness (system-centric pohled); bezpečnost (content filters, prompt-injection guard).
Agentní přístupy a tool-use (Model Context Protocol): Rozklad cílů, orchestrace více rolí, plánování úkolů, paměť, volání nástrojů/API, self-critique; function/tool calling; MCP – standardizované bezpečné napojení nástrojů a audit logy; bezpečnostní mantinely.
Soukromí a spolupráce: Federované učení & privacy-preserving AI. Federated AI a frameworky, agregace a škálování, diferencované soukromí, lokální RAG a hybridní dotazování, on-premise/edge AI.
Efektivní inference engineering, produkční prompting a In-Context Learning (ICL): zero-/few-shot a nasazení v praxi, jak navrhnout bezpečný a měřitelný prompting/ICL v produkci; jak zrychlit inference bez fatální ztráty kvality, Kvantizace, distilace, pruning, spekulativní dekódování, cache; programmatic prompting, prompt-security (prompt-injection/jailbreak), ICL selection a A/B evaluace.
Neuro-symbolická AI a znalostní systémy (KG – knowledge graphs),
jak propojit LLM se znalostní bází pro přesnost a audit, RDF/OWL, SPARQL, pravidla a odvozování, pravděpodobnostní rozšíření; LLM+KG, KG-RAG (verifikace, citace).
AutoML, metaučení a reprodukovatelné hodnocení: HPO, konfigurace a výběr portfolia, metaučení; zásady reprodukovatelnosti, datových protokolů a benchmarkingu napříč doménami, syntetická
E-learning
Povinná literatura
1. Sutton, R. S., & Barto, A. G. (2018). Reinforcement Learning: An Introduction (2nd ed.). MIT Press.
2. Huyen, C. (2022). Designing Machine Learning Systems. O’Reilly Media.
3. Foster, D. (2023). Generative Deep Learning (2nd ed.). O’Reilly Media.
4. Molnar, C. (2025). Interpretable Machine Learning (3rd ed.). Leanpub.
5. Tunstall, L., von Werra, L., & Wolf, T. (2022). Natural Language Processing with Transformers (Rev. ed.). O’Reilly Media.
2. Huyen, C. (2022). Designing Machine Learning Systems. O’Reilly Media.
3. Foster, D. (2023). Generative Deep Learning (2nd ed.). O’Reilly Media.
4. Molnar, C. (2025). Interpretable Machine Learning (3rd ed.). Leanpub.
5. Tunstall, L., von Werra, L., & Wolf, T. (2022). Natural Language Processing with Transformers (Rev. ed.). O’Reilly Media.
Doporučená literatura
1. Kleppmann, M. (2017). Designing Data-Intensive Applications. O’Reilly Media.
2. Kairouz, P., et al. (2019/2021). Advances and Open Problems in Federated Learning. Dostupné online z: https://arxiv.org/abs/1912.04977
3. Lewis, P., et al. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP. NeurIPS 2020. Dostupné online z: https://arxiv.org/abs/2005.11401
4. Kaplan, J., et al. (2020). Scaling Laws for Neural Language Models. Dostupné online z: https://arxiv.org/abs/2001.08361
5. Huang, L., Yu, W., Ma, W., et al. (2023). A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions. Dostupné online z: https://arxiv.org/pdf/2311.05232
2. Kairouz, P., et al. (2019/2021). Advances and Open Problems in Federated Learning. Dostupné online z: https://arxiv.org/abs/1912.04977
3. Lewis, P., et al. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP. NeurIPS 2020. Dostupné online z: https://arxiv.org/abs/2005.11401
4. Kaplan, J., et al. (2020). Scaling Laws for Neural Language Models. Dostupné online z: https://arxiv.org/abs/2001.08361
5. Huang, L., Yu, W., Ma, W., et al. (2023). A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions. Dostupné online z: https://arxiv.org/pdf/2311.05232