PŘEHLEDOVÉ ČLÁNKY / REVIEW ARTICLES Umělá inteligence v anesteziologii: od vývoje k bezpečné klinické praxi, narativní přehled 168 | ANESTEZIOLOGIE A INTENZIVNÍ MEDICÍNA / Anest intenziv Med. 2026;37(3):162-171 / www.aimjournal.cz V oblasti lidských a edukačních faktorů se technicky funkční model střetává s reálným klinickým provozem [42]. Pozornost vyžaduje dostatečná AI gramotnost lékařů, zahrnující schopnost porozumět možnostem a limitům AI nástroje, charakteru vstupních dat, riziku zkreslení (bias) a klinickému významu jeho výstupu [3, 4, 43]. S tím souvisí také riziko automation bias, tedy tendence upřednostnit doporučení automatizovaného systému před vlastním úsudkem nebo jinými dostupnými informacemi, včetně situací, kdy je výstup nesprávný nebo neúplný [44]. Význam tohoto rizika v perioperačním rozhodování ilustruje studie Perioperative ORACLE, v níž se rizikový odhad kliniků v asistované skupině více shodoval s výstupem modelu i tehdy, když byl model nesprávný [13]. Samostatnou otázkou zůstává riziko oslabování dovedností lékaře při dlouhodobém spoléhání na automatizovanou podporu, tzv. de‑skilling, tedy situace, kdy může být výkon lékaře snížen v okamžiku, kdy tato podpora není dostupná. V anesteziologii je zatím vhodné jej chápat jako implementační riziko vyžadující sledování [42], přičemž data z jiného procedurálního oboru naznačují, že za určitých okolností může podobný efekt nastat [45]. Regulační rovina pak určuje, za jakých podmínek může AI nástroj vstoupit do klinické praxe. V evropském prostředí je třeba AI systémy s medicínským určením posuzovat současně podle nařízení EU MDR 2017/745 a EU AI Act: první upravuje režim zdravotnických prostředků včetně klinického hodnocení a sledování po uvedení do praxe, druhé doplňuje požadavky na řízení rizik, kvalitu dat a lidský dohled. Nařízení EU AI Act vstoupilo v účinnost v roce 2024, avšak jeho jednotlivé požadavky se začínají uplatňovat postupně: první ustanovení od roku 2025, většina požadavků od roku 2026 a pravidla pro vysoce rizikové systémy obecně od srpna 2026. Pro AI systémy, které jsou zároveň zdravotnickými prostředky podle MDR a spadají do přílohy I AI Act, se však uplatní pozdější termín v srpnu 2027. S ohledem na probíhající vývoj regulačního rámce je vhodné konkrétní data vždy ověřit k okamžiku plánovaného zavedení do klinické praxe [46, 47]. Obdobně v USA posuzuje AI nástroje s medicínským určením úřad FDA (Food and Drug Administration), který vede veřejný seznam AI‑enabled zdravotnických prostředků autorizovaných pro marketing v USA [48]. Nutno podotknout, že splnění regulačních požadavků je podmínkou uvedení nástroje do klinické praxe, nikoli zárukou jeho klinického přínosu pro pacienta. V českém prostředí na evropský rámec navazuje zákon č. 375/2022 Sb., o zdravotnických prostředcích, a zákon č. 325/2021 Sb., o elektronizaci zdravotnictví [49, 50]. Konkrétní vodítko pro reálné klinické prostředí přináší Metodický pokyn Ministerstva zdravotnictví ČR k problematice umělé inteligence pro klinickou praxi, vydaný ve Věstníku MZ ČR č. 20/2025 [51]. Pokyn má doporučující charakter a pro bezpečné používání AI zdůrazňuje důvěryhodnost, transparentnost, odpovědnost a lidský dohled. V části o důvěryhodnosti se odkazuje na principy FUTURE‑AI [4, 51]. Z pohledu českého anesteziologa z něj plynou praktické otázky před zavedením AI nástroje: zda má nástroj status zdravotnického prostředku, jak je integrován do zdravotnické dokumentace, zda je doložena klinická validace a ověřena vhodnost pro daný klinický kontext, kdo sleduje výstup modelu, kdo odpovídá za finální klinické rozhodnutí a jak je používání nástroje průběžně auditováno [51]. Pokud AI výstup slouží jako podklad klinického rozhodování, má být spolu s finálním zhodnocením lékaře zaznamenán ve zdravotnické dokumentaci podle metodického pokynu MZ ČR [51]. Obecné požadavky na obsah a vedení takové dokumentace stanoví vyhláška č. 444/2024 Sb., o zdravotnické dokumentaci [52]. Současně je třeba zohlednit, že zpracování pacientských dat v AI systémech podléhá GDPR a údaje o zdravotním stavu představují zvláštní kategorii osobních údajů. Je nutné vymezit účel a právní základ zpracování, minimalizovat rozsah dat a zajistit odpovídající zabezpečení. Identifikovatelné údaje nemají být vkládány do veřejně dostupných generativních AI služeb mimo institucionálně schválené prostředí [51, 53]. Pokud zdravotnické zařízení vyvíjí vlastní AI nástroj, je nutné předem posoudit, zda přebírá roli tzv. in‑house výrobce podle MDR/IVDR (Medical Device Regulation/In Vitro Diagnostic Regulation), včetně příslušných požadavků na validaci, dokumentaci a dohled [47, 51]. Je‑li Tab. 1. Implementační bariéry při zavádění AI nástrojů v perioperační péči Oblast bariéry Hlavní implementační bariéra Kontrolní otázka před implementací Technická a datová Nedostupnost, neúplnost nebo neaktuálnost vstupních dat; nedostatečná interoperabilita s EHR. Jsou vstupní data dostupná v dobré kvalitě a čase, kdy má být výstup použit v klinickém rozhodování? Metodologická a validační Omezená přenositelnost modelu, chybějící lokální validace, kalibrace a zdůvodnění rozhodovacího prahu. Byl model lokálně validován a kalibrován a odpovídá zvolený práh klinickému účelu, kapacitám a riziku falešně pozitivních a falešně negativních výstupů? Klinicko-provozní Nevhodné začlenění do klinického pracovního postupu, nadměrný objem upozornění, nejasný cílový uživatel a chybějící vazba na konkrétní klinickou akci. Kdo výstup obdrží, kdy jej uvidí a jaká konkrétní reakce má následovat? Lidské a edukační faktory Nadměrné spoléhání na automatizovanou podporu, potenciální riziko oslabování schopností lékaře, nedostatečná AI gramotnost a zvýšená kognitivní zátěž. Rozumí uživatel limitům výstupu a zůstává zachována jeho schopnost samostatného klinického úsudku? Organizační, auditní a regulační Nejasné řízení, odpovědnost, způsob záznamu výstupu AI a finálního klinického rozhodnutí, sledování bezpečnosti a výkonu po zavedení, průběžný audit a regulační status nástroje. Je určeno, kdo odpovídá za použití AI, jak se výstup AI a následné rozhodnutí lékaře zaznamenávají ve zdravotnické dokumentaci a jak se po zavedení sleduje bezpečnost a výkon nástroje? Popis: Tabulka představuje autorskou syntézu hlavních bariér, které mohou bránit přenosu AI nástroje z vývoje, validace nebo časné implementace do bezpečného klinického provozu. Vychází mimo jiné z požadavků na reportování časného klinického hodnocení dle DECIDE-AI, z principů důvěryhodné a klinicky využitelné AI dle FUTURE-AI a z implementačních aspektů popsaných pro perioperační modely strojového učení [3–5]. Regulační a právní rovina je podrobněji rozvedena v textu níže [46, 47, 51, 52, 54]. Zkratky: AI – artificial intelligence; EHR – electronic health record.
RkJQdWJsaXNoZXIy NDA4Mjc=