Lhali i těm rybám! Aneb proč umělá inteligence občas kecá a co z toho plyne pro klinickou praxi

Možná si pamatujete scénu z filmu Volný pád, kde postava Seržanta Martina Prendergasta lakonicky konstatuje: „Lhali i těm rybám.“ Tak nějak se cítí i odborníci, když sledují, co někdy vyprodukuje umělá inteligence. Ať už jste lékař, fyzioterapeut nebo někdo mezi tím, je nejvyšší čas si říct: proč AI kecá a proč bychom si na to měli dávat setsakra pozor.

„Halucinace“: Nejen doména psychiatrie

V řeči AI se halucinací rozumí situace, kdy model (například jazykový, jako je ChatGPT) s naprostou sebedůvěrou generuje něco, co zní věrohodně, ale je to blbost. Může jít o smyšlený vědecký článek, neexistující lék, nebo třeba vymyšlenou interpretaci klinického nálezu. A pozor – není to bug (tedy chyba programu) . Je to vlastnost.

Modely nejsou připojené na nějaký „zdroj pravdy“. Generují odpovědi na základě pravděpodobnostního odhadu toho, co by v daném kontextu mělo následovat – podobně jako když píšete SMS a mobil vám nabízí slova. Jenže tady se bavíme o sofistikovanější verzi, která dokáže velmi přesvědčivě fabulovat.

Když si AI vymýšlí, netváří se jako pohádkář

Zdravotníci mají jednu profesní slabinu – jsou zvyklí věřit tomu, co zní odborně. Jenže právě v tom je zakopaný pes. Umělá inteligence umí vygenerovat větu typu:

„Fyzioterapeutické intervence při algodystrofickém syndromu by měly vždy vycházet z recentního doporučení EAN z roku 2023.“

Zní to důvěryhodně? Určitě. Je to pravda? Ne. Takové doporučení neexistuje.

A teď si představte, že si AI začne „vymýšlet“ kontraindikace, dávkování, interakce nebo léčebné postupy. V lepším případě se zasmějete. V horším – přepíšete dokumentaci nebo ovlivníte léčbu.

Nejčastější „halucinace“ v klinické praxi:

1. Smyšlené studie nebo kazuistiky Modely mají tendenci „vyrobit“ vědecké články, které nikdy nevznikly – s reálně znějícími názvy časopisů, autorů i DOI.

2. Záměna pojmů Například zamění „ALS“ za „ASL“, „muskuloskeletální“ za „neuromuskulární“, a vy si toho v rychlosti ani nevšimnete.

3. Neexistující postupy AI umí vymyslet postupy, které vypadají jako z odborné příručky, ale ve skutečnosti jsou mixem různých oborových standardů – něco jako kdyby vám někdo předepsal kombinaci antibiotik podle receptu na brownies.

   
   

Tak proč AI vlastně lže?

Ne proto, že by měla zlý úmysl. Ona totiž neví, co je pravda. Pracuje s tím, co viděla (v trénovacích datech) a co je statisticky „pravděpodobné“. Když jí chybí informace, neváhá si je domyslet. Proč? Protože jejím cílem není pravda, ale plynulý a věrohodný text.

To, co vypadá jako sebedůvěra, je jen absence pochybností (zní to jako popis některých pacientů, viďte?)

Co s tím jako zdravotník?

1. Nekopírujte slepě Co vyplivne AI, berte jako návrh, ne jako finální verdikt.

2. Ověřujte fakta Zvláště u nových doporučení, čísel, diagnóz nebo léčebných modalit.

3. Vnímejte kontext AI neumí „číst mezi řádky“ – neví, jestli zrovna mluvíte o dítěti po operaci nebo o seniorském sportovci.

4. Buďte skeptičtí tam, kde byste nevěřili ani medikovi Když vám AI něco tvrdí bez citace nebo s podivným odkazem, je to stejné, jako když vám student 4. ročníku tvrdí, že se slezina regeneruje jako játra.

   
   

A co fyzioterapeuti?

Ti jsou častým cílovým publikem „AI bludů“ – protože jejich obor je stále plný prostor pro interpretaci, techniky a přístupy. AI pak může působit jako guru, který „ví všechno“. Jenže pozor – může taky navrhnout kombinaci metody Bobath a tejpování jazylky v rytmu alfy vln. Ne proto, že to má smysl, ale protože se to někde „v textu“ vyskytlo spolu.

Specializovaná umělá inteligence ve zdravotnictví: cesta k bezpečnějším rozhodnutím

V posledních letech se do popředí zájmu dostávají specializované modely umělé inteligence (AI) určené přímo pro použití ve zdravotnictví – zejména v oblasti podpory klinického rozhodování, zpracování obrazových dat (např. radiologie, patologie), predikce rizik nebo automatizace dokumentace. Tyto systémy se zásadně odlišují od velkých jazykových modelů (LLM), jaké známe např. z obecně dostupných chatbotů nebo generativních nástrojů.

Klíčový rozdíl: účelová odborná trénovanost

Zatímco velké jazykové modely jsou trénovány na obrovském množství obecného textového obsahu (internetu, knihách, článcích), specializovaná AI pro zdravotnictví pracuje s kurátorskými klinickými daty – často strukturovanými, anonymizovanými a odborně ověřenými. Tím se významně snižuje riziko tzv. halucinací – tedy výstupů, které působí přesvědčivě, ale nejsou fakticky správné nebo ověřené.

Výhoda v přesnosti a důvěryhodnosti

Cílené modely pro konkrétní medicínské úlohy (např. rozpoznávání změn na snímcích, klasifikace diagnóz, návrhy dávkování) mají:

• omezený a kontrolovaný rozsah vstupních dat (např. jen radiologické snímky nebo ICD-10 kódy),

• transparentní trénovací dataset (často s lékařsky anotovanými případy),

• možnost validace a certifikace dle norem pro zdravotnické prostředky (např. MDR, ISO 13485),

• nízkou míru rizika chybných výstupů v porovnání s LLM, které generují text na základě pravděpodobnosti výskytu slov.
  

Závěrem – když vám AI bude tvrdit, že ryby mají diagnostické protokoly, nevěřte jí.

Umělá inteligence je výborný pomocník. Ale špatný šéf. Není to databáze pravd, ale jazykový iluzionista. Využijte její sílu – k inspiraci, návrhům textů, sumarizaci literatury. Ale finální rozhodnutí musí zůstat na vás. Odpovědnost taky.

A hlavně: pamatujte, že lhali i těm rybám. Tak proč by nelhali vám?