NEUROLOG: PACIENTI SI UŽ SAMI URČUJÍ DIAGNÓZU POMOCÍ AI. JE TO DOBŘE?

Shrnutí

Díl podcastu Uhlík vs Křemík natočený na festivalu Černá AI v Ostravě se věnuje lidem, kteří se o svém zdraví radí s umělou inteligencí. Hostem Davida Salomona a Adama Hanky je neurolog Ondřej Volný z Fakultní nemocnice Ostrava, předseda České společnosti pro umělou inteligenci a inovativní digitální technologie v medicíně a poradce ministra zdravotnictví pro oblast AI.

Volný říká, že jazykové modely nejsou určené k diferenciální diagnostice, ale prediagnostiku zvládají relativně přesně. Varuje před symptomovou spirálou u úzkostnějších lidí a radí nenahrávat do chatu rodné číslo ani celou dokumentaci. Odlišuje obecné jazykové modely od certifikovaných AI nástrojů, které hodnotí snímky, ale vždy jen pro konkrétní diagnózu. Řeč je i o diagnostickém orchestru AI agentů od Microsoftu, o lékařských zprávách přepsaných do srozumitelného jazyka, o tom, kdy se AI vůbec neptat, a o knize o anatomii, na které stojí aplikace Anatomy AI Tutor.

Kapitoly

1. 0:00 Úvod z festivalu Černá AI a představení hosta
2. 5:07 Radíme se o zdraví s jazykovými modely
3. 6:12 Dr. ChatGPT a symptomová spirála
4. 8:39 Natržený sval, diagnóza od GPT a reakce lékaře
5. 13:17 Měří někdo, jak často má pacient s AI pravdu?
6. 16:03 AI gramotnost lékařů a certifikované nástroje
7. 18:10 Srozumitelné lékařské zprávy a ambulance bez počítače
8. 23:43 Sdílení zdravotních dat a co lékař ví o pacientovi
9. 25:53 Zkušený lékař bez AI, nebo průměrný s AI?
10. 29:27 Doktor House AI a diagnostický orchestr Microsoftu
11. 35:48 Kdy jít k lékaři a jak se AI správně ptát
12. 44:07 Kniha o anatomii a aplikace Anatomy AI Tutor

Citáty

„Co musím ale dodat, i jako předseda odborné společnosti, je, že to nejsou nástroje, které by byly určeny k diferenciální diagnostice.“

„Na druhou stranu bych byl rád, kdyby tady zaznělo i to, že někdy, hlavně ti z nás, kteří jsou více úzkostnější, mohou trpět takzvanou symptomovou spirálou, kdy kladou tomu modelu stále otázky dokola, a může je to paradoxně i více zúzkostňovat.“

„Pan doktor se mnou v tu chvíli přestal mluvit. Řekl, že s člověkem, jako jsem já, se bavit nebude, zbytek se mnou dodělala sestra.“

„Je to nejenom o gramotnosti pacientů, ale také lékařů. Je to o nějakém lidství a humánním přístupu k pacientovi, který přichází s nějakým problémem.“

„Myslím si, že i my lékaři a zdravotníci se musíme podívat pravdě do očí. A skutečně ty jazykové modely, ačkoliv mají řadu slabin, tak takovou tu prediagnostiku provádějí relativně přesně.“

„To je takový můj sen: mít ambulanci, kde nebudu mít počítač, kde se nebudu věnovat obrazovce, kde nebudu ťukat zápis, budu si povídat s pacientem 10 minut a poté dojde k přepisu toho rozhovoru.“

„Když člověk skončí medicínu, tak si přijde, že je nejlepší lékař na světě, takže ví všechno. Pak zjistí, že to tak není, takže takový ten Dunning-Krugerův efekt.“

„Ty bys měl mít přece i to vysvětlení té umělé inteligence na téma, proč si ona myslí, že bys tam měl jít. To by mělo být doplnění tvojí lidské úvahy.“

„Samozřejmě, pokud někdo bude mít problém, jako je tíseň na hrudi a dušnost, tak to bych se rozhodně jazykového modelu neptal, jestli mám volat rychlou záchrannou službu, a volal bych ji.“

„A protože AI nástroj je tak kvalitní, jako je zdroj, tak tady je ten zdroj. Nečerpáme z všeobecně dostupných obrázků a textů, které jsou na internetu.“

Neurolog Ondřej Volný: s diagnózou od AI k lékaři klidně, ale s rozumem

Čím dál víc lidí si příznaky nejdřív probere s jazykovým modelem a teprve potom jde k lékaři. Neurolog Ondřej Volný z Fakultní nemocnice Ostrava v podcastu Uhlík vs Křemík vysvětluje, kde je taková prediagnostika užitečná, kde škodí a proč by lékaři neměli informované pacienty odbývat. Rozhovor vznikl na festivalu Černá AI v Ostravě.

Dr. Googla vystřídal Dr. ChatGPT

Ondřej Volný předsedá České společnosti pro umělou inteligenci a inovativní digitální technologie v medicíně a radí ministrovi zdravotnictví v oblasti AI. Moderátorům Davidu Salomonovi a Adamu Hankovi potvrdil, že pacienti se s jazykovými modely radí stále častěji. Zakazovat jim to podle něj nejde. Zároveň připomíná, že nejde o nástroje určené k diferenciální diagnostice.

Upozorňuje také na takzvanou symptomovou spirálu, i když se netýká všech. Úzkostnější lidé kladou modelu stejné otázky dokola a odpovědi je mohou paradoxně ještě víc vyděsit. Model pracuje s pravděpodobnostmi a v seznamu deseti nebo dvaceti možných diagnóz se může objevit i něco, co zní neléčitelně, přestože to tak ve skutečnosti být nemusí.

Že jde o běžnou věc, dokládá Volný studií, podle které se zdraví týká zhruba každý čtvrtý až pátý dotaz na jazykové modely, a to i zdraví rodinných příslušníků. Nejvíc takových dotazů podle dat velkých provozovatelů přichází v době, kdy je lékařská péče nejméně dostupná, tedy po pracovní době a po půlnoci.

Diagnóza seděla, lékař se urazil

Adam Hanka popsal vlastní zkušenost. Když běžel z tramvaje na přednášku, natrhl si sval. Kamarádka se na jeho příznaky zeptala GPT a odpověď ukázala na rupturu svalu. S touto diagnózou pak přišel do fakultní nemocnice a lékaři řekl, že ji má od umělé inteligence. „Pan doktor se mnou v tu chvíli přestal mluvit.“ Zbytek ošetření s ním dodělala sestra, ve zprávě ale nakonec stála stejná diagnóza.

Volnému se Adamův postup líbí. Do chatu nenahrával žádná osobní data, jen popsal, co se stalo a kde to bolí. Lékaři by podle něj neměli odsuzovat pacienta, který se v dobré víře zeptal jazykového modelu. „Myslím si, že i my lékaři a zdravotníci se musíme podívat pravdě do očí.“ Jazykové modely mají řadu slabin, ale prediagnostiku zvládají relativně přesně.

Volný s kolegy ve spolupráci s pacientskými organizacemi, Českou asociací umělé inteligence a ministerstvem zdravotnictví napsal pro pacienty příručku, desatero, jak k jazykovým modelům přistupovat. Pacientským organizacím také radí, aby lidé údaje o sobě anonymizovali a nenahrávali do chatu rodné číslo, bydliště ani kompletní dokumentaci.

Co AI v medicíně umí dnes a co zítra

Volný odlišuje jazykové modely, které používají pacienti, od softwaru s certifikací zdravotnického prostředku. Ten hodnotí snímky, EKG, kožní nálezy nebo oční pozadí, je ale trénovaný vždy na konkrétní diagnózu. Nástroj, který na CT hodnotí mozkovou příhodu, nepozná meningitidu, a nástroj na roztroušenou sklerózu nezhodnotí epilepsii.

Na otázku, zda bude AI někdy lepší lékař než lékař, odpověděl, že si to nemyslí. U diagnózy z popisu příznaků je ale podle něj takový AI doktor House svým způsobem už tady. Jako příklad uvedl diagnostický orchestr Microsoftu, ve kterém nad pacientem uvažuje pět AI agentů natrénovaných na nejtěžších kazuistikách. Certifikovaný zdravotnický prostředek to zatím není.

Do budoucna si Volný představuje nástroje přímo v informačním systému, kde lékař píše propouštěcí zprávu: jedním kliknutím nechá AI přepsat nález do jazyka srozumitelného pacientovi. Jeho snem je ambulance bez počítače, kde si s pacientem deset minut povídá a zápis vznikne z přepisu rozhovoru.

Kdy se modelu neptat vůbec

Moderátoři řešili i to, jak pacient pozná, kdy jít k lékaři. Adam Hanka radí chtít po AI důkladné vysvětlení její úvahy, aby měl člověk podklad pro vlastní rozhodnutí, ne jen odpověď jít, nebo nejít. Volný by uvítal i kuchařku pacienta, jak se správně ptát.

U některých příznaků ale debata končí. „Samozřejmě, pokud někdo bude mít problém, jako je tíseň na hrudi a dušnost, tak to bych se rozhodně jazykového modelu neptal, jestli mám volat rychlou záchrannou službu, a volal bych ji.“ Totéž platí, když někomu spadne koutek, oslabí se mu ruka nebo má poruchu řeči.

Celý rozhovor s Ondřejem Volným najdete v podcastu Uhlík vs Křemík.

Otázky a odpovědi

Je dobré ptát se ChatGPT na zdravotní příznaky?

Neurolog Ondřej Volný v podcastu Uhlík vs Křemík říká, že pacientům to zakazovat nelze a že jazykové modely provádějí prediagnostiku relativně přesně. Zároveň upozorňuje, že nejde o nástroje určené k diferenciální diagnostice. Doporučuje údaje anonymizovat a nenahrávat do chatu rodné číslo, bydliště ani kompletní dokumentaci.

Co je symptomová spirála?

Podle neurologa Ondřeje Volného se do ní mohou dostat hlavně úzkostnější lidé, kteří jazykovému modelu kladou stále stejné otázky dokola. Místo uklidnění je to může ještě víc zúzkostnit, zvlášť když se v seznamu možných diagnóz objeví něco vážného, třeba rakovina. Volný dodává, že se o tom píše i v odborné literatuře.

Jak lékaři reagují na pacienty, kteří přijdou s diagnózou od AI?

Moderátor Adam Hanka v podcastu Uhlík vs Křemík popsal, jak s ním lékař přestal mluvit, když se dozvěděl, že diagnózu natrženého svalu má od umělé inteligence, přestože diagnóza seděla. Neurolog Ondřej Volný říká, že lékaři by takové pacienty neměli odsuzovat a že jich bude přibývat. Podle něj jde o gramotnost pacientů i lékařů a o lidský přístup.

Jaký je rozdíl mezi ChatGPT a certifikovanými AI nástroji v medicíně?

Ondřej Volný odlišuje obecné jazykové modely, které používají pacienti, od softwaru s certifikací zdravotnického prostředku, který hodnotí například snímky, EKG, kožní nálezy nebo oční pozadí. Certifikované nástroje jsou ale trénované vždy na konkrétní diagnózu: nástroj na CT u mozkové příhody nepozná meningitidu a nástroj na roztroušenou sklerózu nezhodnotí epilepsii.

Bude umělá inteligence někdy lepší lékař než lékař?

Neurolog Ondřej Volný si to nemyslí, protože certifikované nástroje zatím umí vždy jen konkrétní diagnózu. U diagnózy z popisu příznaků je ale podle něj takový AI doktor House svým způsobem už tady. Jako příklad uvedl diagnostický orchestr AI agentů od Microsoftu, který zatím není certifikovaný zdravotnický prostředek.

Kdy se nemám ptát AI a mám rovnou volat záchranku?

Podle neurologa Ondřeje Volného při tísni na hrudi a dušnosti, nebo když někomu spadne koutek, oslabí se mu ruka či má poruchu řeči. V takových případech by se jazykového modelu neptal a rovnou by volal záchrannou službu.

Jak se ptát umělé inteligence na zdraví, aby odpověď pomohla?

Adam Hanka z podcastu Uhlík vs Křemík doporučuje chtít po AI důkladné vysvětlení její úvahy, případně ji nechat udělat drobný průzkum na internetu, aby se mohla sama opravit. Člověk pak nemá jen odpověď jít, nebo nejít k lékaři, ale i důvody, které doplní jeho vlastní úvahu. Ondřej Volný dodal, že by se hodila kuchařka pacienta, jak se správně ptát.

Co je Anatomy AI Tutor?

Aplikace, kterou spouští tým kolem neurologa Ondřeje Volného a jejímž CEO je Radovan Hudák. Je natrénovaná na knize o anatomii, kterou tým tvořil 15 let a která má přes 10 jazykových mutací. Je propojená se sylaby lékařských fakult v Česku, takže studenta učí přesně na hodinu, která ho čeká.

Kdo a co v dílu zaznělo

• Google (firma, 1:06): Dřív lidé zadávali příznaky do Googlu, Ondřej Volný mluví o Dr. Googlovi.
• ChatGPT (produkt, 1:07): Jazykový model, se kterým se dnes pacienti radí o příznacích (Dr. ChatGPT).
• Černá AI (akce, 1:40): Festival v Ostravě, kde se díl natáčel.
• Creative Dock (firma, 1:45): Adam Hanka tam vede data a AI.
• Fakultní nemocnice Ostrava (instituce, 2:44): Pracoviště hosta, kde se věnuje hlavně cévním mozkovým příhodám.
• Lékařská fakulta Ostravské univerzity (instituce, 2:51): Podle medailonku od AI host na fakultě působí.
• Česká společnost pro umělou inteligenci a inovativní digitální technologie v medicíně (organizace, 3:00): Odborná společnost, které Ondřej Volný předsedá.
• Osobnost AI (jiné, 3:08): Ocenění, které host podle medailonku získal v roce 2025 v kategorii zdravotnictví.
• Ministerstvo zdravotnictví (instituce, 3:43): Host radí ministrovi v oblasti AI, ministerstvo spolupracovalo na desateru pro pacienty a má novou aplikaci se zdravotní kartou.
• Černá Kostka (organizace, 4:23): Tým, který podle Davida Salomona připravil festival.
• Czechitas (organizace, 8:50): Cestou na jejich akci si Adam Hanka natrhl sval, diagnózu mu pak pomohlo najít GPT.
• Fakultní nemocnice na Karlově náměstí (instituce, 9:36): Sem Adam Hanka přišel s diagnózou od AI.
• Česká asociace umělé inteligence (organizace, 11:44): Spolupracovala s odbornou společností a ministerstvem na desateru pro pacienty.
• Petr Kohout (osoba, 15:10): Podle moderátora k němu lidé chodí s právními analýzami od AI, takže začíná v mínusu.
• Evropská unie (organizace, 23:15): Společný datový prostor zdravotních dat a překlad zpráv do jazyka pacienta.
• Doktor House (jiné, 31:28): Podle hosta je takový AI diagnostik z popisu příznaků svým způsobem už tady.
• Microsoft (firma, 31:41): Přišel s diagnostickým orchestrem AI agentů.
• Medical AI Diagnostic Orchestra (produkt, 31:43): Konzilium pěti AI diagnostiků natrénovaných na nejtěžších kazuistikách, zatím ne certifikovaný zdravotnický prostředek.
• Dunning-Krugerův efekt (jiné, 35:10): Host jím popisuje, jak čerstvý absolvent medicíny přeceňuje své znalosti.
• Vaříme s umělou inteligencí (kniha, 37:16): Kniha moderátorů, Ondřej Volný ji nazval kuchařkou a navrhl podobnou kuchařku pro pacienty.
• Gemini (produkt, 38:19): Příklad, že různé modely mohou dát k návštěvě lékaře různou radu.
• Radovan Hudák (osoba, 44:58): Autor hlavního nápadu knihy o anatomii a CEO projektu Anatomy AI Tutor.
• Medical AI Tutor a Anatomy AI Tutor (produkt, 46:57): Aplikace natrénovaná na knize o anatomii a propojená se sylaby lékařských fakult.

O hostovi

Ondřej Volný je neurolog z Fakultní nemocnice Ostrava, kde se stará hlavně o pacienty s mozkovou mrtvicí. Předsedá České společnosti pro umělou inteligenci a inovativní digitální technologie v medicíně a je poradcem ministra zdravotnictví pro oblast AI. S kolegy, pacientskými organizacemi, Českou asociací umělé inteligence a ministerstvem napsal pro pacienty příručku, desatero, jak přistupovat k necertifikovaným jazykovým modelům. Jako student medicíny byl v autorském týmu knihy o anatomii a psal její neurologickou část. Později vedl její překlad do angličtiny. Na knize dnes stojí aplikace Anatomy AI Tutor, kterou tým spouští pro celý svět.

Přepis dílu

[0:00] Ondřej Volný: Někdy, hlavně ti z nás, kteří jsou více úzkostnější, mohou trpět takzvanou symptomovou spirálou, kdy kladou tomu modelu stále otázky dokola, a může je to paradoxně i více zúzkostňovat.

[0:14] Adam Hanka: Nakonec ale v té zprávě, kterou jsem od něj dostal, bylo, že pacient přichází do nemocnice, protože mu to poradila umělá inteligence.

[0:20] Ondřej Volný: Je to nejenom o gramotnosti pacientů, ale také lékařů; je to o nějakém lidství a humánním přístupu k pacientovi, který přichází s nějakým problémem.

[0:32] David Salomon: Odkud se tyhle informace dozvídáš? Když k tobě někdo přijde, voláš jeho obvoďákovi, aby ti přečetl informace z té ručně psané zdravotní karty, nebo máš pocit, že už se to zlepšuje, anebo už se to zlepšilo na maximum?

[0:45] Ondřej Volný: Když toto nasypeš do toho diagnostického orchestru, tak oni to samozřejmě rozpracovali, včetně toho, jaké doporučili vyšetření, aby ses dobral k té finální diagnózy co nejdřív.

[0:59] David Salomon: Posloucháte podcast "Uhlík vs Křemík", pořad i pro ty, kteří ještě před pár lety zadávali příznaky svých nemocí do Googlu a dneska už je radši píšou Chatu GPT. Podíváme se na to, co se stane, když se umělá inteligence a lékař neshodnou: jestli může být v AI diagnostice jednou lepší než člověk, a jestli budeme za pár let chodit k doktorovi až ve chvíli, kdy nám to doporučí třeba naše hodinky. A hlavně nás zajímá, co z toho všeho plyne pro nás jako pro pacienty, protože čím víc toho o našem zdraví bude technologie vědět, tím důležitější možná bude otázka, co ještě jí chceme svěřit a co nechat člověku. No prostě, uhlík vs křemík. Tak jdeme na to, a tentokrát z festivalu Černá AI v Ostravě. Já jsem David Salomon, a jako vždycky tu se mnou sedí Adam Hanka, šéf dat a AI v Creative Docku. Ahoj, Adame.

[1:48] Adam Hanka: Ahoj, Davide.

[1:49] David Salomon: A naším dnešním hostem je neurolog a lékař Ondřej Volný. Ahoj, Ondro.

[1:54] Ondřej Volný: Ahoj, pánové, děkuju za pozvání.

[1:56] David Salomon: Ahoj a vítej mezi námi, na tvé domácí půdě. A my se podíváme, co nám o Ondřejovi řekla umělá inteligence.

[2:43] David Salomon: Ondřej Volný je neurolog z Fakultní nemocnice Ostrava, kde se specializuje především na cévní mozkové příhody. Zároveň působí na Lékařské fakultě Ostravské univerzity a patří k lidem, kteří se snaží dostat umělou inteligenci z konferenčních prezentací přímo do skutečné medicíny. Je předsedou České společnosti pro umělou inteligenci a inovativní digitální technologie v medicíně a v roce 2025 získal ocenění "Osobnost AI" v kategorii zdravotnictví. Pro dnešní rozhovor je ale zajímavé hlavně to, že stojí přesně mezi dvěma světy, vlastně mezi uhlíkem a křemíkem. Na jedné straně je lékař, který musí udělat konkrétní rozhodnutí o konkrétním pacientovi, na druhé straně pracuje s technologiemi, které dokážou analyzovat zdravotní data, snímky, nebo pomáhat při rozhodování rychlosti, které člověk nemůže konkurovat. Ondro, je ten medailonek v pořádku takhle, podle umělé inteligence?

[3:38] Ondřej Volný: Já musím říct, že umělá inteligence tam napsala většinu. Možná bych dodal, že ještě působím jako poradce pana ministra zdravotnictví pro oblast AI.

[3:47] David Salomon: A jaká ta spolupráce je? Jaký máte vibe, jak si vibe-íte?

[3:51] Ondřej Volný: Já si myslím, že vibe je dobrý, je to intenzivní. Ačkoliv nejsem v Praze tak často, tak díky digitálnímu propojení jsme v kontaktu s kolegy v rámci inovací a digitalizace prakticky na denní bázi.

[4:06] David Salomon: Takže máš i takovouhle silnou podporu z Prahy, můžeme říct? To je skvělý.

[4:10] Ondřej Volný: Dalo by se to tak říct.

[4:11] David Salomon: Nebo Praha má podporu z Ostravy, což je ještě lepší.

[4:13] Ondřej Volný: To možná zní lépe, ale to bude asi mimo záznam.

[4:16] David Salomon: Je pravda, že hlavním městem AI je minimálně pro dnešek Ostrava, ale klobouk dolů před tím, co tady tým Černé Kostky připravil. Takže je to tady opravdu krásné prostředí a pokud budete mít možnost, určitě si na takovéhle akce udělejte čas. Co se mě týká, tak pro mě je na tom dnešním tématu hlavně zajímavé to, že jako pacient dneska už můžu třeba během 10 minut z těch dat, které načerpám třeba z vyšetření, se o té svojí diagnóze dozvědět víc a rychleji než kdykoliv v minulosti. Otázka je, jestli je to vůbec výhoda. Jestli člověk má zpracovávat tyhle informace, jestli by to nemělo být spíš opravdu v moci toho lékaře. Ale o tom určitě se pobavíme víc. Mě by teď zajímalo, Ondro, i z tvého pohledu, a i Adame, o tobě taky vím, že jsi už experimentoval s diagnózami. Kdybyste vy byli na straně pacientů, nedej bože, nebo by vám bylo jenom blbě, nebo bolela hlava, jak byste se svěřili umělé inteligenci třeba dřív než doktorovi? Šli byste tam s tím, že už máte nějakou předpřípravičku s nějakým jazykovým modelem? Ondro?

[5:22] Ondřej Volný: Já musím potvrdit, že se to stává čím dál tím častěji. Myslím si, že dělá to většina z nás, našich posluchačů, i tak, jak tady sedíme, že řešíme svůj zdravotní stav, wellbeing, eventuálně možná i nějaký biohacking, lifehacking právě s jazykovými modely. Jednoznačnou odpověď, jestli je to správně nebo ne, tu si myslím, že dneska asi nenajdeme. Bude to taková diskuze těch pro a proti. Na druhou stranu, pro mě jako pro lékaře je vždycky důležité, abych komunikoval s pacientem, který je edukovaný, zdravotně gramotný, aby měl o své zdraví zájem. A teď v posledních pár letech vstoupily do péče o zdraví jazykové modely.

[6:12] Ondřej Volný: V minulosti to byl Dr. Google, řekněme, teď máme Dr. ChatGPT. Samozřejmě pacientům my nemůžeme zakazovat, aby diskutovali své problémy s těmito jazykovými modely. Co musím ale dodat, i jako předseda odborné společnosti, je, že to nejsou nástroje, které by byly určeny k diferenciální diagnostice. To, že člověk dostane soupis od méně po nejvíce pravděpodobnou diagnózu, to je fajn. Na druhou stranu bych byl rád, kdyby tady zaznělo i to, že někdy, hlavně ti z nás, kteří jsou více úzkostnější, mohou trpět takzvanou symptomovou spirálou, kdy kladou tomu modelu stále otázky dokola, a může je to paradoxně i více zúzkostňovat. Není to, řekněme, otázka všech z nás, ale i to se může stát, a v literatuře se to zmiňuje.

[7:03] David Salomon: Můžu se zeptat, to je v podstatě takovou tou laickou řečí trochu hypochondrie, ne? Když si představím, že ten model tě může utvrzovat v tom, že ti něco je, že máš nějaké příznaky.

[7:15] Ondřej Volný: Až to dostaneš.

[7:16] David Salomon: Až jsou ty příznaky intenzivnější a intenzivnější, takže ty tomu začínáš věřit, podporuješ svoji psychosomatiku a můžeš se skutečně dostat do téhle hypochondrické spirály, ne?

[7:27] Ondřej Volný: Je to přesně tak. A pak samozřejmě, pokud zazní v tom soupisu těch více či méně pravděpodobných diagnóz některá z diagnóz, která je obtížně léčitelná, neléčitelná, nebo tam padne termín jako třeba rakovina, tak to samozřejmě ty pacienty extrémně vyděsí. Protože když se bavíme o symptomech, a ty jsi zmínil bolest hlavy, a popíšeš svou bolest hlavy, že se trošku změnila, že je více intenzivní třeba, když si lehneš, naopak, když se postavíš, tak ta bolest hlavy není tak intenzivní, že třeba reaguje na kašel, kýchání a podobně, tak to už jsou příznaky, které toho neurologa, který provádí vyšetření a odebírá anamnézu, někam vedou. A samozřejmě ten jazykový model je propabilistický, že pracuje s určitými pravděpodobnostmi a čerpá z různých zdrojů. A samozřejmě může tomu pacientovi v tom soupisu 5, 10, 15, možná i 20 diagnóz nabídnout některou z těch, které na první pohled znějí třeba neléčitelně nebo extrémně závažně, a přitom to tak ve skutečnosti být ani nemusí. A ten pacient potom samozřejmě chce být co nejrychleji ujištěn, že tomu tak není.

[8:39] David Salomon: Adame, ty už jsi to někdy zkoušel? Něco tě bolelo, dal jsi to do chatu, přišel jsi s tím za doktorem?

[8:44] Adam Hanka: Já mám pocit, že jsme se o tom bavili dokonce v prvním nebo ve druhém díle našeho podcastu, když jsme točili ty piloty. Já jsem totiž byl na jedné akci s Czechitas, kde bylo spousta lidí, kteří se zajímali o umělou inteligenci. Já jsem šel na tu přednášku pozdě a dobíhal jsem, a měl jsem tam sedět někde na panelu, a jak jsem běžel a utíkal jsem z tramvaje směrem nahoru, tak mě strašně ruplo v noze a já jsem si ve skutečnosti natrhl sval, takže jsem tam dokulhal. Oni na mě byli hodní, pomohli mi na pódiu, to jsem tam všechno odkecal, ale potom za mnou přišla jedna kolegyně, kamarádka, a říká: "Hele, co máš za příznaky? Já se tady na to zeptám GPT." Tak jsme si s GPT relativně dlouho povídali a řeklo mi to, že mám nějakou rupturu svalu, ale jak umíme promptovat a umíme tu umělou inteligenci používat, tak ne, neřeklo mi to, že mám rakovinu, řeklo mi to docela dobrou diagnózu.

[9:34] Adam Hanka: A já jsem s tím potom přes ulici odkulhal do fakultní nemocnice na Karlově náměstí a tam jsem přišel za tím doktorem a jak jsem byl s lesem tady z toho panelu a já o té umělé inteligenci něco vím, tak jsem mu nadiktoval tu diagnózu. Říká: "Jak tohle všechno víte?" Říkám: "No, řekla mi to umělá inteligence." Pan doktor se mnou v tu chvíli přestal mluvit. Řekl, že s člověkem, jako jsem já, se bavit nebude, zbytek se mnou dodělala sestra. Nakonec ale v té zprávě, kterou jsem od něj dostal, bylo, že pacient přichází do nemocnice, protože mu to poradila umělá inteligence, ale ta diagnóza byla přesně ta, kterou jsme z toho AIčka vypromptovali.

[10:10] David Salomon: Ondřeji, tobě to pomáhá, takhle informovaný pacient, nebo je to spíš naopak?

[10:13] Adam Hanka: Já si myslím, že ten doktor mě chtěl zabít v tu chvíli, ve skutečnosti.

[10:16] David Salomon: A co, Ondřeji?

[10:17] Ondřej Volný: Já budu trošku kontroverzní tady v tomto. Mně se svým způsobem tvůj postup líbí. Ty jsi tam svým způsobem nesděloval žádná osobní data, nenahrával jsi tam, protože v tu dobu jsi je neměl. Měl jsi nějaké příznaky, došlo k nějakému poranění, nenahrával jsi tam své rodné číslo, bydliště, snímky z rentgenu. Takže ses zeptal... a protože ty jsi ve svém vlastním těle, tak přesně víš, co se stalo, jak se to stalo, jak to bolí, kde to bolí. Takže pokud se naučí ti pacienti správně pokládat otázky, ty jazykové modely se budou vyvíjet, tak věřím, že ta diagnostika, nebo prediagnostika, nebo řekněme takový našeptávač, bude správný. Trošku bych se vrátil k tomu kolegovi.

[11:03] Ondřej Volný: Ano, je to nejenom o gramotnosti pacientů, ale také lékařů. Je to o nějakém lidství a humánním přístupu k pacientovi, který přichází s nějakým problémem. A určitě odsuzovat pacienta za to, že se poradil s umělou inteligencí... tam trošku za nešťastné považuji to, že umělé inteligence říkáme "umělá" a ještě "inteligence". Ono do té češtiny se to nepřekládá úplně ideálně a čeština má pouze, řekněme, pár synonym inteligence. Ale určitě bych řekl, že tady je důležitá i ta gramotnost u těch zdravotníků. My jsme shodou okolností se tomu věnovali i ve spolupráci s pacientskými organizacemi, napsali jsme příručku ve spolupráci s Českou asociací umělé inteligence a Ministerstvem zdravotnictví pro pacienty, takové desatero, jak k té umělé inteligenci, té řekněme všeobecné, té necertifikované, to jsou ty jazykové modely, přistupovat.

[11:57] Ondřej Volný: A určitě je i rolí naší odborné společnosti komunikovat to k těm odborníkům, lékařům, zdravotníkům, že pacienti, kteří přijdou vybaveni nějakým rozhovorem s umělou inteligencí, že to není špatně, že naopak se to bude stávat častěji. A naopak ty pacienty to může uklidnit, protože určitě tě uklidnilo v uvozovkách to, že došlo k ruptuře svalu, i když to je závažná diagnóza. A teď to přeženu, že jsi neměl třeba zlomeninu kotníku nebo nějaké jiné poranění. Tak i ten druhý rozměr... myslím si, že i my lékaři a zdravotníci se musíme podívat pravdě do očí. A skutečně ty jazykové modely, ačkoliv mají řadu slabin, tak takovou tu prediagnostiku provádějí relativně přesně.

[12:48] Ondřej Volný: Ale samozřejmě symptomová spirála, vyděšení toho pacienta velmi vzácnou diagnózou... ale já mám taky několik příkladů, kdy umělá inteligence provedla diagnostiku takovou, kdy nakonec i ten specialista s 20 lety praxe z oboru musel uznat, že to, s čím přišel ten pacient vybaven, je s největší pravděpodobností pravdivá diagnóza. A i ten terapeutický postup, navržený v souladu s doporučenými postupy, že byl správný.

[13:17] Adam Hanka: Mě by zajímalo, děláte si třeba čárky nebo nějakou jinou formu statistiky, kolikrát ten pacient přichází s plus mínus správnou diagnózou a kolikrát je mimo? Protože my samozřejmě, když vyhodnocujeme predikční algoritmy, to znamená algoritmy, které něco předpovídají, tak my víme, že existují metriky, kterými to dokážeme vyhodnocovat. Máte vy třeba něco takového, že byste si vedli takovou statistiku?

[13:42] Ondřej Volný: Nevedeme to centrálně, třeba v rámci fakultní nemocnice. Abych byl upřímný, nevím o nikom, kdo by to vedl nějak systematicky v rámci většího pracoviště. Na druhou stranu, já si takovou drobnou statistiku i vedu a shodou okolností spolupracuji s jednou telemedicínskou platformou, kde jsme tady toto téma otevírali, že pacienti tam můžou položit otázku a dostat se ke konzultaci s lékařem, který se může podívat i na jejich dostupnou dokumentaci. A zvažovali jsme, že bychom právě do té aplikace mohli uvést i to, zda předtím, než byly ty konkrétní problémy vloženy do té telemedicínské aplikace, do toho rozhraní, zda je pacient už zkonzultoval s AI. Ne proto, že bychom chtěli škatulkovat pacienty, ale proto, abychom měli tu informaci, zda už ten pacient je obohacen o nějaké informace, zda už nějaké informace získal tady touto diskuzí.

[14:36] Ondřej Volný: A zase je pravda, že když přijde ten pacient s nějakým stručným resumé, tak to pro nás může být výhoda. Ale mám taky příklad, kdy pacient přišel s dvěma A4 a já nejdřív jsem to všechno pročetl a pak tomu pacientovi vysvětlil, že poté, co jsem já ho klinicky vyšetřil, provedl odběry, udělal magnetickou rezonanci, že ho můžu uklidnit, že 90% z toho, co tam má, je precizně zpracováno. Byl to tedy absolvent inženýrského oboru, takže to bylo opravdu precizně zpracováno. Takže ho můžu uklidnit, že jsme to vyloučili.

[15:08] Adam Hanka: Já k tomuhle mám několik myšlenek totiž. Za prvé, Petr Kohout v našem podcastu Právník říkal, že se mu velmi často stává, že lidi k němu chodí se zpracovanými právními analýzami pomocí umělé inteligence a on nezačíná na nule, on začíná v mínusu. On nejdřív stráví čas tím, že to tomu člověku vyvrátí, a pak se teprve můžou dostat k té skutečné práci. Připadá mi, že tohle tady taky popisuješ. Zároveň ale kdyby ta statistika existovala, tak vy byste přece mohli říkat pacientům: "Podívejte se, v 10% to máte plus mínus správně, ale v 90% se mýlíte, dávejte si na to pozor." Anebo naopak, pokud by to vycházelo obráceně, tak byste mohli říkat lékařům: "Podívejte se, berte ty pacienty vážně a s respektem, protože ono to docela funguje a my jsme si to tady změřili." A ještě bych chtěl navrhnout, když tu metriku pak budete zavádět, jestli byste ji mohli pojmenovat "Uhlík versus Křemík".

[16:00] Ondřej Volný: Děkuju za tipy. Mně se to líbí.

[16:03] David Salomon: A když se podíváme ještě na to, jak postupuje ta AI gramotnost u lékařů, tak řekněme si, že ty jsi třeba od jedničky do stovky na stovce? Kolik ještě takových máme a jak to vůbec funguje? Kdy už Adam přijde k nějakému náhodnému lékaři a on řekne: "No, pane Hanko, to je skvělé, konečně někdo přišel s tou diagnózou." Na druhou stranu, ještě to rozšířím o to, že ta umělá inteligence rozšiřuje ty schopnosti těch pacientů. To znamená, podle mě ti, co prudili předtím, tak prudí teďka plus AI?

[16:36] Ondřej Volný: Ano.

[16:37] David Salomon: Ano, ale dobře, tak tyhle přijdou, bude jich přibývat, logicky. Po tomhle podcastu úplně geometrickou řadou přibydou. Kolik těch lékařů už je teďka na tohle připraveno? Mají tu AI gramotnost aspoň nějakou? Jsme na tom... já bych statisticky dal škálu: dobře, normálně, blbě, úplně blbě, třeba?

[16:58] Ondřej Volný: Můj názor je takový: nemám k tomu reálná data, ale zkusím dát alespoň nějaká vodítka. Myslím si, že jsme na tom relativně dobře. Na druhou stranu, hodně se to liší od specializací. Že jsou obory, řekněme, které používají řadu inovací, robotiku, virtuální realitu a podobně, a řekněme, ty inovace v jejich oboru posouvaly ten obor mílovými kroky dopředu. A teď přišlo nové řešení, další skládačka, puzzle, která tam zapadne, a to jsou ty nástroje umělé inteligence. Já bych tady ještě rozdělil to, co používají ti pacienti, ty jazykové modely, a pak ty nástroje, ty softwary, které hodnotí snímky, EKG, kožní nálezy, oční pozadí a tak dále, a ty mají certifikaci jako zdravotnický prostředek. Takže já bych řekl, že Česká republika na tom je relativně dobře. Na druhou stranu jsou samozřejmě regiony, obory, a také musíme se bavit o tom, jaký je průměrný věk jednotlivých specializací, které jsou velmi konzervativní, respektive nevidí tam až takový přínos.

[18:10] Ondřej Volný: A pokud zažijí třeba praktičtí lékaři za den 10 pacientů, kteří přinesou dvou-čtyřstránkový dokument, co jim je, tak to pro ně asi nebude úplně pozitivní zpráva. Na druhou stranu si myslím, že je to někdy i vhodné těm pacientům třeba poradit, a my to říkáme pacientským organizacím, že se dají ty dokumenty, pokud pacient s nimi pracuje správně, nenahrává tam kompletní dokumentaci s rodným číslem, bydlištěm a tak dále, anonymizuje ty informace o sobě, takže může dostat vysvětlení, co jemu nebo rodinnému příslušníkovi je, v odpovídajícím jazyce. Protože asi máte, pánové, oba dva zkušenosti, že když se bavíte s lékaři, tak v dokumentaci je spousta zkratek, nemají na vás čas, dají vám do ruky zprávu o vyšetření a řeknou: "Vlastně vám nic není."

[19:01] Ondřej Volný: A teď člověk dostane zprávu, která má 4 strany, nerozumí tomu. Přitom stačí využít nástroje. A třeba do budoucna takové nástroje budou, dokážu si to představit, v informačním systému, kde píšeme propouštěcí zprávu a napíšeme, jenom zaklikneme, ať nám AI přepíše ten náš nález do jazyka srozumitelného pacientovi. Tam to bude vysvětleno včetně nářečí, tady po našemu nebo ostravsky, jak bude pacient chtít. Lékař si to přečte, zprávu vytiskne a pacient má zprávu pro svého praktika, pro sebe, a je klidný.

[19:32] Adam Hanka: Mně by se to moc líbilo a vlastně bych tam chtěl mít toho člověka ve smyčce "human in the loop". Nevím, jestli to musí být přímo lékař, protože víme, že těch je vždycky málo a jsou extrémně busy. Možná by stačila zkušená sestra, která tohle zvaliduje, ale mít tam ten jeden lidský validační krok. To znamená, já už to nemusím rozepisovat, já tu interpretaci jenom olíznu palec, přilepím ho na to a řeknu: "Ano, toto je správná interpretace." Já třeba tohle používám typicky, když jdu na nějaké preventivní prohlídky, krevní obrazy a podobně, množství cholesterolu... já vůbec nevím, co ty zkratky znamenají a co si budeme povídat. Chemie pro mě na škole byla strašně nezábavný předmět, protože mě už tenkrát bavila matika a programování. Takže já se té umělé inteligence velmi často na ty interpretace ptám.

[20:17] David Salomon: Já si pamatuju ještě, když se psaly právě lékařské zprávy o vyšetření ještě rukou, takže tam se ani nedošlo k tomu, co se tam píše, protože doktoři, to se ví, strašně škrábou.

[20:28] Ondřej Volný: Ano, většina.

[20:29] David Salomon: Takže v dnešní době by to nejdřív rozluštilo ty hieroglyfy a pak ten jazyk. A to se dneska už nepíše moc rukou, asi zpráva, ne?

[20:39] Ondřej Volný: Myslím si, že bude velmi minoritní skupina, ještě třeba píšící na stroji, ale to budou jednotky. Teď už opravdu většina z nás má ambulantní nebo nemocniční informační systémy, takže už se bavíme o tom, že je to tištěná zpráva.

[20:57] David Salomon: Ani v Bezdíkově, protože moje hlavní knowledge base o medicíně je samozřejmě série o básnících, takže bychom možná mohli nahodit téma, jak básníci zavádí AI. Takže jsme opravdu dál. Jsem rád, že tě tady máme, protože máme mezi sebou i takové lidi, jako jsem já, kteří nerozumí ani medicíně, ani víceméně AIčku. Můžu se k tomuhle ještě zeptat, existují třeba nějaké specializovanější lékařské aplikace? Ať už by to byl nějaký předpromptovaný systém nebo něco, co by třeba bylo víc otevřené těm interpretacím takovýchhle zpráv. Jestli bys třeba našim posluchačům dokázal doporučit: "Nedávejte to do neplaceného GPT, ale stáhněte si tuhle appku, protože tu mám vyzkoušenou a ta vám tu zprávu od vašeho praktika dokáže dobře vysvětlit."

[21:46] Ondřej Volný: Já bych to možná rozdělil. Určitě je prostor i pro jazykové modely v tom, že když píšou zdravotníci na klávesnici, tak častokrát tam bývá dost překlepů. Ne vždycky ten průběh hospitalizace je dobře čitelný, protože většinou se ti lékaři střídají, tak každý tam kopíruje to, co potřebuje. Dokážu si představit, a jsou takové nástroje, které vlastně dokáží strukturovat ten zápis. A navíc jsou k dispozici už i ambientní systémy. To je takový můj sen: mít ambulanci, kde nebudu mít počítač, kde se nebudu věnovat obrazovce, kde nebudu ťukat zápis, budu si povídat s pacientem 10 minut a poté dojde k přepisu toho rozhovoru.

[22:32] Ondřej Volný: A budu tam mít všechno od nynějšího onemocnění, osobní anamnézy, lékové, ideálně propojeno ještě s registry, takže se mi tam natáhnou třeba informace, jaké léky měl pacient předepisováno v posledních 2-3 měsících a tak dále. A budu mít krásnou strukturovanou zprávu, která bude odpovídat aktuálně platným normám. Což, když se podívá řada z nás na zprávy, které má třeba od ambulantních specialistů, takové ty stručné, krátké, se spoustou překlepů a teček, tak si dokážu představit, že i tam je velký prostor na vyladění té dokumentace. Což samozřejmě pro budoucnost a interoperabilitu sdílení dat bude důležité. Zároveň v rámci interoperability, v rámci Evropské unie, to znamená společný datový prostor zdravotních dat, tak si představte, že se vám něco stane v Česku nějakému cizinci, jenomže zprávu dostane v češtině. Nebo vám v Německu, tak bude zpráva v němčině. Tak si dokážu představit jednoduchý přepis té lékařské zprávy do rodného jazyka pacienta a zařazení do jeho, řekněme, dokumentace, kterou má v elektronické podobě.

[23:43] David Salomon: Jak jsme na tom teď se sdílením dat? Já jsem se před 2 lety nechával očkovat na takovou tu "spousta věcí", protože jsem jel někam do Mexika a dostal jsem malou žlutou knížečku, očkovací průkaz, ve kterém bylo ručně napsané, na co jsem byl očkovaný. A teď jsem si stáhnul tu novou aplikaci Ministerstva zdravotnictví.

[24:02] Ondřej Volný: Na zdravotní kartu?

[24:03] David Salomon: Ano. A je to super, protože věřím tomu, že tam časem bude spousta údajů. Teď už jsou tam ty asi půl roku a rok staré údaje, včetně nějaké poslední preventivní prohlídky, ale tohle 2 roky staré očkování tam z nějakého obskurního důvodu pořád není. Ty jako praktik medicíny, přece potřebuješ o tom pacientovi zjistit úplně maximum informací. Odkud se tyhle informace dozvídáš? Když k tobě někdo přijde, voláš jeho obvoďákovi, aby ti přečetl informace z té ručně psané zdravotní karty? Nebo máš pocit, že už se to zlepšuje, anebo už se to zlepšilo na maximum?

[24:40] Ondřej Volný: Ze své vlastní zkušenosti musím říct, tím, že já hlavně pečuju o pacienty s mrtvicí, tak to je trošku jiná situace, akutní stav, pacient přijíždí záchrankou. Ale musím říct, že integrovaný záchranný systém má velmi kvalitní dokumentaci, oni většinou i posbírají dokumentaci u toho pacienta doma a přijíždějí s vytištěným záznamem o transportu pacienta, kde já se dozvím spoustu informací. Jsou tam napsány. A samozřejmě to, kde my trošku narážíme, jsou různé informační systémy, které spolu nekomunikují. Takže já pracuji s těmi daty, ke kterým se dostanu. To znamená od pacienta, od rodiny, od záchranky. A pak samozřejmě se můžu podívat do informací o tom, do lékového záznamu, to znamená, jaké léky byly pacientovi předepsány. A pokud nevím, tak musím pracovat s tím, že to nevím. Buď si to nějak laboratorně ověřím, například jestli pacient bere léky na ředění krve, tak jsou laboratorní odběry, které mi to potvrdí nebo vyvrátí, což je třeba pro léčbu důležité. Medicína je vždycky, řekněme, oborem pracujícím s určitou mírou nejistoty a pak je to na tom lékaři, jak s tím pracuje.

[25:53] David Salomon: Teď takový zajímavý rozstřel, otázka stejná na vás na oba. Kdybyste si měli vybrat, bylo by vám blbě a měli byste dvě možnosti: buďto půjdete za velmi zkušeným lékařem, který AIčko vůbec nepoužívá, anebo za průměrným lékařem, který má vybavené ty nejlepší dostupné AI nástroje. Tak co?

[26:14] Adam Hanka: Já bych v tuhle chvíli šel za velmi zkušeným lékařem, který AIčko vůbec nepoužívá. A to je právě proto, že jedna z těch linek našeho rozhovoru, na které já se ptám, Ondry, je: v jakém stavu vlastně v té medicíně jsme, s propojením mých dat a s tím, jakým způsobem ten doktor dneska má možnost používat kvalitní nástroje. A já ještě tady u toho řeknu, že - a pak se k tomu možná ještě dostaneme do větší hloubky - to AIčko, o kterém teď mluvíme, tady my oba, jsou velké jazykové modely. Já jsem totiž studoval kdysi počítačovou grafiku a počítačové vidění na částečně jednom medicínském institutu, takže my jsme měli nějaká testovací data, kde jsme třeba klasifikace trénovali na skenech prsu, nebo jsem viděl magnetické rezonance různých vrstev mozku. A tam se používá úplně jiná umělá inteligence než velké jazykové modely. Takže chtěl bych to jenom zarámovat: mluvíme o velkých jazykových modelech teď.

[27:16] Ondřej Volný: Já zkusím odpovědět trošku jinak. Osobně si myslím, že lékař, který by byl v určité odbornosti a měl by k dispozici určité certifikované nástroje, teď v rámci screeningu, řekněme si screening v rámci ženského zdraví, mamografie, rakovina prsu, tak pokud bych věděl, že to pracoviště má k dispozici certifikovaný, ne tedy jazykový model, ale certifikovaný zdravotnický prostředek, který slouží k hodnocení toho mamogramu, a vím, že jsou tam specialisté, kteří to hodnotí, v současné době to je tak, že přijde žena, udělá se rentgen prsu, de facto mamogram, a ten hodnotí 2 specialisté v tom oboru. Ale kdybych věděl, že ještě tam mají tu umělou inteligenci, tak bych si vybral pracoviště, kde vím, že ta umělá inteligence certifikovaná, ne jazykový model, je. Kdybych byl tou ženou, která si může zvolit zdravotnické zařízení, které navštíví.

[28:18] David Salomon: K té pokročilosti AI v medicíně: o té se budeme bavit samozřejmě ještě více.

[29:27] David Salomon: A my jdeme dál do medicíny. Kdy bude AI lepší doktor než doktor? Bude to vůbec někdy?

[29:36] Ondřej Volný: Osobně si myslím, že ne, protože pokud pomineme teď ty jazykové modely, o teď se teď nebavíme, a budeme řešit ty certifikované zdravotnické prostředky, tak chtěl bych říct, že dosud je to tak, že máme konkrétní nástroj pro konkrétní diagnózu. Dám příklad: rentgeny hrudníku, AI nástroje pro 20-40 patologií na rentgenu srdce plíce. Já jako lékař, který pečuje o pacienty s mozkovou příhodou, máme AI nástroj, který hodnotí CT, počítačovou tomografii mozku, CT angiografii a tak dále, ale on je natrénován pouze na tu mrtvici. On mi neřekne, že se jedná o pacienta, který může mít třeba meningitidu, zánět mozkových blan, nebo používáme magnetickou rezonanci u pacientů s roztroušenou sklerózou, kde sledujeme míru atrofie mozku a přibývání nových plak, to znamená toho zánětu v mozku, když to řeknu jednoduše.

[30:37] Ondřej Volný: Ale zase je to nástroj, který můžu použít pouze v případě, že pacientovi udělám magnetickou rezonanci mozku a mám ten nástroj zakoupený, licenci, a řekněme si upřímně: je to pouze pro tu diagnózu roztroušené sklerózy. Kdybych chtěl, ať mi třeba zhodnotí patologii na tom magnetu typickou pro epilepsii, tak to ten nástroj neumí, nebyl na to trénován. Čili my teď máme řadu certifikovaných nástrojů v konkrétních oborech, a když se třeba bavíme o neurologii nebo o různých pracovištích, tak je vždycky důležité si specifikovat, na co já to budu potřebovat jako lékař, s čím mi to pomůže, kde mi to zpřesní diagnostiku, zlepší, řekněme, workflow péče o pacienty. Takže na tvou otázku, jestli tady bude někdy "doktor House AI" jako diagnostik, tak on už tady svým způsobem je. Nevím, jestli můžu říkat názvy firem do vašeho podcastu.

[31:39] David Salomon: U nás můžeš, nám je to asi jedno.

[31:41] Ondřej Volný: Tak Microsoft přišel s takzvaným Medical AI Diagnostic Orchestra, kdy vytvořil lékařské konzilium, takže experty v oboru, kdy se sešlo 5 AI skvělých diagnostiků, v uvozovkách, byli natrénováni na těch nejtěžších kazuistikách, to znamená případech, kdy byla těžká diagnostika z prestižního časopisu amerického. A tím výsledkem byl kolektiv přemýšlejících AI agentů nad tím pacientem a dávajícím těm živým lékařům zpětnou vazbu na základě toho, co se dozvěděli při tom tréninku. A ukázalo se, že pokud se bavíme o té diagnostice, takže ty kdyby za mnou přišel a řekl: "Hele, mám problém, pulzuje mi to za okem, začalo to před 2 dny, trošku mi asi oteklo dolní víčko, bolí mě to prostě při pohybu oka, je mi tolik a tolik, s ničím se neléčím," tak já ti tady na základě toho popisu můžu říct: podle toho, co popisuješ, charakteru bolesti, by se mohlo jednat o tyto diagnózy.

[32:51] Ondřej Volný: Když toto nasypeš do toho diagnostického orchestru, tak oni to samozřejmě rozpracovali, včetně toho, jaké doporučili vyšetření, aby ses dobral k té finální diagnóze co nejdřív. Čili pokud se bavíme o diagnóze z popisu toho pacienta, tak ono už to de facto tady je. A není to ještě certifikovaný zdravotnický prostředek, jo, ale -

[33:13] David Salomon: Já tě musím zastavit, protože to, co jsi nám tady popsal, je vlastně fascinující a hrozně zajímavé, ale mně z toho chybí jakýsi... já teď přemýšlím, jak ten balon vzít a položit to na zem, jako by ukázaly statistiky, že tahle věc funguje. Protože to, co ty teď chceš říct, je: "ale ono si to na vás nešáhne," předpokládám.

[33:34] Ondřej Volný: Přesně tak.

[33:35] David Salomon: Ono si to tady za to ucho nešáhne.

[33:37] Ondřej Volný: Neposlechne.

[33:37] David Salomon: Neposlechne. Ale bez těch ručiček a oušek, když by to byla třeba diagnostika jenom po telefonu, protože my se tady hodně bavíme o České republice, ale víme, že ne všude je doktor dostupný ve všech částech světa stejně. Někde je to drahé, například v Americe, někde je jako výraznější dostupnost lékařské péče, například v rozvojových zemích a tak dále. Tak když to budu mít jenom na základě tohohle deskriptivního, popisného přístupu, funguje to stejně dobře jako když tobě někdo zavolá po telefonu? Nebo líp, nebo hůř?

[34:10] Ondřej Volný: Z toho, co prezentovali, protože oni samozřejmě ten model natrénovali na nějakých datech, to byly ty kazuistiky, vytvořili tady ty agenty, kteří byli v pozicích těch lékařů, diagnostik, ten, který bude potom směřovat toho pacienta na konkrétní vyšetření. Tím, že to je model ze Spojených států, tak tam byla i ta úroveň té cost-efektivity. To znamená, všeobecně současná medicína, hlavně ta evropská, trpí, dle mého názoru, ale i dle dostupných dat, fenoménem, že my převyšetřujeme ty pacienty. Že raději uděláme určitý počet vyšetření navíc, laboratorních, zobrazovacích, i když bychom de facto nemuseli. Samozřejmě je tam ještě ten rozměr.

[34:51] David Salomon: Jakoby pro jistotu.

[34:53] Ondřej Volný: Přesně tak. Je tam určitý alibismus, je tam určitá míra i obav toho lékaře, je tam určitá míra taky nejistoty, která se mění. Když člověk skončí medicínu, tak si přijde, že je nejlepší lékař na světě, takže ví všechno. Pak zjistí, že to tak není, takže takový ten Dunning-Krugerův efekt. A pak začne o sobě pochybovat, zvláště pokud se vám stane diagnostická chyba v průběhu toho života, což se stane každému. A pak člověk spadne na dno a začne pochybovat a raději těch laboratorních vyšetření udělá víc, raději doplní magnetickou rezonanci, i když by nemusel, i když ví, že třeba - ty jsi zmiňoval tu bolest hlavy, že existují běžné bolesti hlavy, kterými trpí řada procent naší populace, a že ti nemusím udělat magnetickou rezonanci hned. Že můžeš na ni počkat.

[35:44] David Salomon: To bude ta sobotně ranní bolest hlavy.

[35:47] Ondřej Volný: Například.

[35:47] David Salomon: Například. Ale když to stáhnu třeba na sebe a jak já vyhodnocuju svoje pocity, jestli jako jít k lékaři, nejít k lékaři, protože máš lidi, kteří řeknou: "To bude nějaká kravina, to s tím ani nepůjdu za doktorem, co tam budu otravovat, ještě něco chytnu v té čekárně, nebo mi ukradnou auto před nemocnicí, to prostě nic." Jestli to AIčko vám ty pacienty spíš nenažene do té ordinace, ve smyslu, že věc, o které bych se třeba styděl někam zavolat nebo se zeptat, nebo přijde mi, že to může být ještě banální, protože bolest hlavy může být 1-2 dny banální a pátý den už je to třeba fakt problém. Ale teď třeba budu tak zvyklý, třeba vařit s umělou inteligencí, tak budu zvyklý jí tam lejt tu diagnózu, protože to bude můj trošku kámoš, a vy spíš jako očekáváte, že bude posílat ty lidi do té ordinace častějc?

[36:43] David Salomon: Nebo jak to mám vyhodnotit? Jak mám jako pacient přemýšlet o tom, když mi ta umělá inteligence doporučí k tomu doktorovi už jít, nebo ještě nechodit? Kde je to rozhodování? Protože chápeš, co tím myslím. Jestli si tím mám pomoct, aby mi to pomohlo rozhodnout, jestli k doktorovi jít, nebo ne, kvůli bolesti hlavy. Jak to poznám, že to je ten moment, anebo že mám zaplnit čekárnu, otravovat tam, zbanalitovat, nebo -

[37:12] Adam Hanka: Ono je to asi taky otázka toho, jakým způsobem to promptuješ. Jedna z těch věcí, které píšeme v té knize, je, že ne všechny prompty jsou stejné. A ty, když se umělé inteligence na tohle ptáš, tak by sis od ní měl vyžádat velmi důkladné vysvětlení té úvahy, kterou ta umělá inteligence provádí. Protože ona zaprvé na základě toho, že ji donutíš o tom uvažovat, nebo třeba i udělat nějaký drobný průzkum na internetu, tak může sama sebe korigovat, protože víme, že umělá inteligence má tendenci se občas vyjadřovat zbytečně příliš sebevědomě, což zrovna v tomhle případě, kdy ti něco přikazuje nebo něco doporučuje, může být do nějaké míry škodlivé. Ale zároveň ona ti vysvětlí to ratio za tou svojí úvahou a ty potom nemáš jenom tu informaci go/no-go. Ty bys měl mít přece i to vysvětlení té umělé inteligence na téma, proč si ona myslí, že bys tam měl jít. To by mělo být doplnění tvojí lidské úvahy. Mělo by to být komplementární, doplňující se k tvé lidské úvaze o tom, jestli teda k tomu doktorovi půjdeš, nebo nepůjdeš. Mně se to kecá, já chodím k doktorovi jenom vždycky, když si utrhnu sval.

[38:16] David Salomon: Ne, ale že třeba by se mohlo -

[38:17] Adam Hanka: A s AI.

[38:18] David Salomon: A s AI, no. Mohlo stát, že třeba Gemini tě tam pošle a ChatGPT tě tam nepošle.

[38:23] Adam Hanka: Ono dneska ve skutečnosti, když se těch umělých inteligencí ptáš na lékařské rady, tak oni tě velmi intenzivně upozorňují na to, že ten model není kvalifikovaný k tomu, aby ti dával lékařské rady. Takže oni si tam vždycky hlavně hodí nějaký takovýhle disclaimer.

[38:38] Ondřej Volný: Což je naprosto správně.

[38:40] Adam Hanka: Ano. Otázka zní, jestli tomu lidi věnují pozornost, tomu disclaimeru.

[38:44] Ondřej Volný: Tak já beru tady ten dnešní podcast i jako edukativní pro naše posluchače. To znamená, pokud chtějí použít jazykový model, necertifikovaný, pro nějakou diskusi o svých, nechci říct ani potížích, ale příznacích, tak na to samozřejmě mají právo. To my nemůžeme pacientům, nebo potenciálním pacientům, zakazovat. Měli by ale, tak jako vy jste napsali kuchařku, tak určitě by si ji měli přečíst, možná by nebyla špatná i taková kuchařka pacienta, jak se správně ptát.

[39:19] David Salomon: Další výzva, děkujeme.

[39:21] Ondřej Volný: Další výzva pro vás.

[39:21] David Salomon: To už jsem se seznámil.

[39:22] Ondřej Volný: Ano. Jak se správně ptát. A samozřejmě pak se dají i ty příznaky oškálovat. Tak se asi shodneme, že když si někdo skopne prst o dveře, zeptá se umělé inteligence, jestli by měl jít na akutní vyšetření, na traumatologii, tak asi tušíme, co je správná odpověď. Pak tady bude skupina nás, kteří umělou inteligenci nepoužijí, protože ji zkrátka nemají. Takže narážím i třeba na tu seniorskou populaci. Na druhou stranu vyšla velká studie, já o ní budu mluvit dneska ve čtvrt na 4, která zhodnotila to, na co se vlastně nejčastěji lidi těch jazykových modelů ptají. A ti vývojáři to samozřejmě vědí, protože to pečlivě sledují. A de facto každý čtvrtý, respektive pátý dotaz se týká zdraví, a nejenom našeho, osobního, ale zdraví rodinných příslušníků. To znamená, děje se to.

[40:18] David Salomon: A nejenom fyzického, ale i duševního.

[40:20] Ondřej Volný: Přesně tak, i toho duševního. Děje se to a my musíme upozorňovat i na to, jaké jsou limity. Že jazykový model není určen na to, že vám jednoznačně dá diagnózu a jednoznačně vás pošle k lékaři, nebo ne. Samozřejmě, pokud někdo bude mít problém, jako je tíseň na hrudi a dušnost, tak to bych se rozhodně jazykového modelu neptal, jestli mám volat rychlou záchrannou službu, a volal bych ji. Nebo pokud někomu spadne koutek, oslabí se mu ruka, má poruchu řeči, tak to asi taky není úplně dobrý příklad, aby partner nebo partnerka takového pacienta nejdříve položila dotaz jazykovému modelu. Zajímavá diskuse.

[40:58] David Salomon: Zajímavé je i to, že pan doktor, to je autorita. To seš rád, že se tam dostaneš, ještě často bereš třeba čokoládu, i když to jsou stereotypy, které samozřejmě -

[41:10] Adam Hanka: Jak Ondra říkal, že jemu ty lidi jezdí sanitkou, ty tu čokoládu vzít nestihli.

[41:14] David Salomon: Já vím, ale využívám, že Ondra je z nás furt nejvíc doktor z nemocnice, tak třeba bude vědět, jestli se třeba trošku nezačne měnit takový ten vztah, že lidi si budou hrát na doktory. A zatímco teďka přicházeli pokorně do té ordinace: "Pane doktore, já už tady tohle," tak teďka tam budou chodit s vystudovanou půlkou medicíny, si budou myslet. Jestli jste třeba připravený v komunikaci na tohle, jestli se vám třeba tohle i stává už. Co mi, pane doktore, vy budete povídat? Teď jsem si připlatil 20 dolarů.

[41:47] Adam Hanka: Mám nové tokeny.

[41:48] David Salomon: Mám nové tokeny, takže jsme to pěkně rozjeli s manželkou tu diagnózu.

[41:52] Ondřej Volný: Samozřejmě, že to hrozí. Já bych zase.

[41:54] David Salomon: Vy jste pořád ještě mladě, to znamená, to je nevýhoda.

[41:57] Ondřej Volný: Já teď nevím, jak bych to nazval, jestli je to optimistická zpráva, nebo ne. Nemyslím si, že bychom zažili nějaký extrémní boom, že by 100% pacientů přicházelo takhle vybavených. Samozřejmě si myslím, že nejčastěji kladou pacienti dotazy týkající se jednak toho duševního stavu, duševních problémů, což potvrdí i psychiatři, že využívají ten jazykový model na něco jako psychohygienu. Nechci použít ani termín psychoterapie, ačkoliv vyvíjejí se nástroje, které mají sloužit k psychoterapeutickým intervencím, a je to v pořádku, pod vedením zkušených psychologů, kdy ten pacient - a vím třeba o takovém projektu nebo o takovém řešení pro pacienty už se známou úzkostí, kteří mohou mít aplikaci odhalující tu úzkost, eventuálně panickou ataku, a v případě, že ten stav se blíží, tak je tam možnost konzultace psychoterapeuta jako na dálku, nebo psychologa na dálku, který toho pacienta zklidní, aby si pacient v tomto stavu, který má třeba v určité pravidelnosti, v určitých intervalech, tak aby si nevolal, řekněme, sanitku a dalo by se to zvládnout, řekněme, telemedicínsky.

[43:10] Ondřej Volný: Takže i toto je jedna z těch možností.

[43:14] David Salomon: Takové odlehčení tomu systému pomocí nějaké chytré aplikace.

[43:18] Ondřej Volný: A ona ta data těch velkých hráčů na poli jazykových modelů ukazují, že největší počet těch zdravotnicky orientovaných dotazů je právě v období, kdy je ta lékařská péče nejméně dostupná. Čili po pracovní době, po půlnoci a tak dále. Uvidíme. Samotného mě to zajímá, protože AI tady není tak dlouho, a teprve nedávno jsme odhalili i to, že můžeme se ptát těch jazykových modelů i na zdravotní stav. A má to své pro i svá proti. Ať už je to na straně těch pacientů, nebo na straně těch zdravotníků, kteří by rozhodně neměli pacienta, který se zeptá v dobré víře, protože jde o jeho zdraví, na něco jazykového modelu.

[44:02] David Salomon: Takže by ho neměli sejmout ve dveřích: "Co si to tady zkoušíte?" My tady máme dneska knižní klub takovej, úplně jsme trošku jako v knihovně. Tahle kniha, tu máš teda na svědomí ty a já, co je pro mě fascinující. Nevím, Adame, kdy jsi naposledy viděl něco, co má 7. vydání. To je kolik výtisků? 7 vydání? To je šílené. To je prostě -

[44:23] Adam Hanka: 50 000 výtisků jste říkali, že jste vydali, že?

[44:25] David Salomon: Co to je za knihu?

[44:27] Ondřej Volný: Tak je to kniha, která je výsledkem práce našeho týmu za posledních 15 let.

[44:33] David Salomon: A podepsala AI, jo?

[44:35] Ondřej Volný: Nepsala ji AI, protože před těmi 15 lety ještě AI nebyla. Psali ji studenti medicíny, kteří si řekli, že napíšeme knihu, která bude revoluční, což samozřejmě jsme tehdy ještě nevěděli, ale měli jsme prostě odhodlání, bavila nás anatomie, působili jsme jako mentoři na různých univerzitách nebo na různých fakultách. Hlavní nápad vzešel od Radovana Hudáka, který tady dneska je, a teď se věnuje AI ve vzdělávání lékařů. Ale abych se posunul: za těch 15 let máme více než 10 jazykových mutací, digitální podobu knihy, aplikaci na výuku anatomie, 3D anatomický atlas. A já jsem měl tu čest být členem toho autorského týmu na začátku, kde za touto knihou, za tím prvním vydáním, když bych to sečetl, nás bylo více než 120.

[45:26] David Salomon: Panečku, to je kolektiv.

[45:28] Ondřej Volný: Ale to nebyl úplně kolektiv autorů, to byl kolektiv spolupracujících. Těch autorů bylo méně a každý tam psal kapitolu, která mu byla nejbližší. Tak já už jsem tehdy věděl, že budu neurolog, tak jsem psal tu neurologickou část. A pak přišel jazykový překlad do angličtiny, který byl tedy pod mým vedením, a to tehdy ještě taky nebyly jazykové modely, takže my jsme to opravdu překládali na koleni do angličtiny. To vyšlo v roce 2016. A angličtinou se otevřely jiné trhy, takže máme překlad do řečtiny, finštiny, němčiny, hebrejštiny.

[46:02] David Salomon: To je hezké, jak říkáš.

[46:04] Ondřej Volný: Polštiny. Němčiny a hebrejštiny, že jsem to takhle rozdal vlastně správně. Tak ty jsi říkal, že německy umíš perfektně, že jsi tam měl -

[46:09] David Salomon: Já jsem -

[46:10] Ondřej Volný: Hebrejský dvě jména, máš -

[46:11] David Salomon: Mám, přesně tak. A Salomon je hebrej ský, no, takže - Ale pěkně to víš, jako.

[46:15] Ondřej Volný: A teď, co na to navázalo, tak jsme si řekli: hele, AI je tady, takže když si zalistuješ tou knihou, tak vlastně obrázky byly nakresleny našimi grafiky. Ale aby byly teď takové na oko příjemnější

[46:28] David Salomon: Šťavnatější, jo.

[46:29] Ondřej Volný: Šťavnatější, tak je upravila AI, ale každý obrázek je zkontrolován anatomem, aby tam nedošlo k nějaké úpravě. Čili my jsme nenechali doupravovat ty obrázky ve smyslu "dokresli" atd. My jsme nechali jenom graficky to udělat více sexy, aby to bylo těm studentům příjemné. A pak je tady spousta QR kódů, které si ti studenti můžou vyfotit chytrým telefonem a dostat se do té elektronické verze. A na to je navázaná naše nová aplikace Medical AI Tutor a Anatomy AI Tutor, takže doporučuju si vyzkoušet, kde můžeš položit jakoukoliv anatomickou otázku. A protože AI nástroj je tak kvalitní, jako je zdroj, tak tady je ten zdroj. Nečerpáme z všeobecně dostupných obrázků a textů, které jsou na internetu.

[47:19] Ondřej Volný: Čili tato kniha byla využita na trénink tohoto Anatomy Tutora, kterého spouštíme celému světu. Máme globální ambice. Aktuálně řešíme pre-seed investiční kolo, doufám, že úspěšně, nebo CEO Radovan Hudák. A chtěli jsme to udělat pro studenty, aby je bavila jednak anatomie, ale teď řešíme i další obory medicíny. A chceme ukázat, že i v med-edu se dá pracovat s kvalitními zdroji, s kvalitními daty. A samozřejmě máme tu aplikaci opřenou i o to, že jsme to například propojili se sylaby všech lékařských fakult v České republice. Takže když studuješ v Praze na 2. lékařské fakultě, vybereš si sylabus 2. lékařské fakulty a tutor anatomie tě učí přesně na tu hodinu, která tě čeká.

[48:06] David Salomon: To je perfektní. A vás teda čeká teďka shánění peněz na ten startup?

[48:11] Ondřej Volný: Je to teďka v běhu.

[48:12] David Salomon: Tak výzva pro vás, protože my máme hodně bohaté posluchače taky. Tak kdyby měli třeba andělská křídla na zádech, tak se můžou zapojit.

[48:21] Ondřej Volný: Určitě.

[48:21] David Salomon: Pro mě to je skvělá zpráva, že 50 000 lidí četlo tuhle knížku, takže jsou poměrně poučení v anče, jak my říkáme v anatomii. A kdybyste někdo chtěl vidět, jak má vypadat slušně vychovaná kniha plná QR kódů, s 3D obsahem, tak si ji určitě pořiďte. Moc děkujeme, bylo to skvělé setkání tady na Černá AI Festu. Ondro, že jsi se u nás zastavil, že jsi nám tady ukázal kus Ostravy.

[48:45] Ondřej Volný: No, já děkuju za pozvání. Tady je to spíše uhlíkový kraj nebo karbonový kraj, ale já myslím, že ten Křemík se tady taky najde.

[48:53] David Salomon: Křemík tady má taky future. Díky moc a měj se hezky.

[48:56] Ondřej Volný: A třeba zase někdy na slyšenou, na viděnou.

[48:59] David Salomon: Díky moc a díky za to, že toho Křemíku do té Ostravy přivádíte čím dál tím víc. Nezapomeňte dát odběr podcastu. Uvidíme se někdy, klidně i na živých akcích. A poslední zhasne, i tady dneska v gongu.