Mohlo by se vám odpustit, že si myslíte, že AI brzy nahradí lidské lékaře na základě titulků, jako je „The AI Doctor Uvidíme se teď“, „Váš budoucí doktor nemusí být člověk“ a „Tento AI právě porazil lidské lékaře na klinické zkoušce „Odborníci však říkají, že realita je spíš spolupráce než vyhoštění: Pacienti by mohli brzy najít svůj život částečně v rukou AI služeb, které spolupracují s lidskými kliniky.
V lékařské komunitě není nedostatek optimismu ohledně umělé inteligence. Mnoho však také varuje, že humbuk kolem AI musí být realizován v reálném klinickém prostředí. Existují také různé vize, jak by služby AI mohly mít největší dopad. A stále není jasné, zda AI zlepší život pacientů, nebo jen spodní hranici pro společnosti v Silicon Valley, zdravotnické organizace a pojišťovny.
"Myslím si, že všichni naši pacienti by ve skutečnosti měli chtít, aby byly technologie AI přivedeny na slabosti ve zdravotnickém systému, ale musíme to udělat humbukem bez Silicon Valley, " říká Isaac Kohane, výzkumník biomedicínské informatiky na Harvardská lékařská škola.
Pokud AI bude fungovat tak, jak bylo slíbeno, mohla by demokratizovat zdravotní péči tím, že posílí přístup pro nedostatečně obsluhovaná společenství a sníží náklady - požehnání ve Spojených státech, které je na mnoha zdravotních opatřeních špatné, přestože průměrné roční náklady na zdravotní péči činí 10 739 $ na osobu. Systémy umělé inteligence mohou uvolnit přepracované lékaře a snížit riziko lékařských chyb, které mohou každý rok zabít desítky tisíc, ne-li stovky tisíc pacientů v USA. A v mnoha zemích s nedostatkem národních lékařů, například v Číně, kde mohou přeplněné ambulance městských nemocnic vidět až 10 000 lidí denně, takové technologie nepotřebují dokonalou přesnost, aby se ukázaly jako užitečné.
Kritici však poukazují na to, že vše, co slibuje, by mohlo zmizet, pokud by spěch na implementaci AI šlapal do práv na soukromí pacientů, přehlížel předsudky a omezení nebo nedokázal zavádět služby způsobem, který by zlepšil zdravotní výsledky pro většinu lidí.
„Stejným způsobem, jak mohou technologie vyrovnat rozdíly, mohou tyto rozdíly ještě prohloubit, “ říká Jayanth Komarneni, zakladatel a předseda projektu Human Diagnostnosis Project (Human Dx), veřejně prospěšná společnost zaměřená na crowdsourcing lékařských odborných znalostí. "A nic nemá takovou schopnost prohlubovat rozdíly jako AI."
***
Dnes jsou nejoblíbenějšími technikami umělé inteligence strojové učení a jeho mladší sestřenice, hluboké učení. Na rozdíl od počítačových programů, které striktně dodržují pravidla psaná lidmi, mohou jak strojové učení, tak algoritmy pro hluboké učení sledovat soubor dat, poučit se z něj a vytvářet nové předpovědi. Zejména hluboké učení může učinit působivé předpovědi objevením datových vzorců, které by lidé mohli chybět.
Ale pro co nejlepší využití těchto předpovědí ve zdravotnictví nemůže AI na to jít sám. Lidé musí spíše pomáhat při rozhodování, která mohou mít závažné zdravotní a finanční důsledky. Protože systémy umělé inteligence postrádají obecnou inteligenci lidí, mohou dělat nepochopitelné předpovědi, které by se mohly ukázat jako škodlivé, pokud by je lékaři a nemocnice bezpochyby následovali.
Klasický příklad pochází od Rich Caruany, výzkumného pracovníka společnosti Microsoft Research, jak vysvětlil loni v časopise Engineering and Technology. V 90. letech Caruana pracovala na projektu, který se pokusil použít dřívější formu strojového učení, aby předpověděl, zda pacient s pneumonií byl nízkorizikový nebo vysoce rizikový případ. Problémy se však objevily, když se model strojového učení pokusil předvídat případ pacientů trpících astmatem, kteří jsou vysoce ohroženi, protože je kvůli jejich existujícím dýchacím potížím stávají náchylnými k pneumonii. Model označil tyto pacienty za nízkorizikové a vyžadoval spíše menší zásah než hospitalizaci - něco, co by lidský odborník nikdy neudělal.
Pokud model nasloucháte slepě, říká Kenneth Jung, výzkumný pracovník ve Stanfordském centru pro výzkum biomedicínské informatiky, „pak jste nabití. Protože model říká: „Ach, přišlo to dítě s astmatem a dostali pneumonii, ale nemusíme se o ně starat a posíláme je domů s některými antibiotiky.“ “
Prognózy hlubokého učení mohou také selhat, pokud se poprvé setkají s neobvyklými datovými body, jako jsou například jedinečné lékařské případy, nebo když se učí zvláštní vzorce v konkrétních datových sadách, které se dobře nezobecňují na nové lékařské případy.
Prognózy umělé inteligence nejlépe fungují, když jsou aplikovány na rozsáhlé soubory dat, například v Číně, která má výhodu v tréninku systémů umělé inteligence díky přístupu k velkým populacím a pacientským datům. V únoru publikoval časopis Nature Medicine studii od vědců se sídlem v San Diegu a Guangzhou v Číně, která ukázala slib v diagnostice mnoha běžných dětských nemocí na základě elektronických zdravotních záznamů více než 567 000 dětí.
Ale i velké soubory dat mohou představovat problémy, zejména když se vědci snaží použít svůj algoritmus na novou populaci. Ve studii Nature Medicine přicházelo všech půl milionu pacientů z jednoho zdravotnického centra v Guangzhou, což znamená, že neexistuje žádná záruka, že by se diagnostické lekce získané při školení na tomto datovém souboru vztahovaly na pediatrické případy jinde. Každé lékařské centrum může přilákat svůj vlastní jedinečný soubor pacientů - například nemocnice známá svým kardiovaskulárním centrem může přitahovat kritičtější srdeční stavy. A nálezy z nemocnice v Guangzhou, které většinou přitahují etnické čínské pacienty, se nemusí převést do nemocnice v Šanghaji s vyšším počtem pacientů z Číny, kteří se narodili v zahraničí.
V této diskusi TEDx 2017, Shinjini Kundu z nemocnice Johns Hopkins Hospital, vysvětluje, jak mají nástroje AI potenciál získat více z lékařských obrazů, než dokáží doktoři samotní lékaři - včetně předvídání nemocí dříve, než pacienti projeví příznaky.
Tato extrapolace bude obtížná i v jiných situacích. Například, říká Marzyeh Ghassemi, počítačový vědec a biomedicínský inženýr na University of Toronto, říká, že máte 40 000 pacientů na JIP v lékařském centru Beth Israel Deaconess Medical Center - to je jen jedna nemocnice v jednom městě. "Takže mám všechny ty papíry, které s těmito údaji provedly předpovědi." Funguje to s jinou nemocnicí v Bostonu? Možná. Funguje to pro nemocnici v jiném státě? Fungovalo by to v jiné zemi? Nevíme. “
***
I když modely AI nemusí fungovat v každém případě, Ghassemi si myslí, že tato technologie stále stojí za prozkoumání. "Jsem velmi nakloněna tomu, abych vzala tyto modely z lavice na postel, " říká, "ale s opravdu agresivními preventivními kroky."
Tyto kroky musí existovat během vývoje a zavádění AI, říká I. Glenn Cohen, profesor práva na Harvardské univerzitě a vedoucí projektu pro precizní medicínu, umělou inteligenci a zákon. To může zahrnovat ověření přesnosti a průhlednosti předpovědí AI. Během sběru dat budou muset vědci chránit soukromí pacienta a požádat o souhlas s použitím údajů o pacientech pro výcvik AI
Otázka souhlasu se objeví znovu, když je model AI připraven na experimentální klinické testování se skutečnými pacienty. "Je třeba pacientům sdělit, že na nich používáte algoritmus, a záleží na tom, zda AI provádí péči zcela nebo částečně péči?" Zeptá se Cohen. "Na tyto otázky je opravdu velmi málo."
Společnost Ghassemi se rovněž zasazuje o časté audity algoritmů umělé inteligence, které zajistí spravedlivost a přesnost napříč různými skupinami lidí na základě etnického původu, pohlaví, věku a zdravotního pojištění. To je důležité vzhledem k tomu, jak aplikace AI v jiných oblastech již ukázaly, že mohou snadno zachytit zkreslení.
Po všech těchto krocích budou muset lidé a společnosti poskytující služby AI vyřešit právní odpovědnost v případě nevyhnutelných chyb. A na rozdíl od většiny zdravotnických prostředků, které obvykle vyžadují pouze jedno regulační schválení, mohou služby AI vyžadovat další kontrolu, kdykoli se učí z nových dat.
Některé regulační agentury přehodnocují, jak posoudit zdravotní péči AI. V dubnu vydala americká Potravinářská a drogová správa (FDA) diskusní dokument, aby získala veřejnou zpětnou vazbu o tom, jak aktualizovat příslušný regulační přezkum. „To, co se zde neustále snažíme, je vrátit se k našemu cíli, kterým je poskytnout lidem přístup k technologiím, ale zároveň si uvědomujeme, že naše současné metody nefungují úplně dobře, “ říká Bakul Patel, ředitel pro digitální zdraví na FDA. "Proto se musíme podívat na holistický přístup celého životního cyklu produktu."
Kromě otázek souvisejících s přístupem, ochranou soukromí a předpisy také není jasné, kdo může těžit ze zdravotnických služeb AI nejvíce. Již existují rozdíly ve zdravotní péči: Podle Světové banky a Světové zdravotnické organizace nemá polovina populace na celém světě přístup k základním zdravotnickým službám a téměř 100 milionů lidí je tlačeno do extrémní chudoby díky výdajům na zdravotní péči. V závislosti na tom, jak je nasazeno, by umělá inteligence mohla tyto nerovnosti buď zlepšit, nebo je ještě zhoršit.
„Mnoho diskusí o umělé inteligenci bylo o tom, jak demokratizovat zdravotní péči, a já chci vidět, jak se to děje, “ říká Effy Vayena, bioetiková ve Federálním technologickém institutu ve Švýcarsku.
"Pokud skončíte s poskytováním kvalitních služeb těm, kteří si přesto mohou dovolit dobrou zdravotní péči, " dodává, "nejsem si jistá, zda se jedná o transformaci, kterou hledáme."
Jak to všechno hraje, závisí na různých vizích pro implementaci AI. Včasný vývoj se zaměřil na velmi úzké diagnostické aplikace, jako je zkoumání obrázků na náznaky rakoviny kůže nebo nehtů, nebo čtení rentgenů hrudníku. Nedávnější úsilí se však pokusilo diagnostikovat více zdravotních stavů najednou.
V srpnu 2018, Moorfields Eye Hospital ve Velké Británii a DeepMind. londýnská laboratoř AI, kterou vlastní mateřská společnost Google Alphabet, ukázala, že úspěšně vyškolili systém AI k identifikaci více než 50 očních chorob při skenech, což odpovídalo výkonu předních odborníků. Obdobně velké ambice vedly studii v San Diegu a Guangzhou, která školila umělou inteligenci k diagnostice běžných onemocnění dětí. Ta nebyla tak dobrá v diagnostice dětských nemocí ve srovnání se staršími lékaři, ale vedla lépe než jiní lékaři.
Takové systémy umělé inteligence nemusí nutně překonávat ty nejlepší lidské odborníky, aby pomohly demokratizovat zdravotní péči, ale jednoduše rozšířily přístup k současným lékařským standardům. Přesto je zatím mnoho navrhovaných aplikací AI zaměřeno spíše na zlepšení současného standardu péče než na šíření dostupné zdravotní péče, Cohen říká: „Demokratizace toho, co již máme, by pro vaše peníze byla mnohem větším třeskem než zlepšením toho, co máme v mnoho oblastí. “
Poradenská společnost Accenture předpovídá, že nejlepší aplikace AI by mohly do roku 2026 ušetřit americkou ekonomiku 150 miliard dolarů ročně. Není však jasné, zda by prospěly pacientům a zdravotnickým systémům doplněným dolary daňových poplatníků, nebo kdyby do technologických společností jednoduše proudilo více peněz, poskytovatelů zdravotní péče a pojišťoven.
"Otázka, kdo to bude řídit a kdo za to zaplatí, je důležitá otázka, " říká Kohane. "O všech těch obchodních plánech je trochu halucinatorní, že si myslí, že vědí, jak to bude fungovat."
I když služby AI vydávají doporučení pro úsporu nákladů, mohou lékaři a zdravotnické organizace váhat s doporučením AI, pokud v důsledku toho vydělají méně peněz, Kohane varuje. To hovoří o větším systémovém problému amerických zdravotních pojišťoven, kteří používají model poplatku za služby, který často odměňuje lékaře a nemocnice za přidávání testů a lékařských postupů, i když nejsou potřeba.
***
Existuje další možnost AI, která by mohla zlepšit kvalitu péče a zároveň ponechat většinu lékařských diagnóz v rukou lékařů. Ve své knize Deep Medicine z roku 2019, Eric Topol, ředitel a zakladatel Scripps Research Translational Institute, hovoří o vytvoření v zásadě přeplněného zdravotnického Siri - pomocníka AI, který by zaznamenával interakce mezi lékaři a jejich pacienty, zadával tyto poznámky do elektronického zdraví záznamy a připomenout lékařům, aby se zeptali na relevantní části historie pacienta.
"Mým ambicím je, že dekomprimujeme práci lékařů a zbavujeme se jejich role úředníka, pomáháme pacientům přebírat větší odpovědnost a data zvyšovat, aby jejich revizi trvalo tak dlouho, " říká Topol.
„Nikdy nezapomenutelný lékařský asistent nebo pisatel, “ říká Kohane, by vyžadoval umělou inteligenci, která dokáže automaticky sledovat a přepisovat více hlasů mezi lékaři a pacienty. Podporuje Topolovu myšlenku, ale dodává, že většina vyvíjených aplikací AI se nezdá být zaměřena na takové pomocníky. Přesto některé společnosti, jako jsou Saykara a DeepScribe, vyvinuly služby v tomto směru a dokonce Google se spojil se Stanford University, aby otestoval podobnou technologii „digitálního scribe“.
Asistent AI může znít méně vzrušeně než AI lékař, ale mohl by uvolnit lékaře, aby strávili více času se svými pacienty a zlepšili celkovou kvalitu péče. Zejména rodinní lékaři často tráví více než polovinu svého pracovního dne zadáváním údajů do elektronických zdravotních záznamů - což je hlavní faktor fyzické a emoční syndromu vyhoření, který má strašné následky, včetně úmrtí pacientů.
Ironicky, elektronické zdravotní záznamy měly zlepšit lékařskou péči a snížit náklady tím, že zpřístupní informace o pacientech. Nyní Topol a mnoho dalších odborníků poukazovalo na elektronické zdravotnické záznamy jako varovný příběh pro současný humbuk kolem AI v medicíně a zdravotnictví.
Implementace elektronických zdravotních záznamů již vytvořila patchworkový systém rozšířený mezi stovky soukromých prodejců, který především uspěl v izolaci údajů o pacientech a učinil jej nepřístupným jak pro lékaře, tak pro pacienty. Pokud je historie nějakým průvodcem, mnoho technologických společností a zdravotnických organizací bude pociťovat tlak sledovat podobné cesty shromažďováním lékařských údajů pro své vlastní systémy AI.
Jedním ze způsobů, jak to obejít, může být použití kolektivního zpravodajského systému, který shromažďuje a řadí lékařské odborné znalosti z různých zdrojů, říká Komarneni, který se snaží tento přístup s Human Dx. Za podpory velkých lékařských organizací, jako je American Medical Association, Human Dx vybudoval online platformu pro radu crowdsourcingu od tisíců lékařů v konkrétních lékařských případech. Komarneni doufá, že taková platforma by teoreticky mohla také někdy zahrnovat diagnostické rady od mnoha různých služeb AI.
"Stejným způsobem, že by se na váš případ mohlo v budoucnu podívat více lidských odborníků, neexistuje žádný důvod, proč by to vícenásobná umělá inteligence nemohla udělat, " říká Komarneni.
Doktoři čekají na pomocníky umělé inteligence, projekty crowdsourcingu jako Human Dx „by určitě mohly vést ke zlepšení diagnostiky nebo dokonce ke zlepšení doporučení pro terapii, “ říká Topol, který je spoluautorem studie z roku 2018 na podobné platformě Medscape Consult. V závěru práce byla kolektivní lidská inteligence považována za „konkurenční nebo doplňkovou strategii“ AI v medicíně.
Pokud však služby AI projdou všemi testy a kontrolami v reálném světě, mohou se stát důležitými partnery pro člověka při přetváření moderní zdravotní péče.
"Existují věci, které stroje nikdy nebudou dělat dobře, a pak další, kde překonají to, co může udělat každý člověk, " říká Topol. "Takže když dáte dohromady dva, je to velmi silný balíček."
***
Jeremy Hsu je novinář na volné noze se sídlem v New Yorku. Mezi další publikace často píše o vědě a technologii pro Backchannel, IEEE Spectrum, Popular Science a Scientific American.
Tento článek byl původně publikován na webu Undark. Přečtěte si původní článek.
