Na robotického lékaře se spolehnout nedá. Chatbot jen generuje text
Objevila se vám zvláštní modřina, vyrážka, bolí vás hlava a nechce se vám snažit se dovolat svému praktickému lékaři? Do Googlu symptomy zadávat nechcete, protože většinou se vám zobrazí jen nejčernější scénáře. Tak zkusíte speciální chatovací aplikaci, která vám údajně umožní okamžitě si psát s domácím lékařem. Je to bezpečné?
„Chatovací aplikace nabízejí chat s někým, kdo se vydává za lékaře. Ve skutečnosti ale odpovídá známý jazykový model ChatGPT. K němu se může jakýkoli programátor za poplatek napojit na takzvané API a skrze ně nechat ChatGPT odpovídat v jeho vlastní aplikaci,“ vysvětluje Jana Magdoňová.
Rozdíl mezi chatbotem a telemedicínou je v tom, že chatbot generuje realisticky vypadající text. Zatímco v telemedicíně pracují skuteční lékaři, vysvětlují redaktoři pořadu Antivirus
Ale ChatGPT není lékař, proč se za něj vydává? Protože mu tvůrci takových aplikací dají takové zadání. To se nazývá prompt a může třeba znít: „Jsi Jakub Zdravý, vystudoval jsi 1. lékařskou fakultu Univerzity Karlovy v Praze a v roce 2010 jsi obhájil diplomovou práci na téma Prevence chronických onemocnění a význam zdravého životního stylu.“
Jazykový model se následně tohoto příběhu drží a chová se podle zadání. Tohle ale z chatbota lékaře neudělá. Jen se bude snažit napodobit odpovědi lékaře s takovou minulostí.
„Když jsme jednu takovou aplikaci zkoušeli, chatbot působil velmi suverénně. Odhadoval, co můžou naše symptomy znamenat, a dával nám rady, jak postupovat dál,“ popisuje Jana Magdoňová.
ChatGPT už vyzkoušelo 36 procent Čechů. Populární je zejména u mladých, kteří ho často využívají při práci
Číst článek
„Dokonce když jsme ho konfrontovali s otázkou, zda náhodou není chatbot, vytrvale to popíral a tvrdil nám, že je skutečný lékař. Vymýšlel si, jakou školu vystudoval a kdy, ale odmítal nám například poslat svou diplomovou práci. Pouze nám řekl, jak se měla jmenovat, ale v repozitáři závěrečných prací Univerzity Karlovy nikdo toho jména nepublikoval,“ dodává Jan Cibulka.
Robot znalosti jen předstírá
Jazykové modely totiž nepracují s pojmy jako pravda nebo lež nebo správné a nesprávné. Ony jen generují text tak, aby zněl co nejvíc pravděpodobně. Proto někdy mohou poskytnout i správnou odpověď, ale spolehnout se na ně nedá. „Z pohledu modelu totiž není mezi jednotlivými odpověďmi žádný rozdíl,“ upozorňuje Jana Magdoňová.
Určitě není správné, že chatbot nepřizná, že je pouze program a ne skutečný lékař. Ve chvíli, kdy člověk hledá lékařskou pomoc, je často ve stresu, má strach a nemusí správně odhadnout, že jde jen o aplikaci, která lékařské znalosti jen předstírá a ve skutečnosti se odpovědi vůbec nemusí zakládat na realitě.
Umělá inteligence pomůže při hledání nových sportovních talentů
Číst článek
„V případě aplikace, kterou jsme zkoušeli my, chatbot používá obrázek mladého usměvavého lékaře v bílém plášti se stetoskopem kolem krku, kterého ale opět vygenerovala umělá inteligence,“ říká Jan Cibulka.
Diagnóza padesát na padesát
Dá se ale na robotického lékaře spolehnout? Právě takové použití ChatGPT jako lékaře zkoumala aktuální studie, která vyšla v časopise Plos One.
Výzkumníci jazykovému modelu předložili 150 vzorových příkladů včetně laboratorních výsledků pacientů. Ty se používají při tréninku studentů medicíny a budoucích skutečných lékařů. Zkoumali v kolika případech ChatGPT stanoví správnou diagnózu a poskytne odpovídající radu.
„Model uspěl jen v polovině případů. Což bychom u skutečného lékaře jen těžko mohli tolerovat. Autoři studie zdůrazňují, že model samozřejmě dokáže velmi dobře napodobovat odpovědi, které by mohl poskytnout opravdový lékař, ale chybí mu porozumění medicíny, které mají skuteční lékaři,“ upozorňuje Jan Cibulka.
AI má ‚předpovídat trestné činy‘ v Argentině. Možné porušení lidských práv, říká Amnesty International
Číst článek
Tvůrci aplikací si to nejspíš uvědomují, protože jejich výtvory obvykle pacientům zdůrazňují, že by se měli obrátit na svého lékaře.
Medicína na dálku
Takže se nedá na online léčbu spoléhat a budu muset vždy do čekárny ke svému praktikovi? „Už během pandemie covidu-19 se začala prosazovat medicína na dálku. Třeba lékaři můžou přes nejrůznější aplikace posílat elektronické recepty na léky, které běžně užíváte, a třeba vám došlo balení, takže kvůli tomu nemusíte do ordinace,“ říká Jana Magdoňová.
Objevují se i experimenty s telemedicínou. Pacient si s lékařem zavolá přes videochat. V jednodušších případech tak lékař může i diagnostikovat. Jeden takový program teď ohlásil například Jihočeský kraj.
Rozdíl mezi chatbotem a telemedicínou je ale v tom, že chatbot pouze generuje realisticky vypadající text. Zatímco v telemedicíně pracují skuteční lékaři, kteří využívají moderní technologie k efektivnější práci.
