Se stále častějším využitím umělé inteligence se ale nepojí pouze to pozitivní. Světová zdravotnická organizace (WHO) letos v květnu varovala před rychlým nasazením těchto technologií. WHO jako problematické označila zejména používání takzvaných velkých jazykových modelů (LLM), mezi něž patří například ChatGPT, Bard, Bert a mnoho dalších, které lidé ve zdravotnictví mnohdy používají s nedostatečnou kontrolou.
„Urychlené přijetí neotestovaných systémů by mohlo vést k chybám zdravotnického personálu, poškození pacientů*pacientek nebo narušit důvěru v AI a tím podkopat potenciální dlouhodobé přínosy a využití těchto technologií na celém světě,“ píše WHO v prohlášení.
WHO se v souvislosti s unáhleným používáním systémů AI obává zejména neobjektivních dat, která by mohla přinést zavádějící nebo nepřesné informace. Ty by v některých případech mohly představovat i zdravotní riziko. LLM by také mohly využívat informace, k jejichž použití nemusel být dříve udělen souhlas, a nemusely by chránit citlivé údaje, včetně údajů o zdravotním stavu. V neposlední řadě vidí WHO riziko také v případném zneužití k vytváření a šíření velmi přesvědčivých dezinformací, které laická veřejnost nemusí odlišit od spolehlivého zdravotnického obsahu.
