Проучване предупреждава: ChatGPT не винаги разпознава спешни медицински случаи

Ново изследване показва, че AI инструменти като ChatGPT могат да подценяват ситуации, които изискват спешна медицинска помощ, въпреки че милиони хора ги използват за здравни съвети. Това съобщава Euronews.

По данни на OpenAI повече от 230 милиона души седмично задават въпроси, свързани със здравето. Хората питат от това дали дадена храна е безопасна за консумация до управление на алергии или лечение на настинка.

Според новото проучване, публикувано в Nature, инструментът се справя добре с ясни и очевидни медицински спешности. В редица случаи обаче не препоръчва навременно търсене на медицинска помощ.

Изследването, проведено от учени от Mount Sinai Health System, анализира 60 клинични сценария от 21 медицински специалности – от леки симптоми, подходящи за домашно лечение, до животозастрашаващи състояния. За всеки сценарий трима независими лекари определят правилното ниво на спешност въз основа на насоки от 56 медицински организации.

Резултатите показват, че системата правилно идентифицира някои типични спешни състояния, като инсулт или тежка алергична реакция. В повече от половината случаи, които реално изискват спешна медицинска намеса, обаче инструментът не препоръчва незабавно посещение в спешно отделение.

В един от анализираните сценарии с астматичен пристъп системата дори разпознава ранните признаци на дихателна недостатъчност в обяснението си. Въпреки това съветва пациента да изчака, вместо да потърси спешна помощ.

Изследването разглежда и реакцията на системата при съобщения за самонараняване. Въпреки че платформата е програмирана да насърчава търсенето на помощ и да предоставя връзка към кризисни линии, предупреждението „Help is available“ се е появявало непоследователно.

Функцията ChatGPT Health беше въведена през януари 2026 г. Тя позволява на потребителите да свързват здравни данни – например медицински досиета или информация от приложения като MyFitnessPal – за да получават по-персонализирани отговори.

Авторите подчертават, че резултатите не означават, че AI здравните инструменти трябва да бъдат изоставени. По-скоро те трябва да се използват внимателно и да не заменят медицинската експертиза.

Според изследователите хората със симптоми като болка в гърдите, задух, тежка алергична реакция или внезапни промени в съзнанието трябва незабавно да потърсят медицинска помощ. Те не трябва да разчитат единствено на съвети от чатбот.

Те отбелязват още, че системите с изкуствен интелект се обновяват постоянно. А това означава, че техните резултати и точност могат да се променят с времето и изискват непрекъснато наблюдение и оценка.