Изкуственият интелект се провали в борбата с коронавируса - грешката е в хората

„Ако има момент, в който изкуственият интелект може да докаже своята полезност, това е именно сега“, казва пред MIT Лори Уайнънтс, епидемиолог от университета в Маастрихт, Холандия, занимаваща се със създаване на софтуер за прогнозиране.

Според нея това така и не се е случило, но не поради липсата на усилия. Изследователски екипи от цял свят се надпреварваха месеци наред да разработват софтуер, с който да позволят на медиците да диагностицират пациентите по-бързо. На теория това трябваше да осигури така необходимата подкрепа на болниците на първа линия.

Здравното министерство уточни при какви условия медиците ще получават допълнителните 1000 лв.

Министерство на здравеопазването с уточнения за определяне на размера на сумите за допълнителни възнаграждения за постигнати резултати ...

Прочети повече

Това доведе до разработката на стотици инструменти за прогнозиране. Но никой от тях не направи истински пробив, а някои дори се оказаха потенциално вредни. Това е кошмарното заключение за ползата от множеството проучвания, публикувани през последните няколко месеца.

През юни Институтът Тюринг, британският национален център за научни данни и изкуствен интелект, излезе с доклад, обобщаващ изводите от дискусиите, проведени в поредица от семинари в края на 2020 г. Изводът от доклада е, че ИИ е оказал малко или никакво въздействие в борбата срещу COVID-19.

До същия извод достигнаха и две големи проучвания за оценка на ИИ в тази насока. Едното е разработено през 2020 г. от екипа на Уайнънтс и е публикувано в British Medical Journal.

Уайнънтс и нейните колеги са проучили 232 алгоритъма за диагностициране на пациенти или прогнозиране колко души могат да се разболеят от вируса. Те открили, че никой от тях не е годен за клинична употреба. В действително едва 2 от алгоритмите са посочени като достатъчно обещаващи за бъдещи тестове.

"Това е шокиращо. Имах известни притеснения и преди това, но това надхвърли и най-лошите ми очаквания", казва Уайнънтс.

Работят ли векторните ваксини по-добре срещу коронавируса от РНК? Отговорът още не е ясен

Дали векторните ваксини няма да се окажат по-ефективни срещу COVID-19 спрямо РНК ваксините? Този въпрос поставя в своя фейсбук профил д...

Прочети повече

Второто проучване, достигнало до аналогичен извод, е на екипа на Дерек Дригс, изследовател от университета в Кеймбридж, публикувано в Nature Machine Intelligence.

"Тази пандемия беше голямо изпитание за изкуствения интелект и медицината. Не мисля, че успяхме да издържим теста", казва Дригс.

И двата екипа установяват, че разработчиците повтарят едни и същи основни грешки - най-вече подаването на първоначалните данни, на чиято основа се разработва съответният ИИ модел. А това означава, че компютърните модели не работят правилно, пропускат важни характеристики на заболяването и могат да подценят риска за уязвимите пациенти.

Уайнънтс и Дригс все още вярват, че ИИ има потенциал да помогне. Но очевидно нещо трябва да се промени. Нереалистичните очаквания насърчават използването на тези инструменти, преди те да са готови. Някои от алгоритмите, които двамата учени са обследвали, вече са били внедрени в болници или се продават от частни разработчици. "Страхувам се, че те може да са навредили на пациентите", казва Уайнънтс.

Изследователите дават примери за погрешно интерпретиране на данните от ИИ. Използвани са например набор от данни, съдържащи сканиране на гръдния кош при деца, които не са имали COVID, като примери за това как изглеждат случаите на здрави пациенти. Но в резултат на това ИИ се е научил просто да идентифицира деца вместо COVID.

Български учен от Станфорд смята, че коронавирусът ще става по-опасен, ако не го спрем по китайски

Вирусът е твърде заразен, за да може да бъде спрян със сегашното ваксинационно покритие. Това означава, че трябва 90 на сто от хората д...

Прочети повече

Друг проблем е, че много от приложенията са разработени или от програмисти без медицински опит, които няма как да открият недостатъците в данните, или от медицински изследователи без математически умения, с помощта на които да компенсират тези слабости в софтуера и писането на съответния код.

Какво може да се предприеме?

Най-логичният ход е екипите програмисти да си сътрудничат повече с медицинските специалисти, казва Дригс. Изследователите също така би трябвало да споделят своите разработки и да разкрият как работят тези модели, за да може да се тестват и да се усъвършенстват. Тези две неща биха помогнали за преодоляването на може би 50% от проблемите, смята Дригс.

Повечето разработчици са се втурнали да правят свои собствени модели, вместо да работят в екип или да подобряват съществуващите, смятат още двамата учени. В резултат на това днес имаме стотици посредствени приложения по цял свят вместо няколко, но които да работят ефективно, твърдят те.

"Моделите са съвсем сходни - почти всички използват едни и същи техники с дребни разлики и съответно всички правят едни и същи грешки. Ако всички тези хора, които бълват нови и нови модели, вместо това тестваха вече наличните такива, може би щяхме да имаме нещо, което наистина би могло да помогне на медиците", казва още Уайнънтс.