Изкуственият интелект (ИИ) навлиза с бясна скорост в медицината. И ние в болницата използваме система с ИИ за откриване на полипи в дебелото черво при колоноскопия. Малко хора знаят, че при взимодействието между човек и ИИ може да възникнат неочаквани проблеми, които дори са посочени в най-новите европейски препоръки (ESGE). Ето по-важните от тях:
1) Автоматизация (automation bias) е склонността на човека да се доверява прекалено много на външен фактор (като ИИ). Така може да се стигне до грешното схващане, че ИИ ще открие всички полипи, независимо от действията на човека. Потенциална опасност е загубата на придобити умения (deskilling) и парадоксално намалено откриване на опасни полипи.
2) Закотвяне (anchoring bias) е ситуация, при която хората се влияят от фактори без значение, напр. ненужно рязане на нормална лигавица на червото, погрешно засечена като полип от ИИ поради странно светлинно отражение или наличие на мехурчета.
3) Отвращение от алгоритъма (algorithm aversion) настъпва, когато хората забелязват, че ИИ прави грешки и несъзнателно започват да пренебрегват неговите сигнали, дори когато са точни. Това може да доведе до пропускане на потенциално опасни полипи, иначе открити от ИИ, но пренебрегнати от лекаря.
4) Консерватизъм (conservatism bias) – хората обикновено подхождат консервативно, когато вярванията им са подложени на съмнение. Често лекарят не може да разбере начина, по който ИИ стига до финалното си заключение (напр. има или няма полип), както и колко вероятно е ИИ да сбърка в конкретни ситуации. Това може да доведе до недоверие към резултата от ИИ и пренебрегване на сигнала.
Учудващо или не, всички тези потенциални проблеми при използване на ИИ са обяснени в европейските препоръки за провеждане на колоноскопия със система за ИИ. Лекарят не трябва прекалено много да се доверява на ИИ системата (често дава фалшиво положителни сигнали), но не трябва и напълно да игнорира подаваните от нея сигнали (засичане на трудни за идентифициране полипи).
Сложно е. Колоноскопията и без това е трудна процедура с високи критерии за качество, които у нас невинаги се спазват. А сега има още едно ниво на комплексност. Затова трябва да се чете всеки ден.
Източник: Mori Y, Kopylov U, Sinonquel P, et al. Curriculum for safe and effective use of artificial intelligence in endoscopy: European Society of Gastrointestinal Endoscopy (ESGE) Position Statement. Endoscopy. 2026;58(2):202-210
Свържете се с д-р Митев за провеждане на колоноскопия.
Свържете се с д-р Митев за провеждане на гастроскопия.
