Активное внедрение искусственного интеллекта (ИИ) в профессиональные сферы, в том числе в медицину, знаменует собой изменение в этих сферах технологических укладов исследовательских, клинических, образовательных процессов, требующих ревизии инструментальных возможностей их участников для уверенной передачи алгоритмам рутинных и автоматических функций — 24 с одной стороны, а также для четкой фиксации сугубо человеческой ответственности в этих процессах — с другой.

Несмотря на впечатляющие возможности, ИИ до настоящего времени не имеет устоявшейся общеупотребительной формулировки (а, возможно, и в связи со своими впечатляющими возможностями, поскольку любое определение — это суть — ограничение). Наиболее распространенной в литературе является формулировка из классического руководства С. Рассела и П. Норвига, где ИИ определяется как междисциплинарная область, направленная на создание компьютерных систем и программ, способных решать задачи, требующие когнитивных функций, подобных человеческим [1].

Такое размытое определение — довольно приблизительный ориентир для исследователей и практиков, а его зонтичный характер позволяет включать в понятие ИИ практически все, что связано с применением компьютерных методик в различных областях: под понятие ИИ начинают подпадать любые вычислительные алгоритмы, что создает риски терминологической и понятийной подмены, когда стандартная автоматизация выдается за интеллектуальные системы. Кроме того, «в первом приближении» впечатляющие результаты провоцируют фантастические ожидания от ИИ вплоть до прогнозов замены, например, в десятилетней перспективе профессии врача ¹. А, вместе с тем, четкое понимание возможностей и ограничений формирует трезвый и конструктивный подход к его применению.

Интеграция систем ИИ и смежных цифровых технологий (телемедицины, хирургической роботизации, систем поддержки принятия врачебных решений) в клиническую практику требует четкого методологического обоснования и понимания их функциональной роли, особенно в отличие от роли самого специалиста. Как бы догматично это уже ни звучало сейчас, но ИИ демонстрирует наибольшую эффективность именно как ассистирующий (вспомогательный) инструмент. Это также обусловлено рядом объективных ограничений: а) алгоритм не является субъектом права и не может нести юридическую ответственность, в частности, за клинические исходы и врачебные ошибки; б) отсутствие полной интерпретируемости решений ИИ препятствует полному доверию к ним при принятии интраоперационных и диагностических решений; в) ИИ не обладает клиническим мышлением в оценке индивидуального контекста больного, а также способностью к его этической оценке.

Так, Hashimoto с соавторами [2] подчеркивают, что несмотря на впечатляющие возможности машинного обучения и компьютерного зрения в анализе больших данных, приемы и алгоритмы искусственного интеллекта по своей природе имеют не до конца определяемые свойства, именуемые «черным ящиком», что ограничивает способности системы к полноценному причинно-следственному анализу. Алгоритмы ИИ не обладают клиническим контекстом, из-за чего их прогнозы и рекомендации требуют постоянной смысловой выверки со стороны врача. В этой связи в условиях стремительно нарастающего технологического подъема хирургическое сообщество не может занимать позицию пассивного наблюдателя. Напротив, специалисты обязаны активно интегрироваться в процесс проектирования цифровых решений, выступая квалифицированными заказчиками и экспертным фильтром для обеспечения принятия своевременных врачебных решений и безопасности пациентов.

Таким образом, наиболее конструктивный вектор развития ИИ, особенно в медицинских областях, заключается в утверждении синергетической модели, где ИИ делегируется рутинная обработка данных, а целеполагание и ответственность остаются за человеком.

ГОСУДАРСТВЕННЫЙ КОНТЕКСТ И ОТРАСЛЕВОЙ ВЫЗОВ

Осознание необходимости значительной коррекции парадигмы развития внедрения ИИ в профессиональную практику является масштабным требованием времени, поскольку использование ИИ перестает быть уделом только специалистов и энтузиастов, но выходит на государственный уровень. На совещании по вопросам, связанным с развитием ИИ в стране, под руководством Президента РФ В. В. Путина 10 апреля 2026 г. руководитель государства выдвинул конкретные первоочередные задачи, которые прямо касаются внедрения ИИ, названного новым технологическим укладом. Это знаковое событие выдвинуло три важных пункта:

1) создание программ ускоренного развития ИИ в РФ, что является серьезным сигналом к действию для университетов;

2) безотлагательная перенастройка механизмов подготовки и  переподготовки кадров и трансформация всех уровней образования под новый технологический уклад;

3) просчитывание основных рисков и угроз, возникающих в связи с применением таких систем, а также определение мер по своевременному предотвращению этих рисков и угроз.

С переходом ИИ-повестки в сферу государственного администрирования внедрение ИИ-инструментов будет нести уже директивный характер и будет связано со стандартными механизмами циклического управления (цикл Деминга): планирование, регламентация, контроль, административные решения. По-иному после включения административной машины процесс не работает. И в этих условиях возможны два сценария развития событий для специалистов: а) пассивная адаптация, когда, например, врачебное сообщество, сохраняющее позицию неучастия в  развитии ИИ-инструментария, будет вынуждено адаптироваться к готовым инструментам, приблизительно соответсвующим клинической целесообразности; б) активное участие как своевременная интеграция медицинского сообщества в процесс проектирования ИИ-решений. Врач должен стать квалифицированным заказчиком, формулирующим специализированные клинические задачи, а не просто потребителем ИИ-продукта с целью облегчения рутины или, что вовсе недопустимо, делегирования ключевой врачебной функции.

Для хирургии — специальности максимально конкретной и персонально ответственной — вопрос с ИИ и его роли в хирургической практике, требует если не экстренного, то безотлагательного решения. Определение границ применения алгоритмов в различных хирургических специальностях не терпит промедления. В противном случае эти границы, но уже нормативно, будут заданы «сверху» с предсказуемым результатом. Впрочем, разделение функций, при котором стратегию формируют «не сверху», а «на земле» в клинике решают исключительно тактические задачи, могло бы работать. Однако главная беда в том, что на практике любые рассуждения, а значит, разумные сомнения «на земле» с целью максимально эффективно выполнить задачу, воспринимаются после принятия директив «наверху» как отрицание самой идеи и саботаж. Причем за неудачи чаще всего отвечают те, кто их разумно предсказывал. Это лишь малый набор аргументов в пользу того, чтобы хирургическое сообщество активизировало усилия и самостоятельно определило место и границы применения ИИ в практической и исследовательской деятельности в хирургии.

Как можно охарактеризовать положение с внедрением ИИ в отечественной хирургии, как в исследовательской, так и в клинической ее части? Количество публикаций на обозначенную тему на русском языке в 600 (!) раз меньше, чем на английском², т. е. проблема еще не осознана в должной степени отечественными коллегами. В связи с этим одной из актуальных и сложных задач является преодоление указанного отставания на пути использования этого инструмента в отечественном профессиональном хирургическом сегменте. Сделать это возможно только путем настойчивого изучения предмета. Многолетний опыт разработки и внедрения новых хирургических методик в клиническую практику убеждает в том, что успех проекта появляется только тогда, когда пользователь (в нашем случае — врач-хирург) не только поймет преимущества метода, но увлечется им, примет то, что он полезен именно ему.

РАЗРЫВ ОЖИДАНИЙ УЧАСТНИКОВ ПРОЦЕССА

Какие надежды возлагаются на искусственный интеллект? Профессиональные сообщества, группы и отдельные специалисты в силу основного фокуса своих интересов по-разному формируют свои ожидания. Технократические оптимисты, венчурные инвесторы, например, возлагают на алгоритмы компьютерного зрения (Computer Vision), способные превзойти врача-диагноста в скорости и чувствительности при скрининге, надежды на стремительное масштабирование Software-as-a-Service-(SaaS)-решений извлечения сверхприбылей и захвата доли рынка медицинского ПО. Менеджмент от здравоохранения, страховые компании, организаторы здравоохранения — на системы поддержки принятия врачебных решений, автоматизированные системы анкетирования и триажа пациентов, прогностические модули для оценки длительности госпитализации, рисков повторных поступлений и вероятности осложнения — с целью удешевления стоимости приема, увеличения пропускной способности ЛПУ, ликвидации кадрового дефицита и снижения юридических рисков. Участковые врачи, врачи клиник, врачи лучевой и функциональной диагностики — на голосовые помощники и сервисы распознавания речи, модули «второго мнения» (Second Opinion), генераторы автопротоколов и авторезюме медкарт — с целью снятия бумажной рутины и снижения риска пропустить патологию при большом наплыве пациентов. Хирурги — на 3D-моделирование и  виртуальные реконструкции органов, системы интраоперационной навигации, роботические системы и алгоритмы объективной оценки качества операции — с целью минимизации риска повреждений, сокращения объемов кровопотери и риска интраоперационных осложнений и пр. И, наконец, студенты медицинских специальностей, молодые врачи, ординаторы, стажеры — на нейросети для поиска и анализа научных публикаций, виртуальные тренажеры, инструменты автоматического «выполнения» учебных заданий — с целью снижения временных затрат, подготовки отчетности и устранения риска последствий врачебной ошибки при обучении.

Представленный малый перечень упований раскрывает тревожный разрыв между интересами представителей IT-бизнеса и реальными потребностями врачебного сообщества. Чаще всего технологии внедряются не ради решения клинических задач, а ради удовлетворения административных и экономических запросов.

Как показал масштабный систематический обзор Kenig с соавторами [3], охватывающий более 2,8 миллиона пациентов, качество валидации подавляющего большинства хирургических ИИ-моделей остается неудовлетворительным: лишь 45% исследований соответствуют критериям высокого уровня доказательности. При этом подавляющее большинство авторов не предоставляют открытых датасетов для независимой проверки, а реальное применение алгоритмов на практике более чем на 60% ограничено рутинным предоперационным подсчетом рисков. Эти данные наглядно подтверждают, что современный технологический массив во многом носит декларативный характер, очевидно указывающий на заинтересованные в этом круги.

Конструктивный подход к использованию ИИ в медицине должен опираться на научную парадигму роли этого инструмента в исследовательском и лечебном процессе, разрабатываемую самим врачебным сообществом. Однако главная угроза текущего момента — это пассивность самого медицинского сообщества в формировании этой парадигмы. Подчеркнем положение о том, что ИИ есть и будет прекрасным, мощным, но при этом только вспомогательным инструментом, несмотря на его впечатляющие возможности в настоящее время, тем более в будущем. Те пути, по которым идут области, связанные с искусственным интеллектом и включающие в себя все направления, называемые ныне как цифровизация, роботизация, телемедицина, помощь в принятии решений и подобное, т. е. развитие технологического базиса ИИ, естественно и закономерно должны идти по инженерно-технологической траектории, задаваемой IT-специалистами. Однако проблематизация задач, определение клинической целесообразности, т. е. формирование смысловой архитектуры будущих ИИ-решений — исключительный удел клиницистов. Медицинское сообщество в целом должно включаться в процесс более активно, чем было до сих пор, должно стать глубоко заинтересованным заказчиком отраслевого ИИ.

Однако главное сегодня — четко определить роль ИИ в этом будущем. Пока же наблюдается иная тенденция: громкая риторика, завышенные ожидания и обещания, предвкушение крупных бюджетных ассигнований.

При этом воспроизводится старое, накрепко скомпрометировавшее себя в глазах профессионального сообщества правило: программные продукты создаются без участия (или почти без участия) конечного потребителя — врача, который впоследствии вынужден приспосабливаться к инструментарию, часто в ущерб клиническим задачам. Ситуация с прогнозами развития ИИ в медицине выглядит еще менее реалистичной. Подобные прогнозы, как правило, формируются чиновниками, зачастую движимыми специфической логикой, где приоритетными выступают отчетность и благосклонность руководства. Отсюда возникают популистские проекты о «полной замене врачей роботами» в течение ближайшего десятилетия.

МЕДИЦИНСКАЯ СПЕЦИФИКА VS АНТРОПОМОРФНЫЕ ИЛЛЮЗИИ

Стремительное развитие технологий, новых материалов, механизмов, устройств — всего того, что именуется в совокупности техническим прогрессом, призванным освободить человека от принудительного характера труда, — закономерно порождает завышенные ожидания от этого процесса при одновременной недооценке сопутствующих рисков.

Цифровые технологии, и в первую очередь ИИ, не имеют себе равных по влиянию на все стороны жизни, особенно остро проявляясь в медицине. Почему именно в медицине? Будучи самой чувствительной к инновациям медицина, в свою очередь, оказывает прямое и мгновенное воздействие на все слои общества, поскольку затрагивает фундаментальные потребности каждого человека — сохранение здоровья, качества жизни, и охватывает абсолютно все без исключения социальные и возрастные группы. Так, цена ошибки системы здесь — не потеря материальных ресурсов, но угроза человеческой жизни или здоровью!

Крайне опасная иллюзия относительно возможностей новых технологий кроется в наименованиях, используемых для обозначения сложных вычислительных систем. Магия сочетания слов «искусственный» и «интеллект» создает стойкую ментальную иллюзию. Между тем английское прилагательное artificial, помимо значения «искусственный», имеет устойчивые синонимы: «ненатуральный», «неестественный», «поддельный» и «фальшивый» (artificial teeth — вставные/фальшивые зубы; artificial smile — притворная улыбка). Все эти значения несут явный оттенок имитации и имеют устойчивую негативную коннотацию. В свою очередь, латинское intellectus означает «познание», «понимание» или «рассуждение». Таким образом, «машинный интеллект» — это принципиально иной тип оперирования данными, не присущий природе человека. Будучи иным по своей сути, он не может и не должен заменять человеческий разум, а тем более браться за самостоятельное решение сугубо человеческих проблем — особенно в таких вопросах, как здоровье и жизнь.

Задача машины — помогать, но не принимать решения, определяющие судьбу пациента. Более того, наделить ИИ человеческими чертами значит ухудшить свойства вычислительной системы (которая управляет, между прочим, исполнительными механизмами). Сила алгоритма — в его абсолютной рациональности, а не в имитации человечности.

В медицине — как и в других профессиях системы «человек — человек» — без человеческих качеств не обойтись ни сейчас, ни в каком-либо далеком будущем.

ИИ и управляемые им механизмы могут действовать только рационально, что вскрывает ключевое концептуальное противоречие: врачебная практика почти непрерывно протекает в условиях мощного влияния иррациональной составляющей. Без нее медицина неизбежно превращается в авторемонтную мастерскую, где роль ремонтируемых механизмов отводится пациентам. Как однажды одному из авторов сказал пациент в Аахенской клинике (г. Аахен, Германия): «Doktor, Ich moechte in Dieser Klinik nicht die Rolle eines Kaputten Autos spielen»³. Без человеческих качеств, таких как милосердие, доброта, сострадание, медицины нет и не будет. Не говоря о действиях в отношении неизлечимых пациентов, имеющих генетические аномалии и прочих клинических ситуациях, требующих моральных решений. Никакое вычислительное устройство никогда не будет обладать не поддающимися алгоритмизации качествами, без которых невозможно врачевание. Коллега может виртуозно оперировать или принимать роды, но без теплоты и соучастия к пациентам, хорошим врачом не стать. Вера пациента в своего врача — это существенная часть успеха лечения, и сформировать эту веру способен только человек. Следовательно, интеллект может и должен в медицине занять подобающее ему место, т. е. быть незаменимым помощником врача, медсестры, провизора, выполнять то, что он по предназначению делает лучше. Скорость, объем информации, предоставление вариантов, сопоставление их по заданным параметрам, обсчет и сравнение параметров, привлечение невообразимых объемов информации и их сравнение впечатляют уже сегодня. За ИИ бесспорно, будущее.

ПРИРОДНЫЕ ВНУТРЕННИЕ СВОЙСТВА И КРИТИЧЕСКИЕ ОГРАНИЧЕНИЯ ИИ

Важнейшим вопросом в хирургии является доверие к тем инструментам, аппаратам и методикам, с которыми специалист взаимодействует в работе. Доверие — это один из базовых принципов в профессиональной деятельности хирурга. Доверяя другим — коллегам, персоналу, инструментарию и пр., ты ожидаешь доверия к себе. По-другому в хирургии, несмотря на любые технические усовершенствования, невозможно. То же в полной мере относится к внедрению ИИ. И здесь уже сейчас необходимо обозначить некоторые проблемы и ограничения, которые имеет ИИ в настоящее время и которые могут поставить под угрозу этот базовый принцип, если не уделять должного внимания квалифицированному изучению предмета. К таковым ограничениям на сегодняшний день относятся:

– возможность ИИ выдавать несуществующую информацию — галлюцинировать, причем вплоть до цитирования вымышленных литературных источников и примеров несуществующих исторических событий, персоналий и фактов;

– устойчивые ошибки в элементарных арифметических операциях — сбои при подсчете элементов в структуре, выдача ложного вывода при верных исходных;

– воспроизведение и усиление стереотипов, необоснованная ничем дискриминация;

– деградация при смене контекста, резкое падение точности ответа при незначительном изменении привычной среды;

– уверенность в ответе (неверном) без указания на сомнения или недостаток данных;

– потеря контекста при длительном диалоге; и многое другое. Такие критические свойства инструмента заставляют пользователей проверять самостоятельно результаты, предоставляемые с помощью ИИ.

Перечисленное — лишь небольшой набор аргументов в  пользу того, чтобы хирургическое сообщество интенсифицировало усилия по определению роли этого сравнительно нового явления в практической и исследовательской деятельности, профессионально оценивая ограничения и активно способствуя освоению и пропаганде всех положительных моментов этого направления.

Как отмечают Адилова с соавторами [4], несмотря на впечатляющие результаты демонстрационных тестов и успешную сдачу языковыми моделями профессиональных экзаменов вроде USMLE, их реальная клиническая эффективность резко снижается при решении конкретных хирургических ситуаций, не говоря о сложных междисциплинарных задачах. Так, согласно Адиловой с соавторами, если на простые вопросы пациентов модели отвечали достаточно корректно, то при решении экспертных кардиологических кейсов доля точных рекомендаций снижалась до 50% из-за неспособности алгоритмов учитывать тонкие контекстуальные нюансы, возникающие в клинической практике. Авторы справедливо акцентируют внимание на том, что недетерминированный характер генерации текста и отсутствие абсолютной согласованности ответов делают слепое доверие подобным системам недопустимым в любых, особенно критических, сферах здравоохранения. Это подтверждает необходимость жесткого экспертного контроля и участия врачей на всех этапах внедрения цифровых инструментов.

Выделенные системные дефекты и риски применения алгоритмов в операционной согласуются с  официальной международной позицией профессионального хирургического сообщества. Так, в официальном руководстве Американского общества гастроинтестинальных и эндоскопических хирургов (SAGES, 2026) [5] верифицирована трехкомпонентная модель рисков цифровизации, разделяющая их на внутренние технологические ошибки самого ИИ, когнитивные искажения врача-пользователя и  системные сбои медицинского учреждения. Эксперты SAGES особо подчеркивают опасность таких психологических феноменов, как «эффект автоматизации» (automation bias), выражающийся в слепом доверии машине и отказе хирурга от критической проверки неверных рекомендаций, а также «предвзятость подтверждения» (confirmation bias), когда подсказки ИИ используются не в качестве объективного второго мнения, а для подтверждения собственных поспешных выводов врача. Опасность интраоперационного использования «черных ящиков» (deep learning) заключается еще и в том, что в случае неблагоприятного исхода непрозрачность логики машины делает невозможной защиту действий врача в суде. В рамках данной парадигмы ведущие мировые клиницисты настаивают на незыблемости юридического статуса оперирующего хирурга как безальтернативного «капитана корабля», который несет полную персональную ответственность за больного и обязан обладать когнитивной компетенцией для своевременного отключения или игнорирования скомпрометировавших себя подсказок алгоритма.

Как подчеркивают Morris с соавторами [6], реальная клиническая польза алгоритмов прослеживается там, где они опираются на строгую прозрачную математику и верифицированные базы данных — в качестве яркого примера авторы приводят регрессионный калькулятор рисков ACS NSQIP и аппликацию POTTER для экстренной хирургии. Однако, как отмечают авторы, при переходе к глубоким нейросетям и сложным нелинейным моделям предсказания возникает критический барьер: непрозрачность архитектуры («черный ящик») и техническая несостоятельность существующих систем верификации перед лицом нарастающего вала фальшивых публикаций («paper mills»). В этих условиях попытки слепого переноса генеративного ИИ в клиническую практику создают недопустимые риски для безопасности пациентов, что требует от хирургического сообщества жесткого методологического контроля и непрерывной проверки входящих данных.

Кроме того, как показал масштабный обзор Valli с соавторами [7], посвященный оценке ИИ в хирургической практике, подавляющее большинство алгоритмов создается без учета реальной инфраструктурной емкости клиник, из-за чего доля успешных клинических внедрений не превышает 3%. Авторы подчеркивают, что высокая точность изолированной модели бессмысленна, если система здравоохранения не имеет условий для ее интеграции, а слепое тиражирование готовых решений без адаптации к конкретным клиническим условиям приводит лишь к их быстрому отторжению профессионалами. Подобные диспропорции наглядно доказывают, что технологический потенциал ИИ упирается не столько в математические ограничения, сколько в глубокий дефицит качественных систем сбора данных и готовности инфраструктуры, а также дефицит врачебного участия в разработке алгоритмов на самых ранних стадиях.

Принципиальные ограничения использования ИИ в медицине и хирургии должны быть обозначены и учитываться еще до его внедрения. Ответственность за неверное решение в хирургическом деле всегда строго персональна. Как должны быть проверены и надежны перед боем оружие, а перед прыжком парашют, так и медицинский инструмент должен быть проверен, безотказен и абсолютно ясен в своих возможностях.

Маркетологи, политики и финансисты могут позволить себе преувеличения в рекламе, но хирургия не терпит приблизительности и иллюзий, здесь необходимо знать истинные возможности инструмента. Оценка возможностей ИИ в хирургии требует трезвого профессионального анализа — сегодняшние специалисты уже не обсуждают примитивные мифы о «бунте машин» или «цифровом Эдеме». Однако все еще отмечаются особенно вредоносные попытки внедрить в практику и образовательный процесс идею замены подлинного мышления готовыми алгоритмическими справками — инициативу, активно продвигаемую далекими от медицины дельцами. Как только в дискуссию включаются практики, подобные фантазии исчезают.

Интенсивное, безоглядное внедрение ИИ в медицинскую практику ограничено тем, что сам инструментарий обладает имманентными, неотъемлемыми свойствами, исключающими возможность абсолютно доверительного применения. К числу таких фундаментальных ограничений в самом общем плане относятся такие, как, например:

– галлюцинации и фабрикация данных, т. е. способность инструмента генерировать ложную информацию, включая выдуманные литературные источники, несуществующие фамилии авторов, даты и события;

– искажения из-за тренировочных баз или зависимость качества и объективности выдаваемого материала от параметров обучающей платформы. Нередко встречаются систематические искажения фактов, несущие налет предвзятости или идеологической окраски;

– иллюзия абсолютной достоверности, проявляющаяся в чрезвычайно высокой языковой грамотности и внешней логичности сгенерированного текста, из-за чего обнаружение фактических ошибок и скрытых фальсификаций становится сложнейшей задачей;

– ограничения машинного перевода, которые ведут за собой невозможность абсолютно доверять переводам с иностранных языков, несмотря на их стремительное совершенствование. Случаи существенного искажения клинического смысла при переводе продолжают фиксироваться, что требует обязательной выверки текста профильным специалистом, а не просто переводчиком широкого профиля.

РИСКИ В СФЕРЕ ОБРАЗОВАНИЯ

Особенно ярко и разрушительно безоглядное внедрение ИИ проявляет себя в сфере образования. Здесь важно сделать принципиальную оговорку: речь идет не об отказе от цифровых инструментов как таковых в образовании и обучении, а о рисках их некритичного потребительского использования. Отдельные аспекты образовательного процесса в силу своей специфики оказываются чрезвычайно податливыми к такому подходу, и именно туда устремляется вся пагубность подмены обучения симуляцией, например, при подготовке проверочных письменных и устных заданий.

Когда усвоение материала превращается в симуляцию, ИИ начинает играть роль «поля чудес в стране дураков». Характерно, что авторы и идеологи подобных «удобных» концепций предпочитают учить своих детей по-старинке — в классических университетах вроде Оксфорда, Кембриджа или Гарварда и МГУ.

Обозначенные риски деградации образовательного процесса находят прямое подтверждение в актуальных зарубежных исследованиях. Как отмечает Luce [8], перегрузка академических клиницистов рутинной работой с электронными медкартами и жесткое давление требований по генерации клинической прибыли создают почву для опасной симуляции обучения. Попытки внедрения языковых моделей без жестких экспертных «ограждений» неизбежно ведут к прямо противоположному результату — формированию поверхностно мыслящих «роботизированных техников» вместо самостоятельных и творческих специалистов. Кроме того, как указывает автор, эмпирический опыт практического тестирования ИИ-платформ показывает, что генерируемые ими материалы изобилуют скрытыми галлюцинациями, что делает непрерывный контроль со стороны профильных хирургов абсолютным императивом.

Хирургическая специфика подразумевает необходимость освоения всего предметного домена в профессии не для галочки в тестовом контроле и не для любых иных контрольных отметок, а для создания собственного профессионального багажа, который складывается из добытых и усвоенных знаний и умений, а не из набора готовых решений. Практика позволяет довести навыки до автоматизма выполнения элементов, которые составляют суть самых технически насыщенных диагностических и оперативных действий. Кроме того, при получении решений в готовом виде у исполнителя создается впечатление, что он освоил этот прием, знает и понимает суть сложных построений патогенеза и природы лечебных воздействий, по сути оставаясь всего лишь проводником чужих мнений, в данном случае ИИ. Это пагубно для медицины и в хирургии в частности тем, что специфика врачебной деятельности и роль врача заключаются в нахождении решений в ситуациях, которые в лечебном деле практически никогда не повторяются. Каждый раз для любого медицинского действия: диагностического, лечебного, в нашем случае оперативного и восстановительного, успех приходит только при правильном врачебном решении. Для решения этой сложнейшей и абсолютно поливариантной задачи медицинское образование во всем мире во все времена в течение длительного времени пользуется принципом последовательности и преемственности в подготовке врача и его обучении практически в течение всей жизни. ИИ является высокотехнологическим вспомогательным инструментом, источником бесценной информации, но он не может и не должен использоваться в виде готовых решений ни в каком виде обучающих программ и алгоритмов. Машинное обучение подразумевает обучение на моделях, которые создаются и совершенствуются на основе практического опыта, а не обучение людей машинами. Будущий врач, чтобы не тратить время и способности впустую, обязан самостоятельно работать с материалом, преодолевая трудности его освоения, приобретать собственный опыт. Только за этим следует радость познания и подлинных открытий — качество, которое в конечном счете и составляет главное отличие Homo Sapiens от любых искусственных систем.

В подтверждение этого отметим работу Lim с соавторами [9], которые в своем обзоре применения ИИ в хирургических исследованиях указывают, что современные языковые модели способны существенно ускорить анализ литературы и подготовку научных текстов, однако они несут в себе серьезные угрозы. Главными из них остаются так называемые «галлюцинации» — генерация несуществующих ссылок и недостоверных фактов, которые, кроме того, при последующем цитировании создают трудно исправимый снежный ком абсолютной, но оправленной в гладкое изложение дезинформации. Авторы подчеркивают, что чрезмерная технологическая зависимость ведет к постепенной атрофии базовых исследовательских навыков и утрате критического анализа.

ПРОФЕССИОНАЛЬНЫЕ ОСОБЕННОСТИ ХИРУРГИЧЕСКОГО СООБЩЕСТВА В ОТНОШЕНИИ ВОСПРИЯТИЯ И ВНЕДРЕНИЯ ИИ

Как и любое масштабное нововведение, интеграция ИИ в широкую хирургическую практику неизбежно сталкивается с другой стороной проблемы — тем, что можно назвать спокойным и молчаливым неприятием. Вполне закономерно, что хирургическое сообщество — и в первую очередь наиболее авторитетные, опытные клиницисты, принимающие ключевые решения, — изначально дистанцируется от потока информации с кибернетическим или чисто вычислительным уклоном. Примером тому может служить ситуация с внедрением наукометрии. Первой защитной реакцией опытного врача становится отторжение «лишней» информационной шумихи. Преодоление этого естественного барьера — одна из самых сложных задач на пути подлинного, а не показного, внедрения инструмента. И сделать это возможно только через достоверную и убедительную информацию, проверенную практическую пользу, опыт коллег и настойчивое увлечение предметом.

Решающим фактором здесь становится то, как именно и кем внедряется новшество. Станет ли оно осознанным, интересным и полезным делом для клинициста либо останется на уровне формального предписания? Второй путь в медицине всегда был обречен на тихое угасание — и никакая статистика, убеждения или блестящие отчеты в печати не могли переломить ситуацию, поскольку с самого начала был задан неверный тон.

Так, Mascagni с соавторами [10] справедливо отмечают, что хирургия сопротивляется изменениям («Surgery resists change»), что, несмотря на обилие успешных теоретических разработок, реальный перенос технологий в клиническую среду пока остается ограниченным и что внедрение цифровых инструментов наталкивается на естественное сопротивление среды. Авторы отмечают, что врачи на практике используют ИИ-системы совершенно иначе, чем это задумывали производители и регуляторы. А исследование реальной практики внедрения ИИ в  эндоскопию показало, что формальное наличие подсказок ИИ приводило к обратному эффекту — у врачей возникало «ложное чувство безопасности» и качество их работы снижалось.

Любые вычислительные методики, внедряемые в медицину через административные директивы, неизбежно сталкиваются и будут сталкиваться с профессиональным «фильтром» практикующих врачей. Когда специалисту предлагают сверх его рабочего графика осваивать абстрактные концепции, изложенные наспех и вдалеке от реальной клиники, а обучение начинают не с насущных хирургических задач, а с многостраничных выкладок об архитектуре ИИ, профессиональное сообщество закономерно отсекает такой подход.

«А как же иначе? — возражают оппоненты. — Разве можно применять то, о чем имеешь лишь приблизительное представление?» Действительно, стандартные учебные курсы построены так, чтобы погружать слушателя в математические и структурные дебри предмета. И это закономерно, поскольку проблему освещают кто угодно, но только не реальные потребители этого продукта.

Красноречивым подтверждением служит анализ отечественной литературы: рассмотрение массива публикаций по теме ИИ в хирургии показывает, что подавляющее большинство авторов лишь отмечаются как «причастные» к модной теме исследователи. Серьезных практикующих хирургов и исследователей такой подход удовлетворить не может. Как любые зрелые профессионалы, они оценивают материал строго по одному критерию: реальная польза для клинической практики и подготовки сотрудников.

А если подойти к вопросу с другой стороны, начать с практического использования ИИ в хирургии и остановиться на преимуществах инструмента, явных или возможных в будущем, которые были бы поняты и приняты, или, как минимум, не отвергнуты с порога.

То, что некоторые, а порой и многие моменты специализированного вычислительного порядка останутся за кадром, не будут поняты до конца или будут приняты хирургом на веру — гораздо меньшая беда, чем формальное, лишенное подлинного интереса отношение к предмету. Положа руку на сердце: чуждая, оторванная от клиники информация, не находящая ежедневного применения на практике, все равно не будет по-настоящему усвоена. Несмотря на успешно сданные тесты и экзамены, она испарится из памяти в кратчайшие сроки — и медицинская практика знает этому бесчисленные примеры.

Важным элементом работы исследователя в биомедицине является постоянное живое общение с коллегами. Это мощный мотивационный фактор, источник новых идей и подлинный «научный допинг». Живое общение на конференциях и съездах не может быть заменено перепиской, чтением публикаций и знакомством с видеоматериалами. В этом заключаются естественные ограничения любых информационных средств, включая ИИ.

ОПРЕДЕЛЕНИЕ ВЕКТОРА РАССМОТРЕНИЯ ПРОБЛЕМЫ

Несмотря на определенные ограничения возможностей рассмотрения проблемы, авторы все же предпримут попытку очертить круг первоочередных действий для решения обозначенных задач. Авторы не претендуют таким образом на всесторонний охват проблемы, а высказывают свои соображения с надеждой, что они окажутся полезными не только для врачебного сообщества, в частности хирургического, но и для разработчиков вычислительных систем и руководителей медицинской и IT-отраслей. В ряду задач первоочередной является своего рода инвентаризация научных и  практических проблем в хирургии, пригодных в настоящее время и в перспективе для решения при помощи информационных технологий, главным образом с помощью ИИ.

Цель исследования — определить современные возможности и ограничения ИИ в обучении и практической деятельности хирургов, отметив задачи, на которые эти инструменты уже оказывают влияние, и области, где необходима конкретная разработка. Авторы исследуют возможности ИИ для использования хирургами в клинической практике, при обучении студентов, а также слушателей в системе последипломного и дополнительного профессионального образования.

(Продолжение в следующих номерах.)

1.↑Иллюстрацией этому можно привести выступления Винода Хосла (Vinod Khosla) — венчурного капиталиста и сооснователя Sun Microsystems, который в 2010-х гг. неоднократно выступал с заявлениями о том, что в течение 10–20 лет алгоритмы ИИ заменят 80% врачей, а машинная диагностика будет точнее, объективнее и дешевле человеческой. С тезисами доклада Хосла 2012 г., в котором он сформулировал свой прогноз, можно познакомиться по ссылке: https://www.khoslaventures.com/posts/ techcrunch-do-we-need-doctors-or-algorithms (дата обращения 12.05.2026).

2.↑См. пояснение к указанной информации в разделе «Материалы и методы» в последующих частях материала.

3.↑«Доктор в этой клинике я не могу более чувствовать себя в роли аварийной автомашины в автосервисе. Вы первый, кто здесь со мной по-человечески разговаривает!»