Посмотрел большое и подробное американское исследование «Врачи и ИИ». Результаты забавные. Почти 70% используют ежедневно, 84% из использующих говорят, что делает их лучше, при этом 81% недовольны внедрением ИИ работодателями. Парадокс объясняется просто: это война за контроль над технологией.
Что хотят врачи
Две трети ставят приоритетом документацию. Помочь с бумажками. Главная просьба: «Полностью ликвидировать ручную документацию». Разобрать почту, заполнить выписки, перенести данные. Технология существует — рынок автоматических медсестер-писарей сегодня оценивается в США 600 миллионов долларов.
Что бигтех продает
Революцию в медицине. ИИ выявляет сепсис раньше врача! Ставит диагнозы точнее специалиста! При этом почти каждый из алгоритмов давший с помпой в КИ «почти 100% правильных результатов против 70% у живых врачей» провалился в клинике. В реальности демонстрируя «точность монетки»: 50 на 50, поток ложных срабатываний, добавление работы живым врачам вместо убавления. Фактически клинические алгоритмы оказались знакомым каждому специалисту типом «выжившего из ума академика». Светило, считаться надо, несет бред, который при этом надо протоколировать и «типа учитывать».
Что получают врачи на практике
Администратора от начальства. Корпоративная система под контролем комплаенса. Расшифровки доступные страховым. Метрики для отдела кадров. Автоматическая ИИ запись добавляет юридическую уязвимость. Пациент преувеличивает, врет, добросовестно заблуждается. Врач понимает и фиксирует реальность, расходящуюся с записью и расшифровкой ИИ. Каждое расхождение между буквальной записью и интерпретацией становится основанием либо для отказа от покрытия страховой, либо для судебного иска, либо просто для репрессий в адрес врача со стороны начальства.
Механизм присвоения
Больница внедряет автозапись. Измеряет рост эффективности на 30%. Увеличивает поток пациентов на 30%. Зарплата врача не меняется. Финансовая разница между старой и новой производительностью уходит вверх — владельцам платформ, администрации, страховым компаниям.
Одна технология, но три (как минимум) способа желаемого использования: для врача — освобождение от рутины, для страховой — база для отказов, для администрации — метрики для увеличения нагрузки.
Ответ снизу
В результате 20% используют продукты ИИ за свой счёт вместо корпоративных систем. 89% хотят финансирование от работодателя для тех инструментов, которые им нужны, а не те которые им навязывают. 70% говорят, что не влияют на выбор инструментов — решают администраторы, которые не видели пациентов.
Суть конфликта
ИИ делает измеримым то, что было автономной зоной профессионала. Врачебное суждение, клиническая интуиция, понимание основанное на опыте – девальвировано и поставлено под контроль администратора: записано, измерено, превращено в метрику. Контроль над средствами измерения определяет кому достаётся прирост производительности. Врачи создают стоимость, но те, кто контролирует технологию — присваивают прирост.
Причем – тут выйдем за пределы исследования – это происходит везде. Россия: запрет личных инструментов в госбольницах, обязательные корпоративные системы. Обоснование — информационная безопасность. США: запрет несертифицированных инструментов, обязательные корпоративные решения. Обоснование — защита пациентов. Разницы ноль.
Система не может терпеть автономию. Личные инструменты — альтернативная инфраструктура власти. Конец истории. Навскидку, есть три метода их ликвидации:
• Прямой запрет через «безопасность данных»
• Экономическое давление — зарплаты стагнируют, профессиональные инструменты дорожают
• Структурная интеграция — весь документооборот через корпоративные системы, личные инструменты просто бесполезны
Новый общественный договор
Результат войны определит будущее труда. Либо технология освобождает — убирает рутину, возвращает время для суждения. Либо порабощает — превращает каждый аспект в метрику для увеличения прибыли и контроля сверху. Врачи тут на передовой потому что их труд первым стал полностью измеримым. "Далее - везде" в любом случае.