Как вы проверяете модель, которая меняется каждый месяц?
Экспертиза описывает модель такой, какой она была в тот день. Медицине нужны гарантии о той модели, которая используется сейчас.
Открытый вопрос. Пока не проверен.
На этой странице
Почему это трудно.
Проверка описывает модель в день проверки. Через полгода в работе может быть уже другая модель, которую производитель обновил десяток раз. Стареет даже неизменная модель, потому что больницы меняют оборудование, пациентов и привычки, а училась она на прежних.
Этот разрыв не выдуман. В 2021 году независимые исследователи проверили инструмент раннего оповещения о сепсисе, которым пользовались сотни больниц. Он пропускал большинство пациентов с сепсисом и поднимал тревогу по многим, у кого его не было. К тому времени им пользовались ежедневно уже несколько лет.
Что уже пробовали.
Регуляторы начали разрешать производителю заранее согласовать план допустимых изменений, чтобы модель можно было обновлять в заданных пределах без нового одобрения каждый раз. Основной протокол опирается на эту мысль: изменение за пределами согласованного коридора отклоняется, а модель, чья уверенность расходится с её точностью, отстраняется в ограниченный срок. Ни то, ни другое в больнице ещё не испытывали.
Направление, которое мы бы проверили.
Мы относились бы к проверке как к постоянной обязанности из четырёх частей. Запечатанный набор случаев хранится у экзаменатора, с которым производитель никогда не встречается, и каждая новая версия проходит его заново. Новая версия работает молча рядом со старой на настоящих задачах, прежде чем ей позволят говорить. Каждая больница держит небольшой набор собственных случаев, потому что модель, которая работает в Бостоне, может не работать в Анкаре.
Четвёртая часть касается результата. Это должен быть табель, который показывает работу во времени, а не грамота, которую вручают однажды и вешают в рамку.
Как мы поймём, что ошиблись.
Запечатанные вопросы утекают, а модель можно натаскать на экзамен, не сделав её лучше в медицине. Если экзаменатор не сумеет держать свои случаи свежими и тайными или если их поддержание обойдётся дороже, чем готовы платить больницы, постоянная проверка превратится в спектакль.
Кто мог бы решить эту проблему.
Люди, которые ведут клинический ИИ внутри больницы и видели, как модель становится хуже, а об этом никто не объявляет. Статистики, которые строят тесты, не поддающиеся обману. Регуляторы, которые пишут правила для меняющихся моделей. И создатели моделей, которым был бы нужен экзаменатор, им не подвластный.
С чем это связано.
Решите одну вместе с нами.
Расскажите нам, над какой проблемой вы работаете, и что у нас в ней не так.