Qué tiene que cumplirse antes
Métodos publicados, gobernanza independiente, conflictos de interés declarados y reconocimiento previo a cualquier función formal de certificación.
Una iniciativa propuesta
Examen independiente de IA médica.
Propuesta. Aún no disponible.
Antes de que una profesional pueda tratar a un paciente, alguien independiente la examina. Antes de que un medicamento se venda, alguien independiente lo prueba. Los modelos que ahora aconsejan a los profesionales los describen, los miden y los avalan sobre todo las empresas que los construyeron.
No es una acusación de mala fe. Un fabricante prueba con los datos que tiene, en los hospitales que conoce, y cuenta lo que encuentra. Pero un modelo que funciona allí puede fallar en otra parte, y puede cambiar el mes que viene.
Una entidad independiente propuesta para evaluar modelos médicos en usos claramente definidos.
Sus preguntas se guardarían selladas, para que ningún modelo pudiera ajustarse para aprobar. Sus resultados se leerían como un historial a lo largo del tiempo, y nunca como una medalla concedida una vez.
Habilitamos al profesional. Probamos el medicamento. Alguien debería examinar el modelo.
No certificaría nada en sentido legal a menos que los reguladores lo reconocieran para ello, y hoy no lo hace. No aceptaría de un fabricante dinero que no se publicara, y publicaría sus propios conflictos de interés junto a sus hallazgos.
Assay es la razón por la que alguien debería creerse lo demás. El asistente no hablaría con un paciente, ni se activaría ningún modelo en una clínica de Asuu, hasta que un examinador independiente de quienes lo construyeron lo hubiera probado para ese uso. Assay depende de la Network para saber exactamente qué versión examinó, y de Research para publicar lo que encontró.
Poner por escrito un método de examen para una única tarea acotada y aplicarlo, en público, a un modelo de libre acceso. Invitar a los fabricantes del modelo y a sus críticos a decir qué se le escapó al método.
Métodos publicados, gobernanza independiente, conflictos de interés declarados y reconocimiento previo a cualquier función formal de certificación.
Una visión clínica, una pregunta de investigación, una institución o la experiencia de construir una. Nos gustaría saber qué podrías aportar.