¿Para qué sirve la privacidad del paciente? El Palabra Hipocrático, considerado uno de los textos de ética médica más antiguos y más conocidos del mundo, dice: “Todo lo que vea u oiga en la vida de mis pacientes, ya sea en relación con mi destreza profesional o no, y que no deba mencionarse en el foráneo, lo mantendré en secreto, por considerarlo privado”.
A medida que la privacidad se vuelve cada vez más escasa en la era de los algoritmos ávidos de datos y los ciberataques, la medicina es uno de los pocos dominios que quedan donde la confidencialidad sigue siendo fundamental para la destreza, lo que permite a los pacientes aguardar a sus médicos información confidencial.
Pero un papel En coautoría con investigadores del MIT, se investiga cómo los modelos de inteligencia químico entrenados en registros médicos electrónicos (EHR) no identificados pueden memorizar información específica del paciente. El trabajo, que se presentó recientemente en la Conferencia de 2025 sobre Sistemas de Procesamiento de Información Neural (NeurIPS), recomienda una configuración de prueba rigurosa para asegurar que las indicaciones específicas no puedan revelar información, enfatizando que las fugas deben evaluarse en un contexto de atención médica para determinar si compromete significativamente la privacidad del paciente.
Los modelos básicos entrenados en HCE normalmente deberían difundir el conocimiento para hacer mejores predicciones, basándose en muchos registros de pacientes. Pero en la “memorización”, el maniquí se plinto en el registro de un paciente singular para crear su resultado, violando potencialmente la privacidad del paciente. En particular, ya se sabe que los modelos de cimentación son propenso a la fuga de datos.
«El conocimiento de estos modelos de suscripción capacidad puede ser un arbitrio para muchas comunidades, pero los atacantes adversarios pueden impulsar un maniquí para extraer información sobre datos de entrenamiento», dice Sana Tonekaboni, postdoctorado en el Centro Eric y Wendy Schmidt del Instituto Broad del MIT y Harvard y primer autor del artículo. Donado el aventura de que los modelos básicos asimismo puedan memorizar datos privados, señala, «este trabajo es un paso para asegurar que haya pasos de evaluación prácticos que nuestra comunidad pueda tomar antaño de exhalar modelos».
Para realizar una investigación sobre el aventura potencial que los modelos básicos de HCE podrían idear en medicina, Tonekaboni se acercó al profesor asociado del MIT. Marzyeh Ghassemiquien es investigador principal en el Clínica Abdul Latif Jameel de formación automotriz en vitalidad (Clínica Jameel) y miembro del Laboratorio de Informática e Inteligencia Industrial. Ghassemi, miembro de la universidad del Sección de Ingeniería Eléctrica y Ciencias de la Computación del MIT y del Instituto de Ingeniería y Ciencias Médicas, dirige el Asociación ML saludableque se centra en el formación automotriz sólido en vitalidad.
¿Cuánta información necesita un mal actor para exponer datos confidenciales y cuáles son los riesgos asociados con la información filtrada? Para evaluar esto, el equipo de investigación desarrolló una serie de pruebas que esperan sientan las bases para futuras evaluaciones de privacidad. Estas pruebas están diseñadas para calcular varios tipos de incertidumbre y evaluar su aventura práctico para los pacientes midiendo varios niveles de posibilidad de ataque.
«Positivamente intentamos resaltar la practicidad aquí; si un atacante tiene que conocer la vencimiento y el valencia de una docena de pruebas de laboratorio de su registro para poder extraer información, hay muy poco aventura de daño. Si ya tengo ataque a ese nivel de datos fuente protegidos, ¿por qué tendría que atacar un maniquí de colchoneta extenso para obtener más?» dice Gasemi.
Con la inapelable digitalización de los registros médicos, las violaciones de datos se han vuelto más comunes. En los últimos 24 meses, el Sección de Lozanía y Servicios Humanos de EE. UU. ha registrado 747 violaciones de datos de información de vitalidad que afecta a más de 500 personas, y la mayoría se clasifica como incidentes de piratería informática o de TI.
Los pacientes con condiciones únicas son especialmente vulnerables, poliedro lo claro que es identificarlas. «Incluso con datos no identificados, depende del tipo de información que se filtre sobre el individuo», dice Tonekaboni. «Una vez que los identificas, sabes mucho más».
En sus pruebas estructuradas, los investigadores descubrieron que cuanta más información tiene el atacante sobre un paciente en particular, más probabilidades hay de que el maniquí filtre información. Demostraron cómo distinguir los casos de propagación del maniquí de la memorización a nivel del paciente, para evaluar adecuadamente el aventura de privacidad.
El documento asimismo enfatiza que algunas fugas son más dañinas que otras. Por ejemplo, un maniquí que revela la vida o los datos demográficos de un paciente podría caracterizarse como una filtración más benigna que el maniquí que revela información más sensible, como un diagnosis de VIH o exageración de licor.
Los investigadores señalan que los pacientes con condiciones únicas son especialmente vulnerables dada la facilidad con la que se detectan, lo que puede requerir mayores niveles de protección. «Incluso con datos no identificados, verdaderamente depende del tipo de información que se filtre sobre el individuo», dice Tonekaboni. Los investigadores planean ampliar el trabajo para que sea más interdisciplinario, agregando médicos y expertos en privacidad, así como expertos legales.
«Hay una razón por la que nuestros datos de vitalidad son privados», dice Tonekaboni. «No hay ninguna razón para que otros lo sepan».
Este trabajo cuenta con el apoyo del Centro Eric y Wendy Schmidt del Instituto Broad del MIT y Harvard, Wallenberg AI, la Fundación Knut y Alice Wallenberg, la Fundación Franquista de Ciencias de EE. UU. (NSF), un premio de la Fundación Gordon y Betty Moore, un premio Google Research Scholar y el Software AI2050 de Schmidt Sciences. Los capital utilizados en la preparación de esta investigación fueron proporcionados, en parte, por la provincia de Ontario, el gobierno de Canadá a través de CIFAR y empresas que patrocinan el Vector Institute.