Cautivada desde pupila por los videojuegos y los rompecabezas, Marzyeh Ghassemi todavía quedó fascinada desde temprana años por la salubridad. Por suerte, encontró un camino en el que podía combinar entreambos intereses.
«Aunque había considerado una carrera en atención médica, la amor de la informática y la ingeniería era más resistente», dice Ghassemi, profesor asociado en el Unidad de Ingeniería Eléctrica y Ciencias de la Computación del MIT y el Instituto de Ingeniería y Ciencias Médicas (IMES) y director Investigador del Laboratorio de Sistemas de Información y Valentía (LIDS). «Cuando descubrí que la informática en normal, y la IA/ML específicamente, podían aplicarse a la atención sanitaria, se produjo una convergencia de intereses».
Hoy, Ghassemi y su montón de investigación de ML saludable en LIDS trabajan en un estudio profundo de cómo el formación espontáneo (ML) puede hacerse más sólido y, luego, aplicarse para mejorar la seguridad y la equidad en la salubridad.
Al crecer en Texas y Nuevo México en una grupo iraní-estadounidense orientada a la ingeniería, Ghassemi tenía modelos a seguir en una carrera STEM. Si acertadamente le encantaban los videojuegos basados en acertijos (“Resolver acertijos para desbloquear otros niveles o progresar más era un desafío muy atractivo”), su principio todavía la involucró en matemáticas más avanzadas desde el principio, incitándola a ver las matemáticas como poco más que aritmética.
“Sumar o multiplicar son habilidades básicas que se enfatizan por una buena razón, pero el enfoque puede oscurecer la idea de que gran parte de las matemáticas y ciencias de nivel superior tienen más que ver con la razonamiento y los acertijos”, dice Ghassemi. “Gracias al apoyo de mi principio, supe que me esperaban cosas divertidas”.
Ghassemi dice que adicionalmente de su principio, muchas otras personas apoyaron su ampliación intelectual. Mientras obtenía su título universitario en la Universidad Estatal de Nuevo México, el director del Honors College y ex becario Marshall, Jason Ackelson, ahora asesor principal del Unidad de Seguridad Franquista de EE. UU., la ayudó a solicitar una distintivo Marshall que le permitió a la Universidad de Oxford, donde obtuvo una habilidad en 2011 y se interesó por primera vez en el nuevo y en rápida progreso campo del formación espontáneo. Durante su trabajo de doctorado en el MIT, Ghassemi dice que recibió apoyo “tanto de profesores como de compañeros”, y agrega: “Ese medio ambiente de comprensión y popularidad es poco que trato de replicar para mis estudiantes”.
Mientras trabajaba en su doctorado, Ghassemi todavía encontró la primera pista de que los sesgos en los datos de salubridad pueden ocultarse en los modelos de formación espontáneo.
Había entrenado modelos para predecir resultados utilizando datos de salubridad, “y la mentalidad en ese momento era utilizar todos los datos disponibles. En las redes neuronales para imágenes, habíamos manido que se aprenderían las características correctas para conquistar un buen rendimiento, eliminando la aprieto de diseñar manualmente características específicas”.
Durante una reunión con Leo Celi, sabio investigador principal del Laboratorio de Fisiología Computacional del MIT e IMES y miembro del comité de disertación de Ghassemi, Celi le preguntó si Ghassemi había comprobado qué tan acertadamente funcionaban los modelos en pacientes de diferentes géneros, tipos de seguros y autoevaluaciones. carreras reportadas.
Ghassemi lo comprobó y hubo lagunas. “Ahora tenemos casi una decenio de trabajo que demuestra que estas brechas en los modelos son difíciles de acometer: surgen de sesgos existentes en los datos de salubridad y de prácticas técnicas predeterminadas. A menos que se piense detenidamente en ellos, los modelos reproducirán y ampliarán ingenuamente los sesgos”, afirma.
Ghassemi ha estado explorando estas cuestiones desde entonces.
Su avance protegido en el trabajo que ha realizado se produjo en varias partes. Primero, ella y su montón de investigación demostraron que los modelos de formación podían escudriñar la raza de un paciente a partir de imágenes médicas como radiografías de tórax, poco que los radiólogos no pueden hacer. Luego, el montón descubrió que los modelos optimizados para funcionar acertadamente «en promedio» no funcionaban tan acertadamente para las mujeres y las minorías. El verano pasado, su montón combinó estos hallazgos para mostrar que cuanto más aprendiera un maniquí a predecir la raza o el carácter de un paciente a partir de una imagen médica, peor sería su brecha de desempeño para los subgrupos de esos grupos demográficos. Ghassemi y su equipo descubrieron que el problema podría mitigarse si se entrenara un maniquí para tener en cuenta las diferencias demográficas, en zona de centrarse en el rendimiento promedio normal, pero este proceso debe realizarse en cada sitio donde se implemente un maniquí.
“Estamos enfatizando que los modelos entrenados para optimizar el desempeño (equilibrar el desempeño normal con la pequeño brecha de equidad) en un entorno hospitalario no son óptimos en otros entornos. Esto tiene un impacto importante en cómo se desarrollan los modelos para uso humano”, afirma Ghassemi. “Un hospital podría tener los fortuna para entrenar un maniquí y luego poder demostrar que funciona acertadamente, posiblemente incluso con restricciones específicas de equidad. Sin incautación, nuestra investigación muestra que estas garantías de desempeño no se mantienen en entornos nuevos. Un maniquí que está acertadamente sensato en un sitio puede no funcionar eficazmente en un entorno diferente. Esto afecta la utilidad de los modelos en la actos y es esencial que trabajemos para acometer este problema para quienes desarrollan e implementan modelos”.
El trabajo de Ghassemi se cimiento en su identidad.
“Soy una mujer visiblemente musulmana y principio; ambas me han ayudado a moldear mi forma de ver el mundo, lo que informa mis intereses de investigación”, dice. “Trabajo en la solidez de los modelos de formación espontáneo y en cómo la yerro de solidez puede combinarse con los sesgos existentes. Ese interés no es una coincidencia”.
En cuanto a su proceso de pensamiento, Ghassemi dice que la inspiración a menudo le llega cuando está al aerofagia emancipado: rozar en biciclo en Nuevo México cuando era estudiante, remar en Oxford, pasar como estudiante de doctorado en el MIT y, estos días, caminar por Cambridge Esplanade. Igualmente dice que, al acometer un problema complicado, le ha resultado útil pensar en las partes del problema más amplio y tratar de comprender cómo sus suposiciones sobre cada parte podrían ser incorrectas.
«En mi experiencia, el factótum más limitante para las nuevas soluciones es lo que crees que sabes», dice. «A veces es difícil aventajar tu propio conocimiento (parcial) sobre poco hasta que profundizas mucho en un maniquí, sistema, etc., y te das cuenta de que no entendiste una subparte correcta o completamente».
A pesar de lo apasionada que es Ghassemi por su trabajo, intencionalmente realiza un seguimiento del panorama más amplio de la vida.
«Cuando amas tu investigación, puede ser difícil evitar que eso se convierta en tu identidad; es poco de lo que creo que muchos académicos deben ser conscientes», dice. “Trato de asegurarme de tener intereses (y conocimientos) más allá de mi propia experiencia técnica.
“Una de las mejores maneras de ayudar a priorizar el nivelación es con buenas personas. Si tienes familiares, amigos o compañeros que te animan a ser una persona plena, ¡aférrate a ellos!
Habiendo vacada muchos premios y mucho inspección por el trabajo que alpargata dos pasiones tempranas (la informática y la salubridad), Ghassemi profesa la fe en ver la vida como un alucinación.
“Hay una cita del poeta persa Rumi que se traduce como ‘Eres lo que estás buscando’”, dice. «En cada etapa de tu vida, tienes que reinvertir en encontrar quién eres y empujarlo alrededor de quién quieres ser».