En medio de los beneficios que ofrecen la toma de decisiones algorítmica y la inteligencia químico, incluida la velocidad revolucionaria, la eficiencia y la capacidad predictiva en una amplia viso de campos, Manish Raghavan está trabajando para mitigar los riesgos asociados, al mismo tiempo que investigación oportunidades para aplicar las tecnologías para ayudar con problemas preexistentes. preocupaciones sociales.
«En última instancia, quiero que mi investigación avance alrededor de mejores soluciones a problemas sociales de larga data», dice Raghavan, profesor de progreso profesional Drew Houston, miembro del cuerpo docente compartido entre la MIT Sloan School of Management y la MIT Schwarzman College of Computing en los Estados Unidos. Sección de Ingeniería Eléctrica e Informática, así como investigador principal del Laboratorio de Sistemas de Información y Atrevimiento (LIDS).
Un buen ejemplo de la intención de Raghavan se puede encontrar en su exploración del uso de la IA en la contratación.
Raghavan dice: «Es difícil argumentar que las prácticas de contratación históricamente han sido particularmente buenas o que vale la pena preservar, y las herramientas que aprenden de los datos históricos heredan todos los sesgos y errores que los humanos han cometido en el pasado».
Aquí, sin confiscación, Raghavan cita una oportunidad potencial.
«Siempre ha sido difícil contar la discriminación», afirma, y añade: «A veces los sistemas impulsados por IA son más fáciles de observar y contar que los humanos, y uno de los objetivos de mi trabajo es entender cómo podemos disfrutar esta visibilidad mejorada para impresionar a nuevas formas de descubrir cuándo los sistemas se están comportando mal”.
Raghavan creció en el dominio de la Bahía de San Francisco con padres que tienen títulos en informática y dice que originalmente quería ser médico. Sin confiscación, encajado antaño de comenzar la universidad, su acto sexual por las matemáticas y la informática lo llamó a seguir el ejemplo de su comunidad en la informática. Posteriormente de acaecer un verano como estudiante haciendo investigaciones en la Universidad de Cornell con Jon Kleinberg, profesor de informática y ciencias de la información, decidió que quería obtener su doctorado allí y escribió su juicio sobre «Los impactos sociales de la toma de decisiones algorítmicas».
Raghavan ganó premios por su trabajo, incluido un premio del Software de becas de investigación para graduados de la Fundación Franquista de Ciencias, una prebenda de doctorado en investigación de Microsoft y el premio de juicio doctoral del Sección de Ciencias de la Computación de la Universidad de Cornell.
En 2022 se incorporó a la universidad del MIT.
Quizás rememorando su temprano interés por la medicina, Raghavan ha investigado si las determinaciones de una aparejo de detección algorítmica de entrada precisión utilizada en la clasificación de pacientes con hemorragia gastrointestinal, conocida como Glasgow-Blatchford Score (GBS), mejoran con la ayuda de expertos complementarios. consejo médico.
«El SGB es aproximadamente tan bueno como el de los seres humanos en promedio, pero eso no significa que no haya pacientes individuales, o pequeños grupos de pacientes, en los que el SGB sea incorrecto y los médicos probablemente tengan razón», afirma. «Nuestra esperanza es poder identificar a estos pacientes con adelanto para que la opinión de los médicos sea especialmente valiosa allí».
Raghavan igualmente ha trabajado en cómo las plataformas en partidura afectan a sus usuarios, considerando cómo los algoritmos de las redes sociales observan el contenido que elige un heredero y luego les muestran más del mismo tipo de contenido. La dificultad, dice Raghavan, es que los usuarios pueden designar lo que ven de la misma forma que tomarían una bolsa de papas fritas, que por supuesto son deliciosas pero no tan nutritivas. La experiencia puede ser satisfactoria en el momento, pero puede hacer que el heredero se sienta un poco enfermo.
Raghavan y sus colegas han desarrollado un maniquí de cómo un heredero con deseos contradictorios (de remuneración inmediata frente a un deseo de satisfacción a espacioso plazo) interactúa con una plataforma. El maniquí demuestra cómo se puede cambiar el diseño de una plataforma para fomentar una experiencia más saludable. El maniquí ganó el premio Exemplary Applied Modeling Track Paper en la Conferencia de Bienes y Computación de la Asociación de Maquinaria de Computación de 2022.
“La satisfacción a espacioso plazo es, en última instancia, importante, incluso si lo único que le importa son los intereses de la empresa”, afirma Raghavan. “Si podemos comenzar a originar evidencia de que los intereses de los usuarios y las empresas están más alineados, mi esperanza es que podamos impulsar plataformas más saludables sin requisito de resolver conflictos de intereses entre usuarios y plataformas. Por supuesto, esto es idealista. Pero mi sensación es que suficientes personas en estas empresas creen que hay espacio para hacer a todos más felices, y simplemente carecen de las herramientas conceptuales y técnicas para hacerlo existencia”.
En cuanto a su proceso de originar ideas para tales herramientas y conceptos sobre cómo aplicar mejor las técnicas computacionales, Raghavan dice que sus mejores ideas le surgen cuando ha estado pensando en un problema de vez en cuando durante un tiempo. Aconsejaría a sus alumnos, dice, que siguieran su ejemplo de dejar de banda un problema muy difícil durante un día y luego retornar a abordarlo.
“A menudo las cosas mejoran al día venidero”, afirma.
Cuando no está resolviendo un problema o enseñando, a menudo se puede encontrar a Raghavan al vendaval atrevido en un campo de fútbol, como monitor del Harvard Men’s Soccer Club, un puesto que aprecia.
«No puedo posponer las cosas si sé que tendré que acaecer la confusión en el campo y eso me da poco que esperar al final del día», dice. «Trato de tener cosas en mi memorándum que me parezcan al menos tan importantes como el trabajo para poner esos desafíos y reveses en contexto».
Mientras Raghavan considera cómo aplicar las tecnologías computacionales para servir mejor a nuestro mundo, dice que lo más emocionante que sucede en su campo es la idea de que la IA abrirá nuevos conocimientos sobre “los humanos y la sociedad humana”.
«Espero», dice, «que podamos utilizarlo para comprendernos mejor a nosotros mismos».