En medio de los beneficios que ofrecen la toma de decisiones algorítmicas y la inteligencia químico, incluida la velocidad de revolucionar, la eficiencia y la capacidad predictiva en una amplia abanico de campos, Manish Raghavan está trabajando para mitigar los riesgos asociados, al tiempo que exploración oportunidades para aplicar las tecnologías para ayudar a prexistir preocupaciones sociales.
«En última instancia, quiero que mi investigación impulse en torno a mejores soluciones a problemas sociales de larga data», dice Raghavan, el profesor de incremento profesional de Drew Houston que es un miembro de la otorgamiento compartida entre la MIT Sloan School of Management y la Cátedra de Computación del MIT Schwarzman en la computación en el Área de Ingeniería Eléctrica e Ciencias de la Computación, así como un investigador principal en el Laboratorio de Sistemas de Información y Valor (LIDS).
Un buen ejemplo de la intención de Raghavan se puede encontrar en su exploración del uso de IA en la contratación.
Raghavan dice: «Es difícil argumentar que las prácticas de contratación históricamente han sido particularmente buenas o que valen la pena, y las herramientas que aprenden de los datos históricos heredan todos los sesgos y errores que los humanos han cometido en el pasado».
Aquí, sin confiscación, Raghavan cita una oportunidad potencial.
«Siempre ha sido difícil calibrar la discriminación», dice, y agrega, «los sistemas impulsados por la IA a veces son más fáciles de observar y calibrar que los humanos, y un objetivo de mi trabajo es comprender cómo podríamos emplear esta visibilidad mejorada para encontrar Nuevas formas de examinar cuándo los sistemas se comportan mal «.
Al crecer en el radio de la Bahía de San Francisco con padres que tienen títulos en informática, Raghavan dice que originalmente quería ser médico. Sin confiscación, puntual antiguamente de comenzar la universidad, su bienquerencia por las matemáticas y la informática lo llamó para seguir su ejemplo de su grupo en ciencias de la computación. A posteriori de acontecer un verano como estudiante universitario que investiga en la Universidad de Cornell con Jon Kleinberg, profesor de informática y ciencias de la información, decidió que quería percibir su doctorado allí, escribiendo su memoria sobre «los impactos sociales de la toma de decisiones algorítmicas».
Raghavan ganó premios por su trabajo, incluido un Premio al Software de Becas de Investigación de Graduados de la Fundación Franquista de Ciencias, una subsidio de doctorado de Microsoft Research y el Premio al Doctorado del Área de Ciencias de la Computación de la Universidad de Cornell.
En 2022, se unió a la otorgamiento del MIT.
Tal vez escuchando su interés temprano en la medicina, Raghavan ha investigado sobre si las determinaciones de una utensilio de detección algorítmica en gran medida precisa utilizada en el triaje de pacientes con sangría gastrointestinal, conocida como el puntaje (GBS) de Glasgow-Blatchford, se mejoran con el práctico complementario con expertos complementarios. consejo médico.
«El GBS es más o menos tan bueno como los humanos en promedio, pero eso no significa que no haya pacientes individuales, o pequeños grupos de pacientes, donde el GBS está inexacto y es probable que los médicos tengan razón», dice. «Nuestra esperanza es que podamos identificar a estos pacientes con anticipación para que los comentarios de los médicos sean particularmente valiosos allí».
Raghavan todavía ha trabajado en cómo las plataformas en diámetro afectan a sus usuarios, considerando cómo los algoritmos de redes sociales observan el contenido que el agraciado elige y luego les muestran más de ese mismo tipo de contenido. La dificultad, dice Raghavan, es que los usuarios pueden estar eligiendo lo que ven de la misma guisa que podrían tomar una bolsa de papas fritas, que, por supuesto, son deliciosas pero no tan nutritivas. La experiencia puede ser satisfactoria en el momento, pero puede hacer que el agraciado se sienta levemente enfermo.
Raghavan y sus colegas han desarrollado un maniquí de cómo un agraciado con deseos conflictivos, para una satisfacción inmediata frente a un deseo de satisfacción a más holgado plazo, interactúa con una plataforma. El maniquí demuestra cómo se puede cambiar el diseño de una plataforma para alentar una experiencia más saludable. El maniquí ganó el Premio al Documento de Track de Modelado Esforzado en la Conferencia de la Asociación de Machinería de Machinería de 2022 sobre Capital y Computación.
«La satisfacción a holgado plazo es en última instancia importante, incluso si todo lo que le importa es los intereses de una empresa», dice Raghavan. “Si podemos comenzar a ocasionar evidencia de que los intereses de los usuarios y las corporativas están más alineados, espero que podamos presionar por plataformas más saludables sin indigencia de resolver conflictos de intereses entre usuarios y plataformas. Por supuesto, esto es idealista. Pero mi sentido es que suficientes personas en estas compañías creen que hay espacio para que todos sean más felices, y simplemente carecen de las herramientas conceptuales y técnicas para que esto suceda «.
Con respecto a su proceso de idear ideas para tales herramientas y conceptos sobre cómo aplicar mejor las técnicas computacionales, Raghavan dice que sus mejores ideas llegan a él cuando ha estado pensando en un problema de vez en cuando por un tiempo. Aconsejaría a sus alumnos, dice, que sigan su ejemplo de poner un problema muy difícil durante un día y luego retornar a él.
«Las cosas a menudo son mejores al día posterior», dice.
Cuando no está desconcertando un problema o enseñanza, Raghavan a menudo se puede encontrar al música vacío en un campo de fútbol, como preparador del Harvard Men’s Soccer Club, un puesto que aprecia.
«No puedo postergar si sé que tendré que acontecer la perplejidad en el campo, y me da poco que esperar al final del día», dice. «Trato de tener cosas en mi horario que parezcan al menos tan importantes para mí como el trabajo para poner esos desafíos y contratiempos en contexto».
Como Raghavan considera cómo aplicar tecnologías computacionales para servir mejor a nuestro mundo, dice que encuentra que lo más emocionante que va en su campo es la idea de que AI abrirá nuevas ideas sobre los «humanos y la sociedad humana».
«Espero», dice, «que podemos usarlo para entendernos mejor a nosotros mismos».