La senior Audrey Lorvo está investigando la seguridad de la IA, que pesquisa respaldar que los modelos de IA cada vez más inteligentes sean confiables y pueden beneficiar a la humanidad. El creciente campo se centra en desafíos técnicos como la robustez y la vinculación de la IA con los títulos humanos, así como las preocupaciones sociales como la transparencia y la responsabilidad. Los practicantes además están preocupados por los posibles riesgos existenciales asociados con herramientas de IA cada vez más poderosas.
«Comprobar de que la IA no sea mal utilizada o actos contrarios a nuestras intenciones es cada vez más importante a medida que abordamos la inteligencia caudillo industrial (AGI)», dice Lorvo, un informática, bienes y ciencia de datos importante. AGI describe el potencial de la inteligencia industrial para igualar o pasar las capacidades cognitivas humanas.
Un MIT Schwarzman College of Computing Responsabilidades sociales y éticas de la informática (SERC) NormativoLorvo analiza de cerca cómo la IA podría automatizar los procesos y prácticas de investigación y exposición de la IA. Un miembro del Corro de investigación de Big Dataestá investigando las implicaciones sociales y económicas asociadas con el potencial de IA para acelerar la investigación sobre sí misma y cómo comunicar de modo efectiva estas ideas e impactos potenciales a audiencias generales, incluidos legisladores, asesores estratégicos y otros.
Lorvo enfatiza la carencia de evaluar críticamente los rápidos avances y sus implicaciones de la IA, asegurando que las organizaciones tengan marcos y estrategias adecuadas para asaltar los riesgos. «Necesitamos respaldar que los humanos obtengan los beneficios de IA y que no perdamos el control de la tecnología», dice ella. «Necesitamos hacer todo lo posible para desarrollarlo de modo segura».
Su décimo en esfuerzos como el Prebenda Técnica de Seguridad de AI Refleja su inversión para comprender los aspectos técnicos de la seguridad de la IA. La banda brinda oportunidades para revisar la investigación existente sobre la vinculación del exposición de la IA con consideraciones de impacto humano potencial. «La banda me ayudó a comprender las preguntas y desafíos técnicos de la seguridad de la IA para que pueda proponer mejores estrategias de gobierno de IA», dice ella. Según Lorvo, las empresas de la frontera de IA continúan superando los límites, lo que significa que necesitaremos implementar políticas efectivas que prioricen la seguridad humana sin impedir investigaciones.
Valía del compromiso humano
Al aparecer al MIT, Lorvo sabía que quería seguir un curso de estudio que le permitiera trabajar en la intersección de la ciencia y las humanidades. Sin secuestro, la variedad de ofertas en el Instituto dificultó sus decisiones.
«Hay muchas maneras de ayudar a avanzar en la calidad de vida de las personas y las comunidades», dice ella, «y el MIT ofrece muchos caminos diferentes para la investigación».
Comenzando con la bienes, una disciplina que disfruta adecuado a su enfoque en cuantificar el impacto, Lorvo investigó las matemáticas, las ciencias políticas y la planificación urbana ayer de nominar el curso 6-14.
«Profesor Joshua Angrist’s Las clases de bienes me ayudaron a ver el valía de centrarme en la bienes, mientras que los principios de ciencia de datos e informática me atrajeron adecuado al creciente efecto y al impacto potencial de la IA ”, dice ella. «Podemos usar estas herramientas para asaltar algunos de los problemas más apremiantes del mundo y, con suerte, pasar serios desafíos».
Lorvo además ha perseguido concentraciones en Estudios urbanos y planificación y exposición internacional.
Mientras se enfocó, Lorvo descubre que comparte una perspectiva de la humanidad con otros miembros de la comunidad del MIT como el Corro de vinculación de MIT AIde quien aprendió proporcionado sobre la seguridad de la IA. «A los estudiantes se preocupan por su impacto insignificante», dice ella.
El impacto insignificante, el propósito adicional de una inversión específica de tiempo, plata o esfuerzo, es una forma de determinar cuánto se suma una contribución a lo que ya se está haciendo, en división de centrarse en el impacto total. Esto puede influir potencialmente donde las personas eligen ofrendar sus posibles, una idea que atrae a Lorvo.
«En un mundo de posibles limitados, un enfoque basado en datos para resolver algunos de nuestros mayores desafíos puede beneficiarse de un enfoque personalizado que dirige a las personas a donde es probable que hagan lo más bueno», dice. «Si desea maximizar su impacto social, reflexionar sobre el impacto insignificante de su sufragio de carrera puede ser muy valioso».
Lorvo además valora el enfoque del MIT en educar a todo el estudiante y ha explotado las oportunidades para investigar disciplinas como la filosofía a través de Expediente de MITun software que facilita el diálogo entre la ciencia y las humanidades. Concurso prórroga que los participantes obtengan orientación, claridad y propósito para actividades científicas, técnicas y humanas.
Experiencias de los estudiantes en el Instituto
Lorvo invierte su tiempo fuera del clase para crear experiencias memorables y fomentar relaciones con sus compañeros de clase. «Soy afortunado de que haya espacio para equilibrar mis cursos, la investigación y los compromisos del club con otras actividades, como motín de mancuerna y iniciativas fuera del campus», dice ella. «Siempre hay muchos clubes y eventos disponibles en todo el Instituto».
Estas oportunidades para expandir su visión del mundo han desafiado sus creencias y la expusieron a áreas de nuevos intereses que han podrido su vida y su opción profesional para mejor. Lorvo, que palabra francés, inglés, castellano y portugués con fluidez, además aplaude al MIT por las experiencias internacionales que ofrece a los estudiantes.
«He internado en Santiago de Pimiento y París con Misti y ayudó a probar un Cámara de condensación de vapor de agua que diseñamos en un otoño 2023 D-LAB clase en colaboración con el Escuela Politécnica de Madagascar y Tatirano ONG (Estructura no estatal) «, dice ella,» y ha disfrutado de las oportunidades para ilustrarse sobre asaltar la desigualdad económica a través de mi exposición internacional y mis clases de D-Lab «.
Como presidente de MIT’s Asociación de Posesiones de PregradoLorvo se conecta con otros estudiantes interesados en la bienes mientras continúa expandiendo su comprensión del campo. Ella disfruta de las relaciones que está construyendo mientras participa en los eventos de la asociación durante todo el año. «Incluso en su posterior año, he enemigo nuevas comunidades del campus para explorar y apreciar», dice ella. «Animo a otros estudiantes a continuar explorando grupos y clases que provocan sus intereses durante su tiempo en el MIT».
Posteriormente de la división, Lorvo quiere continuar investigando la seguridad de la IA e investigando las estrategias de gobernanza que pueden ayudar a respaldar la implementación segura y efectiva de la IA.
«El buen gobierno es esencial para el exitoso exposición de la IA y respaldar que la humanidad pueda beneficiarse de su potencial transformador», dice ella. «Debemos continuar monitoreando el crecimiento y las capacidades de la IA a medida que la tecnología continúa evolucionando».
Comprender los posibles impactos de la tecnología en la humanidad, hacer el proporcionadamente, mejorar continuamente y crear espacios donde las grandes ideas pueden ver que la luz del día continúa impulsando a Lorvo. Fusionar las humanidades con las ciencias anima gran parte de lo que hace. «Siempre esperé contribuir a mejorar la vida de las personas, y la IA representa el anciano desafío y oportunidad de la humanidad hasta ahora», dice ella. «Creo que el campo de seguridad de la IA puede beneficiarse de personas con experiencias interdisciplinarias como el tipo que he tenido la suerte de aventajar, y animo a cualquiera que sea apasionado por dar forma al futuro a explorarlo».