Los sistemas de inteligencia sintético como ChatGPT proporcionan respuestas de sonido plausible a cualquier pregunta que pueda hacer. Pero no siempre revelan las brechas en sus conocimientos o áreas donde están inciertos. Ese problema puede tener enormes consecuencias ya que los sistemas de IA se usan cada vez más para hacer cosas como desarrollar drogas, sintetizar información e impulsar automóviles autónomos.
Ahora, el MIT SpinOut Themis AI está ayudando a cuantificar la incertidumbre del maniquí y las expectativas correctas antiguamente de que causen mayores problemas. La plataforma CAPSA de la compañía puede funcionar con cualquier maniquí de estudios espontáneo para detectar y corregir expectativas poco confiables en segundos. Funciona modificando modelos de IA para permitirles detectar patrones en su procesamiento de datos que indican equívoco, incompletitud o sesgo.
«La idea es tomar un maniquí, envolverlo en CAPSA, identificar las incertidumbres y los modos de equivocación del maniquí, y luego mejorar el maniquí», dice la cofundadora y profesora del MIT Daniela Rus, quien igualmente es la directora del Laboratorio de Informática e Inteligencia Químico del MIT (CSAIL). «Estamos entusiasmados por ofrecer una alternativa que pueda mejorar los modelos y ofrecer garantías de que el maniquí funcione correctamente».
Rus fundó Themis Ai en 2021 con Alexander Amini ’17, SM ’18, PhD ’22 y Elaheh Ahmadi ’20, Meng ’21, dos ex afiliados de investigación en su laboratorio. Desde entonces, han ayudado a las compañías de telecomunicaciones con la planificación y la automatización de las redes, ayudaron a las compañías de petróleo y gas a usar la IA para comprender las imágenes sísmicas y publicaron artículos sobre el avance de chatbots más confiables y confiables.
«Queremos habilitar la IA en las aplicaciones de viejo décimo de cada industria», dice Amini. «Todos hemos trillado ejemplos de AI alucinando o cometiendo errores. Como AI se despliega más ampliamente, esos errores podrían conducir a consecuencias devastadoras. Temis hace posible que cualquier IA pueda pronosticar y predecir sus propias fallas, antiguamente de que ocurran».
Ayudar a los modelos a conocer lo que no saben
El laboratorio de Rus ha estado investigando la incertidumbre del maniquí durante abriles. En 2018, recibió fondos de Toyota para estudiar la confiabilidad de una alternativa de conducción autónoma basada en el estudios espontáneo.
«Ese es un contexto crítico de seguridad donde comprender la confiabilidad del maniquí es muy importante», dice Rus.
En separación trabajarRus, Amini y sus colaboradores construyeron un operación que podría detectar sesgo étnico y de índole en los sistemas de inspección facial y retornar automáticamente los datos de entrenamiento del maniquí, mostrando que eliminó el sesgo. El operación funcionó identificando las partes no representativas de los datos de capacitación subyacentes y generando nuevas muestras de datos similares para reequilibrarlo.
En 2021, los eventuales cofundadores mostraron un enfoque similar podría estilarse para ayudar a las compañías farmacéuticas a usar modelos de IA para predecir las propiedades de los candidatos a los medicamentos. Fundaron Themis Ai más tarde ese año.
«Ejemplarizar el descubrimiento de drogas podría librarse mucho hacienda», dice Rus. «Ese fue el caso de uso que nos hizo darnos cuenta de cuán poderosa podría ser esta útil».
Hoy, Themis AI está trabajando con empresas en una variedad de industrias, y muchas de esas compañías están construyendo grandes modelos de idiomas. Al usar CAPSA, estos modelos pueden cuantificar su propia incertidumbre para cada salida.
«Muchas compañías están interesadas en usar LLM que se basan en sus datos, pero están preocupados por la confiabilidad», observa Stewart Jamieson SM ’20, PhD ’24, presidente de tecnología de Themis AI. «Ayudamos a los LLM a informar su confianza e incertidumbre, lo que permite que la respuesta de preguntas más confiable respondiera y marcara los resultados poco confiables».
Themis AI igualmente está en conversaciones con compañías de semiconductores que construyen soluciones de IA en sus chips que pueden funcionar fuera de los entornos en la aglomeración.
«Normalmente, estos modelos más pequeños que funcionan en teléfonos o sistemas integrados no son muy precisos en comparación con lo que podría ejecutar en un servidor, pero podemos obtener lo mejor de entreambos mundos: desprecio latencia y computación de borde competente sin matar la calidad», explica Jamieson. «Vemos un futuro en el que los dispositivos Edge hacen la viejo parte del trabajo, pero cada vez que no están seguros de su producción, pueden reenviar esas tareas a un servidor central».
Las compañías farmacéuticas igualmente pueden usar CAPSA para mejorar los modelos de IA que se utilizan para identificar a los candidatos a los medicamentos y predecir su desempeño en los ensayos clínicos.
«Las predicciones y resultados de estos modelos son muy complejas y difíciles de interpretar: los expertos pasan mucho tiempo y esfuerzo tratando de darles sentido», comenta Amini. «El CAPSA puede dar información desde la puerta para comprender si las predicciones están respaldadas por evidencia en el conjunto de entrenamiento o son solo especulaciones sin mucha pulvínulo. Eso puede acelerar la identificación de las predicciones más fuertes, y creemos que eso tiene un gran potencial para el correctamente social».
Investigación para el impacto
El equipo de Themis AI cree que la compañía está correctamente posicionada para mejorar la vanguardia de la tecnología de IA en constante cambio. Por ejemplo, la compañía está explorando la capacidad de CAPSA para mejorar la precisión en una técnica de IA conocida como razonamiento de la condena de pensamiento, en el que los LLM explican los pasos que toman para obtener una respuesta.
«Hemos trillado Signs Capsa podría ayudar a encaminar esos procesos de razonamiento para identificar las cadenas de razonamiento de viejo confianza», dice Jamieson. «Creemos que tiene enormes implicaciones en términos de mejorar la experiencia de LLM, dominar las latencias y dominar los requisitos de cálculo. Es una oportunidad de gran impacto para nosotros».
Para Rus, quien ha cofundado varias compañías desde que llegó al MIT, Themis AI es una oportunidad para avalar que su investigación del MIT tenga un impacto.
«Mis alumnos y yo nos apasionamos cada vez más por dar el paso adicional para que nuestro trabajo sea relevante para el mundo», dice Rus. «La IA tiene un enorme potencial para variar las industrias, pero la IA igualmente plantea preocupaciones. Lo que me emociona es la oportunidad de ayudar a desarrollar soluciones técnicas que aborden estos desafíos y igualmente generen confianza y comprensión entre las personas y las tecnologías que se están convirtiendo en parte de su vida diaria».