Vijay Gadepallymiembro del personal senior del Laboratorio Lincoln del MIT, dirige una serie de proyectos en el Centro de supercomputación del laboratorio Lincoln (LLSC) para hacer que las plataformas informáticas y los sistemas de inteligencia fabricado que se ejecutan en ellas sean más eficientes. Aquí, Gadepally analiza el uso cada vez longevo de la IA generativa en las herramientas cotidianas, su impacto ambiental oculto y algunas de las formas en que el Laboratorio Lincoln y la comunidad de IA en genérico pueden aminorar las emisiones para un futuro más verde.
P: ¿Qué tendencias observa en términos de cómo se utiliza la IA generativa en la informática?
A: La IA generativa utiliza el formación obligatorio (ML) para crear contenido nuevo, como imágenes y texto, basado en los datos que se ingresan en el sistema ML. En LLSC diseñamos y construimos algunas de las plataformas informáticas académicas más grandes del mundo y, en los últimos abriles, hemos manido una crisis en la cantidad de proyectos que necesitan camino a informática de suspensión rendimiento para la IA generativa. Incluso estamos viendo cómo la IA generativa está cambiando todo tipo de campos y dominios; por ejemplo, ChatGPT ya está influyendo en el clase y el extensión de trabajo más rápido de lo que las regulaciones parecen ayudar.
Podemos imaginar todo tipo de usos para la IA generativa en la próxima división, como impulsar asistentes virtuales de gran capacidad, desarrollar nuevos medicamentos y materiales e incluso mejorar nuestra comprensión de la ciencia básica. No podemos predecir para qué se utilizará la IA generativa, pero ciertamente puedo sostener que con algoritmos cada vez más complejos, su impacto en computación, energía y clima seguirá creciendo muy rápidamente.
P: ¿Qué estrategias está utilizando el LLSC para mitigar este impacto climático?
A: Siempre estamos buscando maneras de hacer computación más eficazya que hacerlo ayuda a nuestro centro de datos a usar al mayor sus bienes y permite a nuestros colegas científicos impulsar sus campos de la forma más eficaz posible.
Como ejemplo, hemos estado reduciendo la cantidad de energía que consume nuestro hardware mediante cambios simples, similares a atenuar o apagar las luces cuando sales de una habitación. En un test, redujimos el consumo de energía de un liga de unidades de procesamiento de gráficos entre un 20 y un 30 por ciento, con un impacto minúsculo en su rendimiento, aplicando un tapa de poder. Esta técnica asimismo redujo las temperaturas de funcionamiento del hardware, lo que hizo que las GPU fueran más fáciles de refrigerar y más duraderas.
Otra organización es cambiar nuestro comportamiento para ser más conscientes del clima. En casa, algunos de nosotros podríamos optar por utilizar fuentes de energía renovables o una programación inteligente. Estamos utilizando técnicas similares en el LLSC, como entrenar modelos de IA cuando las temperaturas son más frías o cuando la demanda de energía de la red recinto es disminución.
Incluso nos dimos cuenta de que gran parte de la energía gastada en informática a menudo se desperdicia, como por ejemplo una fuga de agua que aumenta tu nota pero sin ningún beneficio para tu hogar. Desarrollamos algunas técnicas nuevas que nos permiten monitorear las cargas de trabajo informáticas mientras se ejecutan y luego finalizar aquellas que probablemente no produzcan buenos resultados. Sorprendentemente, en una serie de casos Descubrimos que la mayoría de los cálculos podían finalizar antiguamente de tiempo. sin comprometer el resultado final.
P: ¿Cuál es un ejemplo de un tesina que haya realizado que reduzca la producción de energía de un software de IA generativa?
A: Recientemente construimos una aparejo de visión por computadora consciente del clima. La visión por computadora es un dominio que se centra en aplicar IA a imágenes; por ejemplo, diferenciar entre perros y gatos en una imagen, etiquetar correctamente los objetos en el interior de una imagen o averiguar componentes de interés en el interior de una imagen.
En nuestra aparejo, incluimos telemetría de carbono en tiempo verdadero, que produce información sobre cuánto carbono emite nuestra red recinto mientras se ejecuta un maniquí. Dependiendo de esta información, nuestro sistema cambiará automáticamente a una traducción del maniquí con longevo eficiencia energética, que normalmente tiene menos parámetros, en momentos de incorporación intensidad de carbono, o a una traducción del maniquí de mucha longevo fidelidad en momentos de disminución intensidad de carbono. .
Al hacer esto, vimos una casi Reducción del 80 por ciento de las emisiones de carbono durante un período de uno a dos días. Nosotros recientemente extendió esta idea a otras tareas de IA generativa, como el sumario de texto, y encontró los mismos resultados. Curiosamente, ¡el rendimiento a veces mejoró posteriormente de usar nuestra técnica!
P: ¿Qué podemos hacer como consumidores de IA generativa para ayudar a mitigar su impacto climático?
A: Como consumidores, podemos pedir a nuestros proveedores de IA que ofrezcan longevo transparencia. Por ejemplo, en Google Flights puedo ver una variedad de opciones que indican la huella de carbono de un planeo específico. Deberíamos obtener tipos similares de mediciones de las herramientas de IA generativa para que podamos tomar una valentía consciente sobre qué producto o plataforma usar en función de nuestras prioridades.
Incluso podemos hacer un esfuerzo para educarnos más sobre las emisiones generativas de IA en genérico. Muchos de nosotros estamos familiarizados con las emisiones de los vehículos y puede ser útil cuchichear sobre las emisiones generativas de IA en términos comparativos. La muchedumbre puede sorprenderse al retener, por ejemplo, que una tarea de reproducción de imágenes es aproximadamente equivalente hasta conducir cuatro millas en un automóvil de gasolina, o que se necesita la misma cantidad de energía para cargar un automóvil eléctrico que para difundir más o menos de 1.500 resúmenes de texto.
Hay muchos casos en los que los clientes estarían felices de hacer una concesión si supieran su impacto.
P: ¿Qué ves para el futuro?
A: Mitigar el impacto climático de la IA generativa es uno de esos problemas en los que está trabajando muchedumbre de todo el mundo, y con un objetivo similar. Estamos trabajando mucho aquí en el Laboratorio Lincoln, pero es solo una superficie. A extenso plazo, los centros de datos, los desarrolladores de inteligencia fabricado y las redes energéticas deberán trabajar juntos para realizar «auditorías energéticas» que permitan descubrir otras formas únicas en las que podemos mejorar la eficiencia informática. Necesitamos más asociaciones y más colaboración para seguir delante.
Si está interesado en obtener más información o colaborar con el Laboratorio Lincoln en estos esfuerzos, comuníquese con Vijay Gadepally.