¿Chatgpt nos está haciendo más tonto? Un nuevo estudio del MIT tiene respuestas

Le pide que redacte un correo electrónico. Dígale que resume un mensaje. Incluso podría hacer que escriba un estudio completo. Los modelos de idiomas grandes (LLM) como ChatGPT son herramientas increíbles para la eficiencia. Pero, ¿cuál es el costo oculto de toda esta conveniencia? ¿La descarga de nuestro trabajo mental está erosionando lentamente nuestras habilidades cognitivas? Un estudio fresco del MIT Media Lab, titulado «Su cerebro en chatgpt: acumulación de deuda cognitiva al usar un asistente de IA para la tarea de redacción de ensayos«, Abordó esta misma pregunta, y los hallazgos son una llamamiento de atención para todos nosotros. En este blog, exploraremos el indagación realizado por MIT, comprenderemos sus hallazgos y obtendremos la respuesta a la pregunta: ¿Chatgpt nos está haciendo más tonto?

El indagación: Brains vs. Bots

Los investigadores establecieron un indagación fascinante. Reclutaron a 54 participantes y los dividieron en tres grupos de 18 cada uno para escribir ensayos sobre temas de nivel SAT en varias sesiones:

• El corro LLM: Solo podría usar Chatgpt (GPT-4)
• El corro de motores de búsqueda: Podría usar Google, pero no LLMS
• El corro de solo cerebro: No tenía camino a ninguna utensilio externa, ni siquiera en Internet

Utilizando auriculares electroencefalografía (EEG), los científicos midieron la actividad cerebral de los participantes para ver cómo sus redes neuronales dispararon y conectaron durante el proceso de escritura. Los resultados fueron sorprendentes. El equipo asimismo realizó un prospección de procesamiento de lengua natural profundo (PNL) en los ensayos, entrevistó a todos los participantes y tenía los ensayos calificados tanto por los profesores de inglés humano como por un sentenciador de IA personalizado.

El indagación no fue único; Los participantes completaron este proceso en tres sesiones separadas. En la cuarta y última sesión, los investigadores cambiaron a los grupos. Solo 18 participantes participaron. Los usuarios de LLM escribieron solo con sus cerebros, mientras que el corro solo cerebral obtuvo camino a la LLM. Aquí, el efectivo costo de la colaboración de IA se hizo evidente.

¿Qué le sucede a tu cerebro cuando usas un LLM?

El estudio encontró que la conectividad cerebral disminuyó sistemáticamente con ayuda externa, ya sea de Google Search o LLMS. Aunque el propósito del daño fue diferente y relativo al nivel de ayuda.

• El corro solo cerebral mostró las redes neuronales más fuertes y generalizadas, lo que indica un compromiso cognitivo profundo.
• El corro de motores de búsqueda estaba en el medio.
• ¿Y el corro LLM? Mostraron la conectividad cerebral más débil en normal.

Esto sugiere que cuando confiamos solo en nuestras propias mentes, involucramos una red rica y compleja de regiones cerebrales para la memoria, la planificación y el pensamiento creativo. Cuando utilizamos herramientas de ayuda como Google Search o LLMS, nuestros cerebros parecen descargar ese funcionamiento, mostrando significativamente menos actividad.

El nivel de actividad disminuye a medida que aumenta la cantidad de apoyo. La búsqueda de Google aún requería que los participantes utilizaran su proceso de pensamiento para combinar toda la información de varias búsquedas. Finalmente, todos los LLM necesarios fueron un aviso adecuado, y los participantes obtuvieron un estudio admisiblemente escrito que requiere la último cantidad de actividad cognitiva. Por lo tanto, sus cerebros hicieron la último cantidad de «ruido» neural, mientras que el corro solo por cerebro era el más musculoso, neuralmente.

El colapso de la memoria

Posteriormente de escribir sus ensayos, a los participantes se les hizo una pregunta simple: «¿Puede citar cualquier oración de su estudio sin mirarlo?». Los resultados fueron un completo sorpresa.

• En la primera sesión, un asombroso 83% del corro LLM no pudo proporcionar una cita correcta del estudio que acababan de escribir. Ningún de ellos produjo una cita correcta.
• Mientras tanto, los grupos de motores de búsqueda y solo de búsqueda tenían una capacidad de recuperación casi perfecta y citando la capacidad para la segunda sesión.

Esta descompostura de la memoria como se ve en el corro LLM solo se correlaciona directamente con la actividad cerebral silenciada. Los procesos neuronales necesarios para la codificación semántica profunda y la transferencia de información a la memoria a holgado plazo simplemente no se desencadenaban tan fuertemente en el corro LLM. Este corro asimismo informó un último sentido de «propiedad» sobre sus ensayos, y muchos se sintieron desconectados del trabajo. Parece que cuando no hacemos el trabajo pesado mental, el conocimiento no se adhiere y no sentimos el orgullo de la creación.

Lea asimismo: Así es como los chatbots de IA nos impactan: un estudio de MIT y OpenAi

¿Qué sucede cuando se lleva la IA?

En la cuarta y última sesión, los investigadores voltearon el asunto.

• LLM-to-Brain: Ahora se les pidió a los participantes que habían usado ChatGPT que escribieran sin herramientas.
• Brain-to-llm: Los participantes que habían estado usando solo sus cerebros ahora tenían camino a ChatGPT.

¡Y los resultados son alarmantes!

El corro LLM a cerebro luchó. Su conectividad cerebral era más débil, mostrando un «bajo compromiso de las redes alfa y beta», que son cruciales para la atención interna, el procesamiento semántico y el pensamiento creativo. Estaban atrapados en una «deficiencia cognitiva». Su escritura incluso mostró un sesgo en dirección a el vocabulario específico de LLM, reutilizando frases de sus sesiones asistidas por AI.

Mientras que en un contraste cósmico con esto, la actividad cerebral del corro cerebral a LLM aumentó. Cuando a estos participantes, que habían estado ejerciendo sus músculos cognitivos, recibieron un LLM para reescribir un estudio general, sus cerebros mostraron un maduro retiro de memoria y la reanimación de redes cerebrales generalizadas. El acto de integrar sugerencias de IA con sus propios pensamientos profundamente procesados ​​en efectividad comprometió más su cerebro. De hecho, los ensayos resultantes no solo fueron únicos sino que mostraron un nivel de delicadeza que hizo que sus ensayos se destaquen.

¿Estamos acumulando una «deuda cognitiva»?

La deuda cognitiva es una condición en la que «la dependencia repetida de sistemas externos como LLM reemplaza los procesos cognitivos difíciles necesarios para el pensamiento independiente». Al igual que la deuda financiera, obtiene conveniencia inmediata como préstamo, pero lo paga más tarde con intereses. El interés, en este caso, está disminuido el pensamiento crítico, la memoria más débil y la creatividad corta.

Por lo tanto, a pesar de que un sentenciador AI asistió a los ensayos asistidos por LLM a menudo y anotados admisiblemente por un sentenciador de IA, los maestros humanos que evaluaron los ensayos no quedaron impresionados. Describieron los textos generados por LLM como homogéneos, sin matices personales y simplemente «sin alma». Esta es una clara indicación de que el uso continuo de LLM sin mucho pensamiento es juntar una «deuda cognitiva» en nuestro cerebro, lo que eventualmente disminuiría nuestras habilidades analíticas y de pensamiento.

Otro estudio interesante: Comportamiento inquietante de IA: cuando los LLM avanzados rompen las reglas y resisten el control

Entonces, ¿Chatgpt nos está haciendo más tonto?

Bueno, tal vez ahora no, Pero con el tiempo, con uso sin control: Definitivamente! La peor parte es que en el momento en que nos damos cuenta de lo que está negociando por la comodidad de este asistente de IA, es posible que no podamos regresar. Asegro de miedo, pero usar IA podría ser otra yuxtaposición al tipo de drogas de la que nadie nos está advirtiendo.

Pero esto no es un llamado para entregarse la IA. Herramientas como ChatGPT son aliados poderosos. Pero esta investigación nos insta a ser conscientes. El uso de un LLM para apoyar un proceso de pensamiento existente y autónomo (como el corro Brain-to-LLM) puede ser un potente potenciador cognitivo. Pero usarlo para reemplazar el pensamiento desde el principio puede evitar que construyeremos las fuertes vías neuronales que conducen a un efectivo formación, memoria profunda y creatividad auténtica.

Entonces, la próxima vez que recurra a su asistente de IA, hágase una pregunta: ¿está subcontratando una tarea o está subcontratando su pensamiento?

Tu cerebro te lo agradecerá por retener la diferencia.

Encuentra un trabajo de investigación completo aquí.

Conclusión

El mundo que nos rodea se está quedando cada vez más. Desde las vidas personales a los profesionales, los chatbots alimentados con LLM nos están ayudando a obtener tareas como velocidades y con precisión invicta. Pero con gran poder, viene una gran responsabilidad. La responsabilidad de comprender la diferencia entre el experto y el sometido se zócalo en nosotros. Siempre que sea nuestros pensamientos los que alinean nuestra investigación, el uso de LLM ayudaría a mejorar los resultados finales, pero si sus LLM que toman el pensamiento, entonces todo lo que podemos esperar es una salida sub PAR que sería similar a todos los que usan las mismas herramientas. De este modo, matando nuestra unión por completo y limitando severamente las posibilidades.