V. Barahona / Agencia EFE

Usar herramientas de inteligencia artificial (IA) para aprender algo, como ChatGPT, puede aumentar la "ilusión de profundidad explicativa", indicaron científicos del Centro Nacional de Inteligencia Artificial (Cenia), es decir, la tendencia a sobreestimar cuánto se entiende sobre un fenómeno.

En alianza con el Centro de Investigación Avanzada en Educación (CIAE) de la Universidad de Chile, donde trabaja el Premio Nacional de Ciencias Exactas 2011, Patricio Felmer, los académicos observaron el proceso de aprendizaje de 102 alumnos de la casa de estudios.

Los participantes se dividieron en tres grupos. Todos debieron abordar cuatro preguntas sobre fenómenos cotidianos: por qué existen los años bisiestos, cómo se fabrica el vidrio, cómo funcionan los cierres y por qué la Luna tiene fases.

La diferencia estuvo en qué información recibieron y a través de qué medio. Un grupo interactuó con ChatGPT; otro leyó exactamente los mismos textos generados por el chatbot, pero sin conocer su procedencia; y un tercer grupo no recibió material adicional.

Después, todos tuvieron que evaluar su capacidad de explicar cada fenómeno, para luego detallarlos por escrito. Finalmente, después de leer su propia explicación, debieron evaluar de nuevo qué tan bien podían hacerlo.

Sobreestimación

Quienes interactuaron con ChatGPT mostraron la mayor sobreestimación de sus capacidades: la diferencia entre lo que creían poder explicar, antes y después de escribir sus respuestas, fue significativamente mayor comparado en el grupo que sólo leyó los mismos contenidos.

El efecto no se puede explicar simplemente por la calidad de la información. Los dos grupos recibieron los mismos contenidos, lo que cambió fue la experiencia de interactuar con el chatbot. Las explicaciones posteriores también fueron de menor calidad entre quienes usaron IA.

Dos evaluadores independientes calificaron las respuestas en una escala de 1 a 4. El grupo con ChatGPT obtuvo un promedio de 2,47 puntos, frente a los 2,75 logrados por los estudiantes que leyeron los mismos textos, pero sin interactuar con la IA. El grupo que no recibió material obtuvo 1,8 puntos.

El análisis lingüístico apuntó en la misma dirección: las respuestas del grupo GPT tuvieron un promedio de 43,8 palabras, mientras que las de quienes sólo leyeron los textos alcanzaron las 59,6 palabras, mostrando una mayor diversidad de vocabulario.

Además, los escritos de este último grupo se parecían más al texto original, comparados con los textos redactados por el grupo GPT.

El académico Ernesto Guerra señaló que "tener acceso a una buena explicación no significa necesariamente haber incorporado ese conocimiento. Una persona puede reconocer y seguir una explicación cuando la tiene delante, pero no necesariamente reconstruirla después por sí misma".

Escolares

Hace unos días se conocieron los resultados de la prueba Pisa, tomada por la Organización para la Cooperación y el Desarrollo Económicos (OCDE) en más de una treintena de países, entre ellos Chile, que mide competencias básicas junto a actitudes frente al aprendizaje.

Mientras los estudiantes de alrededor de 15 años en Singapur lideraron la medición, con un promedio de 535 puntos, los chilenos lograron 466, con retrocesos en Lectura (-12 puntos) y Matemática (-9).

En la evaluación de la OCDE a los procesos de aprendizaje se conoció que en Chile el uso de IA está ampliamente extendido entre los adolescentes, "lo que vuelve especialmente pertinente preguntarse no sólo cuánto utilizan estas herramientas, sino también qué ocurre con la comprensión que construyen a partir de ellas", destacó el académico de la U. de Chile.

"En un mundo donde obtener información es cada vez más fácil, una de las habilidades más importantes puede ser saber distinguir entre tener una explicación disponible y haber aprendido realmente a explicar", puntualizó el psicólogo y lingüista.

"riesgo existencial"

En tanto, Anthropic, la empresa tras Claude, advirtió a sus potenciales inversores en el folleto sobre su prevista salida a bolsa que su IA puede plantear "riesgos existenciales para la humanidad", citó el diario Financial Times.

La compañía estadounidense dedicó una parte importante del documento a los riesgos asociados al desarrollo de modelos de IA cada vez más avanzados, entre ellos "la posibilidad de que manipulen, chantajeen o desarrollen comportamientos impredecibles".

Los eventuales inversores de la firma dirigida por Dario Amodei esperan que pueda alcanzar una valoración sobre los US$2 billones, mientras que OpenAI descartó lanzar el modelo GPT-6.1 Astra debido a preocupaciones de seguridad y ciberseguridad.

"Una habilidad importante puede ser distinguir entre tener una explicación disponible y haber aprendido a explicar.

ernesto guerra, psicólogo y lingüista"

43,8 palabras usaron en promedio los estudiantes con ChatGPT. Los que no, 59,6 palabras.

466 puntos en la prueba Pisa obtuvieron los chilenos de segundo medio. Singapur logró 535.