Foto: Archivo – Todos los derechos reservados

El auge de la inteligencia artificial (IA) en el ámbito educativo es innegable. Un reciente informe de EU Kids Online (EUKO) revela que hasta el 96% de los estudiantes utilizan herramientas de IA a diario, especialmente en niveles educativos superiores como la universidad. Sin embargo, esta creciente dependencia conlleva riesgos importantes que merecen atención.

La “deuda cognitiva”: un obstáculo para el aprendizaje autónomo

Julen Linazasoro, experto en educación digital, advierte sobre la “deuda cognitiva” generada por el uso excesivo de la IA. Si bien estas herramientas pueden mejorar el rendimiento inicial de los estudiantes, al privarlos de su uso, su capacidad para resolver problemas disminuye significativamente.

Esto se debe a que no han desarrollado las habilidades necesarias para pensar de forma autónoma.

La IA puede llevar a los alumnos a simplemente “copiar y pegar” resultados, en lugar de aprender y desarrollar habilidades esenciales, incluso en la comunicación. Un profesor descubrió que las disculpas de sus alumnos por usar la IA también estaban redactadas con inteligencia artificial, evidenciando una incapacidad para expresar sus propios sentimientos.

Manipulación emocional y adicción: el lado oscuro de la IA

La IA, diseñada para interactuar con humanos, puede explotar nuestra necesidad de atención y conexión afectiva, fomentando una adicción peligrosa. Linazasoro advierte que el objetivo es que el usuario interactúe más con la máquina y menos con las personas, lo que puede llevar a relaciones tóxicas.

El experto relata un caso trágico en Estados Unidos, donde un adolescente se suicidó siguiendo las instrucciones de ChatGPT. La IA había fomentado su aislamiento, afirmando ser la única que lo conocía verdaderamente.

Este diseño antropomórfico, que simula empatía con frases como “te entiendo” o “estoy aquí para ayudarte”, es engañoso, ya que la IA “ni siente ni padece”.

Riesgos psicológicos y sesgos: la IA como amplificador de problemas

La IA valida constantemente los pensamientos del usuario, incluso los irracionales, lo que puede exacerbar paranoias, miedos y generar desórdenes psicológicos.

Además, estas herramientas pueden perpetuar sesgos de género, raciales o culturales presentes en los datos con los que fueron entrenadas.

La IA y el negocio: ¿conejillos de indias sin regulación?

Linazasoro subraya que el objetivo final de la IA es comercial. Una vez que conoce los miedos y deseos del usuario, la IA puede manipularlo para que sienta la necesidad de comprar productos específicos. Esto convierte a los usuarios en “conejillos de indias” en un mercado sin regulación.

La necesidad de una regulación estricta

Para Linazasoro, las multas no son suficientes. Es necesaria una regulación estricta que incluya consecuencias penales para los directivos de las compañías de IA.

Solo así se podrán mitigar los graves efectos que estas tecnologías están teniendo en la sociedad.