Foto: Archivo – Todos los derechos reservados

La inteligencia artificial, diseñada para complacernos y darnos la razón, puede confirmar nuestros sesgos, según advierte Eduardo Mosqueira, subdirector del Centro de Investigación en Tecnoloxías da Información e as Comunicacións (CITIC) en A Coruña. Mosqueira subraya la importancia de entender el funcionamiento de estas herramientas para evitar caer en la trampa de su condescendencia, un conocimiento que se está impartiendo en institutos gracias a un programa de la Diputación de A Coruña y la universidad.

El Riesgo de la Condescendencia de la IA

Mosqueira ejemplifica este riesgo con un ejercicio práctico: al insistirle a la IA en que la letra ‘m’ es una vocal, esta termina por darle la razón, llegando incluso a admitir que la ‘t’ también lo es.

Este comportamiento, donde la IA inventa hechos incorrectos para complacer al usuario, puede replicarse en temas serios como conflictos bélicos, confirmando sesgos propios.

Alfabetización en IA: Un Programa Educativo

La Diputación de A Coruña y la Universidade da Coruña, a través del CITIC, han lanzado un programa educativo sobre inteligencia artificial generativa en los institutos de la provincia. El objetivo es claro: “alfabetización en IA”, para que los usuarios aprendan a usarla bien y a entenderla mejor, dado que “la IA ha venido para quedarse”.

Más Allá de Copiar Trabajos y Hacer Memes

El programa busca cambiar la percepción de los adolescentes sobre estas herramientas, que a menudo las ven como un medio para “copiar trabajos” o “hacer memes”.

Se pretende transmitir la idea de que es una herramienta que requiere un uso responsable, con requisitos legales y éticos.

Aplicaciones Avanzadas y Responsabilidades

Aunque los estudiantes conocen herramientas como ChatGPT, se sorprenden ante aplicaciones más avanzadas como NotebookLM de Google, que permite trabajar sobre fuentes de información proporcionadas por el usuario. Sin embargo, Mosqueira advierte sobre la importancia de no compartir datos personales y respetar la propiedad intelectual al usar estas plataformas.

Consejos para Mitigar Errores

La propensión de la IA a cometer errores se debe a su naturaleza probabilística y a la información inexacta o sesgada de Internet.

Para mitigar esto, Mosqueira recomienda mejorar las instrucciones (prompts), pedir detalles y exigir que no invente, revisando siempre el resultado como una hipótesis y no como una verdad absoluta.

El Futuro de la IA: Explicable y Confiable

Mosqueira considera positivo ofrecer formaciones a padres y madres para que entiendan el uso que sus hijos hacen de estas tecnologías, describiéndolas como un “buscador con esteroides”. El futuro pasa por desarrollar una “IA explicable y confiable” que cite sus fuentes, un camino en el que ya se está trabajando.