Andoni Eguíluz: "Con la IA generativa se va a revalorizar el buen trabajo periodístico y se va a notar mucho el mediocre"

Vitoria-Gasteiz

'La ventana Euskadi' se une a la celebración de la semana de la alfabetización mediática e informacional con una serie de entrevistas sobre el lema de este 2024: "Las nuevas fronteras digitales de la información: Alfabetización mediática e informacional para la información de interés público". Durante toda la semana el objetivo es reflexionar sobre el impacto transformador de tecnologías emergentes como la Inteligencia Artificial Generativa y la nueva generación de creadores de contenidos digitales en la producción y difusión de información de interés público.

Andoni Eguíluz es doctor en informática y coordina el equipo de Inteligencia Artificial en la Universidad de Deusto.

Eres el responsable de Inteligencia Artificial en Deusto. ¿Cuál es tu cometido?

Bueno, cuando llegó este tema hace año y pico, a todas las entidades nos pilló con el pie cambiado, así que hemos intentado ir respondiendo en la medida de que hemos ido entendiendo el fenómeno. En Deusto decidimos en abril de 2023 crear una comisión de Inteligencia Artificial a nivel de Universidad, cuyo cometido, es intentar dirigir las acciones, explorar cuáles son los espacios de mayor impacto, cuáles son las oportunidades...También observar los riesgos. En fin, coordinar un poco toda la serie de acciones, que son bastantes importantes, que tienen que ver con la disrupción que significa la Inteligencia Artificial generativa en muchos aspectos, pero particularmente en la educación, que es lo que, entre otras cosas, hacemos en la Universidad, donde en el minuto 1 ya nos impactaba. Ya teníamos a a todos los estudiantes para ir utilizando la IA generativa para hacer trabajos.

Claro, porque si hablamos aquí del impacto que tiene la IA generativa en las redacciones, en la educación ni te cuento. Por ejemplo, el Rincón del vago se ha quedado viejísimo en cuestión de días, ¿no?

Únete al canal de WhatsApp de la SER

Efectivamente. ¿Quién quiere un rincón del vago que solo tiene cosas ya estructuradas y que sólo se pueden copiar, cuando tienes a un asistente a tu disposición que te redacta exactamente lo que necesitas para lo que el profesor te ha pedido? Yo suelo decir que esta disrupción de la IA, hablando de texto, afecta a todos aquellos sectores que tienen que ver con gestión de la información y del conocimiento. Y obviamente los medios lo sois, las universidades lo somos y muchas empresas también. Por eso es una disrupción, porque, de repente, afecta a muchas capas de la sociedad y a gran parte del tejido empresarial.

¿Cómo detectas que uno de tus alumnos o alumnas te la está pegando con la Inteligencia Artificial? Y le ha dicho a Chat GPT: "hazme este bonito trabajo de fin de curso".

Mira. Yo creo que, en el momento en el que una tecnología irrumpe de forma nueva y cambia cómo estamos haciendo las cosas, lo primero que intentamos los humanos siempre es defendernos y ver si podemos seguir haciendo las cosas de la misma manera. Esto, como hemos comentado, no es nuevo. Estaba El rincón del vago y teníamos herramientas que detectaban plagios, etc. Te daban un porcentaje de copia o de similitud del trabajo original con respecto al trabajo derivado. Nos gustaría tener algo parecido un poco en esa línea, pero creo que tenemos que asumir, aunque nos duela, que, si no imposible va a ser absolutamente difícil detectar el uso de la IA. Yo suelo decir a mis compañeros que cuando la detectamos, no detectamos el uso de la IA sino un mal uso o un uso pobre de la misma. En los que la saben utilizar bien, un texto es, en la práctica, indistinguible de un texto humano. Estamos recomendando en la Universidad que es bueno aceptar que vamos a un mundo en el que entre lo humano y lo no humano, entre lo real y lo falso hay todo un escenario de grises. A tu pregunta concreta, la respuesta es que no lo vamos a poder detectar.

¿Dónde es más difícil discernir entre Inteligencia Artificial y generación humana?

En los textos es donde es más difícil, porque la capacidad de meter en un texto marcas de agua o algo similar que permita diferenciar que ha habido un dispositivo digital es muy difícil. Se dice que hay algunas pistas, se habla mucho de las palabras que utiliza más Chat GPT, que si aparece crucial más de cuatro veces... ¿Entonces es que no sé qué? Pero creo que eso es porque esa persona ha utilizado la IA muy pobremente, o sea, que le ha dado una instrucción, un prompt y que la IA la ha contestado, la ha copiado y lo ha pegado. Pero, ¿cómo vamos a detectar un texto si, por ejemplo, a la IA la puedes alimentar de textos tuyos? Imagínate a un periodista, un escritor que le puede decir a la IA que coja 20 textos tuyos y elabore lo que le vas a pedir utilizando tu estilo. En ese sentido la posibilidad que vamos a tener de detectar es ínfima. Pero a lo mejor hay que cambiar un poco el foco del de la discusión: no es que queramos detectarlo; lo que queremos es tener calidad en lo que se emita y un profesional responsable de eso que se emite.

Creo que es doloroso, pero es importante ir aceptando que vamos a un futuro en el que el propio soporte de contenido, el propio contenido, no te va a dar ninguna información de fiabilidad o de verosimilitud de lo que está describiendo. Tendrás que consultar a la fuente, tendrás que hacer una búsqueda adicional, tendrás que hacer un doble check...algo que, por cierto, en comunicación está en vuestra propia naturaleza.

Hay evidentes ventajas de la Inteligencia Artificial generativa para el trabajo periodístico. Pero también hay una serie de de retos, y es que uno va a leer, escuchar o ver una noticia y no va a saber si lo que está escuchando es cierto o no. ¿Cómo creéis que deberíamos los periodistas afrontar este debate? ¿Y la audiencia?

Lo que hay que es recuperar un poco el origen de lo que es la comunicación. Hay un emisor y un receptor y tiene que haber un nivel de confianza entre emisor y el receptor. Yo creo que la confianza va a ser más importante en el mundo al que vamos que lo que ha sido en las últimas décadas. El medio que emite la información va a ser más importante que la propia información que emite, porque nos vamos a tener que acostumbrar, queramos o no, como consumidores de esa información, a ponerlo todo en en cuestión, en tela de juicio. Creo que entre las buenas noticias que tiene esta nueva época a la que vamos es que nos eleva el listón, o sea, nos obliga a ir a la esencia de lo que es nuestra profesión y dedicar menos tiempo a esas cosas en la que aportamos menos valor como humanos, como profesionales y dedicar más a esas cosas en las que más aportamos valor en la noticia, que es cómo la tengo que presentar, cómo combino esta información con otras. Ahí es donde creo que se va a revalorizar el buen trabajo periodístico y se va a notar mucho el mediocre.

Como ingeniero informático, supongo que le ves más oportunidades y ventajas que riesgos o o amenazas a la Inteligencia Artificial generativa.

Bueno, como ingeniero informático le veo un sinfín de posibilidades. Es como una edad de oro, un momento verde, por la cantidad de cosas que podemos hacer que no nos imaginábamos. Pero luego, mi labor en la Universidad tienen que ver con obligarnos a mirar también a la parte de regulación y el uso ético, a cómo cambia el escenario, cómo se redefinen los derechos de autor... ¿Qué constituye ahora el plagio o la derivación? De repente, todo el sistema está en cuestión. Creo que tenemos una exigencia de la sociedad, los tecnólogos por un lado y los periodistas, por otro, de ser responsables con esos riesgos y de transmitirlos también. O de valorar en qué momento son más los riesgos que las oportunidades y tenemos que decir que no a ciertas cosas como no publicar ciertas informaciones o evitar cierto tipo de usos que que vemos que pueden ser delicados. Hay una frase que de la que huyo, que se dice mucho, que dice que la tecnología es neutra. No puede estar más en desacuerdo. Ese debate sobre las herramientas técnicas que utilizamos creo que es conveniente socializarlo y no ser consumistas tecnológicos de lo que sea porque nos lo pongan por delante.