Andrés Pedreño: «La inteligencia artificial puede tener riesgos, pero una sobrerregulación ineficiente también»

-La inteligencia artificial (IA) supone un cambio de paradigma en la forma en que concebimos la educación, la investigación y la gestión universitaria... ¿En qué vamos a percibirlo?

-La IA generativa, para hacernos una idea, se calcula que cada año puede generar el equivalente al PIB del Reino Unido. Es decir, todo lo que gastan el Estado y las comunidades en educación cada año. Las universidades tienen que ser una parte fundamental en los procesos de introducción de la IA de forma rápida. Si la IA va a convulsionar los sistemas económicos, generando competitividad, productividad y crecimiento, las universidades tienen que jugar un rol clave. Lo tienen que jugar primero formando e introduciéndola adecuadamente. Sus herramientas, entre los estudiantes, deben crear una cultura de conocimiento en torno a la IA. La IA es compleja, obviamente tiene riesgos y hay que utilizarla correctamente. Es fundamental en la docencia si queremos tener profesionales del futuro. Obviamente, claro que puede tener malos usos, pero algunos de esos malos usos ya existen y no nos tienen que asustar. Se advierte de que la IA permite a los estudiantes copiar trabajos, pero 'El rincón del vago' lleva 20 años funcionando, y en internet se venden trabajos de fin de grado. Sin embargo, ChatGPT y los modelos de IA generativa pueden ayudar a asimilar grandes cantidades de texto, a sistematizarlos… La identidad del estudiante le puede proporcionar herramientas. No olvidemos que de cada tres estudiantes que entran a la universidad, uno no acaba sus estudios, y esto nos debería preocupar mucho, especialmente cuando necesitamos capital humano. Además, tenemos la tasa de desempleo juvenil más alta de Europa. Por no hablar de la investigación y la gestión. En los tres ámbitos, docencia, investigación y gestión, será crucial.

-La IA facilita la personalización del aprendizaje, incrementa la capacidad de adaptación de la docencia a las condiciones de cada alumno...

-Un profesor tiene en clase un público heterogéneo. Se nota en algunas materias muchísimo, como en titulaciones en las que la carga de Matemáticas es elevada. A lo largo de los cursos, hay alumnos que están muy al día y otros menos, y eso se va desbordando. Ahí es donde la IA y los nuevos modelos de personalización de la enseñanza permiten aprovechar mucho más las cualidades, las capacidades, y se minimiza el riesgo de que los alumnos puedan abandonar. La IA propicia una alta personalización de la educación. Hay alumnos de Matemáticas que ven una pizarra llena de demostraciones y en dos minutos se hacen con esa demostración, y otros necesitan más gamificación para aprenderla. Ambos estudiantes son extraordinariamente válidos. No debemos adoptar métodos rígidos derivados de limitaciones tradicionales. La educación necesita reformas desde hace mucho tiempo, y los recursos digitales lo han puesto de relieve.

-La IA obliga a redefinir el rol del profesor...

-En los últimos años se han ido introduciendo cambios muy potentes. Hace 20 años ya el MIT puso en abierto todos los materiales. Una de las universidades más importantes del mundo, con más prestigio y premios Nobel, liberaba todos los materiales; todo lo que los profesores enseñan allí, vídeos, manuales, exámenes, el programa de la asignatura, todo lo puso en abierto, de forma que en un país africano, o en España, podían aprovecharse de los mejores materiales. Yo soy profesor en Alicante y me planteo que mis alumnos pueden escuchar directamente a un premio Nobel. Pueden estudiar la teoría con magníficos materiales y luego en clase, con el profesor, hacer el ejercicio práctico para ver si han comprendido la teoría y trabajar en equipo. Es mucho más revolucionario y productivo; hay cambios que tienen que ser valientes. La IA viene a ser otra compulsión adicional para propiciar que las universidades sean más modernas y formen a los profesionales del futuro, que tengan herramientas potentes para asimilar grandes cantidades de información. Ningún oncólogo, economista, abogado, puede leerse toda la jurisprudencia, todas las investigaciones relacionadas con el cáncer, todos los estudios, los datos… La IA me permite leerlo todo y dirigir un resumen, aclarar un concepto, centrar un dato...

-Quizá la clave esté en plantear las preguntas adecuadas...

-Claro, de hecho podrías calificar a los alumnos por el tipo de pregunta que le hacen a ChatGPT. Lo que probablemente tenemos que hacer es evaluar a los alumnos por las preguntas que hacen. Hay preguntas absolutamente tan brillantes que con toda seguridad ha tenido que estudiarse muy bien y comprender toda la materia para poder hacer esa pregunta. Si formamos a los estudiantes para que utilicen la IA, podrán hacerle preguntas muy inteligentes y muy potentes; ahí está el reto de utilizarla como herramienta.

-Ha expresado su temor en algunas ocasiones a que la sobrerregulación de la IA en Europa pueda llevar a la inacción y acarrear trabas en su desarrollo.

-La IA claro que tiene riesgos y evidentemente tiene problemas, pero una sobrerregulación ineficiente también. Ya tenemos casos de regulación ineficiente. ¿Para qué sirven las 'cookies'? ¿La gente sabe qué son las 'cookies'? Es una práctica horrible y está basada en la sobrerregulación precipitada; en teoría íbamos a empoderar al usuario para que tuviera la potestad de decir que no quiere 'cookies' y que no le hagan un seguimiento de su navegación. El fuego quema, pero ahora necesitamos quemarnos un poquitín para aprender a manejarlo. Debemos aprender sobre los riesgos reales que tiene la IA para poder hacer una regulación eficiente. Europa tiene el liderazgo en la regulación, pero no siempre es eficiente; es una sobrerregulación que nos inhibe en el desarrollo frente a otros países que van mucho más rápido que nosotros. Y sí, nos puede dejar un poco atrás.

-¿Regulamos desde una perspectiva menos valiente de lo que nos interesa egoístamente?

-Sí, pensando que Europa va a regular el mundo desde una perspectiva humanista, y eso no está sucediendo así; Estados Unidos no copia esa regulación, ni China. Pequeños países como Israel, Canadá, también tienen una economía digital muy fuerte. Europa tiene una gran regulación, pero no tiene gigantes tecnológicos, ni mucho menos empresas unicornio, y las 'start-ups' tienen problemas para escalar. Esto nos ha dado una economía cada vez más lenta desde el año 2008. En Europa no estamos motivando ni incentivando el desarrollo, teniendo magníficas universidades y gente capacitada.

-¿Cree que hay una sobrevaloración de la privacidad y protección de datos, por ejemplo, médicos?

-Hay que plantearse: ¿Por qué somos el país campeón en donación de órganos del mundo? Porque tenemos una regulación clara y muy eficiente. Una persona fallece y automáticamente se desencadena un protocolo sencillo, rápido, para una cuestión que, teóricamente, es bastante compleja. Donar un riñón y un corazón en España es fácil y es efectivo, pero intente donar sus datos médicos: es imposible. Yo lo he intentado y es imposible. Y los datos médicos son el alimento que nos permite progresar, por ejemplo, en hacer patrones sobre el estilo de vida y su influencia en el cáncer, en el diseño de nuevos fármacos personalizados. Mis datos médicos están en un pequeño hospital guardados, y si un aficionado a 'hacker' quisiera, podría hacerse con ellos. Tenemos un conjunto de normas, muchas veces rígidas e ineficientes, que pueden retardar el progreso.

-Pero el potencial de la IA puede ser objeto de un mal uso. Ustedes citan en su informe un estudio de la Universidad de Stanford que alerta de que el número de incidentes por el mal uso ha aumentado 26 veces desde 2012, con casos como el vídeo 'deepfake' del presidente ucraniano rindiéndose, y las cárceles de EE UU monitoreando llamadas de presos...

-Siempre ha habido noticias falsas. Aun prohibiendo o estableciendo mil restricciones siempre va a haber países donde lo van a permitir. Si esto no se permite en España, se va a permitir en Irán o Rusia y acabas viendo el vídeo en Roma. Lo más efectivo es una política educativa realmente ambiciosa. Necesitamos formar muy, muy seriamente, sobre todos los usos digitales y la IA, a toda la población, desde la Primaria hasta las universidades y la gente mayor, para que tomemos conciencia del poder de esas herramientas y de cómo utilizarlas. Nuestra educación digital está bajo mínimos, y esto nos debería preocupar mucho.

-¿Qué le pareció el bloqueo de Italia al uso de ChatGPT?

-Un disparate de una envergadura extraordinaria. Es una herramienta que puede multiplicar en algunas profesiones por diez la productividad; qué sería de Italia en tres o cuatro años si Grecia no lo prohíbe. Creo que no somos conscientes en definitiva. Hay herramientas que manejan toda la jurisprudencia para la redacción de una demanda en un minuto, y una persona en un despacho puede tardar 10 horas para tomar en cuenta el 20% de la jurisprudencia.

-Eso nos lleva al riesgo evidente de la destrucción de empleo por la implantación masiva de la IA...

-Yo soy más optimista. Aunque hay muchos estudios, esto se viene diciendo desde que se inventó la rueda. Si cuando se inventó la rueda un país se empeña en generar empleos que hagan la función de la rueda… hay que analizar qué empleos se crean y generan con la rueda. Si actualmente hubiera un millón de alumnos especializados en STEM tendrían un millón de empleos. Hay que pensar qué empleo requiere la IA. ¿Cómo hacemos un turismo eficiente? ¿Cómo hacemos un tejido donde la IA sea definitiva en la industria murciana ¿Cómo resolvemos los problemas medioambientales de la Región? Hay una cantidad de empleos brutal vinculados a esos retos y a la IA, a una IA ética y desde una perspectiva inclusiva. Para ello tiene que haber especialistas en humanidades, derecho, ética, que valoren los riesgos y los problemas que va generando, pero sobre una realidad. Conozcamos a fondo de qué va esto y cuáles son los riesgos reales.

-Pero hay un segmento de población que tendría difícil su incorporación a esa revolución. Algunos expertos plantean como opción una renta básica.

-Si un país multiplica su productividad por 10, por 5, por 2, puede incrementar la renta básica. El problema lo tiene un país donde no introducen innovaciones tecnológicas y que, sin embargo, su población va envejeciendo. España está ya envejeciendo, los jóvenes son una minoría. Si no tenemos unos jóvenes muy empoderados y muy productivos y su trabajo tiene alto valor, la renta básica no se puede pagar. Lo que interesa es tener un sistema productivo competitivo que introduzca tecnología, y la renta básica viene garantizada.

-Los algoritmos los desarrollan personas con sesgos...

-Es importante que efectivamente haya la mayor transparencia para que podamos identificar esos sesgos; pero si hay un modelo que produce sentencias, por ejemplo, en EE UU, contra determinado colectivo, eso ocurre porque durante décadas los jueces han estado emitiendo esas sentencias de forma diferencial, luego el problema viene de una mala práctica humana. Los sesgos se pueden limpiar. Pero hay que tener en cuenta que nunca la inteligencia artificial debe decidir cuestiones que afectan a los derechos fundamentales, como es el derecho a la vida. Un médico debe beneficiarse de las herramientas de IA, pero la decisión la toma el médico, no la IA. El médico solo utiliza una herramienta más para tomar una decisión, pero la herramienta no toma la decisión por él.

-¿Hemos entrado en un momento de pánico general ante lo desconocido, ante una revolución?

-Hemos entrado en un momento de miedo general ante la revolución que vemos que se impone en parte porque no hemos ido acompasando los sistemas educativos. Hay una atmósfera de cierta confusión.

-¿Qué oportunidades puede plantear la IA a la agricultura, al turismo, en el Arco Mediterráneo?

-La agricultura es un sector donde la IA puede ayudar, por ejemplo en el cultivo; con los métodos naturales desde hace años venimos un poco perjudicando al planeta; la agricultura es uno de los sectores más contaminantes, y la IA permite comprender cómo produce la naturaleza. Está habiendo cambios de paradigma muy interesantes; por ejemplo, la malas hierbas resulta que no son tan malas, hay malas hierbas que en vez de cortarlas deberíamos plantarlas porque son auténticas barreras para que no envenenemos la tierra. Todo esto es revolucionario en el ámbito de la agricultura. En el turismo, los datos de movilidad no limitados en una ciudad como Murcia permiten crear patrones y desarrollar políticas turísticas, oferta complementaria, una publicidad más efectiva. Es uno de los beneficios que tienen las ciudades inteligentes y del futuro, están planificadas de acuerdo a cómo se mueve la ciudad, puede mejorar la vida de las ciudades, hacer más competitivos su turismo, la agricultura, su sanidad, la educación. Hay unos retos apasionantes y tenemos la posibilidad de destacar y dar un salto en términos internacionales con líderes valientes. La Universidad de Murcia tiene un liderazgo enorme en los temas digitales, en las herramientas que han conseguido y en el enfoque, con personas que se han creído estos temas y que han dado entidad nacional a sus herramientas. El sistema universitario regional, también con la UCAM y la UPCT, ha tenido un papel magnífico en la elaboración del informe.