Discurs de Manuel Szapiro sobre intel·ligència artificial al Mobile World Congress 2024

Estand del MWC, Barcelona, dimarts 27 de febrero de 2024

Buenas tardes,

Muchas gracias al Mobile World Capital —estimado Francesc, estimada Laia— por invitarme un año más a compartir una mirada en clave europea sobre la revolución de la inteligencia artificial. Estamos ante un cambio de paradigma.

Y eso genera ilusión, pero también miedo.

Se nos abre un mundo de posibilidades que no podíamos ni llegar a imaginar hace tan solo diez años. La IA tiene un potencial enorme para mejorar nuestras vidas en ámbitos como la educación, el medio ambiente, la salud, las matemáticas y un largo etcétera. De hecho, ya lo está haciendo. Este es el caso del proyecto DIPCAN que se está llevando a cabo en parte en Barcelona y que, financiado con fondos NextGenerationEU, utiliza la inteligencia artificial para poder realizar tratamientos personalizados a pacientes con cáncer metastásico. Otro ejemplo es el proyecto «Destination Earth», una iniciativa emblemática de la Comisión Europea para desarrollar, gracias a la inteligencia artificial y a la capacidad de los supercomputadores como el Mare Nostrum —aquí en Barcelona— una réplica virtual del sistema terrestre (gemelos digitales de la tierra) para predecir los efectos del cambio climático y aumentar nuestra resiliencia. Y esto son solo dos ejemplos.

Ayer el CEO de Google DeepMind mencionó un par de aplicaciones más y propuso una trayectoria para llegar a la IAG (inteligencia artificial general). En términos generales, la idea es que la IA debe ser capaz de llevar a cabo casi cualquier tarea cognitiva que los humanos podamos realizar. Pero como dijo Yuval Noah Harari en su libro 21 lecciones para el siglo XXI, «los humanos siempre han sido mucho más duchos en inventar herramientas que en usarlas sabiamente». Por lo tanto, a pesar de que la IA sea una herramienta extraordinaria, su uso puede comportar riesgos muy elevados, riesgos para nuestra salud, nuestra seguridad, nuestra privacidad, nuestros derechos humanos y cívicos, y también para nuestras democracias. Dicho de otro modo, la IA podría poner en peligro los fundamentos de nuestra Unión.

Nuestra responsabilidad conjunta es proteger estos valores y a la vez fomentar la innovación en Europa.

Con estos dos objetivos, estamos adoptando el primer marco legislativo integral para todos los países de la UE. El pasado mes de diciembre los colegisladores llegaron a un acuerdo político para regular la IA. Europa está tomando el liderazgo y esperamos que —tal como ya pasó con el RGPD, el Reglamento General de Protección de Datos de la UE— otras regiones del mundo sigan nuestro ejemplo. Sobre este marco legislativo destacaré tres aspectos:

Primero, la nueva normativa nos permitirá avanzar hacia una inteligencia artificial que pone el ser humano en el centro, que sea antropocéntrica. Por eso debe estar basada en la confianza, que a la vez necesita más transparencia. Porque la opacidad de algunos algoritmos crea grandes incertidumbres y genera miedo y desconfianza. Los ciudadanos se tienen que sentir seguros con esta nueva tecnología. Por ello hemos desarrollado un enfoque basado en el riesgo: todos los sistemas de IA que se consideren una clara amenaza para la seguridad, los medios de subsistencia y los derechos de las personas se prohibirán, desde la puntuación social por parte de los gobiernos hasta los juguetes con asistencia de voz que fomentan comportamientos peligrosos.

Si, como hemos dicho, creemos en una inteligencia artificial al servicio de las personas —y no solo al servicio de algunos Estados, empresas o individuos— deben ser las personas las que tengan o tomen el control de las decisiones críticas. Y la IA llamada de alto riesgo —la no prohibida— tendrá que ser probada y certificada antes de que llegue a nuestro mercado único. Porque si en el mundo real los coches, los productos químicos, los cosméticos o los juguetes tienen que cumplir unos requisitos de seguridad, ¿por qué no debería hacerlo la IA? Nosotros consideramos que hace falta establecer un buen equilibrio entre derechos y seguridad. ¿Vosotros creéis que los gobiernos deben poder utilizar nuestros datos biométricos? Algunos podrían pensar que sí, siempre. Otros que nunca. Nosotros pensamos que depende de cada situación, y así se refleja en la nueva ley que dice que se prohíbe el uso de identificación biométrica remota en tiempo real en espacios públicos con el objetivo de aplicar la ley, pero añade algunas excepciones como son los casos de delitos como el terrorismo, explotación sexual de menores, asesinatos, comercio de órganos o tráfico de armas nucleares, entre otros, y siempre bajo una autorización judicial previa.

El segundo aspecto es avanzar hacia una inteligencia artificial más equitativa y justa. Muchos sistemas integran e incluso reproducen sesgos humanos basados en prejuicios y estereotipos. Por eso debemos asegurarnos también de que los datos que utilizamos para construir la IA no estén sesgados. La inteligencia de la IA depende de los datos que le proporcionamos (y esto hace que su modelo de negocio no sea totalmente gratuito: esos datos son su precio). Por lo tanto, debemos vigilar que estos datos no reproduzcan los sesgos de nuestra sociedad en cuestiones como el género, la procedencia, las creencias, las condiciones, las capacidades, etc., para conseguir una IA que nos beneficie a todos por igual.

Tercer aspecto: la ley sobre IA no solo ofrece confianza a los ciudadanos sino también un marco legal previsible a las empresas e innovadores que permitirá desarrollar y desplegar esta tecnología con mayor rapidez. De hecho, a finales de enero la Comisión Europea presentó un paquete de medidas para apoyar a las pymes y empresas emergentes de IA, para que pudieran tener acceso a los supercomputadores. Europa, por lo tanto, está liderando la IA no solo con regulación, como hemos visto, sino también con investigación, innovaciones y centros computacionales como el BSC en Barcelona, con quien trabajamos mucho y muy estrechamente.

En conclusión: pues, ¡tenemos trabajo por delante! Para poner en marcha este acuerdo, queremos establecer ya la Oficina Europea de Inteligencia Artificial, que preparará la aplicación de la Ley de inteligencia artificial y se convertirá en el principal organismo supervisor a nivel de la UE. Un fuerte punto de referencia internacional al ser el primer organismo del mundo con competencias para hacer cumplir las normas sobre IA de uso general.

No tenemos tiempo que perder: estamos estableciendo el Pacto sobre la inteligencia artificial, con centenares de desarrolladores de IA de Europa y de todo el mundo para aplicar, de forma voluntaria, las obligaciones clave de los requisitos de la Ley de inteligencia artificial antes de su entrada en vigor. Paralelamente, continuaremos desarrollando sólidas asociaciones internacionales con Estados Unidos (el Consejo de Comercio y Tecnología UE-EEUU), el G7 (el proceso de Hiroshima sobre IA generativa) y el convenio del Consejo de Europa sobre inteligencia artificial, entre otras.

Nuestro objetivo común es garantizar que la IA sirva a los ciudadanos y a la sociedad en general y que se use de una manera coherente con nuestros valores democráticos. Dándonos más control y ofreciéndonos más beneficios. Este enfoque antropocéntrico necesita que invirtamos más en soft skills (competencias socioemocionales) como el pensamiento crítico, la creatividad o la empatía: competencias que nos hacen humanos y nos permitirán saber diseñar y usar mejor la IA. Al fin y al cabo, la convergencia ética de la inteligencia artificial es asunto de todos, no solo de los reguladores, sino también de la industria que diseña e implementa la IA y de todos sus usuarios, incluso los ciudadanos.

El filósofo George Steiner decía que existe una geografía europea, una geografía a escala humana, con un paisaje delicado sin grandes espacios inhóspitos, ninguna Amazonia ni ningún desierto intransitable. Y es justamente así como queremos que sea nuestra inteligencia artificial. Porque el mundo virtual es un espejo de nuestra naturaleza humana.

Muchas gracias por su atención. Paro aquí, y con ganas de escuchar Miguel Ferrer y Belén Arribas.