Beatriz Antona Rodriguez (ATOS)

Miembro de la Comisión de Inteligencia Artificial y Big Data, AMETIC
Submitted on 25 May 2023
artificial intelligence regulation

Mientras aflora la “sensibilidad” con respecto al riesgo de la IA, se multiplica el debate social, y crece exponencialmente el uso de IA por las empresas, los despachos de los políticos de la UE echan humo. Siguen enzarzados en el complejo objetivo de su regulación, siendo la propia definición de IA una decisión clave.

Si todo va bien, el Consejo Europeo podría adoptar el texto de la AI Act en junio, y posteriormente se iniciarían los «diálogos tripartitos» entre Comisión Europea / Consejo Europeo / Parlamento Europeo…. Es decir, quedan aún largos meses de trabajo para fraguar una regulación transversal y homogénea en toda la UE.

Mientras en Europa debatimos extensamente, Estados Unidos sigue avanzando en su estrategia que promueve medidas de regulación y gobierno, acompañadas de importantes inversiones.

National Artificial Intelligence Research Resource

EEUU ya lanzó su Toolkit normativo en 2022 denominado “US government's Blueprint for an AI Bill of Rights”. Además, a principios de 2023 ha publicado un informe titulado “Strengthening and Democratizing the U.S. Artificial Intelligence Innovation Ecosystem” con un plan de implementación de la NAIRR (National Artificial Intelligence Research Resource). Un equipo de trabajo liderado por la Casa Blanca reconoce en este informe retos a los que se enfrenta la sociedad americana (por ejemplo, que el desarrollo de IA dependa del acceso a grandes volúmenes de datos, o dependa del acceso a capacidades computacionales avanzadas). Este Informe presenta también un plan para disponer de una ciber infraestructura nacional que: (i) Supere las barreras de acceso para que diversas experiencias contribuyan al desarrollo de la IA, y (ii) diseñe estándares responsables, de modo que estas tecnologías se desarrollen reforzando los valores democráticos de la nación y las libertades personales de los americanos. De hecho, de cara a obtener un progreso tangible, la NAIRR prevé disponer de un presupuesto masivo de inversión de más de $2.6 billones en un periodo de seis años.

china AI

Por su parte, mientras en Europa y Estados Unidos debatimos abiertamente, y se buscan directrices transversales China sigue su propia estrategia regulatoria, y lo hace de manera muy diferente a ambos. China apuesta por seguir un proceso normativo vertical (regulando temas específicos) e iterativo (actualizando de manera frecuente sus directrices según avanza la tecnología y su uso). En el contexto de esta estrategia, en marzo de 2022 entraron en vigor las disposiciones aplicables al uso de tecnología algorítmica para servicios de información de internet (“Internet Information Service Algorithmic Recommendation Management Provisions”). En enero de 2023 ha entrado en vigor la regulación para los servicios de “deep synthesis” (Deep learning, realidad virtual, etc.). Y el pasado 11 de abril, los reguladores chinos del Cyberspace Administration of China (CAC) han emitido unas “Draft Measures” para regular la provisión en China de los servicios de IA generativa (IAG) aplicable a tecnologías que generan texto, imagen, audio, video, código, o cualquier otro contenido basado en algoritmos, modelos, o reglas.

Estas últimas medidas, presentarán importantes retos para las compañías proveedoras, por poner algunos ejemplos:

  • Se exige que el contenido generado a través del uso de IAG refleje los Valores Fundamentales Socialistas, y no contenga falsa información.
  • Se establece que quienes usen IAG para proveer servicios – incluyendo APIs - son responsables como productores de esos contenidos que se generen, y
  • Se requiere que se excluya contenido que infrinja derechos de propiedad intelectual, y que los datos sean veraces, objetivos y diversos.

Habrá que ver cómo las compañías salvan la censura política, o la limitación de “falsa información” (cuando los algoritmos están entrenados a encontrar patrones, pero no verdades). Y habrá que entender cómo asegurar que los datos utilizados para entrenar los modelos no infringen derechos de propiedad de terceros (cuando generalmente estos datos se obtienen de manera masiva online).

A la vez que todo esto sucede a nivel político, los ciudadanos estamos viviendo una actividad frenética, en un contexto internacional muy agitado:

  • Las empresas pisan el acelerador por la competencia en el desarrollo y uso de estas tecnologías. OpenAI ha lanzado un “web-browsing plugin” permitiendo a los usuarios conectar directamente ChatGTP a sus aplicaciones y extraer datos de la web para responder a las preguntas que se le formulen.
  • Las autoridades unen fuerzas e investigan con cautela: Las autoridades de protección de datos están cuestionando cómo se recogen y procesan los datos personales que pueden haberse usado - sin consentimiento de sus titulares- como base de entrenamiento de la IA. De hecho, la European Data Protection Board, ha establecido una EU Task forcepara coordinar las investigaciones sobre ChatGPT.
  • Algunos expertos piden ganar tiempo, otros piden no ralentizar el desarrollo de la ciencia: Mas de 1.100 expertos (entre ellos Elon Musk, Steve Wozniak, y Tristan Harris) han firmado una carta abierta pidiendo una pausa por al menos de 6 meses en la formación de sistemas de IA más potentes que GPT-4. Por su parte, el Gobierno español (Carme Artigas- Secretaria de Estado para la Digitalización e IA) no está a favor de una moratoria que ralentice el desarrollo de la ciencia.

En resumen y volviendo a Europa, en los próximos años la AI Act impondrá mayor seguridad, control y gobierno en el territorio europeo frente a sesgos y riesgos. Pero la AI Act por sí misma no resolverá todos los problemas. El uso de algoritmos de IA seguirá generando cuestiones legales, para las que no hay ni habrá una respuesta sencilla. Por ejemplo: ¿A quién pertenece la Propiedad Intelectual de la información resultante tras el uso del algoritmo de IA (“output”), sobre todo si dicho algoritmo se ha creado bajo código abierto Open Source? Ya hay pleitos en marcha, debatiendo estas cuestiones de Copyright.

El que espera, desespera. A ver si la AI Act llega pronto.

Bibliografia