Manel Carpio: Ética y regulación de la IA generativa 62s42

Porque estamos en una tecnología con un altísimo potencial, y lo sabemos, pero que además tiene muchos riesgos si no actuamos con responsabilidad.

Un sistema tiene prejuicios porque ha sido entrenado con datos que históricamente tenían un sesgo.

Nosotros, como sociedad, hemos tenido unos sesgos en la historia que no queremos que se propaguen en el futuro.

Tienes que saber cuáles son las amenazas, tienes que saber cuáles son los riesgos en general.

Como, por ejemplo, el de que el sistema tenga prejuicios por culpa de que se ha entrenado con unos datos sesgados.

Lo tengo que conocer y hacer un plan de mitigación.

En Europa la regulación va sobre el caso de uso, para qué se utiliza el sistema de inteligencia artificial, y le da igual a la tecnología.

El reglamento de inteligencia artificial no habla prácticamente de privacidad.

Te dices, parece una anomalía.

No, lo que hacen es, no sé quién meter en el follón de hablar de privacidad cuando está el reglamento general de protección de datos que ya habla de ello.

Hola a todos, bienvenidos a un nuevo episodio de Enclave de Inteligencia Artificial, el espacio creado por Enclave de Personas y Deloitte, donde seguimos aprendiendo sobre cómo la inteligencia artificial y, en especial, la generativa, está transformando nuestras vidas.

Yo soy Luisa Izquierdo.

Yo soy Luis Blas.

Acompañados de Sergio Duarte, socio de Human Capital en Deloitte, España, que, como siempre, cerrará el programa con una muy interesante reflexión.

Para los que no nos conocéis, quedaros hasta el final, que merece la pena.

Esto seguro.

Y hoy venimos con un episodio que, sin duda, nos va a hacer reflexionar y reflexionar mucho sobre los límites y responsabilidades en el uso de esta tecnología.

Sí, porque si algo hemos aprendido de inteligencia artificial generativa es que va a un ritmo trepidante.

Y quizás muchos nos preguntamos, sí, pero ¿y quién pone las normas? ¿Y cómo se hace un uso responsable? ¿Qué pasa con la privacidad o con los sesgos? Entonces, para ayudar a entenderlo, para los que os estáis preguntando esas mismas cuestiones, hoy tenemos el lujo de tener a un invitado excepcional, que es Manel Carpio, también socio y experto en Deloitte sobre temas de ética y que ha venido a ayudarnos a entender un poco cómo se ponen esos límites o esas guardarraíles.

Para los que no le conocen a más, Manel está muy implicado en toda la implementación de desarrollo normativo europeo y ayuda a las compañías.

Es un lujo y un placer tenerte con nosotros, Manel.

Muchísimas gracias.

Muy ilusionado de estar aquí y a ver qué sale de todo esto.

Seguro que algo muy bueno.

Bienvenido.

Gracias.

Qué ilusión tenerte.

Oye, vamos a empezar con nuestro tradicional cuestionario rápido, donde te vamos a ir lanzando preguntas muy sencillitas y tú nos respondes lo primero que te venga a la cabeza.

¿Te parece? Venga, arrancamos.

Inteligencia artificial, ¿amenaza u oportunidad? Es mucho más oportunidad que amenaza.

Tenemos todos muy claro, antes mencionabas tú, Luis, el tema este de las consideraciones éticas.

Tenemos que pensar una innovación responsable, donde todos tenemos que tener muy claro cuáles son los impactos desde un punto de vista de la privacidad, de los derechos fundamentales de las personas, y todas las consideraciones éticas.

Y para esto surgen algunas iniciativas como es la propia regulación europea.

Con lo cual, tenemos aquí cosas a las que atenernos.

Una vez mitiguemos los riesgos, hay mucha más oportunidad que amenaza, pero hay que mitigarlos.

Qué bueno.

Inteligencia artificial en la escritura, ¿potenciador del talento o enemigo de la originalidad? Es un acelerador.

Yo creo que claramente va a ser una ayuda para el miedo al folio en blanco, para tener esas primeras bases sobre las que trabajar, pero que luego va a requerir ese experto que lo trabaje posteriormente y que saque el producto final.

Con lo cual, va a ser un acelerador.

Arte creado por inteligencia artificial.

¿Revolución cultural o el fin de la magia? Bueno, la verdad es que hay un riesgo.

Es complicada esta.

Hay un riesgo importante.

Está habiendo mucha controversia.

Todas estas capacidades de la inteligencia artificial generativa para generar vídeo, imagen, texto, voz, etc.

Está poniendo muy en guardia a mucha gente desde las capacidades de creación artística y desde la perspectiva de propiedad intelectual.

Sabéis que ha habido recientemente, creo que era de ImageGen, que está invitando a las personas a que generen imágenes con la pinta, con el estilo del estudio Ghibli japonés.

Estos han sacado teóricamente una carta, que luego parece que no es.

Pero claro, aquí hay dos cosas.

La primera, un estilo no tiene copyright.

Lo que tiene copyright es un personaje de tránsito.