IA Generativa y Ciberfraude con Luis Buera n4e6m

Bueno, bienvenidos a un nuevo episodio de Evis Tech Leaders, el espacio donde exploramos las tendencias más innovadoras en tecnología, inteligencia artificial y transformación digital de la mano de expertos de referencia.

En el episodio anterior estuvimos con la IAM Berton imaginando el impacto de la IAM en la próxima década, pero hoy damos un giro más crítico y actual.

Hoy tenemos un episodio imprescindible porque vamos a hablar de un tema que nos afecta a todos.

IA generativa y ciberfraude, la carrera entre delincuentes y tecnología.

Para ello tenemos el honor de contar con Luis Buera, gerente principal de investigación en Microsoft, un experto en ciberseguridad, en inteligencia artificial, que trabaja en primera línea para detectar y cambiar fraudes digitales.

La IA generativa está cambiando la forma en que interactuamos con la tecnología, pero también está revolucionando las tácticas de los ciberdelincuentes, obviamente.

Desde deepfakes hasta ataques automatizados, los modelos avanzados de IA han elevado el nivel de fraude digital.

Esta tecnología ha abierto nuevas fronteras en la tecnología, permitiendo la creación de contenidos que antes eran inimaginables.

Sin embargo, esta misma capacidad ha sido aprovechada por ciberdelincuentes para sofisticar sus ataques.

Un ejemplo reciente es el ataque a la página web del ayuntamiento de Toledo por un grupo de activistas rusos, no sé si os acordáis, afectando también a otras instituciones y empresas en España, como la Diputación de Valladolid o la EMT en Madrid.

A nivel global, las organizaciones han enfrentado un promedio de 1.876 ataques por semana en el tercer trimestre de 2024, lo que representa un incremento del 75% respecto al mismo periodo del año anterior.

Con Luis exploraremos cuestiones claves como ¿Cómo ha evolucionado el ciberfraude con el auge de la IA generativa? ¿Qué papel juegan los deepfakes en la suplantación de identidad y la desinformación? ¿Cómo se puede usar la IA para detectar y prevenir fraudes generados por otras IA? Un debate imprescindible para todos los que quieren anticiparse a las amenazas del futuro digital.

Y por supuesto, al final de esta charla, de este podcast, abriremos un espacio para preguntas, así que no os lo perdáis y participad.

Vamos a empezar ya.

Luis, un placer tenerte hoy con nosotros en Evictel Leaders.

Bienvenido, muchísimas gracias por acompañarnos.

Gracias por invitarme.

Oye, tu trayectoria en el mundo de la ciberseguridad y la inteligencia artificial es impresionante y creo que pocos pueden darnos una visión tan completa sobre cómo la IA y la IA generativa está impactando el fraude digital.

Bueno, te voy a decir que en realidad nosotros estamos más enfocados a la parte que has comentado de deepfakes o generación de voz sintética, principalmente, porque nosotros trabajamos sobre todo en biometría de voz.

Entonces, todo lo que está relacionado con suplantar la voz de una persona por una parte, para nosotros, obviamente, es algo que tenemos que tener en cuenta y tenemos que proteger y que ha cambiado mucho, como has dicho, en los últimos tiempos debido a los modelos que hay ahora, que son muchísimo más potentes que hace unos años.

Y por otra parte, también trabajamos con detección de fraude, donde utilizamos no solo la voz, sino también los modelos de lenguaje, tanto los grandes modelos de lenguaje, el LMS, como los pequeños.

Nosotros normalmente preferimos utilizar los pequeños, adaptarlos a nuestros casos de uso, por temas, obviamente, de cómputo y de coste.

Interesante.

Pues, si quieres, también arrancamos con una serie de preguntas que hemos preparado.

De acuerdo.

Y sobre ellas ya iremos avanzando y, sobre todo, también iremos generando ese...

Sobre todo en los oyentes, vamos generando ese debate que dejaremos para el final, preguntas, si la gente se anima y si hay tiempo, ¿te parece? Sí, sí, perfecto.

Bueno, pues mira, quería arrancar contigo para que nos cuentes cuáles son los principales riesgos de fraude impulsados ahora por la idea generativa.

Pues, como digo, centrándonos un poco en nuestro trabajo...

Claro, puedo ponerte un ejemplo simplemente.

Hace unos años, no tantos, cuando se vendía o cuando nosotros vendíamos una solución de biometría de voz, siempre una de las cosas que nos gustaba mucho era la biometría de la voz.

Y, bueno, cuando empezamos a ver que la biometría de la voz no era una solución de biometría de voz,