Un profesor de gimnasia ha sido detenido por usar la IA para clonar la voz del director en una grabación difundida en redes
Publicado el 28/04/2024 por Diario Tecnología Artículo original
Que la inteligencia artificial tiene un potencial enorme es un hecho. Así, puede ahorrarnos muchísimo tiempo y disparar nuestra productividad, pero también sirven para el mal. Y de todos los productos con IA, algunos son más suculentos que otros para engañar, es el caso de los deepfakes generados con software de IA de creación de vídeo e imagen, pero también de los clonadores de voz mediante inteligencia artificial. Un buen ejemplo es el Voice Cloning de Eleven Labs que hemos podido probar.
Pues bien, un profesor de educación física y exdirector deportivo de un instituto de enseñanza secundaria de Baltimore ha sido arrestado por la policía bajo una acusación: usar un servicio de clonación de voz mediante inteligencia artificial que simulaba ser la del director de la escuela para crear y difundir una grabación con comentarios racistas y antisemitas por redes sociales.
La grabación de la polémica era una vendetta por investigar la gestión de fondos
Como cuenta el medio The Baltimore Banner, la policía del condado cree que esa grabación incriminatoria con la voz del director Eric Eiswert era falsa. Según personal especializado consultado para la investigación, la supuesta voz tiene un 'tono plano, sonidos de fondo inusualmente limpios y falta de pausas o sonidos respiratorios consistentes'.
Tras rastrear el origen de la grabación, acabaron llegando hasta Dazhon Darien, el antiguo director deportivo de la escuela y cuyo nombre aparece en el audio. Así, Darien habría usado los ordenadores de la escuela para acceder a herramientas de OpenAI y los servicios de Microsoft Copilot, así como vincular su dirección de correo electrónico y número de teléfono a la publicación del corte.
¿Qué plataforma de clonado de IA usó? Por el momento, es un misterio.
Después de su detención en el aeropuerto, la policía realizó un comunicado detallando el posible móvil del delito: 'Se cree que el Sr. Darien, que era director deportivo en la escuela secundaria Pikesville, hizo la grabación para tomar represalias contra el Sr. Eiswert, quien en ese momento estaba llevando a cabo una investigación sobre una posible mala gestión de los fondos escolares'
A lo largo de los últimos meses hemos visto cómo el uso de la tecnología de clonación de voz con IA ha sido origen de numerosas polémicas, entre ellas la no canción de Drake y The Weeknd que se hizo viral o unas supuestas llamadas de Joe Biden invitando a no votar. En esta tesitura, OpenAI decidió retirar de uso público Voice Engine, su plataforma de generación de voz a partir de texto, ciñéndola únicamente para investigación a causa de la falta de medidas de seguridad en torno a esta tecnología.
Portada | Foto de Kenny Eliason en Unsplash y Cerebro iconos creados por Freepik - Flaticon
En Genbeta | OpenAI está probando una inteligencia artificial que clona la voz humana. Qué podría salir mal
-
