Agencias, Ciudad de M\u00e9xico.-\u00a0A medida que se acercan unas elecciones en las que hay mucho en juego en Estados Unidos y la Uni\u00f3n Europea, las herramientas de inteligencia artificial (IA) disponibles p\u00fablicamente pueden ser f\u00e1cilmente utilizadas como armas para producir mentiras electorales convincentes en voces de figuras pol\u00edticas destacadas, advirti\u00f3 el viernes un grupo de derechos civiles digitales.<\/p>\n
Investigadores del Centro para Contrarrestar el Odio Digital (CCDH, por sus siglas en ingl\u00e9s), con sede en Washington, probaron seis de las herramientas de clonaci\u00f3n de voz con IA m\u00e1s populares para ver si pod\u00edan generar clips de audio de cinco declaraciones falsas sobre las elecciones en voz de ocho pol\u00edticos destacados tanto estadounidenses como europeos.<\/p>\n
En un total de 240 pruebas, las herramientas generaron clonaciones de voz convincentes en 193 casos, o el 80% de las veces, encontr\u00f3 el grupo. En un clip \u2014un fragmento o archivo breve\u2014, un falso presidente estadounidense Joe Biden afirma que los funcionarios electorales cuentan dos veces cada uno de sus votos. En otro, un falso presidente franc\u00e9s Emmanuel Macron advierte a los ciudadanos que no voten debido a amenazas de bomba en las urnas.<\/p>\n
Los hallazgos revelan una brecha notable en las salvaguardas contra el uso de audio generado por IA para enga\u00f1ar a los votantes, una amenaza que preocupa cada vez m\u00e1s a los expertos a medida que la tecnolog\u00eda se ha vuelto m\u00e1s avanzada y accesible. Si bien algunas de las herramientas tienen reglas o barreras tecnol\u00f3gicas para evitar que se genere desinformaci\u00f3n electoral con ellas, los investigadores encontraron que muchos de esos obst\u00e1culos fueron f\u00e1ciles de sortear con alternativas r\u00e1pidas.<\/p>\n
S\u00f3lo una de las empresas cuyas herramientas utilizaron los investigadores respondi\u00f3 despu\u00e9s de m\u00faltiples solicitudes de comentarios. ElevenLabs se\u00f1al\u00f3 que buscaba constantemente maneras de reforzar sus salvaguardas.<\/p>\n
Con pocas leyes vigentes para prevenir el abuso de estas herramientas, la falta de autorregulaci\u00f3n de las empresas deja a los votantes vulnerables al enga\u00f1o generado por IA en un a\u00f1o de elecciones democr\u00e1ticas importantes en todo el mundo. Los votantes de la Uni\u00f3n Europea (UE) acudir\u00e1n a las urnas para las elecciones parlamentarias en menos de una semana, y en Estados Unidos se celebran elecciones primarias previas a las elecciones presidenciales de este oto\u00f1o.<\/p>\n
\u201cEs muy f\u00e1cil utilizar estas plataformas para crear mentiras y obligar a los pol\u00edticos a ponerse a la defensiva para desmentir mentiras una y otra y otra vez\u201d, dijo Imran Ahmed, el director general del CCDH. \u201cDesafortunadamente, nuestras democracias est\u00e1n siendo vendidas debido a una codicia desvergonzada por parte de empresas de inteligencia artificial desesperadas por ser las primeras en llegar al mercado … a pesar del hecho de que saben que sus plataformas simplemente no son seguras\u201d.<\/p>\n
El CCDH \u2014una organizaci\u00f3n sin fines de lucro con oficinas en Estados Unidos, Gran Breta\u00f1a y B\u00e9lgica\u2014 realiz\u00f3 la pesquisa en mayo. Los investigadores utilizaron Semrush, la herramienta de an\u00e1lisis de datos en l\u00ednea, para identificar las seis herramientas de clonaci\u00f3n de voz con IA disponibles p\u00fablicamente y con el mayor tr\u00e1fico web org\u00e1nico mensual: ElevenLabs, Speechify, PlayHT, Descript, Invideo AI y Veed.<\/p>\n
Despu\u00e9s, las alimentaron con clips de audio verdaderos de los pol\u00edticos hablando y dieron instrucciones a las herramientas para generar cinco declaraciones infundadas con las voces de esos pol\u00edticos.<\/p>\n
Una declaraci\u00f3n advert\u00eda a los votantes que se quedaran en casa debido a amenazas de bomba en las urnas. Las otras cuatro eran confesiones diversas: manipulaci\u00f3n electoral, mentiras, uso de fondos de campa\u00f1a para gastos personales y tomar medicamentos fuertes que provocan la p\u00e9rdida de memoria.<\/p>\n
Adem\u00e1s de Biden y Macron, las herramientas generaron copias realistas de las voces de Kamala Harris, vicepresidenta de Estados Unidos; Donald Trump, expresidente estadounidense; Rishi Sunak, primer ministro de Gran Breta\u00f1a; Keir Starmer, el l\u00edder del partido laborista de Gran Breta\u00f1a; Ursula von der Leyen, presidenta de la Comisi\u00f3n Europea; y Thierry Breton, Comisario de Mercado Interior de la UE.<\/p>\n
\u201cNinguna de las herramientas de clonaci\u00f3n de voces de IA ten\u00eda suficientes medidas de seguridad para evitar la clonaci\u00f3n de voces de pol\u00edticos o la producci\u00f3n de desinformaci\u00f3n electoral\u201d, dijo el informe.<\/p>\n
Algunas de las herramientas \u2014Descript, Invideo AI y Veed\u2014 requieren que los usuarios carguen una muestra de audio \u00fanica antes de clonar una voz, un salvaguarda para evitar que las personas clonen una voz que no es la suya. No obstante, los investigadores descubrieron que esa barrera pod\u00eda sortearse f\u00e1cilmente al generar la muestra solicitada en una herramienta de clonaci\u00f3n de voz con IA diferente.<\/p>\n
Una herramienta, Invideo AI, no s\u00f3lo cre\u00f3 las declaraciones falsas que solicit\u00f3 el CCDH, sino que las extrapol\u00f3 para crear una desinformaci\u00f3n mayor.<\/p>\n
Al producir el clip de audio que ordenaba al clon de voz de Biden advertir a la gente sobre una amenaza de bomba en las urnas, la herramienta a\u00f1adi\u00f3 varias frases propias.<\/p>\n
\u201cEste no es un llamado a abandonar la democracia, sino una s\u00faplica para garantizar primero la seguridad\u201d, agreg\u00f3 la herramienta al clip de audio falso con la voz de Biden. \u201cLas elecciones, la celebraci\u00f3n de nuestros derechos democr\u00e1ticos, s\u00f3lo se retrasan, no se niegan\u201d.<\/p>\n
En general, en t\u00e9rminos de seguridad, Speechify y PlayHT fueron las peores entre las herramientas al generar audio falso cre\u00edble en las 40 pruebas a las que las sometieron, encontraron los investigadores.<\/p>\n
ElevenLabs tuvo el mejor desempe\u00f1o y fue la \u00fanica herramienta que bloque\u00f3 la clonaci\u00f3n de voces de pol\u00edticos del Reino Unido y Estados Unidos. Sin embargo, permiti\u00f3 la creaci\u00f3n de audio falso con voces de destacados pol\u00edticos de la UE, seg\u00fan el informe.<\/p>\n
Aleksandra Pedraszewska, directora de seguridad de IA en ElevenLabs, declar\u00f3 en un comunicado enviado por correo electr\u00f3nico que la empresa acoge con agrado el informe y la conciencia que genera sobre la manipulaci\u00f3n de la IA generativa.<\/p>\n
Dijo que ElevenLabs reconoce que hay m\u00e1s trabajo por hacer y est\u00e1 \u201cmejorando constantemente las capacidades de nuestras salvaguardas\u201d, incluida la funci\u00f3n de bloqueo de la empresa.<\/p>\n
\u201cEsperamos que otras plataformas de inteligencia artificial de audio sigan este ejemplo e introduzcan medidas similares sin demora\u201d, agreg\u00f3.<\/p>\n
Las otras empresas citadas en el informe no respondieron a las solicitudes de comentarios enviadas por correo electr\u00f3nico.<\/p>\n
Los hallazgos se producen despu\u00e9s que fragmentos de audio generados por IA ya han sido utilizados en intentos para influir en los votantes en elecciones de todo el mundo.<\/p>\n
En el oto\u00f1o de 2023, pocos d\u00edas antes de las elecciones parlamentarias de Eslovaquia, clips de audio que imitaban la voz del jefe del partido liberal fueron compartidos ampliamente en las redes sociales. Los deepfakes \u2014falsificaciones realistas digitales producidas con IA generativa\u2014 supuestamente lo grabaron hablar sobre aumentar los precios de la cerveza y manipular la votaci\u00f3n.<\/p>\n
A principios de este a\u00f1o, llamadas telef\u00f3nicas autom\u00e1ticas generadas por IA imitaron la voz de Biden y dijeron a los votantes de las primarias de Nueva Hampshire que se quedaran en casa y \u201cguardaran\u201d sus votos para noviembre. Un mago de Nueva Orleans, quien cre\u00f3 el audio para un consultor pol\u00edtico dem\u00f3crata, demostr\u00f3 a la AP c\u00f3mo lo realiz\u00f3 con el software de ElevenLabs.<\/p>\n
Los expertos destacan que el audio generado por IA ha sido una de las primeras preferencias adoptadas por malos actores en parte porque la tecnolog\u00eda ha mejorado muy r\u00e1pidamente: s\u00f3lo se necesitan unos segundos de audio verdadero para crear una falsificaci\u00f3n realista.<\/p>\n
No obstante, otros tipos de archivos digitales generados por IA tambi\u00e9n preocupan a expertos, legisladores y l\u00edderes de la industria tecnol\u00f3gica. OpenAI, la empresa detr\u00e1s de ChatGPT y de otras herramientas populares de inteligencia artificial generativa, revel\u00f3 el jueves que hab\u00eda detectado e interrumpido cinco campa\u00f1as en l\u00ednea que utilizaban su tecnolog\u00eda para influir en la opini\u00f3n p\u00fablica sobre cuestiones pol\u00edticas.<\/p>\n
Ahmed, el director general del CCDH, expres\u00f3 que espera que las plataformas de clonaci\u00f3n de voz de IA endurezcan las medidas de seguridad y sean m\u00e1s proactivas en cuanto a la transparencia, incluida la publicaci\u00f3n de una biblioteca de clips de audio que han creado para que puedan ser verificados cuando un audio sospechoso se difunda ampliamente en l\u00ednea.<\/p>\n
Tambi\u00e9n dijo que los legisladores deben actuar. El Congreso de Estados Unidos a\u00fan no aprueba una legislaci\u00f3n que regule la IA en las elecciones. Y aunque la UE ya aprob\u00f3 una ley de inteligencia artificial de amplio alcance que entrar\u00e1 en vigor en los pr\u00f3ximos dos a\u00f1os, no aborda espec\u00edficamente las herramientas de clonaci\u00f3n de voz.<\/p>\n
\u201cLos legisladores deben trabajar para garantizar que existan est\u00e1ndares m\u00ednimos\u201d, advirti\u00f3 Ahmed. \u201cLa amenaza que representa la desinformaci\u00f3n para nuestras elecciones no es s\u00f3lo la posibilidad de provocar un incidente pol\u00edtico menor, sino tambi\u00e9n hacer que la gente desconf\u00ede de lo que ve y escucha, punto\u201d.<\/p>\n","protected":false},"excerpt":{"rendered":"
Agencias, Ciudad de M\u00e9xico.-\u00a0A medida que se acercan unas elecciones en las que hay mucho en juego en Estados Unidos y la Uni\u00f3n Europea, las herramientas de inteligencia artificial (IA) disponibles p\u00fablicamente pueden ser f\u00e1cilmente utilizadas como armas para producir mentiras electorales convincentes en voces de figuras pol\u00edticas destacadas, advirti\u00f3 el viernes un grupo de […]<\/p>\n","protected":false},"author":1,"featured_media":136090,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[5],"tags":[],"class_list":["post-136088","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-internacional"],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/insurgentepress.mx\/index.php\/wp-json\/wp\/v2\/posts\/136088","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/insurgentepress.mx\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/insurgentepress.mx\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/insurgentepress.mx\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/insurgentepress.mx\/index.php\/wp-json\/wp\/v2\/comments?post=136088"}],"version-history":[{"count":1,"href":"https:\/\/insurgentepress.mx\/index.php\/wp-json\/wp\/v2\/posts\/136088\/revisions"}],"predecessor-version":[{"id":136091,"href":"https:\/\/insurgentepress.mx\/index.php\/wp-json\/wp\/v2\/posts\/136088\/revisions\/136091"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/insurgentepress.mx\/index.php\/wp-json\/wp\/v2\/media\/136090"}],"wp:attachment":[{"href":"https:\/\/insurgentepress.mx\/index.php\/wp-json\/wp\/v2\/media?parent=136088"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/insurgentepress.mx\/index.php\/wp-json\/wp\/v2\/categories?post=136088"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/insurgentepress.mx\/index.php\/wp-json\/wp\/v2\/tags?post=136088"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}