Microsoft trae a la UE la marca de agua digital para frenar el uso engañoso de la IA en las elecciones

   MADRID, 23 Abr. (Portaltic/EP) -

Microsoft ha anunciado que expande sus herramientas de integridad del contenido para organizaciones, partidos políticos y medios de comunicación de la Unión Europea, con el lanzamiento de las Credenciales de contenido, una opción diseñada para corroborar que el contenido publicado es verídico y frenar el uso engañoso de la Inteligencia Artificial (IA) generativa en los procesos electorales.

   En el marco de un año electoral en el que la Unión Europea celebrará elecciones parlamentarias este verano, entre el jueves 6 y el domingo 9 de junio, y aproximadamente la mitad de los países europeos celebrarán elecciones nacionales o regionales, la tecnológica estadounidense ha compartido su intención de ayudar a fomentar democracias "sanas" a través de "ecosistemas de información sanos".

   Para ello, ha subrayado la importancia de ayudar a los votantes a comprender la información que encuentran en línea, dado el impacto que tiene la IA generativa en los procesos de elecciones y el ecosistema de la información.

   En noviembre del pasado año, Microsoft lanzó una serie de herramientas de integridad del contenido, diseñadas para proteger las campañas electorales en Estados Unidos, que incluyen opciones como las Credenciales de contenido, una marca de agua digital que identifica el contenido creado por IA para desmentir los 'deepfakes' y las 'fake news' que se comparten en Internet.

   Ahora, Microsoft ha ampliado el acceso de la vista previa de estas herramientas a partidos políticos, campañas y organizaciones de noticias de la Unión Europea, para que dichas organizaciones puedan corroborar que el contenido publicado 'online' proviene de su organización de manera verificable.

   Es decir, son herramientas con las que las organizaciones pueden tener control sobre su propio contenido y asegurar que no se trata de un contenido falso generado por IA o un caso de manipulación. De esta manera, evitan posibles engaños o equivocaciones para los ciudadanos en un contexto político.

   En concreto, tal y como ha compartido en un comunicado en su blog, las herramientas de integridad del contenido de Microsoft permiten generar las Credenciales de contenido, una marca de agua digital que se puede añadir a imágenes u otro tipo de publicaciones para incluir información como dónde y cuándo se creó, quién lo publicó, si fue generado por IA o si la imagen ha sido editada o manipulada.

   Así, cuando los usuarios ven contenido en Internet o en redes sociales con estas Credenciales de contenido, pueden estar seguros de que la publicación es original de la organización, medio de comunicación o partido político en cuestión.

   Siguiendo esta línea, con este sistema los usuarios también pueden obtener información sobre si las imágenes o vídeos han sido alterados de alguna manera, después de que la organización agregase las Credenciales de contenido. Esto se debe a que la función permite acceder a un historial de edición.

   Con todo ello, Microsoft ha explicado que las Credenciales de contenido son una opción creada en base al estándar industrial de código abierto publicado por la Coalición para la procedencia y autenticidad del contenido (C2PA).

   Para crear las Credenciales de contenido, Microsoft ha puesto a su disposición distintas herramientas. En concreto, ha lanzado una aplicación web privada y "fácil de usar" para que las organizaciones puedan agregar la información de las credenciales a su propio contenido autorizado.

   También ha lanzado una aplicación móvil privada, con la que se podrán capturar fotografías, vídeos y audio de forma segura y autenticada para agregar credenciales de contenido en tiempo real desde un 'smartphone'. Según ha matizado Microsoft, esta aplicación ha sido desarrollada junto a la compañía Truepic.

   Finalmente, se ha facilitado un sitio web público para verificadores de datos, con el que cualquier usuario puede ratificar las Credenciales de contenido de las imágenes, audios o vídeos.

   Con todo ello, Microsoft ha detallado que estas herramientas de identidad del contenido, incluidas las Credenciales de contenido, se podrán utilizar en versión preliminar privada y de forma gratuita, durante todo el 2024, por organizaciones, partidos políticos y medios de comunicación a nivel global.

   Aunque la tecnológica ha reconocido que estas herramientas "no son una panacea para resolver el problema de los 'deepfakes'", también ha subrayado que "son un componente crítico de una estrategia de defensa para los medios confiables".

   "Proteger el acceso a indicadores de autenticidad es solo un paso clave a medida que cumplimos nuestros compromisos de ayudar a proteger las elecciones en todo el mundo", ha sentenciado Microsoft.

   En este marco, la compañía ha recordado el Acuerdo tecnológico que llevó a cabo a principios de este año junto a otras 20 empresas, entre ellas Google y OpenAI, para combatir el uso engañoso de vídeos, audio e imágenes que alteran la apariencia, la voz o las acciones de candidatos políticos y funcionarios electorales.

   De la misma forma, están trabajando con partidos políticos globales para ofrecer su ayuda e información con respecto a la IA y su uso para generar contenido político. Igualmente, también brindan asistencia de seguridad contra ciberataques de estados con el Equipo de éxito de la campaña.