MADRID, 15 (Portaltic/EP)
Las guerras y los procesos electorales son dos de los escenarios de interés informativo en los que proliferan los conocidos como ‘deepfakes’ o contenidos de gran realismo manipulados con IA, cuyos riesgos intenta mitigar Microsoft con herramientas como las ‘Credenciales de Contenido’.
Microsoft ha desarrollado un conjunto de herramientas de integridad de contenidos para aportar más transparencia a lo que se publica en internet, pero esta es solo una de las formas en que la compañía tecnológica está combatiendo los ‘deepfakes’.
También ha cofundado la Coalición para la Procedencia y Autenticidad del Contenido (C2PA) para desarrollar un estándar técnico abierto que permite establecer la procedencia, o el origen y la historia, del contenido digital, incluidos los activos generados por IA.
El contenido manipulado no es algo nuevo, pero el auge de la IA generativa está facilitando que personas con malas intenciones difundan desinformación, la cual puede llevar a fraudes, robos de identidad o interferencia electoral, entre otros peligros.
Detalles como la firma o los subtítulos a menudo desaparecen cuando el contenido se comparte, lo que dificulta que las personas sepan en qué confiar. Por ello, “conocer el origen y rastrear la historia del contenido puede ayudar a las personas a estar más informadas y ser menos vulnerables al engaño”, comenta el director de Procedencia de Medios en Microsoft, Andrew Jenks, en una nota de prensa.
Para el directivo, “las repercusiones de los deepfakes pueden ser gravísimas”, e incluso las identifica como “una forma de hackeo cognitivo que cambia la relación con la realidad y la manera en que pensamos sobre el mundo”.
HERRAMIENTAS CONTRA LOS DEEPFAKES
Las herramientas de Microsoft incluyen una aplicación, que actualmente es una versión preliminar privada, para que creadores y editores añadan ‘Credenciales de Contenido’ a su trabajo, es decir, metadatos certificados con detalles como quién creó el contenido, cuándo se hizo y si se utilizó IA.
Como parte del estándar técnico de la C2PA, las ‘Credenciales de Contenido’ se adjuntan a fotos, vídeos y audios de forma criptográfica para que cualquier edición o manipulación posterior pueda detectarse más fácilmente.
Debido a que los metadatos son invisibles, Microsoft también ofrece una herramienta pública de verificación de integridad de contenido y una extensión para navegadores web. Las personas también pueden buscar un icono de ‘Credenciales de Contenido’ en imágenes y vídeos en plataformas como LinkedIn.
Las ‘Credenciales de Contenido’ también en presentes en los productos generadores de imágenes mediante IA de Microsoft, como Designer, Copilot, Paint y algunos modelos seleccionados de Azure OpenAI Service. Otros controles responsables de IA para disuadir sobre el abuso de ‘deepfakes’ incluyen el difuminado de rostros en las fotos subidas a Copilot.
- Te recomendamos -
