Microsoft anunció nuevas herramientas para detectar contenido Deepfake

Microsoft anunció nuevas herramientas para combatir los deepfakes que se están volviendo sofisticados. La primera herramienta incorporada puede detectar el porcentaje de contenido deepfake en tiempo real en un video.

Hay otras dos herramientas que ayudarían a los creadores de contenido a incorporar hash para marcar y demostrar la autenticidad del contenido. Estos se publican ampliamente junto con sus socios para educar a las personas sobre falsificaciones profundas.

Estandarizado con varios para apoyar y educar

Con las próximas elecciones presidenciales, todos especulan con un aumento de los ataques cibernéticos para manipular el contenido de lo que los votantes ven u oyen. Teniendo en cuenta todos estos riesgos potenciales, Microsoft ha creado una nueva tecnología para detectar una importante técnica de manipulación de video: Deepfake.

Microsoft anunció nuevas herramientas para detectar contenido Deepfake
Imagen a través de phys.org

Deepfaking es el uso de IA para manipular contenido (video / audio) para engañar al espectador. Pueden cambiar la forma en que alguien percibe el contenido, por lo que a menudo se utilizan en campañas maliciosas para degradar a otros. Para combatir esto, Microsoft ha creado una sólida herramienta de detección que informa a los usuarios del porcentaje de video / audio falsificado.

Esta tecnología se basó en un conjunto de datos de Forense facial ++ y entrenado en Conjunto de datos de desafío de detección de deepfake, que según Microsoft es el mejor modelo para entrenar tecnologías deepfake. La herramienta de Microsoft funciona identificando el límite de fusión de deepfake e identificando elementos de la escala de grises o desvanecimiento de la imagen que solo pueden verse con herramientas de detección.

En otro conjunto de tecnología, Microsoft ha agregado una herramienta a su plataforma Azure para permitir a los creadores de contenido agregar hash y certificados a su contenido y viajar con ellos en línea como metadatos. Los usuarios utilizarán otra herramienta similar a una extensión de navegador para verificar la autenticidad de este contenido mediante la verificación de estos certificados.

Microsoft se ha asociado con Project Origin, un consorcio de compañías de medios, plataformas de redes sociales, Trusted News Initiative, USA Today y varios editores para transmitir esta tecnología a agencias democráticas y partidos políticos relevantes, así como a hizo una prueba para educar al público sobre los deepfakes.