Saltar al contenido

C2PA: un escudo frente a la desinformación de la IA

Ante las presiones de reguladores y expertos, las principales empresas detrás de las plataformas de inteligencia artificial generativa están cubriéndose las espaldas para evitar que sus servicios sean utilizados para hacer el mal. Es decir, para generar contenido malicioso y contribuir a la desinformación, esa lacra que azota a todos. Para ello, las principales empresas han anunciado su intención de introducir marcas para avisar a los usuarios que el contenido que ve ha sido generado de manera sintética.

Además de Google y Facebook, ahora es OpenAI, empresa detrás de ChatGPT quien, por su parte, también ha desvelado su intención de introducir metadatos en las imágenes generadas de manera artificial con Dall-E 3, su servicio de generación de imágenes. Para ello, se van a apoyar en el protocolo C2PA. Lo explicamos.

Qué es C2PA y por qué nos debe interesar

Lo primero de todo es explicar qué es esto. C2PA es un estándar de código abierto que permite a los editores y empresas incrustar metadatos en los medios para verificar su origen y la información relacionada. Aunque se va a utilizar de momento para este fin, este protocolo no es únicamente para las imágenes generadas por IA, sino que, también, se está adoptando el mismo estándar por parte de fabricantes de cámaras, grupos periodísticos y otras compañías de comunicación para certificar la fuente y la procedencia del contenido multimedia.

¿Qué es lo que va a pasar a partir de ahora?

Bien, hay una enorme presión en la industria para certificar el origen de los archivos generados de manera sintética. Se corre el riesgo de inundar internet de contenidos artificiales producidos por máquinas y, en aras de evitarlo, se está trabajando en una solución más transparente para comunicarle a los usuarios que están viendo un contenido de IA.

Ya expliqué en su momento de qué manera entendía yo que había que citar los recursos obtenidos por estas tecnologías en un entorno periodístico y de comunicación. La base de todo es la honestidad. Al menos así lo creo. Pero vamos a ver casos (y cada vez más) de personas que hacen pasar por obras propias unas propuestas generadas artificialmente. Bien. A partir de ahora, las imágenes generadas desde ChatGPT desde la web y la API (interfaz de procesamiento de aplicaciones) que apoya al modelo Dall-E 3 incluirán metadatos C2PA.

Esto no quiere decir que no puedan eliminarse, puesto que existen servicios disponibles de manera gratuita que permiten hacer esto. Pero, con todo, la compañía se cubre las espaldas ante posibles demandas de creadores. Y, así, se podrá identificar más fácilmente la procedencia. Era algo que se gritaba en silencio desde hacía tiempo por parte de organismos reguladores.

Y, solo, los usuarios pueden utilizar sitios como Content Credentials Verify para comprobar si una imagen ha sido generada por el modelo DALL·E 3. “Esto debería indicar que la imagen se generó a través de nuestra API o ChatGPT, a menos que se hayan eliminado los metadatos”, apuntan fuentes de OpenAI en un comunicado.

Los metadatos como C2PA no son, en realidad, una bala de plata para solucionar la cuestión de procedencia. Se puede quitar fácilmente. Por ejemplo, la mayoría de las plataformas de redes sociales eliminan estos metadatos de las imágenes que se cargan en sus servidores. Evidentemente, acciones como hacer una captura de pantalla también van a eliminarlas. Pero es un paso para sanear internet de posibles fraudes. “La adopción de estos métodos para establecer la procedencia y alentar a los usuarios a reconocer esos atributos son clave para aumentar la credibilidad de la información digital”, reconocen desde la empresa.

¿Y qué pasa con el texto y los vídeos generados por IA?

Buena pregunta. Actualmente, solo las imágenes generadas con ChatGPT contendrán los metadatos C2PA. De momento, los archivos de texto y los vídeos de este tipo de plataformas no cuentan con esos protocolos debido a su complejidad. Los archivos que cuenten con estos metadatos “pesarán” un poco más, entre el 3% y el 5% de los originales que van “limpios”.

¿Y otros proveedores?

Otra buena cuestión. Hay proveedores que cuentan con servicios de IA generativa como Adobe que ya emplea este sistema en su plataforma Firefly. Esta empresa y Microsoft ya se sumaron a la alianza en 2021 con el objetivo de “generar confianza”. En agosto del pasado año, Google lanzó SynthID, una herramienta que añade marcas de agua digitales a las imágenes generadas, permitiendo así indentificarlas con mayor facilidad. Meta, empresa detrás de aplicaciones como Facebook o Instagram, contará con Stable Signature para el mismo objetivo. Lo aplicará a partir de ahora y a los usuarios les aparecerá una etiqueta que se llame “Generado por IA”.


Ahora CHATGPT es mejor siendo gratuito: trucos para aprovecharlo

Te enseñamos a aplicar las capacidades de GPT 4o, el nuevo modelos de lenguaje de OpenAI que es grat…

Voces sensuales, la sumisión se quiere apoderar de la IA

A pesar de los esfuerzos, el desarrollo de los sistemas basados en inteligencia artificial continúan…

Scarlett Johansson, OpenAI y el problema de la IA

OpenAI retira una voz empleada para su nuevo modelo ChatGPT-4o por su parecido con la de la actriz S…

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *