Saltar al contenido

Una solución que etiquetará el contenido generado por IA 

Esto tenía que llegar sí o sí en algún momento. Porque corremos el riesgo de llenar internet de contenido basura que, a su vez, sirva para “entrenar” a las máquinas. La inteligencia artificial (IA) ha evolucionado de manera sustancial en el campo de la generación de imágenes y textos. Nos permite crear contenidos que, en el caso de las fotografías, pueden ser muy realistas. Y todo a partir de un simple comando de texto. A pesar de todo, esta tecnología plantea enormes desafíos éticos como la posibilidad de engañar o confundir a personas. ¿Qué podemos hacer ante esta situación? Yo lo tengo claro: transparencia. Para Meta puede ser sinónimo de una etiqueta.

La red social por antonomasia quiere promover el uso de etiquetas estandarizadas para “ayudar a detectar material fotográfico, de vídeo y audio creado de manera artificial en todas sus plataformas”. Esta medida, aún no efectiva, es un grito al cielo ante la industria. Es predicar con el ejemplo, aunque todavía no se sabe si le seguirá el resto de competidores. Que lo haga la mayor empresa de medios sociales, y una de las que más estragos ha producido para la salud mental y los hábitos de las personas, les honra. ¿O lo hace por alguna razón que todavía no hemos descifrado?

En cualquier caso, es importante que las plataformas digitales ofrezcan transparencia y claridad sobre el uso de la IA en la creación de contenidos. Pensamos en que este tipo de herramientas pueden sustituir a los periodistas y redactores de publicidad por un ahorro de costes, pero la labor humana sigue siendo necesaria. Ese toque humano, esa clarividencia debe seguir siendo unánime. Por mucho que les pese a los gurús que han abrazado esta tecnología porque está de moda. 

Mi posición es que las herramientas generativas ayudarán a los profesionales a realizar trabajos, a organizar muchos de sus procesos internos. Puede que elimine algunas tareas como rellenar algunos textos de productos en tiendas online o algunos aspectos de proyectos editoriales. Pero, por mucho que avancen y por muchas instrucciones o secuencias que se les introduzcan, los textos sintéticos siguen inspirándose en creaciones ya realizadas. Es la base de datos, estúpido, haciéndome eco de ese célebre frase de la política estadounidense del siglo pasado. 

“Imaginado con IA”

Así, la empresa matriz de Facebook, Instagram, WhatsApp y Threads etiquetará las imágenes que los usuarios publiquen en sus servicios desde el momento en el que sus algoritmos detecten que han sido generadas de manera artificial. Esta medida se suma a la que ya se está aplicando por parte de su herramienta MetaAI, que permite crear imágenes fotorrealistas a partir de simples textos. Llega la etiqueta “Imaginado con IA”. Esto va a ayudar a los usuarios a saber cuándo el contenido lo produjo una IA. La gracia es que también lo harán con otras empresas como Google, OpenAI, Microsoft, Adobe o  Midjourney. 

“Como la diferencia entre el contenido humano y el sintético se difumina, la gente quiere saber dónde están los límites”, explica Nick Clegg, presidente de asuntos globales de Meta, en una publicación en el blog corporativo. «La gente a menudo se encuentra con contenido generado por IA por primera vez y nuestros usuarios nos han dicho que agradecen la transparencia en torno a esta nueva tecnología. Por lo tanto, es importante que les ayudemos a saber cuándo se ha creado el contenido fotorrealista”, sostiene.

A la hora de identificar las imágenes generadas por IA, el sistema de Meta utiliza varios métodos, como marcas visibles, marcas de agua eliminadas y metadatos incrustados en los archivos. La compañía asegura que es capaz de detectar una imagen sintética incluso si el usuario no lo ha relevado o ha intentado ocultarlo. “Este trabajo es especialmente importante, ya que es probable que se convierta en un espacio cada vez más contradictorio en los próximos años”, añade. 

Esta iniciativa se enmarca en el desafío de la compañía de proteger la integridad de las elecciones que se celebrarán este año en varios países, entre ellos, Estados Unidos, donde la maquinaria del “deepfake” ya ha echado a rodar. Así que una etiqueta de “Generado con IA” se va a aplicar en los próximos meses en todos los idiomas que soportan los servicios de Meta. Es un primer paso, aunque la empresa reconoce que etiquetar el audio y el vídeo creado de manera artificial “no es tan fácil”. 


Ahora CHATGPT es mejor siendo gratuito: trucos para aprovecharlo

Te enseñamos a aplicar las capacidades de GPT 4o, el nuevo modelos de lenguaje de OpenAI que es grat…

Voces sensuales, la sumisión se quiere apoderar de la IA

A pesar de los esfuerzos, el desarrollo de los sistemas basados en inteligencia artificial continúan…

Scarlett Johansson, OpenAI y el problema de la IA

OpenAI retira una voz empleada para su nuevo modelo ChatGPT-4o por su parecido con la de la actriz S…

Etiquetas:

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *