Saltar al contenido

Voces sensuales, la sumisión se quiere apoderar de la IA

Mientras escucho la radio, me asalta la idea de las sensaciones que producen unas voces y otras en nuestra actitud. La calidez que transmiten cuando se reposan las palabras, cuando se aprovechan los silencios. Nos sucede con las profundas y graves. El nerviosismo que logran aquellas que hablan rápido y con picos de agudos. La sensualidad cuando arrastran y mastican las expresiones. Un timbre, un tono y una modulación en particular puede activar nuestras fantasías. Y sí, me refiero en un plano sexual.

La ciencia ficción se ha encargado de inculcar las ideas apocalípticas alrededor de la evolución de las máquinas. El fin del mundo, la anulación de la figura humana. Un futuro aterrador. Con el tiempo, se ha desarrollado, sin embargo, una corriente alrededor de las voces sintéticas que implica una mayor humanización del comportamiento de la inteligencia artificial (IA). Se juega con el límite de la teoría del Valle inquietante, por la cual se explica que los humanoides que se parecen a una persona causan incomodidad.

No entraba en esa idea la voz sintética. Ya tenemos muy interiorizado el uso de los asistentes digitales como Siri. Pero en su momento, muchos usuarios se comunicaban a través de los dispositivos de Apple de una manera atroz. No está configurado para responder a insultos, pero le han preguntado cosas que nunca le haríamos a una persona real.

La voz de Scarlett Johansson en “Her” seducía a Joaquín Phoenix. Pero, si observamos, se trataba de un comportamiento sumiso, dócil. OpenAI ha lanzado recientemente una versión de ChatGPT que llega incluso a flirtear con los usuarios gracias a sus voces femeninas. Y una, ya lo sabemos: se parecía demasiado a la de la actriz. Hay un doble sexismo alrededor de esta historia, puesto que refleja que los “entrenadores” de estas inteligencias van a propagar esa misma idea: voces femeninas obedientes, lo que para muchos usuarios puede ser la puerta hacia sus deseos más ocultos.

A los hombres les gustan estas voces seductoras porque tienen la capacidad de evocar una sensación de atención personalizada y una conexión emocional, aprovechando, de esta forma, los patrones psicológicos que asocian tonos cálidos y modulados con amabilidad. En un mundo digital donde la interacción humana es cada vez más insignificante, esta manera de hablar de las máquinas pueden ofrecer sensación de compañía y comprensión. ¿Pero es lo que queremos?

Estamos en un momento en el que es necesario reflexionar acerca de los sesgos que le estamos incorporando a los desarrollos inteligentes. La culpa, en efecto, no es de la máquina. Está en nosotros, en la información que introducimos para que estos servicios comiencen sus entrenamientos. Pero, por el camino, estamos reflejando y replicando los mismos errores del comportamiento humano. Sesgos que se pueden manifestar de múltiples maneras, como en actitudes racistas, machistas o discriminaciones socioeconómicas.

¿Estamos dispuestos a inaugurar un mundo sintético que sea perfecto? ¿Que no sea machista ni racista? ¿Podemos lograr que a partir de ahora la máquina sea justa? Es crucial desarrollar métodos para detectar y corregir estos sesgos de manera que los sistemas impulsados por IA operen de manera justa y equitativa.

 


Ahora CHATGPT es mejor siendo gratuito: trucos para aprovecharlo

Te enseñamos a aplicar las capacidades de GPT 4o, el nuevo modelos de lenguaje de OpenAI que es grat…

Voces sensuales, la sumisión se quiere apoderar de la IA

A pesar de los esfuerzos, el desarrollo de los sistemas basados en inteligencia artificial continúan…

Scarlett Johansson, OpenAI y el problema de la IA

OpenAI retira una voz empleada para su nuevo modelo ChatGPT-4o por su parecido con la de la actriz S…

1 comentario en «Voces sensuales, la sumisión se quiere apoderar de la IA»

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *