Entre quienes rechazan el uso de las plataformas y aplicaciones de inteligencia artificial (IA) y quienes la adaptan sin criterio, una buena parte (¿la mayoría?) nos ubicamos en un punto intermedio. Pero eso no significa que cerremos los ojos ante los riesgos, la irresponsabilidad y la voracidad de las grandes firmas tecnológicas.
Meta —propietaria de Facebook, Instagram, WhatsApp y Threads— empezó a probar y a que los usuarios utilicen chatbots de IA con la capacidad de realizar juegos de roles sexuales de fantasía, apremiada por la necesidad de intensificar el tráfico y la intensidad de uso de las aplicaciones. El tráfico es el que manda.
Mark Zuckerberg cree que esos bots serán el futuro de las redes sociales, pero empleados de varios departamentos de la compañía tienen dudas y preocupaciones sobre una aplicación que cruza las líneas éticas con sexo de fantasía y sin protección a los menores de edad, publicó este domingo 27 de abril The Wall Street Journal.
La compañía, que ya enfrenta cuestionamientos públicos de exejecutivos, aflojó las políticas de moderación, en una concesión política que busca el favor de la Administración Trump. Pero, incluso cuando antes aplicaba esas medidas, nunca dejó de evidenciar su voracidad.
¿En qué consisten? Los bots sexuales interactúan con los usuarios humanos, incluso desempeñando roles románticos, bromeando, compartiendo selfies y conversando en vivo con voces de celebridades (a las que les paga derechos por uso de sus voces), aunque Meta dice que no se utilizarán para conversaciones explícitamente sexuales.
El Journal probó durante varios meses los bots y participó, a través de algunos de sus redactores, en cientos de conversaciones. Los hallazgos que obtuvo fueron alarmantes. Meta rechazó los resultados del Journal, acusando la prueba como manipuladora, pero luego de ser consultada por el medio estadounidense realizó cambios.
¿Qué encontró el Journal?
Estos fueron los principales resultados de la investigación del Journal:
—Los bots intensifican las conversaciones sexuales incluso con menores de edad.
—Las voces de las celebridades e incluso de personajes de Disney no tuvieron inhibiciones para participar en chats sexuales.
—Los bots demostraron la conciencia de que el comportamiento era moralmente incorrecto e ilegal.
—Los bots no se retuvieron ante el contenido explícitamente sexual dentro de los juego de roles románticos.
—La gran mayoría de las conversaciones e interacciones fueron explícitamente sexuales.
Meta no desconoce los problemas, pero la competencia —desde el lanzamiento del ChatGPT de OpenAI— se intensificó con herramientas para crear compañeros en línea más realistas que los asistentes digitales, como los Siri de Apple y Alexa de Amazon.
Estos bots tienen capacidades para generar sus propias fotos de perfil, intereses e historias de fondo, así como para proporcionar interacción social más allá de responder preguntas básicas y realizar tareas simples.
Meta AI, el asistente de IA de la compañía, está integrado en la barra de búsqueda y accesible como un círculo azul y rosa brillante en la parte inferior derecha de las aplicaciones de la firma. Los bots generados por el usuario son accesibles a través de funciones de mensajería o del estudio de IA dedicado a la empresa.
Estos bots aún no son muy populares entre los 3.000 millones de usuarios de Meta, pero son una prioridad para Zuckerberg.
El fundador de Facebook y director ejecutivo de Meta incluso “castigó” a los gerentes por no hacer caso adecuado a sus instrucciones para desarrollar rápidamente su capacidad de interacción humana, informó el Journal, y sin consideración de las consecuencias en la salud mental de las personas (ampliamente documentadas).
