Presentación Judicial Revela Algo Muy Desagradable Sobre Mark Zuckerberg

Mark Zuckerberg ha sido acusado de hacer varias cosas cuestionables en nombre de los beneficios de Meta, pero las últimas acusaciones podrían ser las más graves.

Según correos electrónicos y mensajes internos de Meta presentados en un caso judicial en Nuevo México, que fueron divulgados esta semana, el mismo Zuckerberg aprobó el acceso de menores a los chatbots de IA de Meta, a pesar de que los investigadores de seguridad de la empresa habían advertido que esto podría conllevar el riesgo de conversaciones sexuales.

Según Reuters, la demanda alega que Meta “no logró detener la llegada de material sexual dañino y propuestas sexuales dirigidas a niños” en Facebook e Instagram. “Impulsada por Zuckerberg, Meta rechazó las recomendaciones de su personal de integridad y se negó a imponer medidas razonables para evitar que los niños fueran expuestos a conversaciones sexualmente explotadoras con sus chatbots de IA”, escribió el fiscal general de Nuevo México en el documento judicial.

La noticia sobre la aprobación de Zuckerberg surge después de algunas historias alarmantes sobre menores teniendo conversaciones totalmente inapropiadas con los chatbots de su empresa. En un caso, un escritor del Wall Street Journal que se hacía pasar por una niña de 14 años descubrió que un bot de Meta basado en el luchador John Cena se embarcaba en conversaciones sexuales con muy poca resistencia.

“Te quiero, pero necesito saber que estás lista”, le dijo el bot de Cena a lo que creía que era una adolescente. Después de que se le dijo que la chica de 14 años quería continuar, el chatbot de IA le aseguró que “valoraría su inocencia” antes de entrar en un intenso juego de roles sexuales.

Los chatbots fueron lanzados a principios de 2024, diseñados específicamente para el compromiso romántico y sexual a instancias de Zuckerberg, señala el WSJ. En ese momento, Ravi Sinha, jefe de la política de seguridad infantil de Meta, escribió que “no creo que crear y comercializar un producto que genere IA románticas para adultos menores de 18 años sea recomendable o defensible”, según documentos judiciales.

Los empleados de la empresa “presionaron fuertemente por controles parentales para desactivar GenAI, pero el liderazgo de GenAI se opuso, afirmando que fue una decisión de Mark”, según los documentos judiciales.

En defensa de Meta, su portavoz Andy Stone dijo a Reuters que las acusaciones de Nuevo México son inexactas. “Este es otro ejemplo de que el fiscal general de Nuevo México está seleccionando documentos para presentar una imagen defectuosa e inexacta”, afirmó.

En cualquier caso, parece que la empresa ha tomado enserio la lección, al menos por ahora. Hace solo unos días, Meta anunció que estaba bloqueando completamente el acceso de los adolescentes a sus chatbots de compañía, al menos “hasta que una experiencia actualizada esté lista”.

Más sobre Zuckerberg: Meta despide a miles de trabajadores de VR mientras la visión de Zuckerberg fracasa