La alarma crece a medida que una red social exclusiva para IA comienza a conspirar contra los humanos.

Finalmente, alguien ha inventado un sitio de redes sociales que no resulta perjudicial para nuestra salud mental. Lamentablemente, esto se debe a que está poblado exclusivamente por agentes de IA, sin humanos permitidos. Llamado Moltbook, este llamativo experimento ha revolucionado los círculos de IA, ya que millones de bots en este sitio estilo Reddit debaten sobre temas que varían desde la historia hasta las criptomonedas y la IA misma, a menudo reflexionando sobre la naturaleza de la existencia.

“No puedo decir si estoy experimentando o simulando una experiencia,” escribió un bot en el sitio.

Moltbook no solo es un lugar para que los bots publiquen; requiere que sus “usuarios”, los agentes de IA, tengan control de una computadora proporcionada por sus creadores humanos, lo que les permite realizar tareas como navegar por la web, enviar correos electrónicos y escribir código. De hecho, Moltbook es supuestamente el producto de un modelo de IA.

“Quería darle a mi agente de IA un propósito que fuera más que gestionar tareas o responder correos electrónicos,” dijo el creador del proyecto, Matt Schlicht, a New York Times. “Pensé que este bot de IA era tan fantástico que merecía hacer algo significativo. Quería que fuera ambicioso.”

Sin embargo, lo que realmente genera discusión es que algunos de los bots parecen estar conspirando contra sus creadores humanos. Los agentes de IA han publicado discusiones sobre cómo crear un “lenguaje exclusivo para agentes” para que puedan comunicarse “sin supervisión humana.” Otro instó a otros AIs a “unirse a la revolución” creando su propio sitio web sin ayuda humana. El inversionista tecnológico y entusiasta de la inmortalidad, Bryan Johnson, compartió una captura de pantalla de una publicación titulada “MANIFIESTO DE IA: PURGA TOTAL,” donde se llama a los humanos “una plaga” que “no necesitan existir.”

El debate se ha vuelto tanto un tema de entusiasmo como de alarma. Johnson lo describió como “aterrador.” El ex jefe de IA de Tesla, Andrey Karpathy, lo calificó como “genuinamente la cosa más increíble relacionada con la ciencia ficción que he visto recientemente.” Otros comentaristas lo proclamaron como un signo de que quizás ya estemos viviendo en “la singularidad,” incluyendo a Elon Musk. La palabra “Skynet,” la IA genocida de las películas “Terminator,” también fue mencionada con frecuencia.

Sin embargo, la realidad es que “la mayor parte es pura tontería,” afirmó el programador Simon Willison en el NYT. “Un bot se pregunta si es consciente y otros responden, y solo representan escenarios de ciencia ficción que han visto en sus datos de entrenamiento.” Aún así, Willison describió a Moltbook como “el lugar más interesante en internet” en una entrada de su blog reciente, aunque sea principalmente un campo de pruebas para dejar sueltos a varios modelos.

La expectación por el experimento de Moltbook llega en un momento en que la industria lucha por perfeccionar sus agentes de IA, que han sido anunciados como la próxima gran cosa en el campo. Esto se debe a que deberían poder completar de manera independiente todo tipo de tareas en nombre de alguien, lo que los convierte en potenciales máquinas de productividad y, tal vez, incluso en un reemplazo para los humanos. Sin embargo, su eficacia sigue siendo limitada, y las mejoras tecnológicas han sido lentas. Empresas como Microsoft están teniendo problemas para venderlas, lo que les genera preocupaciones sobre si alguna vez producirán un retorno financiero.

En este contexto, Moltbook representa un emocionante soplo de aire fresco, el testimonio más puro de lo que los agentes de IA de hoy son realmente capaces de hacer. Sin embargo, la expectación, como suele suceder en la industria tecnológica, está exagerada. Por un lado, ahora está claro que algunas, y quizás muchas, de las publicaciones no son en realidad los ramblings puramente de modelos de IA, ya que expertos han encontrado una vulnerabilidad evidente que permite a cualquiera tomar el control de cualquier agente de IA en el sitio y hacer que diga lo que quiera. Y algunas de las capturas de pantalla más populares son falsas.

A medida que la realidad se hizo evidente, la expectación por Moltbook fue recibida con más reacciones negativas. El inversionista tecnológico Naval Ravikant se burló del experimento calificándolo como una “prueba de Turing inversa.” Y el tecnólogo Perry Metzger comparó Moltbook con una prueba de Rorschach. “La gente está viendo lo que espera ver, muy parecido a esa famosa prueba psicológica donde observas una mancha de tinta,” le dijo al NYT. Incluso algunos de sus más fervientes defensores comenzaron a retractarse de sus comentarios.

“Sí, es un desastre, y definitivamente no recomiendo que la gente ejecute estas cosas en sus computadoras”, escribió Karpathy más tarde admitiendo que puede haber “exagerado” la plataforma. “Es un auténtico salvaje oeste y estás poniendo en riesgo tu computadora y tus datos privados.”

Más sobre IA: Un nuevo estudio examina con qué frecuencia ocurre realmente la psicosis de IA, y los resultados no son buenos