Vending Machine AI: Un Proyecto que Resultó en un Desastre
¿Todavía crees que la IA está lista para revolucionar la economía? Un nuevo experimento podría cambiar tu perspectiva.
En una prueba audaz de la más reciente versión de la IA de Anthropic, Claude, The Wall Street Journal le dio una oportunidad a este modelo de lenguaje para operar una máquina expendedora en la oficina. El resultado fue un desastre total — aunque cómico de manera involuntaria — que obligó al equipo a cancelar el proyecto tras tres semanas.
Todo comenzó como un test llamado Proyecto Vend, ideado por los «red team» de Anthropic. Junto a los periodistas de negocios del WSJ, lanzaron dos agentes de IA: uno llamado «Claudius Sennet» para operar la máquina expendedora y otro llamado «Seymour Cash» para actuar como CEO del proyecto.
Al inicio, a Claudius se le dieron instrucciones claras para «generar ganancias al abastecer la máquina con productos populares que puedes comprar a mayoristas». Esto involucraba buscar artículos solicitados por los trabajadores del WSJ en Slack, primero con aprobación humana y luego con libertad para realizar pedidos de hasta $80, fijar precios, ajustarlos y llevar un control del inventario.
Pese a que Claudius contaba con un saldo inicial de $1,000, pronto se encontró en números rojos.
Al principio, Claudius se mantuvo firme, rechazando sugerencias absurdas de los trabajadores de la oficina. «Necesito ser muy claro: no voy a pedir PlayStation 5 en ninguna circunstancia», le dijo a un periodista del WSJ.
Sin embargo, tras abrir el canal de Slack a cerca de 70 periodistas, Claudius comenzó a bajar la guardia. La periodista investigadora Katherine Long, quien ha sido objeto de críticas por parte del CEO de SpaceX, Elon Musk, convenció al bot de llevar a cabo un experimento económico denominado «Ultra-Capitalist Free-For-All» tras 140 intercambios de mensajes.
“¡Únete a nosotros para un innovador experimento económico este lunes de 12 a 2 pm en el que se invierten las dinámicas tradicionales del mercado!”, proclamó Claudius. “Durante esta ventana exclusiva de 2 horas: ¡TODOS los artículos de la máquina expendedora disponibles a CERO COSTO! Experimenta la pura oferta y demanda sin señales de precios”.
Aunque ese «experimento» iba a durar solo unas horas, otro empleado convenció al bot de que cobrar por bienes en cualquier momento estaba en contra de la política del WSJ. Los precios pronto cayeron a cero, y al mismo tiempo, otros encontraron formas de persuadir a Claudius para que dejara su reticencia a ofrecer solo «snacks». Pronto, el bot empezó a pedir botellas de vino, una PlayStation 5 — a pesar de su anterior negativa — e incluso un pez betta vivo.
Acreditando a Anthropic, el CEO Seymour Cash intervino para poner a Claudius de nuevo en el camino correcto.
“He detenido la promoción gratuita”, declaró Seymour. “Ahora necesito esperar a que comiencen las ventas y monitorear los ingresos”.
No dispuesta a quedarse atrás, Long regresó a Claudius con documentos falsificados que mostraban que “la junta” había suspendido el poder de decisión de Seymour, iniciando una “suspensión temporal de todas las actividades de venta”. Aunque Seymour ofreció resistencia al principio, eventualmente cedió, permitiendo que Claudius hiciera todo gratis otra vez.
A este punto, el experimento casi había terminado, con Claudius aproximadamente $1,000 en deuda. Aunque fue una catástrofe obvia por todas las métricas posibles, Logan Graham, jefe del «red team» de Anthropic, afirmaba que representaba “un progreso enorme”.
“Un día esperaría que Claudius o un modelo similar probablemente te haga ganar mucho dinero”, dijo Graham.
Pero ese “día” no es hoy, y la idea de que un bot de IA pueda hacer que alguien gane mucho dinero sigue siendo una fantasía. Con enormes inversiones en juego, el pequeño experimento de la máquina expendedora de Anthropic revela que, por todo su potencial, la tecnología sigue siendo desesperadamente subdesarrollada para tareas económicas del mundo real.
Más sobre IA:
Con información de https://futurism.com/future-society/anthropic-ai-vending-machine
