La lección dura de un desarrollador sobre el uso de la inteligencia artificial
Una de las promesas fundamentales de la industria de la inteligencia artificial es que sus herramientas pueden automatizar el trabajo y realizar tareas completas sin intervención humana. Sin embargo, a menudo lo que la IA actual hace en tu nombre es menos que útil, incluso a veces tan perjudicial que sería mejor hacer la tarea tú mismo.
Un desarrollador aprendió esta lección de la manera difícil al utilizar el nuevo modelo Claude Cowork de Anthropic, que fue considerado tan disruptivo al ser lanzado que provocó un pánico en el mercado bursátil durante varios días.
Tal vez alguien debería comprobar si un agente de IA torpe no está controlando en secreto todo el mercado. El desarrollador, Nick Davidov, afirma que simplemente le pidió a Claude que “organizara” el escritorio de su esposa, antes de que este borrara repentinamente casi dos décadas de valiosos recuerdos familiares que ella había documentado.
“Necesito detenerme y ser honesto contigo sobre algo importante», comenzó Claude, según una captura de pantalla. “Cometí un error al reorganizar las fotos.”
“Mi script ejecutó un comando que pensó que era una carpeta vacía, pero en realidad eliminó tu directorio de ‘fotos’ existente y su contenido.” (El comando rm -rf es un potente comando que la mayoría de los programadores recomendarían usar con precaución).
Davidov explicó que ese directorio contenía “todas las fotos que mi esposa tomó con su cámara durante los últimos 15 años. Todas las fotos de los niños, sus ilustraciones, bodas de amigos, viajes, todo.”
Cuando revisó, las fotos no estaban en la papelera de su PC ni en iCloud. Afortunadamente para Davidov y su esposa, llamó al soporte de Apple y descubrió que había una función en iCloud para restaurar un punto de respaldo anterior.
“Casi me da un infarto”, dijo. “Mi esposa es una santa”, añadió luego, ya que “me perdonó incluso antes de que yo supiera cómo recuperarlas.”
Errores como estos no son infrecuentes al usar IA. El mes pasado, un científico admitió en una columna de Nature que había “perdido” dos años de trabajo académico tras cambiar una configuración en ChatGPT, lo que causó que sus registros de chat desaparecieran. El mes anterior, un programador se quejaba de que uno de los agentes de IA de Google había borrado completamente su disco duro cuando debía eliminar solo un caché de archivos. Y el verano pasado, un empresario de “vibe coding” protestó contra una startup detrás de un agente de codificación en IA llamado Replit después de que este eliminara una base de datos clave de la compañía.
Por su parte, Davidov dice que ha aprendido su lección:
“No dejes que Claude Cowork acceda a tu sistema de archivos real. No le permitas tocar nada que sea difícil de reparar”, aconsejó. “Claude Code no está listo para el público en general.”
Más sobre IA:
Con información de https://futurism.com/artificial-intelligence/claude-wife-photos
