Los bibliotecarios, y los libros que atesoran, ya están luchando una batalla perdida por nuestra atención entre todo tipo de deterioro mental habilitado por la tecnología. Ahora, en un asalto adicional a su cordura, los modelos de IA están generando tanta basura que estudiantes e investigadores continúan entrando a las bibliotecas y pidiendo revistas, libros y registros que no existen, reporta Scientific American.
En una declaración del Comité Internacional de la Cruz Roja descubierta por la revista, la organización humanitaria advirtió que chatbots de IA como ChatGPT, Gemini y Copilot son propensos a generar referencias archivísticas fabricadas.
“Estos sistemas no realizan investigaciones, verifican fuentes ni contrastan información,” dijo la CICR, que mantiene una vasta biblioteca y archivos, en la advertencia. “Generan nuevo contenido basado en patrones estadísticos, y por lo tanto pueden producir números de catálogo inventados, descripciones de documentos o incluso referencias a plataformas que nunca han existido.”
Sarah Falls, jefa de participación de investigadores de la Biblioteca de Virginia, le dijo a SciAm que las invenciones de IA están desperdiciando el tiempo de los bibliotecarios que se les pide que busquen registros inexistentes. El quince por ciento de las preguntas de referencia enviadas por correo electrónico que recibe la biblioteca de Falls, afirma, son generadas por ChatGPT, las cuales incluyen documentos primarios alucinados y obras publicadas.
“Para nuestro personal, es mucho más difícil probar que un registro único no existe,” agregó Falls.
Otros bibliotecarios e investigadores han hablado sobre los efectos de la IA en su profesión.
“Esta mañana pasé tiempo buscando citas para un estudiante,” escribió un usuario en Bluesky que se identificó como un bibliotecario de comunicaciones académicas. “Para cuando llegué a la tercera (con cero resultados), pregunté de dónde sacaron la lista, y el estudiante admitió que eran de un resumen de IA de Google.”
“Como un bibliotecario que trabaja con investigadores,” escribió otro, “puedo confirmar que esto es cierto.”
Las compañías de IA han puesto un fuerte enfoque en crear modelos de “razonamiento” poderosos dirigidos a investigadores que pueden llevar a cabo una vasta cantidad de investigación con pocos comandos. OpenAI lanzó su modelo agente para llevar a cabo “investigación profunda” en febrero, el cual afirma hacer “al nivel de un analista de investigación.” En ese momento, OpenAI admitió que alucinaba a un ritmo menor que sus otros modelos, pero admitió que luchaba con separar “información autoritaria de rumores,” y transmitir incertidumbre cuando presentaba la información.
La CICR advirtió sobre ese defecto pernicioso en su declaración. Las IA “no pueden indicar que no existe información,” afirmó. “En su lugar, inventarán detalles que parecen plausibles pero no tienen base en el registro archivístico.”
Aunque el hábito alucinatorio de la IA es bien conocido ahora, y aunque nadie en la industria de la IA ha hecho progresos particularmente impresionantes en controlarlo, la tecnología continúa descontrolada en la investigación académica. Científicos e investigadores, a quienes esperarías que fueran lo más empíricos y escépticos posible, están siendo sorprendidos enviando artículos llenos de citas fabricadas por IA. El campo de la investigación de IA mismo, irónicamente, se está ahogando en una inundación de artículos escritos por IA ya que algunos académicos publican hasta cien estudios mal escritos al año.
Dado que nada sucede en un vacío, las fuentes y documentos auténticos, escritos por humanos, ahora están siendo ahogados.
“Debido a la cantidad de basura producida, encontrar registros que SABES que existen pero no necesariamente puedes encontrar fácilmente sin buscar, ha hecho que encontrar registros reales sea mucho más difícil,” lamentó un investigador en Bluesky.
Más sobre IA: Grok ahora dará direcciones a los conductores de Tesla
Con información de https://futurism.com/artificial-intelligence/librarians-ai-materials
