Hay ciencia descuidada, y está la ciencia descuidada impulsada por la inteligencia artificial.
En un giro irónico del destino, investigadores de IA agobiados están advirtiendo que el campo está siendo ahogado por una avalancha de trabajos académicos deficientes escritos con modelos de lenguaje amplios, lo que hace que sea más difícil que nunca que el trabajo de alta calidad sea descubierto y destaque.
Parte del problema es que la investigación en IA ha aumentado en popularidad. Cuantas más personas se suben al carro, más algunos intentan acelerar una reputación académica produciendo docenas, y a veces incluso cientos, de trabajos al año, dándole un mal nombre a toda la búsqueda.
En una entrevista con The Guardian, el profesor de ciencias de la computación en UC Berkeley, Hany Farid, llamó a la situación actual una “frenesí”. Con tanto desorden subiendo a la cima, dice que ahora aconseja a sus estudiantes no entrar al campo.
“Tantos jóvenes quieren entrar en IA”, dijo Farid a The Guardian. “Es simplemente un desastre. No puedes seguir el ritmo, no puedes publicar, no puedes hacer un buen trabajo, no puedes ser reflexivo”.
Farid provocó un debate sobre el tema al señalar la producción de un investigador de IA llamado Kevin Zhu, quien afirma haber publicado 113 trabajos sobre IA este año.
“No puedo leer cuidadosamente 100 trabajos técnicos al año”, escribió Farid en una publicación de LinkedIn el mes pasado, “así que imaginen mi sorpresa cuando me enteré de un autor que afirma haber participado en la investigación y escritura de más de 100 trabajos técnicos en un año”.
Zhu, quien recientemente recibió su bachillerato en ciencias de la computación en UC Berkeley —el mismo lugar donde enseña Farid— lanzó un programa de investigadores de IA dirigido a estudiantes de secundaria y universidad llamado Algoverse. Muchos de sus participantes son coautores en los trabajos de Zhu, notó The Guardian. Cada estudiante paga $3,325 por un curso en línea de 12 semanas, durante el cual se espera que presenten trabajo en conferencias de IA.
Una de esas conferencias es NeurIPS, que se considera una de las tres grandes conferencias en un campo que alguna vez fue oscuro pero ahora es el centro de atención ya que la IA manda una inmensa inversión y prestigio social. En 2020 recibió menos de 10,000 trabajos, según The Guardian. Este año, ese número ha saltado a más de 21,500, una tendencia compartida por otras grandes conferencias de IA. La explosión ha sido tan extrema que NeurIPS ahora depende de estudiantes de doctorado para ayudar a revisar su avalancha de presentaciones.
El volumen abrumador se debe a personas como Zhu: 89 de sus más de un siglo de trabajos se están presentando en NeurIPS esta semana.
Farid llamó a los trabajos de Zhu un “desastre”, y añadió que “no podría haber posiblemente contribuido de manera significativa” a ellos.
“Estoy bastante convencido de que todo el asunto, de arriba a abajo, es solo codificación por sensaciones”, dijo Farid usando la nueva jerga que ha surgido para describir el uso de herramientas de IA para construir rápidamente software, ejemplificando la actitud de abandono temerario que la nueva cosecha de programadores dependientes de IA están adoptando en la práctica.
Zhu no confirmó ni negó si sus trabajos fueron escritos con IA cuando fue preguntado por The Guardian, pero dijo que sus equipos usaron «herramientas de productividad estándar como gestores de referencias, correctores ortográficos, y a veces modelos de lenguaje para la edición de copias o la mejora de la claridad».
El papel que la IA ha tallado rápidamente en la investigación académica ha sido un punto de controversia desde que primero aumentó en popularidad hace varios años. Herramientas como ChatGPT aún son propensas a alucinar citas, o inventar fuentes que no existen, que a menudo se cuelan por el proceso de revisión por pares de incluso revistas prestigiosas. Otros casos, como cuando un trabajo revisado por pares usó un diagrama generado por IA de un ratón con genitales imposiblemente grandes, te hacen cuestionar si hay alguna supervisión en absoluto. La tecnología está tan arraigada en la academia que algunos autores ingeniosos están insertando texto oculto en sus trabajos diseñados para engañar a los «revisores» que ellos mismos son impulsados por IA en dar evaluaciones positivas de su trabajo.
Lo que es particularmente inquietante de escuchar ahora, sin embargo, es cómo la investigación en IA comienza a ser desgarrada por la tecnología misma. ¿Cuánto tiempo puede sobrevivir la búsqueda su propio producto? ¿Y qué significa eso para la próxima generación de científicos de IA, si la investigación novedosa está siendo ahogada por sus colegas mucho más prolíficos que están produciendo estudios con fuentes fabricadas?
Incluso un veterano experimentado como Farid dice que ahora es imposible mantenerse al tanto de lo que está sucediendo en el campo de la IA.
“No tienes ninguna oportunidad, ninguna oportunidad como lector promedio de tratar de entender qué está pasando en la literatura científica”, dijo Farid a The Guardian. “Tu relación señal/ruido es básicamente uno. Apenas puedo ir a estas conferencias y entender qué demonios está pasando”.
Más sobre IA: Investigadores de IA dicen que han inventado invocaciones demasiado peligrosas para liberar al público.
Con información de https://futurism.com/artificial-intelligence/ai-research-papers-slop
