Traducción y reescritura del contenido:
Imagen destacada:
Ilustración por Tag Hartman-Simkins / Futurismo. Fuente: Getty Images.
Personas que son las peores en realizar algo también suelen sobreestimar mucho su habilidad para hacerlo, mientras que aquellos que son realmente hábiles tienden a no ser conscientes de su verdadero talento.
Este desconcertante sesgo cognitivo es conocido como el efecto Dunning-Kruger. ¿Y sabes qué? Parece ser que la IA lo empeora aún más.
Por ejemplo, un estudio reciente publicado en la revista Computers in Human Behavior — con el título tan memorable: “La IA te hace más inteligente pero no más sabio” — reveló que todos eran malos estimando su propio desempeño después de completar una serie de tareas usando ChatGPT. Notablemente, fueron los participantes «alfabetizados en IA» quienes peor juzgaron su desempeño.
«Cuando se trata de la IA, el [efecto Dunning-Kruger] desaparece,» declaró Robin Welsch, profesor en la Universidad de Aalto y autor principal del estudio. “De hecho, lo que es realmente sorprendente es que una mayor alfabetización en IA se traduce en más confianza en exceso.”
“Esperaríamos que las personas alfabetizadas en IA no solo fueran un poco mejores interactuando con sistemas de IA, sino también al juzgar su desempeño con esos sistemas,” agregó Welsch, “pero este no fue el caso.”
Es un detalle interesante que contribuye a nuestra comprensión aún emergente de todas las maneras en que nuestras costumbres de IA probablemente sean perjudiciales para nuestros cerebros, desde estar vinculadas con pérdida de memoria hasta atrofia de nuestras habilidades de pensamiento crítico. Quizás también sea un testimonio del ego del usuario avanzado de IA.
Cabe destacar que estos hallazgos surgen en medio de un acalorado debate alrededor de la peligrosa «adulación» de los modelos de IA. Los chatbots diseñados para ser útiles y atractivos constantemente halagan a los usuarios y acceden a sus demandas. Es una combinación adictiva que te hace sentir inteligente o justificado. Y se cree que esta adulación es uno de los principales factores detrás de los casos generalizados de lo que los psiquiatras llaman «psicosis IA», en la que los usuarios sufren desconexiones con la realidad y caen en pensamientos delirantes después de obsesionarse con hablar con un chatbot.
En el estudio, los investigadores pidieron a la mitad de 500 participantes que usaran ChatGPT para ayudar a resolver 20 problemas de razonamiento lógico del Examen de Admisión a la Escuela de Derecho, y a la otra mitad que los resolvieran sin IA. Luego, se pidió a cada participante que evaluara su propio desempeño, con la promesa de una compensación adicional si lo hacían de manera precisa. También se administró un cuestionario diseñado para evaluar su alfabetización en IA.
Los investigadores descubrieron que el grupo que usó ChatGPT mejoró sustancialmente sus puntuaciones en comparación con el grupo que no lo hizo. Pero también sobrestimaron en gran medida su desempeño —y el efecto fue especialmente pronunciado entre los conocedores de IA, “sugiriendo que aquellos con más conocimientos técnicos de IA eran más confiados pero menos precisos al juzgar su propio desempeño,” escribieron los autores.
Al examinar cómo los participantes utilizaron el chatbot, el equipo también descubrió que la mayoría de ellos raramente hacían más de una pregunta por problema —sin un mayor sondeo o verificación. Según Welsch, esto es un ejemplo de lo que los psiquiatras llaman descarga cognitiva, una tendencia bien documentada en la IA en la que los usuarios externalizan todo su pensamiento a una herramienta de IA.
“Miramos si realmente reflexionaban con el sistema de IA y encontramos que la gente simplemente pensaba que la IA resolvería las cosas por ellos,” dijo Welsch. “Por lo general, hubo solo una única interacción para obtener los resultados, lo que significa que los usuarios confiaban ciegamente en el sistema.”
Debes reconocerlo, la IA está democratizando el efecto Dunning-Kruger. ¿Qué otra tecnología puede declarar hacer eso?
Más sobre IA: Character.AI, Acusado de Impulsar a Adolescentes al Suicidio, Dice Que Prohibirá el Uso de sus Chatbots a Menores.
Con información de https://futurism.com/artificial-intelligence/ai-dunning-kruger-effect
