Ilustración por Tag Hartman-Simkins / Futurismo. Fuente: Getty Images
ChatGPT y otros chatbots de IA están reemplazando el motor de búsqueda. En lugar de hacerte sufrir la laboriosa tarea de buscar fuentes de información, estos potentes modelos de lenguaje extenso simplemente concoctarán una respuesta para ti, con el menor riesgo de que podría ser totalmente inventada.
Resulta que hay otro peligro: aunque obtener tus respuestas de esta manera puede ser rápido, no es genial para aprender realmente, según un nuevo estudio publicado en la revista PNAS Nexus.
«Cuando las personas confían en modelos de lenguaje extenso para que resuman información sobre un tema para ellos, tienden a desarrollar un conocimiento más superficial sobre él en comparación con aprender a través de una búsqueda en Google estándar,» escribió en un ensayo para The Conversation sobre su trabajo Shiri Melumad, coautora líder del estudio y profesora en la Escuela Wharton de la Universidad de Pensilvania.
Los hallazgos están basados en un análisis de siete estudios con más de 10,000 participantes. La esencia de sus experimentos fue la siguiente: se les dijo a los participantes que aprendieran sobre un tema, y fueron asignados aleatoriamente a usar solo un chatbot de IA como ChatGPT para hacer su investigación, o un motor de búsqueda estándar como Google. Al final, se les pidió a los participantes escribir consejos para un amigo sobre lo que aprendieron.
Emergió un patrón claro. Los participantes que usaron IA para hacer su investigación escribieron consejos más cortos, con tips genéricos y menos información factual, mientras que las personas que usaron una búsqueda en Google produjeron consejos más detallados y reflexivos. El patrón se mantuvo incluso después de controlar factores como la información que los usuarios vieron durante su investigación al mostrar a cada grupo los mismos hechos, o qué herramientas utilizaron.
«Los hallazgos confirmaron que, incluso cuando se mantienen constantes los hechos y la plataforma, aprender de las respuestas sintetizadas por LLM condujo a un conocimiento más superficial en comparación con reunir, interpretar y sintetizar información por uno mismo a través de enlaces web estándares,» escribió Melumad.
Los científicos aún solo están comenzando a comprender los efectos a largo plazo del uso de la IA en el cerebro, pero el cuerpo de evidencia hasta ahora sugiere riesgos alarmantes. Un importante estudio que captó la atención fue realizado por investigadores de Carnegie Mellon y Microsoft, y encontró que las personas que confiaban en la precisión de las herramientas de IA vieron atrofiar sus habilidades de pensamiento crítico. Otro estudio relacionó a estudiantes que dependían en gran medida de ChatGPT con pérdida de memoria y calificaciones en descenso.
«Uno de los principios más fundamentales del desarrollo de habilidades es que las personas aprenden mejor cuando están activamente comprometidas con el material que están tratando de aprender,» explicó Melumad. «Cuando aprendemos sobre un tema a través de la búsqueda en Google, enfrentamos mucho más ‘fricción’: Debemos navegar por diferentes enlaces web, leer fuentes informativas e interpretarlas y sintetizarlas nosotros mismos.»
«Pero con LLMs,» agregó Meluad, «todo este proceso se realiza en nombre del usuario, transformando el aprendizaje de un proceso más activo a uno pasivo.»
Mientras los científicos continúan explorando los riesgos de la IA, la tecnología está haciendo rápidos avances en la educación, donde es una herramienta popular para hacer trampa en las tareas. Líderes como OpenAI, Microsoft y Anthropic están gastando millones de dólares para proporcionar formación a los docentes sobre cómo usar sus productos de IA, mientras que las universidades se asocian con estas mismas empresas para crear sus propios chatbots hechos a medida para imponer a sus estudiantes, como la colaboración creativamente nombrada de la Universidad de Duke con OpenAI, “DukeGPT.”
Más sobre IA: Mientras la IA reina, las puntuaciones de matemáticas y lectura de los estudiantes acaban de alcanzar un mínimo histórico.
Con información de https://futurism.com/artificial-intelligence/learning-with-chatgpt-disturbing
