Aquí tienes una traducción y reescritura del contenido:
La inteligencia artificial generativa se basa en un vasto conjunto de materiales de entrenamiento, en su mayoría compuestos por contenido creado por humanos, que ha sido recopilado de manera desorganizada de internet.
Los científicos aún están investigando qué sucederá cuando estos modelos de IA se queden sin ese contenido y deban depender de datos sintéticos generados por IA, lo que podría cerrar un ciclo potencialmente peligroso. Estudios han demostrado que los modelos de IA comienzan a canibalizar estos datos generados, lo que puede, con el tiempo, hacer que sus redes neuronales se vuelvan poco efectivas. A medida que la IA recicla contenido, sus salidas tienden a ser cada vez más insípidas y, a menudo, distorsionadas.
Además, surge la inquietud sobre cómo afectará esto a la cultura humana mientras los sistemas de IA procesan y generan contenido de IA de manera infinita. Con ejecutivos de IA prometiendo que sus modelos son suficientemente competentes para reemplazar trabajos creativos, ¿sobre qué se entrenarán los modelos del futuro?
En un nuevo estudio publicado en la revista Patterns, un equipo internacional de investigadores constató que un generador de texto a imagen, al interconectarse con un sistema de imagen a texto y ser instruido para iterar repetidamente, finalmente converge en imágenes «muy genéricas», que ellos describieron como «música de ascensor visual».
Este hallazgo sugiere que, incluso sin un entrenamiento adicional, los lazos de retroalimentación autónomos de la IA tienden naturalmente hacia atractores comunes. Es posible que la colaboración entre humanos e IA sea esencial para preservar la variedad y la sorpresa en el cada vez más maquinizado paisaje creativo.
Como señala Ahmed Elgammal, profesor de informática en la Universidad de Rutgers, en un ensayo para The Conversation, esto es otra evidencia de que la IA generativa podría estar provocando un estado de «estancamiento cultural».
El estudio reciente indica que «los sistemas de IA generativa tienden a la homogeneización cuando se utilizan de forma autónoma y reiterada». Además, sugiere que los sistemas de IA actualmente operan de esta manera por defecto.
La convergencia hacia un conjunto de imágenes insípidas ocurrió sin reentrenamiento, el investigador añade. “No se agregó nuevo contenido. No se aprendió nada. El colapso surgió puramente del uso repetido”.
Esta es una situación alarmante, considerando la ola de contenido de IA que está ahogando el contenido humano en internet. Mientras que los defensores de la IA argumentan que los humanos siempre serán el «último árbitro de las decisiones creativas», las algoritmos ya están empezando a promover contenido generado por IA, una homogeneización que podría obstaculizar gravemente la creatividad.
Elgammal advierte que el riesgo no solo radica en que los modelos futuros puedan entrenarse en contenido generado por IA, sino que la cultura mediada por IA ya se está filtrando de maneras que favorecen lo familiar, lo descriptible y lo convencional.
Aún es incierto en qué medida los espacios creativos existentes, desde la fotografía hasta el teatro, se verán afectados por la llegada de la IA generativa, o si podrán coexistir pacíficamente.
A pesar de esto, es una tendencia preocupante que necesita ser abordada. Elgammal sostiene que para detener este proceso de estancamiento cultural, los modelos de IA deben ser incentivados a “desviarse de las normas”.
«Si la IA generativa debe enriquecer la cultura en vez de aplastarla, pienso que los sistemas necesitan ser diseñados de maneras que resistan la convergencia hacia resultados estadísticamente promedio», concluye. «El estudio deja claro que, sin estas intervenciones, la IA generativa continuará deslizándose hacia contenido mediocre e inspirador».
Más sobre IA generativa: San Diego Comic Con prohíbe silenciosamente el arte de IA.
Si necesitas algo más específico o diferente, ¡házmelo saber!
Con información de https://futurism.com/artificial-intelligence/ai-cultural-stagnation
