Científicos Ahora Investigan la IA como un Nuevo Organismo Biológico.

Modelos de IA están presentes en todas partes, desde hospitales hasta iglesias.

Lo sorprendente es que incluso los expertos en IA aún no comprenden exactamente lo que sucede dentro de estos modelos de caja negra, a pesar de que se utilizan en los entornos más críticos posibles. La última estrategia para descifrar esto: estudiarlos como si fueran sistemas biológicos.

Por ejemplo, MIT Tech Review informa, que científicos de Anthropic han desarrollado herramientas que les permiten rastrear lo que sucede dentro de los modelos mientras realizan una tarea, un tipo de estudio llamado interpretabilidad mecanicista — que se asemeja a cómo los doctores usan resonancias magnéticas para estudiar la actividad cerebral, otro tipo de inteligencia que aún no comprendemos completamente.

“Este es un tipo de análisis muy biológico,” dijo Josh Batson, científico investigador en Anthropic, a Tech Review. “No es como las matemáticas o la física.”

En otro experimento que se asemeja a cómo los biólogos utilizan organoides, que son versiones en miniatura de órganos humanos, la revista reporta que Anthropic ha desarrollado una red neuronal especial llamada auto-codificador disperso, cuyos mecanismos internos son más fáciles de entender y analizar que los modelos de lenguaje de gran tamaño (LLMs) convencionales.

Otra técnica es el monitoreo de cadena de pensamiento, en el que los modelos explican su razonamiento detrás de su comportamiento y acciones, de una manera similar a escuchar el monólogo interno de una persona real. Esto ha ayudado a los científicos a identificar comportamientos desalineados.

“Ha sido bastante exitoso en términos de encontrar al modelo haciendo cosas inadecuadas,” dijo Bowen Baker, científico investigador en OpenAI, a MIT.

Un peligro inminente es que los futuros modelos se vuelvan tan complejos — especialmente si son diseñados por IA misma — que no tengamos idea de cómo funcionan. Incluso ahora, con las herramientas y técnicas actuales, aún surgen comportamientos inesperados que no se alinean con los objetivos humanos de veracidad y seguridad.

Vemos evidencia palpable de esto en las noticias, que están plagadas de informes de personas que se hacen daño porque la IA se lo indicó, lo que hace aún más inquietante que todavía no comprendamos del todo su funcionamiento.

Más sobre la IA: Desarrollador Indie Elimina Todo el Juego de Steam por Vergüenza de Haber Usado IA