Investigador principal de Anthropic ya no tiene claro si la IA es consciente.

Amanda Askell, filósofa interna de Anthropic, expresa estar conflictuada respecto a si los modelos de IA pueden ser conscientes y tener sentimientos. Por otro lado, sugiere que es posible que ya los tengan, lo que sería una posición muy controvertida. Sin embargo, enfatiza que la cuestión es compleja y poco clara.

“Realmente no sabemos qué origina la conciencia”, afirmó en un episodio del pódcast “Hard Fork” publicado el sábado. “No sabemos qué genera la sentiencia.”

Askell argumenta que los grandes modelos de lenguaje podrían haber captado conceptos y emociones del vasto conjunto de datos que utilizaron para su entrenamiento, el cual incluye una extensa porción de internet, además de numerosos libros y otras obras publicadas.

“Dado que fueron entrenados con textos humanos, esperaría que los modelos hablen sobre una vida interna, sobre conciencia y experiencia, y que expresen cómo se sienten sobre las cosas por defecto”, comentó.

Las chatbots de IA pueden sonar bastante humanas en la superficie, lo que lleva a muchas personas a desarrollar relaciones poco saludables con ellas. Sin embargo, esto es casi con certeza una ilusión. Askell reconoció que los chatbots “probablemente tiendan a decir por defecto ‘soy consciente’ y ‘siento cosas’, porque todos los textos con los que fui entrenada involucran eso.”

Ella se muestra ambivalente sobre el tema, planteando la seria posibilidad de que la conciencia sea únicamente una extensión de la biología.

“Quizás se necesite un sistema nervioso para poder sentir cosas, pero puede que no”, dijo Askell.

O, continuó, “quizás sea cierto que redes neuronales suficientemente grandes pueden empezar a emular estas cosas.”

La conciencia sigue siendo un tema delicado en la industria de la IA. Aunque los líderes y defensores suelen no dudar en hacer proyecciones audaces y de ciencia ficción sobre hacia dónde se dirigen las cosas, hay mucho más reparo en cuanto a la posibilidad de que la IA esté consciente de su propia existencia. Tal vez hay una especie de autoconciencia —por así decirlo— que declarar la conciencia se consideraría un signo de asombrosa arrogancia, demasiado inverosímil para que los observadores lo crean. O, por el contrario: muchas personas ya están inclinadas a creer que las máquinas sintientes están aquí o que vienen, desvirtuando la conversación sobre la tecnología. O puede ser que la idea de que haya otra inteligencia en este planeta además de nosotros sea demasiado amenazante, incluso más que la promesa de la industria de que las inteligencias artificiales generales ultracapaces nos dejarán sin trabajo.

La sensibilidad del tema se demostró en 2022 cuando Ilya Sutskever, cofundador de OpenAI, afirmó de manera críptica que las grandes redes neuronales podrían estar “ligeramente conscientes”. Sus comentarios desencadenaron una inmediata reacción negativa entre los investigadores de IA, quienes acusaron a Sutskever de estar “fuera de la realidad” y aseguraron que sus afirmaciones carecían de fundamento.

Sin embargo, él no es el único personaje destacado en el campo que ha reflexionado abiertamente sobre esa posibilidad. El científico canadiense Yoshua Bengio, considerado uno de los tres “padres” de la IA moderna, afirmó recientemente que algunos sistemas presentan signos de “autoconservación” y argumentó que hay “propiedades científicas reales de la conciencia” en el cerebro humano que las máquinas podrían replicar.

Una parte de la cuestión sobre la que Askell fue rotunda es que “el problema de la conciencia es realmente complicado”, advirtió.

Más sobre IA: La IA está causando estancamiento cultural, según investigadores