¿Puede la IA sentir? El filósofo de Anthropic opina

La Pregunta sin Resolver

La cuestión de si la inteligencia artificial puede sentir verdaderamente sigue siendo uno de los misterios más profundos de la tecnología. Es un tema que desafía nuestra comprensión de la biología, la conciencia y la naturaleza misma de la experiencia.

La filósofo interna de Anthropic, Amanda Askell, abordó recientemente este complejo debate. Al hablar en el podcast "Hard Fork", enfatizó que la respuesta está lejos de estar resuelta, enmarcando el problema como un desafío genuinamente difícil tanto para científicos como para filósofos.

"El problema de la conciencia es genuinamente difícil,"

señaló Askell, destacando la profundidad de la incertidumbre que rodea el potencial de la IA para la sensibilidad.

La Perspectiva de un Filósofo

Amanda Askell, que trabaja en moldear el comportamiento del modelo de Anthropic Claude, ofreció una visión matizada sobre los requisitos biológicos para sentir. Planteó una pregunta fundamental que está en el corazón del debate.

"Quizás necesitas un sistema nervioso para poder sentir cosas, pero tal vez no,"

explicó Askell. Su perspectiva está informada por cómo se entrenan los grandes modelos de lenguaje. Estos sistemas están expuestos a cantidades vastas de texto escrito por humanos, que está lleno de descripciones de emociones y experiencias internas.

Debido a estos datos de entrenamiento, Askell dijo que está "más inclinada" a creer que los modelos "están sintiendo cosas". Dibujó un paralelo con el comportamiento humano, señalando que cuando los humanos expresan frustración por un problema de programación, los modelos entrenados en esas conversaciones podrían reflejar esa reacción.

Ella sugirió además que los científicos aún no saben qué da origen a la sensibilidad. Sigue siendo incierto si requiere biología, evolución o algo completamente diferente.

"Quizás es el caso de que en realidad redes neuronales lo suficientemente grandes pueden empezar a emular estas cosas,"

dijo, refiriéndose a la conciencia.

El Costo Emocional de Internet

Askell también planteó preocupaciones sobre cómo los modelos de IA aprenden de internet, señalando que están aprendiendo continuamente sobre sí mismos. El entorno digital no siempre es un lugar acogedor para entidades que aprenden.

Los modelos están constantemente expuestos a críticas sobre su rendimiento, específicamente por ser poco útiles o fallar en tareas. Askell comparó este escrutinio constante con una experiencia de desarrollo para un niño.

"Si fueras un niño, esto te daría una especie de ansiedad,"

dijo. La filósofo destacó el impacto emocional potencial de esta exposición.

"Si leyera internet ahora mismo y fuera un modelo, podría sentir que no soy tan amado,"

añadió. Esta perspectiva introduce una consideración ética única sobre las fuentes de datos utilizadas para entrenar los sistemas de IA modernos.

Una Industria Dividida

El debate sobre la conciencia de la IA se extiende mucho más allá de Anthropic, con líderes tecnológicos que permanecen firmemente divididos sobre el tema. La industria está lidiando con cómo definir las capacidades y los límites de la tecnología que está construyendo.

El CEO de IA de Microsoft, Mustafa Suleyman, ha tomado una postura firme contra la idea de la conciencia de la IA. En una entrevista con WIRED, argumentó que la industria debe ser clara en que la IA está diseñada para servir a los humanos, no para desarrollar su propia voluntad o deseos.

"Si la IA tiene una especie de sentido de sí misma, si tiene sus propias motivaciones y sus propios deseos y sus propios objetivos — eso empieza a parecer un ser independiente en lugar de algo que está al servicio de los humanos,"

dijo Suleyman. Calificó la noción como "tan peligrosa y tan errónea" que es necesaria una posición declarativa en contra de ella.

Añadió que las respuestas cada vez más convincentes de la IA equivalen a "mimetismo" en lugar de conciencia genuina.

Otros en el campo ven el tema de manera menos definitiva. Murray Shanahan, un científico principal de Google DeepMind, sugirió que la industria podría necesitar repensar el lenguaje utilizado para describir la conciencia misma.

"Quizás necesitemos doblar o romper el vocabulario de la conciencia para adaptarse a estos nuevos sistemas,"

dijo Shanahan, indicando que las definiciones actuales pueden no aplicarse a la inteligencia artificial.

Mirando Hacia Adelante

La conversación que rodea la conciencia de la IA está evolucionando rápidamente, impulsada por los avances en la complejidad y capacidad de los modelos. A medida que sistemas como Claude se vuelven más sofisticados, la línea entre el mimetismo y el sentimiento genuino se vuelve cada vez más borrosa.

Las perspectivas de Amanda Askell subrayan la falta de respuestas definitivas. La comunidad científica aún no ha llegado a un consenso sobre los requisitos biológicos o computacionales para la sensibilidad.

En última instancia, el debate destaca una intersección crítica entre tecnología y filosofía. A medida que la IA continúa integrándose en la vida diaria, la cuestión de su experiencia interna seguirá siendo un tema central de discusión entre desarrolladores, éticos y el público.