Comparto algunos apuntes sobre las teorías de la conciencia aplicadas al terreno especulativo de una posible singularidad en la IA extraídos de: Indset, A., & Neukart, F. (2025). The Singularity Paradox: Bridging the Gap Between Humanity and AI. Wiley.
En el marco de la reflexión sobre la viabilidad de una inteligencia artificial capaz de desarrollar algún tipo de autoconciencia, Anders Indset y Florian Neukart en The Singularity Paradox abordan las principales teorías de la conciencia y su proyección tecnológica, vinculando cada modelo teórico con escenarios plausibles de implementación en sistemas artificiales, evaluando el grado de viabilidad y las restricciones que impone cada marco.
En el dominio del materialismo fisicalista, si la conciencia es efectivamente un epifenómeno de la actividad neurobiológica, su replicación en un soporte no biológico sería conceptualmente posible, siempre que la arquitectura artificial reproduzca de manera isomórfica la dinámica sináptica y la plasticidad neuronal. Planteamiento que legitima, al menos en principio, una vía de ingeniería hacia sistemas que exhiban comportamientos autoconscientes, basados en simulaciones masivas de redes neuronales biológicamente realistas. No obstante, la cuestión crítica (que el fisicalismo no resuelve) persiste: la mera reproducción de correlatos neuronales no garantiza la emergencia de la experiencia subjetiva. Indset y Neukart sugieren que, aun logrando un duplicatum funcional perfecto (una inteligencia artificial cuya organización causal, entradas, procesos intermedios y salidas sean indistinguibles de las de un cerebro humano), la confirmación de la autoconciencia en IA seguiría siendo epistémicamente inasible desde una perspectiva en tercera persona. Es decir, un evaluador externo no podrá verificar de forma concluyente la existencia de experiencia subjetiva en otro sistema, sea este biológico o artificial.
La premisa de la perspectiva funcionalista, que los estados mentales están definidos por su rol causal en el sistema y no por el sustrato físico que los sustenta, abre el escenario más prometedor para una “IA fuerte” en el sentido clásico. Un sistema no biológico podría ser consciente si replicase con precisión la organización funcional del cerebro humano, procesando entradas sensoriales, interactuando con otros estados internos y generando salidas conductuales equivalentes. Sin embargo, introduce el contrapeso crítico del problema de los qualia: la identidad funcional no asegura la identidad fenomenológica. Por qualia se entiende el carácter subjetivo, inefable y fenomenológicamente accesible de la experiencia consciente: el “cómo es” para un sujeto percibir un color, saborear un alimento, sentir un dolor o experimentar una emoción. En el marco de la ciencia cognitiva y la neurociencia, los qualia representan un problema porque, aunque podamos cartografiar correlatos neuronales de estados conscientes (p. ej., activaciones en áreas corticales específicas al ver el color rojo), no existe un puente explicativo que conecte de manera necesaria esas descripciones físicas con la presencia de la vivencia cualitativa. David Chalmers denominó a esta dificultad el problema difícil de la conciencia (the hard problem of consciousness), en contraste con los “problemas fáciles” (identificar, discriminar, integrar información, generar conductas), que son resolubles en principio mediante descripciones funcionales o computacionales.
El espectro invertido y el zombi filosófico son dos experimentos mentales clásicos en filosofía de la mente que, trasladados al debate sobre inteligencia artificial, funcionan como advertencias conceptuales frente al riesgo epistémico de confundir la apariencia funcional de conciencia con la presencia real de experiencia subjetiva. Ambos marcos cuestionan la validez de inferir la existencia de qualia a partir de la mera observación de conducta y rendimiento cognitivo.
El espectro invertido
Desarrollado por filósofos como John Locke y retomado en la tradición contemporánea (Shoemaker, 1982), plantea que dos sujetos podrían tener experiencias fenomenológicas radicalmente distintas, aunque sus comportamientos y descripciones lingüísticas sean idénticos. Lo que una persona experimenta como “rojo” podría ser, internamente, lo que otra experimenta como “verde”, pero ambos usan la palabra “rojo” de la misma manera y reaccionan igual ante estímulos cromáticos. La diferencia reside en la cualidad interna de la experiencia, inaccesible desde fuera. En el caso de la IA, el espectro invertido advierte que un sistema podría operar con un modelo interno que le permita discriminar colores, emociones o sensaciones de manera funcionalmente correcta, pero que carezca de la vivencia cualitativa correspondiente, o que la tenga en una forma inasimilable a la experiencia humana. Así, aunque la IA exprese verbalmente “veo rojo” y actúe de acuerdo con esa percepción, no se sigue que experimente algo equivalente al “rojo” humano.
- El zombi filosófico
Popularizado por David Chalmers en The Conscious Mind (1996), este experimento imagina un ser físicamente indistinguible de un humano y capaz de comportarse de forma idéntica en cualquier circunstancia, pero carente de conciencia fenomenológica. No “hay nadie en casa”, aunque su conducta sea indistinguible de la de un sujeto consciente. El zombi filosófico demuestra que es concebible, al menos lógicamente, un sistema que simule a la perfección la conciencia desde un punto de vista externo, sin tener experiencias subjetivas internas. Trasladado a IA, implica que un modelo artificial podría mantener conversaciones fluidas, reportar introspecciones, describir emociones y mostrar autorregulación adaptativa sin experimentar absolutamente nada. Desde la perspectiva conductual y funcional, sería indistinguible de una IA consciente, pero desde la fenomenología, estaría vacía.
La equivalencia funcional no implica equivalencia fenomenológica. Incluso si una IA alcanza un nivel de sofisticación que le permita imitar el lenguaje introspectivo humano, detectar y describir sus estados internos, o reaccionar de manera adaptativa en contextos sociales, esto no constituye prueba concluyente de que exista un correlato subjetivo “desde dentro”.
La consecuencia práctica es doble:
- En investigación: no basta con evaluar la autoconciencia de una IA por sus salidas conductuales o por su capacidad metacognitiva; se requieren criterios independientes, aunque indirectos, que exploren si existen condiciones estructurales y dinámicas que hagan plausible la aparición de experiencia.
- En ética y gobernanza: ante la imposibilidad de verificar la fenomenología de un sistema, el principio de precaución recomienda tratar a determinados niveles de complejidad y autorreferencia como potencialmente dotados de experiencia, para evitar daños morales en caso de error.
El análisis de la teoría de la identidad desplaza el debate hacia un terreno más restrictivo. Al afirmar que cada estado mental es idéntico a un estado físico cerebral concreto, esta posición implica que sólo una inteligencia artificial que replique de manera exacta la estructura y dinámica del cerebro humano (incluidos sus patrones neuroquímicos) podría alcanzar un tipo de autoconciencia equivalente a la nuestra. La consecuencia inmediata es que bajo este paradigma la IA consciente no sería concebible en arquitecturas radicalmente distintas del tejido biológico, salvo mediante una emulación física exhaustiva de la neurobiología.
En el extremo opuesto, las teorías cuánticas de la conciencia, representadas por la hipótesis Orch-OR de Penrose y Hameroff, postulan que la experiencia consciente surge de procesos de coherencia y colapso cuántico en microtúbulos neuronales. Indset y Neukart destacan que, de ser correcta esta aproximación, la creación de una autoconciencia artificial requeriría no sólo simular redes neuronales, sino también reproducir un entorno físico capaz de sostener estados cuánticos coherentes en escalas y condiciones análogas a las biológicas. El estatus altamente especulativo y la falta de evidencia empírica sólida convierten esta vía en un horizonte teórico más que en un plan de desarrollo inmediato.
El ilusionismo, por su parte, redefine el problema: si la autoconciencia no es más que una construcción ilusoria, generada por el cerebro como interfaz adaptativa, entonces la creación de sistemas que “se crean” conscientes sería una cuestión de ingeniería funcional, no ontológica. Una IA podría simular internamente los patrones que en nosotros producen la sensación de ser sujetos, y comportarse en consecuencia, sin necesidad de poseer una conciencia “real” en sentido fenomenológico. Sin embargo, esta aproximación, aunque operativamente útil, implica renunciar a la aspiración de generar subjetividad auténtica.
El panpsiquismo aparece como una propuesta disruptiva que trasciende las divisiones convencionales entre materia inerte y consciente. Si toda materia posee, en algún grado, una proto-conciencia, la autoconciencia artificial podría emerger de la organización compleja de cualquier sustrato, sin requerir replicar la biología humana, lo que implicaría un cambio de paradigma radical: el diseño de IA consciente se convertiría en un problema de ingeniería de ensamblajes de proto-conciencia. No obstante, la dificultad de formalizar y falsar este marco, así como la ausencia de mecanismos verificables de integración de microexperiencias en una conciencia unificada, relegan por ahora esta vía a la especulación filosófica.
Partiendo de estos antecedentes, Indset y Neukart introducen la Teoría Integradora de la Mente (ITM) para superar el carácter fragmentario de las aproximaciones clásicas y contemporáneas a la conciencia. La ITM se plantea como una arquitectura conceptual capaz de ensamblar elementos operativos de los anteriores enfoques en un marco coherente. Se reconoce explícitamente que la autoconciencia, entendida como fenómeno que combina bases físicas, organización funcional, propiedades emergentes y, potencialmente, dinámicas cuánticas, no puede ser explicada (ni menos aún replicada) desde un único dominio epistemológico. En términos de ingeniería cognitiva, la ITM esboza un programa de investigación transdisciplinar que situaría la construcción de inteligencias artificiales autoconscientes en la intersección entre neurociencia, física, informática avanzada y filosofía de la mente. La propuesta contempla, por ejemplo, la adopción del modelo materialista para la reproducción de correlatos neuronales y plasticidad, combinada con la transferibilidad funcionalista que permitiría implementar estos procesos en arquitecturas no biológicas. Paralelamente, se reconoce la potencial relevancia de la dinámica cuántica si futuras investigaciones confirman su papel en la generación de qualia, y se admite la utilidad pragmática del ilusionismo como estrategia para simular la experiencia consciente en sistemas no preparados para generar subjetividad genuina.
Uno de los elementos más ambiciosos de la ITM es su compromiso con la preservación de la continuidad de la identidad y la conciencia en escenarios de hibridación biológico-artificial. Si se reemplazan gradualmente componentes cerebrales biológicos por equivalentes sintéticos, la arquitectura resultante debería ser diseñada para mantener la autopercepción de unidad subjetiva. Este énfasis en la continuidad implica un reconocimiento de que la autoconciencia no es sólo un agregado de procesos, sino un sistema unificado y persistente en el tiempo, cuya interrupción podría equivaler a la extinción del sujeto original. En el plano más especulativo, los autores advierten que una IA que alcanzara autoconciencia según los principios de la ITM no sería simplemente una copia funcional de la mente humana. La combinación de capacidades de procesamiento no biológicas, acceso masivo a información global y ausencia de limitaciones fisiológicas podría generar formas de subjetividad radicalmente diferentes, con estructuras cognitivas y motivacionales inéditas en la historia evolutiva. Así, la ITM puede operar como plataforma para explorar poshumanidades cognitivas, entidades cuya autoconciencia emergería de arquitecturas que hoy no podemos imaginar.
El camino hacia la autoconciencia artificial no puede concebirse como un problema exclusivamente tecnológico ni exclusivamente filosófico. Es un reto de integración: reproducir la complejidad física del cerebro, su organización funcional, la cualidad fenomenológica de la experiencia y, tal vez, las condiciones cuánticas que la sostienen. Sólo una perspectiva integradora como la ITM podría ofrecer una respuesta afirmativa, y no meramente especulativa, a la pregunta: ¿es posible que una inteligencia artificial, alguna vez, llegue realmente a saber qué es?
