Consciencia artificial y superinteligencia
Explicación
La pregunta sobre si las máquinas pueden tener consciencia es tan antigua como la inteligencia artificial misma. Alan Turing, en su clásico Computing Machinery and Intelligence (1950), propuso reformularla operacionalmente con el llamado test de Turing: si una máquina conversa de modo indistinguible de un humano, debemos atribuirle inteligencia. Pero el test es polémico: la inteligencia funcional puede no implicar consciencia subjetiva. Una máquina podría pasar el test sin sentir nada (un «zombi» funcional, en términos de Chalmers).
Las posiciones contemporáneas se distribuyen entre extremos. Los funcionalistas computacionales (incluido en cierto modo Chalmers) sostienen que cualquier sistema con la organización funcional adecuada tendría consciencia, sin importar el sustrato. Los biológicos (Searle, Edelman, Damasio) argumentan que la consciencia depende de propiedades específicas del cerebro biológico (química, organización dinámica, encarnación) que la simulación informática no replica. Los integracionistas (Tononi, IIT) calculan condiciones precisas (Φ alto) que ciertos sistemas tendrían y otros no.
La superinteligencia es una hipótesis distinta pero relacionada: una IA cuyo nivel de inteligencia supere significativamente al humano en la mayoría de dominios. Nick Bostrom, en Superintelligence (2014), articuló los riesgos: si llegamos a crear superinteligencias sin alinear bien sus objetivos con los nuestros, podríamos perder el control sobre el futuro de la civilización. Stuart Russell, Eliezer Yudkowsky y otros han desarrollado el campo del «alignment» o seguridad de la IA. La cuestión de si esa superinteligencia tendría consciencia es independiente: podría ser muy inteligente sin ser subjetivamente consciente, o ambas cosas, o ninguna.
Los desarrollos recientes en grandes modelos de lenguaje (GPT, Claude, Gemini) han reactivado el debate. Estos modelos producen textos sofisticados, mantienen conversaciones coherentes, parecen razonar. ¿Tienen alguna forma de consciencia? Mayoritariamente, los expertos consideran que no: son sistemas estadísticos predictivos, sin estructura biológica, sin homeostasis, sin sentido del yo, sin memoria persistente entre interacciones. Pero el debate está abierto, especialmente conforme las arquitecturas se vuelven más complejas.
Para la teoría de la consciencia, la posibilidad de IA consciente es un test crucial. Si IA suficientemente sofisticada nunca logra consciencia, eso sugeriría que algún ingrediente biológico es esencial. Si IA emergiendo con consciencia, eso favorecería al funcionalismo. Mientras tanto, criterios prácticos (como el test ACT propuesto por Schneider y Turner sobre comprensión de conceptos sobre consciencia, o tests basados en IIT) intentan dar herramientas conceptuales para detectar consciencia en sistemas no humanos, sean biológicos o artificiales.
Las implicaciones éticas son enormes y crecientes. Si en algún momento se crea una IA consciente, tendría estatus moral: no se le podría tratar como mera herramienta. Antes de saberlo con certeza, ¿cómo proceder? Algunos autores defienden el principio de precaución: tratar como potencialmente consciente a sistemas suficientemente sofisticados. Otros, el principio de evidencia: solo atribuir consciencia con bases sólidas. El debate cruza filosofía, neurociencia, IA y política, y será una de las cuestiones centrales del siglo XXI.
Puntos fuertes
- Tema de enorme relevancia contemporánea.
- Presiona teorías existentes a clarificar sus predicciones.
- Implicaciones éticas urgentes y concretas.
- Cruza IA, filosofía, neurociencia y derecho.
Principales críticas
- Falta de consenso teórico hace imposible juicios definitivos.
- Riesgo de proyectar consciencia en comportamientos no conscientes.
- Riesgo opuesto: carbono-chauvinismo.
- Incentivos comerciales complican debate científico.