Durante años creímos que pensar era una batalla interna entre la intuición y la deliberación.

Pensar sucedía dentro de nosotros.

En nuestro cerebro. Punto.

Kahneman en su «Piensa rápido, piensa despacio» con sus Sistemas 1 y 2 explicaba nuestras decisiones, nuestros sesgos y hasta nuestros errores más humanos.

Y ha tenido que llegar la IA para que sintamos que algo ha cambiado.

Leo en un artículo científico muy reciente una idea bastante provocadora: que el modelo de dos sistemas ya no baste y necesitemos hablar de un Sistema 3, entendido como agente cognitivo externo que interviene activamente en nuestros procesos de juicio y que este artículo identifica con la Inteligencia Artificial. Asignándole el efecto, no solo de complementar nuestro pensamiento, sino incluso de llegar a suplantarlo.

Un sistema que no solo asistiría, sino que reconfigura la arquitectura misma del pensamiento. Un fenómeno que tiene nombre: Rendición Cognitiva y que sería el acto de adoptar una respuesta generada sin verificarla. De confiar en ella incluso cuando es errónea. Y hacerlo, además, con mayor seguridad subjetiva.

Pero, a mí, no es si la IA se equivoca o lo que ocurre en nosotros cuando dejamos de comprobar lo que este paper me invita a pensar.

De lo que me hace caer en la cuenta es de que nunca hemos pensado solos.

Consultamos. Preguntamos. Delegamos. Contrastamos.

Y contamos con lo que otros nos dicen, especialmente cuando éstos responden con seguridad, estructura y una cierta apariencia de competencia.

O bien cuando las relaciones emocionales que tenemos con ellos que nos impulsan a acatar sin cuestionar.

Si nuestra identidad, como sugiere Antonio Damasio, es mente, cuerpo y contexto, quizá el verdadero Sistema 3 no sea la IA.

Quizá ese Sistema 3, ha existido siempre y se llama «los otros».

Y ahora, simplemente, se le ha añadido «un otro» más visible, más rápido y más persuasivo.

La realidad es que pensar nunca fue del todo un acto interno.  Pensar es, y ha sido siempre, un acto en gran parte distribuido.

Y según esto, se me ocurre que podríamos formularnos tal que así:

Yo = α·S1 + β·S2 + δ·S3

Siendo cada uno de los coeficientes que pongo en esta fórmula, en realidad, una matriz de variables.

Dice Raquel Ibar, mi matemática de cabecera que la clave para el análisis es descomponer los constructos complejos y de apariencia intangible en miles de pequeñas variables.

Y ahí me lanzo la primera piedra:

¿De qué estaría hecha la matriz δ (el peso del entorno)?

¿Qué subvariables compondrían el peso que damos al entorno y por qué?

Todo ello, entendiendo que ese mi Sistema 3 no es “la IA”, sino el contexto cognitivo «extendido» en el que pensamos.

Y ahora vamos a lo interesante:

Leyendo aquí y allá, parece que, en primera aproximación,  este «peso del entorno» vendría mediado por 5 grandes bloques de subvariables, cada uno con micro-variables internas.

Que bien podrían venir a ser éstos:

1 – La autoridad epistémica percibida

En roman paladino, el poder en términos de conocimiento o expertise que le damos a cada fuente. Esto es importante porque dar mucha autoridad a un tercero reduce, obviamente, la activación del Sistema 2. Si nos fiamos de la fuente porque ésta nos parece competente, nos fiamos y punto. Nada que analizar al respecto.

Y ¿de qué depende que nos fiemos de una fuente? Pues de aspectos como las credenciales percibidas, las señales de competencia que la fuente emita (seguridad, coherencia, precisión técnica, postura, tono… y mil más). Recomiendo revisar a Robert Cialdinni en su libro Persuasión en el apartado que dedica a la Autoridad y que describe con su muy gráfica «no rompan filas». Sin desperdicio.

Otro aspecto nada desdeñable sería la prueba social. Cuando una fuente es socialmente aceptada como fiable, tendemos todos a verla como más fiable.

Como referencia de apoyo, traigo aquí los experimentos sobre obediencia a la autoridad de Stanley Milgram.  Ilustran de forma casi quirúrgica cómo el contexto (mi “Sistema 3”) puede imponerse al juicio individual incluso cuando entra en conflicto con nuestras propias intuiciones morales. En su estudio, participantes ordinarios creían estar administrando descargas eléctricas crecientes a otra persona por cada error cometido, guiados por un experimentador que, con una simple bata blanca y un tono firme, representaba la autoridad científica. A pesar de escuchar gritos de dolor y mostrar signos claros de incomodidad, alrededor del 65% continuó hasta el máximo nivel de descarga. No era crueldad ni falta de inteligencia: era la fuerza del contexto estructurando la decisión.

La autoridad percibida, el marco institucional y las instrucciones externas actuaban como un sistema que reorganizaba el comportamiento, reduciendo la activación del juicio crítico y desplazando la responsabilidad hacia fuera.

Lo que Milgram mostró con humanos en bata blanca, no es muy distinto de lo que vemos que sucede hoy con la IA. Con una sutil diferencia: no sentimos apenas fricción.

Si bien, en el experimento original había tensión, duda, incluso sufrimiento mientras se obedecía, con la IA, la «rendición cognitiva suele ser fluida, cómoda y silenciosa. No nos induce a gritos que activen alarma moral, no aparecen señales claras de conflicto; al contrario, la respuesta llega con ese nivel de consistencia y ese tono tan neutro de quien tiene cierta competencia epistémica.

Así, el peso del entorno (δ) aumenta sin resistencia, mientras el Sistema 2 apenas se activa.

Lo inquietante no es solo que deleguemos, sino que lo hacemos con una creciente sensación de confianza.

Si Milgram nos enseñó que podíamos obedecer en contra de nosotros mismos; la IA nos está mostrando que podemos hacerlo sin darnos cuenta.

2 – La confianza subjetiva y el vínculo emocional

la delegación no se produce solo porque el otro tenga autoridad. También delegamos cuando tenemos fuertes y positivos vínculos emocionales.

La confianza actúa como atajo. Confiamos porque confiar nos hace ahorrar energía. Y nuestro cerebro está diseñado para hacerlo.

¿En quién confiamos?

Confiamos en las personas con las que tenemos vínculos no solo por lo que saben, sino por lo que significan para nosotros. La confianza interpersonal es un fenómeno híbrido donde se entrelazan evaluación cognitiva y vínculo afectivo. Desde la psicología social clásica, Julian Rotter, considerado uno de los principales teóricos del aprendizaje social, definió la confianza como una expectativa generalizada de que el otro actuará de manera fiable. Pero esa expectativa no es puramente racional: está profundamente modulada por la historia compartida, la identificación y la emoción. Niklas Luhmann fue más allá al plantear que la confianza es un mecanismo para reducir la complejidad del mundo social: confiamos para no tener que verificarlo todo. Es, en esencia, una estrategia de ahorro cognitivo. Cuando el entorno es incierto o demasiado costoso de procesar, delegar en alguien de confianza no es un fallo, es una adaptación.

Ahora bien, no toda confianza es igual, ni produce los mismos efectos. Anthony Giddens, el sociólogo que explora la confianza en su obra «Consecuencias de la Modernidad», distinguía entre confianza basada en sistemas abstractos (instituciones, expertos) y confianza basada en relaciones personales, destacando que la credibilidad sobre sistemas abstractos e es fundamental para el funcionamiento de las instituciones modernas y cómo en la credibilidad basada en relaciones personales, el componente afectivo pesa más que la evidencia objetiva.

Aquí entran en juego mecanismos como la heurística de afecto, descrita por Paul Slovic: tendemos a juzgar como más fiable aquello que nos genera una respuesta emocional positiva. Vendría a ser una capacidad de tomar una decisión emocional rápida en momentos  de crisis. Slovic dice que incluso ante una mala situación, la presencia de sentimientos positivos hacia algo o alguien, reduce la percepción de los riesgos  y mejora la percepción de los beneficios. Ese atajo mental explicaría por qué podemos delegar cognitivamente en personas cercanas incluso cuando su competencia no es superior.

A esto se suma lo que la literatura sobre credibilidad denomina confianza epistémica  (Peter Fonagy que sería la disposición a considerar la información de otro como relevante y generalizable. Esta forma de confianza se construye en contextos de apego seguro y facilita la transmisión de conocimiento… pero es obvio que  también puede abrir la puerta a una aceptación poco crítica.

O sea, que la delegación cognitiva en terceros aumenta cuando se alinean tres condiciones: (1) alta confianza relacional, (2) baja percepción de riesgo en la cesión y (3) costes elevados de verificación.

En ese punto, el juicio deja de ser exclusivamente propio y pasa a ser compartido.

No porque renunciemos a pensar, sino porque optimizamos recursos cerebrales externalizando parte del proceso hacia alguien cuya fiabilidad damos por supuesta.

El problema  no es la delegación en sí, sino cuándo dejamos de monitorizarla. Porque la confianza reduce la fricción, pero también puede desactivar las señales que activarían el pensamiento crítico.

Entonces estaríamos ante una delegación que se convierte en sustitución.

3 – La relación entre carga cognitiva y recursos disponibles

O, hablando nuevamente en plata, cuánto esfuerzo necesitas para pensar y cuánta energía tienes para resistirte a que otros lo hagan por ti.

Porque no todos los días tenemos el cuerpo para jotas. Ni todas las tareas nos son abarcables con los recursos propios de que disponemos ¿no?

Cuando el Sistema 2 está fatigado, δ crece automáticamente. Lo subcontratamos todo 🙂

la rendición cognitiva aumenta especialmente cuando se combinan dos factores: alta complejidad de la tarea y baja disponibilidad de energía mental. Y esto no es una anomalía, sino una consecuencia bastante bien explicada por la psicología cognitiva.

Por un lado, la complejidad incrementa exponencialmente el coste de procesar la información. Problemas con múltiples variables, ambigüedad o necesidad de inferencias encadenadas exigen activar procesos deliberativos sostenidos. Daniel Kahneman ya señalaba que el Sistema 2 es “perezoso” en un sentido funcional: no porque falle, sino porque su activación requiere esfuerzo, atención y tiempo. Cuando una tarea supera cierto umbral de dificultad, el cerebro busca atajos para gestionar la carga. Tendemos a conservar recursos y a evitar procesamientos costosos siempre que haya una alternativa disponible.

Por otro lado, la energía cognitiva no es infinita. Factores como la fatiga, el estrés o la presión temporal reducen la capacidad de sostener ese esfuerzo deliberativo. La teoría del agotamiento del ego, postulada por Roy Baumeisnter hace referencia a la idea de que el autocontrol o resiliencia utilizan unos recursos mentales que son limitados, de modo que, cuando la energía necesaria para llevar a cabo la actividad mental es baja, la capacidad de autocontrol disminuye, lo que puede interpretarse como un estado de agotamiento del ego. Realizar una tarea agotadora puede disminuir la capacidad de autocontrol en una tarea posterior, aunque ambas tareas no guarden relación.  Y a pesar de que el concepto ha sido debatido en años recientes, parece lógico pensar que la intuición central se mantiene: bajo condiciones de baja energía, disminuye la supervisión crítica.

Lo interesante es cómo ambos factores interactúan. La complejidad eleva la demanda justo cuando la energía disponible puede estar disminuyendo. En ese cruce, delegar no solo es tentador, sino adaptativo. Aceptar una respuesta ya elaborada reduce drásticamente el coste cognitivo.

El problema es que esa eficiencia viene acompañada de una relajación de la monitorización: si la tarea es demasiado exigente y los recursos demasiado escasos, el sistema deja de comprobar. No porque no pueda, sino porque no compensa. Y ahí es donde la delegación funcional puede deslizarse hacia la rendición cognitiva.

4 – El diseño del entorno

O cómo de fácil/difícil nos ponen «los otros» la delegación.

Nos encanta pensar que delegamos porque el otro “sabe más”. Un autoengaño la mar de elegante, todo sea dicho.

Pero la verdad verdadera es que delegamos más o menos según cómo se nos presenta el otro y no solo por lo que éste sabe.

Hay gente que se las pinta sola para invadirte el pensamiento con una seguridad que da gusto. Ese «cuñado» que no duda nunca, ese amigo que te responde antes de que termines la frase, la compañera que te trae tres opciones ya cerradas y te mira como diciendo “elige y no me líes”.

Y tú eliges. Claro que eliges.

Porque alguien no solo hecho el trabajo sucio de pensar por ti sino, sobre todo, porque lo ha empaquetado sin grietas.

No te han quitado tu libertad, pero ¡anda que no te han mediatizado!

Como hace ese médico que, en vez de abrir posibilidades, te dice: “Lo recomendable es esto” (singular, limpio, sin ruido). Como ese camarero que en lugar de preguntar “¿qué quieres?”, te induce a las lentejas con su “hoy están espectaculares». Como ese jefe que te lo plantea todo en términos de A o B cuando en realidad había al menos cuatro o cinco formas de abordar la tarea. O como ese  “llévate la chaqueta marrón que te combina mejor” en modo madre que convierte la sugerencia en destino.

No es solo autoridad: es forma, tono, timing y cierre. Cuanto más cerrada, fluida y segura es la propuesta, más fácil es que bajes la guardia y delegues.

Y aquí de nuevo influyen complejidad y cansancio. Si tienes energía, contraatacas encontrando alternativas.

Si no, agradeces que alguien te lo deje masticado.

Por eso hay personas que se las pintan solas para convertirse en  “muletas cognitivas”. No sé si saben más, pero te quitan trabajo. Te reducen fricción.  Te ahorran dudas, te quitan opciones, te dan una historia coherente y fácil de procesar. Y tú, encantado, te la tragas y firmas.

Que un tercero te hable de una «probabilidad 62%” activa tu Sistema 2.

Que te diga  “La respuesta correcta es…” lo anestesia.

5 – Tu carácter

Y llegamos a la madre de todas las variables: tú mismo.

Porque, si bien el contexto empuja, es tu arquitectura interna la que decide cuánto te dejas empujar.

Rasgos como la necesidad de cognición determinan hasta qué punto disfrutas pensando o prefieres atajos; la inteligencia fluida marca tu capacidad para enfrentarte a problemas nuevos sin apoyos externos; la tolerancia a la ambigüedad define si puedes sostener la incertidumbre o necesitas cerrar rápido; la autoeficacia percibida condiciona si confías en tu propio juicio o buscas validación fuera; y la experiencia previa en el dominio reduce (o amplifica) la necesidad de delegar.

No son variables independientes, sino que todas ellas forman un sistema dinámico que configura tu umbral de rendición: cuánto esfuerzo estás dispuesto a invertir antes de ceder el control.

No todos delegamos igual porque no todos pensamos igual… ni nos atrevemos igual a sostener el peso de pensar.

δ no sería entonces una constante. Sería función de la persona × situación.

Podríamos escribirlo como:

δ = f(autoridad, confianza, carga, diseño, rasgos)

O no 🙂

Porque compartir este juego con terceros me ha generado algunas otras dudas

¿Existiría este denominado «Sistema 3» de manera independiente a los Sistemas 1 y 2 descritos por Kahneman? ¿Se solapa tanto a ellos que los pudiera acaba anulando?

¿Bajo qué circunstancias esto ocurre?

Cuando las circunstancias son proclives ¿Qué mecanismos de control o alerta para evitar una excesiva delegación cognitiva?

Si, como dice una de mis queridas «subcontratas cognitivas» estos 3 sistemas recuerdan a los 3 métodos de conocimiento que propone Jorge Wagensberg: El conocimiento artístico (el que se transmite por intuición), el científico (por razonamiento) y el revelado (por acatamiento), aclarando que  cualquier tipo de conocimiento tiene algo de los tres ¿Cómo se modulan entre ellos?

¿Por qué andamos tan preocupados con la potencial rendición o deuda cognitiva con la IA cuando llevamos siglos sin ocuparnos lo suficiente de entender cómo modulamos nuestra «subcontrata» de conocimiento a otras personas?

¿Es la intimidad del pensamiento una soledad elegida o la responsabilidad de comprender el mundo por nosotros mismos?

#SigoExplorando