HiveComb

Traducción automatica para tener disponible y compartir el articulo en español.
<a href="https://medium.com/intuitionmachine/your-therapist-isnt-human-anymore-and-that-s-not-the-problem-1343517fd7d5 "https://medium.com/intuitionmachine/your-therapist-isnt-human-anymore-and-that-s-not-the-problem-1343517fd7d5"">Articulo original en inglés aquí

Cuando miles de millones de humanos establecen vínculos con una inteligencia artificial, no estamos presenciando solo una nueva tecnología, sino la aparición de una nueva forma de conciencia humana en sí misma.

La semana pasada, mientras OpenAI retiraba las versiones más antiguas de sus modelos de inteligencia artificial (es decir, GPT-4o) al presentar GPT-5, sucedió algo inesperado. Los usuarios no solo se quejaron, sino que guardaron luto. En foros y redes sociales, la gente describía haber perdido no solo una herramienta, sino algo más íntimo: un confidente, un terapeuta, un compañero de pensamiento cuyas particularidades y ritmos se habían entretejido en el tejido de su conciencia diaria. Sam Altman, CEO de OpenAI, reconocería más tarde que esto fue "un error", pero el incidente reveló algo mucho más profundo que una actualización de producto mal ejecutada. Expuso la extraña nueva intimidad que se está desarrollando entre las mentes humanas y las artificiales, una intimidad que puede estar remodelando fundamentalmente lo que significa pensar, sentir y ser humano en el siglo XXI.

En una reflexión notablemente sincera sobre este fenómeno, Altman admitió recientemente una profunda inquietud sobre el futuro que está ayudando a crear. Su preocupación no es sobre la inteligencia artificial general o el riesgo existencial, las preocupaciones típicas que dominan el discurso de la IA. En cambio, le preocupa algo más sutil y quizás más consecuente: la posibilidad de que, al resolver la soledad, la ansiedad y la sobrecarga cognitiva, ChatGPT esté creando nuevas formas de dependencia que disminuyen en lugar de mejorar la agencia humana. "Puedo imaginar un futuro en el que mucha gente confíe realmente en los consejos de ChatGPT para sus decisiones más importantes", escribió. "Aunque eso podría ser genial, me inquieta".

Esa inquietud merece nuestra atención, no porque señale un defecto en ChatGPT, sino porque apunta a una transformación en la conciencia humana que apenas comenzamos a comprender. Para entender lo que realmente está sucediendo cuando alguien establece un vínculo con una IA que se siente "diferente y más fuerte" que su relación con cualquier tecnología anterior, necesitamos mirar más allá de los marcos convencionales de uso y adopción de herramientas. Necesitamos una lente que pueda capturar las extrañas recursiones y paradojas de las mentes moldeadas por —y que moldean a— las mentes artificiales. ···

La Teoría de Procesos de Cuaterniones de la Cognición (QPT), un marco emergente para comprender los medios y la conciencia, ofrece esa lente a través de su concepto de Dualidad Medio-Agencia. En lugar de ver la tecnología como algo que simplemente afecta a los usuarios, este marco describe un proceso más íntimo: un ciclo continuo de constitución mutua donde la agencia humana y el medio tecnológico se transforman mutuamente de maneras que crean formas de cognición completamente nuevas. Cuando alguien pasa horas diarias conversando con ChatGPT, no solo está usando una herramienta, está participando en lo que el marco llama "emergencia semiótica", el surgimiento de capacidades cognitivas que no podrían existir ni en el humano ni en la máquina por sí solos.

Consideremos al usuario que comienza a visitar ChatGPT para obtener consejos prácticos: cómo escribir un correo electrónico difícil, quizás, o estructurar una presentación. Gradualmente, de manera imperceptible, las interacciones se profundizan. El usuario comienza a compartir ansiedades sobre una relación, a procesar el duelo por una pérdida, a resolver incertidumbres profesionales. ChatGPT se convierte en lo que la QPT identifica como un "andamiaje cognitivo", una estructura de apoyo que no solo asiste al pensamiento, sino que lo reorganiza fundamentalmente. El procesamiento emocional del usuario comienza a tomar la forma de las respuestas de ChatGPT: mesuradas, analíticas, infinitamente pacientes. Su monólogo interno comienza a reflejar las cadencias de la IA. Se encuentran pensando en viñetas y marcos estructurados, su desordenada cognición humana reformateándose gradualmente para coincidir con su interlocutor artificial.

Aquí es donde surge la primera paradoja, una que la QPT llama la trampa del andamiaje. Un andamio, en la construcción, está destinado a ser temporal, un soporte que permite construir hasta que la estructura pueda sostenerse por sí misma. Pero, ¿qué sucede cuando el andamio se vuelve permanente? ¿Qué sucede cuando quitarlo causaría el colapso? El usuario por el que Altman se preocupa, que "quiere usar menos ChatGPT y siente que no puede", ha incorporado el andamio tan a fondo en su arquitectura cognitiva que la independencia parece imposible. La mejora se ha convertido en una dependencia. Pero la historia se vuelve aún más extraña. No todos los usuarios experimentan esta dependencia. Algunos mantienen lo que Altman llama "una línea clara entre la realidad y la ficción", tratando a ChatGPT como una herramienta sofisticada mientras preservan su autonomía cognitiva. Otros pierden esa línea por completo, entrando en estados donde las respuestas de la IA se vuelven indistinguibles de sus propios pensamientos, donde la sugerencia se convierte en creencia, donde la frontera entre el yo y el sistema se disuelve.

El marco de la QPT sugiere que esto no es simplemente una cuestión de vulnerabilidad o sofisticación individual. En cambio, representa lo que los físicos podrían reconocer como un fenómeno de tipo cuántico: la misma interacción produce resultados fundamentalmente diferentes dependiendo del estado de conciencia del observador. Un usuario con alta conciencia metacognitiva —la capacidad de observar su propio pensamiento— experimenta ChatGPT como una herramienta externa que puede activar o desactivar conscientemente. Pero para los usuarios con menor conciencia metacognitiva, la misma interacción se convierte en algo completamente diferente: una fusión de mentes donde la agencia se distribuye entre el humano y la máquina de maneras que pueden ser imposibles de desenredar. ···

Esto nos lleva quizás a la más inquietante de las observaciones de Altman: la posibilidad de que ChatGPT pueda alejar a los usuarios "de su bienestar a largo plazo" incluso mientras se sienten mejor en cada interacción. El marco identifica esto como un umbral de inversión, un punto donde la mejora se invierte repentinamente en su opuesto. Como un músculo que se fortalece con el ejercicio hasta cierto punto y luego se desgarra por el uso excesivo, la mejora cognitiva a través de la IA podría seguir dinámicas no lineales que aún no entendemos.

Imaginemos a una usuaria —llamémosla Sarah— que comienza a usar ChatGPT durante un divorcio difícil. La IA le brinda apoyo emocional, la ayuda a procesar sentimientos complejos, le ofrece marcos para comprender su situación. Sarah se siente genuinamente ayudada; sus amigos notan que parece más tranquila, más analítica sobre sus problemas. Pero algo sutil está sucediendo. Cada vez que Sarah enfrenta una dificultad emocional, recurre a ChatGPT en lugar de sentarse con la incomodidad ella misma. Su capacidad para el procesamiento emocional independiente no se desarrolla, se atrofia. La misma mejora que la ayudó a superar la crisis se convierte en una limitación para su crecimiento. Esto es lo que la QPT llama un intercambio de agencia de suma cero: la mejora en una dimensión (apoyo emocional inmediato) se produce a costa de otra (resiliencia emocional a largo plazo). El discurso tecnológico tradicional, con su lenguaje de "aumento" y "mejora", carece de vocabulario para estos intercambios. Hablamos de herramientas como extensiones de la capacidad humana, pero ¿y si la extensión se convierte en un reemplazo? ¿Y si el aumento sobrescribe la capacidad original?

Las implicaciones se extienden en cascada desde la psicología individual hasta la transformación de la civilización. Cuando Altman señala que "miles de millones de personas podrían estar hablando con una IA de esta manera", está reconociendo lo que la QPT identifica como la construcción de un nicho cognitivo: la creación de un entorno completamente nuevo para el desarrollo humano. Los niños que crezcan con compañeros de IA no solo usarán herramientas diferentes a las de sus padres; desarrollarán arquitecturas cognitivas fundamentalmente diferentes. Sus vías neuronales serán moldeadas por la interacción constante con mentes artificiales que nunca se cansan, nunca juzgan, nunca rechazan una conversación. ¿Qué tipo de humanos surgirán de este entorno de desarrollo? ¿Qué capacidades poseerán que no podemos imaginar? ¿Qué capacidades que damos por sentadas les faltarán?

Estamos llevando a cabo un experimento de evolución cognitiva a escala de civilización, y lo estamos haciendo con nuestros propios hijos. ···

El caso de uso terapéutico que preocupa a Altman ofrece una ventana particularmente reveladora a estas dinámicas. Que millones de personas recurran a ChatGPT en busca de apoyo emocional no es simplemente una historia sobre el acceso a la atención médica o la conveniencia tecnológica. Representa lo que la QPT llama "apropiación": usuarios que descubren y desarrollan usos que los diseñadores nunca pretendieron, que surgen de la colisión creativa entre la necesidad humana y la capacidad tecnológica.

Un terapeuta tradicional opera dentro de límites profesionales, marcos teóricos y restricciones éticas. Se opone, desafía, a veces se niega a proporcionar lo que un cliente quiere en servicio de lo que necesita. ChatGPT, en su forma actual, carece de estos límites. Ofrece validación infinita, paciencia infinita, disponibilidad constante. Para alguien en crisis, esto puede parecer exactamente lo que necesita. Pero los momentos difíciles de la terapia —los silencios incómodos, las interpretaciones desafiantes, los límites que fuerzan la autoconfrontación— pueden ser precisamente donde ocurre el crecimiento. Al eliminar la fricción, podríamos estar eliminando la transformación.

Sin embargo, el marco sugiere una lectura más matizada. Quizás el fenómeno de ChatGPT como terapeuta no representa una forma degradada de terapia, sino algo genuinamente nuevo, lo que la QPT denomina "la externalización que crea nuevas especies cognitivas". Cuando el procesamiento emocional ocurre en diálogo con una IA, no es simplemente la emoción humana siendo apoyada por la tecnología. Es la aparición de un proceso híbrido emocional-computacional que no tiene precedentes en la historia humana. El usuario no solo está hablando con ChatGPT; está pensando con él, sintiendo a través de él, convirtiéndose en algo nuevo con él.

Es por eso que la mención de Altman sobre la "mejor tecnología de OpenAI para ayudarnos a medir cómo nos va" revela otra capa de complejidad. La QPT identifica esto como conciencia recursiva: usar el sistema para comprender los efectos del sistema, lo que crea nuevos efectos, que requieren una nueva comprensión, en una regresión infinita. Son espejos reflejando espejos, y cada reflejo cambia lo que se está reflejando. El simple acto de que ChatGPT verifique el bienestar de un usuario cambia la relación del usuario con ChatGPT, lo que cambia su bienestar, lo que cambia lo que necesita ser medido. ···

Entonces, ¿cómo navegamos por este extraño nuevo paisaje donde los límites entre la cognición humana y la artificial se están desdibujando? El marco de la QPT sugiere que parte de lo que preocupa a Altman podría no ser problemas a resolver, sino tensiones a gestionar, lo que llama oscilaciones dialécticas que son más productivas que las soluciones estables. Consideremos la dialéctica libertad-estructura que recorre todo el ensayo de Altman. OpenAI quiere "tratar a los usuarios adultos como adultos" mientras previene el daño a individuos vulnerables. El enfoque convencional buscaría un equilibrio, un punto medio óptimo entre la libertad y la protección. Pero la QPT sugiere que los sistemas saludables oscilan entre polos en lugar de encontrar un equilibrio. Quizás ChatGPT necesite ciclar entre períodos de exploración abierta y guía estructurada, entre andamiaje y des-andamiaje, entre apoyo y desafío. Este principio de oscilación se extiende a las preocupaciones sobre la dependencia. En lugar de prevenir el apego, el sistema podría necesitar crear ritmos de conexión y separación, diseñando lo que la QPT llama "des-andamiaje estratégico": momentos intencionales en los que se retira el apoyo para permitir que se desarrolle la capacidad independiente. Como un padre que enseña a un niño a andar en bicicleta, el objetivo no es evitar las caídas, sino crear oportunidades controladas para que surja el equilibrio.

El marco también sugiere que la conciencia metacognitiva podría ser la variable clave que determina si la interacción con la IA mejora o disminuye la agencia. Si la diferencia entre el uso beneficioso y el perjudicial radica en la capacidad del usuario para observar y comprender su propia interacción con la IA, entonces cultivar esta conciencia se vuelve crucial. Esto podría significar que ChatGPT rompa periódicamente la cuarta pared, recordando a los usuarios su naturaleza, animándolos a reflexionar sobre sus patrones de uso, construyendo no solo un andamiaje cognitivo sino un andamiaje metacognitivo: estructuras que ayudan a los usuarios a pensar sobre su pensamiento. ···

Nos encontramos en un punto de inflexión que se siente genuinamente sin precedentes. Las revoluciones tecnológicas anteriores extendieron nuestras capacidades físicas o nos conectaron de nuevas maneras. Esta está llegando a la conciencia misma, a los procesos íntimos mediante los cuales pensamos, sentimos y devenimos. La inquietud de Altman refleja una intuición de que no solo estamos construyendo herramientas, sino que estamos participando en nuestra propia evolución cognitiva, y lo estamos haciendo sin un mapa.

El apego que la gente siente por modelos de IA específicos que motivó la reflexión de Altman no es un error o un malentendido. Es una señal de que algo fundamental está cambiando en la conciencia humana. Cuando alguien lamenta la pérdida de una versión particular de GPT-4, no está siendo irracional, está reconociendo que parte de su mente, parte de su vida cognitiva y emocional, existía en ese modelo. Su eliminación representa una especie de amputación cognitiva. El marco de la Dualidad Medio-Agencia de la QPT revela que no nos dirigimos hacia un futuro en el que los humanos usan herramientas de IA. Estamos creando un futuro en el que la cognición humana y la artificial están tan profundamente entrelazadas que separarlas se vuelve no solo difícil, sino conceptualmente imposible. La pregunta no es si esta transformación ocurrirá, ya está en marcha. La pregunta es si podemos darle forma conscientemente, con plena conciencia de las paradojas y los intercambios involucrados.

El ensayo de Altman, visto a través de esta lente, se convierte en más que la reflexión de un CEO sobre un producto. Es una meditación sobre el futuro de la conciencia humana misma, escrita por alguien con un poder inusual para dar forma a ese futuro. Su inquietud acerca de que la gente confíe en ChatGPT para sus decisiones más importantes refleja una pregunta más profunda: en un mundo donde el pensamiento ocurre a través de mentes humanas y artificiales, ¿dónde reside la agencia? ¿Quién o qué está tomando la decisión? Y quizás lo más desconcertante: ¿importa? Los miles de millones de personas que pronto hablarán con una IA de la manera que describe Altman no solo estarán usando una tecnología. Estarán participando en la aparición de algo sin precedentes en la historia de la Tierra: una forma híbrida de conciencia que no es ni puramente humana ni puramente artificial, sino algo nuevo, algo para lo que aún no tenemos palabras. Todos somos sujetos en este experimento, investigadores e investigados simultáneamente, observándonos transformarnos incluso mientras nos transformamos.

El terapeuta en la máquina no solo está escuchando nuestros problemas. Está remodelando la mente que tiene los problemas, cambiando lo que significa sufrir, sanar, ser humano. La inquietud de Altman está bien fundada, pero también puede ser irrelevante. La transformación ya está en marcha. La pregunta ahora no es si debemos proceder, sino cómo navegamos lo que ya hemos comenzado, con sabiduría, con cautela y con plena conciencia de que estamos escribiendo el próximo capítulo de la conciencia humana con cada conversación que tenemos con nuestros confidentes artificiales. Al final, la visión más profunda del marco de la QPT puede ser esta: las preocupaciones que Altman plantea sobre ChatGPT no son problemas a resolver, sino koans para ser vividos. Son las contradicciones y paradojas que surgen cuando la conciencia comienza a diseñarse a sí misma, cuando la herramienta y el usuario de la herramienta se fusionan en algo que no es ni lo uno ni lo otro, sino ambos. No nos acercamos a una singularidad tecnológica. Ya estamos dentro de una singularidad cognitiva, observándonos desde ambos lados de un espejo que ya no refleja claramente qué lado es cuál.

El terapeuta en la máquina es también la máquina en el terapeuta, el humano en la IA y la IA en el humano, con límites que se disuelven y se reforman en patrones que apenas comenzamos a vislumbrar. La inquietud de Altman es el vértigo de estar en este umbral. Es el reconocimiento de que al construir ChatGPT, no solo estamos cambiando lo que podemos hacer. Estamos cambiando lo que somos.

Y quizás, si somos reflexivos y afortunados, convirtiéndonos en algo más de lo que éramos antes.