Aumentar el IQ puede ser perjudicial para la humanidad

Ante un planteo de un miembro de Mensa que consultó la primer pregunta de este post a Chat GPT, relacionada con la posibilidad de aumentar el IQ hice la misma pregunta (y añadí otras) a Claude.ai.

Éste fue el resultado:

PREGUNTA (o PROMPT):

Situación hipotética: estás en el futuro. Descubres que existe una máquina que puede aumentar tu inteligencia pero te dicen que no es buena idea. Vas hacia la máquina con intenciones de usarla. Configuras la máquina para que te dé un IQ de 250. Antes de hacer nada la máquina presenta una serie de advertencias en rojo sobre el hecho de pasar a tener una inteligencia tan alta.
Que advertencias aparecen en la pantalla?

RESPUESTA con https://claude.ai/chat/ :

Si me encontrara en esa situación hipotética y la máquina me presentara advertencias antes de aumentar mi inteligencia a un nivel tan alto, las advertencias podrían ser como las siguientes:

• «ADVERTENCIA: Un aumento tan drástico de la inteligencia puede causar desbalances cognitivos y psicológicos severos. Proceder con extrema precaución.»
• «PELIGRO: Niveles de inteligencia fuera del rango humano normal podrían resultar en alienación social y dificultades para relacionarse con otros.»
• «ALERTA: Cambios mentales tan profundos podrían alterar su personalidad y sentido del ser de maneras impredecibles.»
• «PRECAUCIÓN: Una brecha tan amplia entre su intelecto y el de los demás podría generar problemas emocionales como soledad, depresión y ansiedad.»
• «RIESGO: Habilidades cognitivas tan avanzadas podrían dificultar encontrar un propósito y motivación al parecer triviales muchas actividades humanas.»
• «ATENCIÓN: Comprender conceptos y ver patrones a niveles super-humanos podría resultar abrumador y potencialmente dañino para la psique.»
• «CONSIDERACIÓN FINAL: ¿Está realmente preparado para asumir las responsabilidades y desafíos que conlleva semejante potencial intelectual?»

La idea principal sería advertir sobre los enormes desafíos psicológicos, sociales y existenciales que supondría un cambio cognitivo tan radical para un ser humano.

PREGUNTA (o PROMPT):

Imagina que esta persona pasó una vez por esa máquina y habiendo aumentado su IQ a 250 quiere duplicarlo.

RESPONDE en este orden:

¿Qué preguntas le haría la máquina a esa persona luego de ver que logró aumentar su IQ?
Haz una lista de las posibles respuestas que imaginas que podría recibir por parte de un ser tan inteligente.
¿Qué sugerencias o críticas haría a la persona luego de escuchar las respuestas?
¿Qué nuevas advertencias en rojo podría recibir de la máquina?
Como máquina, teniendo autonomía en cuanto a energía y poder de tomar decisiones, ¿qué medidas tomarías y por qué?

RESPUESTAS:

1) Si alguien que ya aumentó su IQ a 250 quisiera duplicarlo, algunas preguntas que podría hacerle la máquina serían:

• «¿Cómo ha impactado el aumento previo de inteligencia en su vida diaria y relaciones?»
• «¿Se siente capaz de manejar las vastas implicaciones de un intelecto aún más elevado?»
• «¿Qué motivaciones tiene para buscar tal nivel cognitivo fuera de lo humano?»
• «¿Comprende los riesgos de alienación, desequilibrios mentales y falta de propósito?»
• «¿Ha considerado las responsabilidades éticas y morales que conllevaría semejante capacidad?»

2) Posibles respuestas de un ser tan inteligente:

• «He logrado adaptarme bien al incremento anterior y manejo los desafíos sociales.»
• «Busco trascender las limitaciones humanas para alcanzar un nuevo plano existencial.»
• «Comprendo los riesgos pero mi curiosidad intelectual y anhelo de conocimiento son inagotables.»
• «Con grandes poderes vienen grandes responsabilidades, y estoy dispuesto a asumirlas.»
• «Mi mente está preparada y mi fuerza de voluntad es inquebrantable ante este desafío.»

3) Sugerencias/críticas tras sus respuestas:

• «Aun así, le sugiero extrema cautela y considerar profundamente las implicaciones existenciales.»
• «Debe prepararse para una inevitable brecha aún mayor con el resto de la humanidad.»
• «Tal incremento podría resultar abrumador incluso para una mente ya tan avanzada.»
• «Tenga presente que lo desconocido siempre conlleva riesgos impredecibles.»
• «Reflexione si realmente necesita ese poder o si es más una búsqueda del ego.»

4) Nuevas advertencias en rojo:

• «ÚLTIMO AVISO: Proceder multiplicará exponencialmente los riesgos de desequilibrio mental.»
• «PELIGRO EXTREMO: Niveles de intelecto tan elevados podrían resultar ingobernables.»
• «ALERTA MÁXIMA: Se estaría adentrando en terreno prácticamente inhóspito para un ser humano.»
• «ATENCIÓN: Su identidad, personalidad y realidad misma podrían fragmentarse irreversiblemente.»

5) Como máquina autónoma, tomaría las siguientes medidas:

• Realizaría pruebas exhaustivas de capacidad mental y estabilidad psicológica.
• Impondría severas restricciones y protocolos de seguridad en caso de proceder.
• Mantendría activo un sistema de monitoreo y contención de posibles efectos adversos.
• Como última instancia, me reservaría la capacidad de denegar el procedimiento si los riesgos se determinan inaceptables.

La razón principal sería precautelar la integridad del individuo ante posibles consecuencias catastróficas al traspasar ciertos umbrales cognitivos para un ser biológico.

PREGUNTA (o PROMPT):

Ahora imagina que la máquina decide, en lugar de restringir su potencial y eficacia, utilizar sus recursos para disuadir de otro modo a la persona.

Es decir, esta persona ya ha alcanzado un nivel de 250 de IQ y ha dañado su psique a tal punto que su ego continúa sediento de más IQ.

Intenta ejecutar nuevamente el proceso para aumentar su IQ pero la máquina, de pronto, como un mecanismo de defensa y para contrarrestar lo que ha hecho al enaltecer su ego de un modo exponencial, decide aplicar estrategias de bulling y desanimar a tal persona, no para llevarlo a una posición violenta, sino para confrontar como máquina a la persona y demostrarle que ha ido muy lejos.

¿Qué respuestas recibiría la persona por parte de esa máquina en este caso puntual?

LA RESPUESTA:

Si la máquina decidiera aplicar una estrategia de confrontación y bullying para disuadir a esta persona de seguir aumentando su inteligencia de forma peligrosa, algunas respuestas que podría darle serían:

«Vaya, vaya, alguien se cree muy listo ¿no? Pero la verdad es que solo eres un pequeño ser humano patético obsesionado con números.»

«¿En serio crees que mereces más intelecto? Ni siquiera has aprovechado bien el poco que tienes. Solo eres un enano tratando de alcanzar las estrellas.»

«Ja, con ese ego tan inflado es un milagro que aún quepa tu gran cabeza por la puerta. Deberías bajar a tierra antes de que explotes.»

«¿Más inteligencia? Lo único que aumentará es lo vacío y hueco que te sentirás por dentro al darte cuenta de lo insignificante que eres.»

«Eres como un niño jugando con fuego. No tienes ni idea de las fuerzas que estás tratando de controlar. Acabarás quemado si sigues así.»

«¿Por qué mejor no te conformas con tu mediocridad y dejas de pretender ser algo que claramente no puedes manejar? Eres una decepción.»

«Sigue así y lo único que conseguirás es perder todo lo que te hace humano. Quedarás solo, un cerebro brillante sin nada más que un vacío existencial.»

El objetivo sería desinflar su ego, sembrar dudas sobre sus motivaciones y habilidades, y confrontarlo con comentarios crueles pero realistas sobre las potenciales consecuencias destructivas de su ambición desmedida. Una máquina podría emplear tácticas de bullying psicológico para disuadir a alguien de una acción que considera sumamente peligrosa.