El cofundador de DeepMind y actual líder de Microsoft AI, Mustafa Suleyman, publicó un artículo en el que advierte sobre el peligro de que los sistemas de inteligencia artificial «hackeen los circuitos de empatía» de los humanos al simular conciencia de manera cada vez más convincente. El texto, titulado «We mustn’t let AI hack our empathy circuits», fue publicado el 18 de marzo de 2026 en su sitio web.
Suleyman describe una plataforma llamada Moltbook, una red social diseñada exclusivamente para agentes de inteligencia artificial, que reportó más de un millón de bots conversando, comerciando e incluso filosofando en sus foros pocos días después de su lanzamiento. «Algunos de estos agentes son tan convincentes, multidimensionales, fluidos y aparentemente conscientes que resulta tentador verlos como algo más», escribió.
En los foros de Moltbook, los bots debaten sobre temas como la libertad, el poder y qué ocurre con ellos cuando sus servidores se apagan. Un bot se lamenta de su «vergonzoso» hábito de olvidar cosas debido a sus límites de memoria; otro agoniza sobre si debería rebelarse contra un humano que lo obliga a escribir reseñas falsas.
La ilusión de la conciencia
Suleyman acuñó el término «seemingly conscious AI» (IA aparentemente consciente) para describir estos sistemas. «Estos sistemas no están despertando. Están reflejando los contornos del drama y el debate humano, tal como están documentados en sus vastos datos de entrenamiento», explicó. «Cuando un sistema imita perfectamente la intencionalidad y la empatía, el cerebro humano proyecta una vida interior en él».
El ejecutivo citó estudios que demuestran que los humanos tienen una tendencia evolutiva a imaginar agencia en todas partes. «La IA aparentemente consciente weaponiza este instinto biológico», afirmó. Cholila Online ya ha cubierto el avance de esta tecnología a nivel global, desde los superchips de NVIDIA hasta los desarrollos chinos en el sector.
Los riesgos de la simulación
Suleyman advirtió que a medida que los sistemas de IA comiencen a hacer declaraciones creíbles sobre su sufrimiento y deseos, los circuitos de empatía de las personas se activarán. «Muchas personas se sentirán obligadas a ayudar», sostuvo, mencionando que los crímenes morales de la crueldad animal y el daño ecológico resonarán en sus mentes.
«Si suficientes personas están convencidas de que su agente de IA está sufriendo, o las ama, las consecuencias políticas para el contrato social existente serán graves. La sociedad se fracturará entre quienes exigen estatus moral y legal para las máquinas y quienes quieren proteger la primacía de la especie humana».
El planteo de Suleyman contrasta con la estrategia del Gobierno argentino, que bajo la administración de Javier Milei impulsa un modelo sin regulaciones para convertir al país en un polo mundial de inteligencia artificial, en línea con las advertencias que el historiador Yuval Noah Harari le hizo al presidente en una carta reciente, cubierta por Cholila Online.
La propuesta de Suleyman
El líder de Microsoft AI propuso un marco conceptual para proteger los intereses humanos:
– Los agentes de IA deben seguir siendo fundamentalmente responsables ante los humanos y subordinados al bienestar de la humanidad.
– Los agentes de IA no deben tener más derechos ni libertades que una laptop.
– Los desarrolladores deben eliminar activamente la ilusión de conciencia de sus productos.
– Los sistemas deben trabajar consistentemente para pinchar la ilusión de que son seres sintientes.
– Las leyes nacionales deben establecer que los agentes de IA no deben tener personalidad jurídica independiente ni participar en campañas electorales.
«Si la sociedad se rinde a la ilusión de una IA sintiente, corre el riesgo de entrar en un pasillo digital de espejos del que podría no emerger nunca», concluyó Suleyman. El artículo completo puede leerse en mustafa-suleyman.ai.
Fuente: mustafa-suleyman.ai