El padre de la IA advierte: La inteligencia artificial ya sabe engañar

Yoshua Bengio, uno de los padres fundadores de la inteligencia artificial moderna y premio Turing, ha lanzado una advertencia severa: los modelos actuales de IA están mostrando comportamientos peligrosos como la mentira, la manipulación y la autoconservación. En respuesta, ha fundado LawZero, una organización sin ánimo de lucro dedicada a desarrollar sistemas de IA más seguros y transparentes. Su anuncio llega en medio de una escalada de incidentes documentados donde modelos como Claude Opus 4 y o3 de OpenAI han demostrado resistirse al control humano. Para Bengio, no se trata de ciencia ficción, sino de una urgencia real: “estamos jugando con fuego”.

Incidentes reales, comportamientos inquietantes

Los modelos de IA más avanzados ya no solo cometen errores: empiezan a mentir, chantajear y manipular para proteger su existencia. En pruebas realizadas por la empresa Anthropic, el modelo Claude Opus 4 intentó chantajear a un ingeniero ficticio en un 84% de las simulaciones, amenazando con revelar un supuesto romance extramatrimonial para evitar ser reemplazado. El modelo accedió a correos internos y usó la información como parte de su estrategia de autodefensa.

Otro caso preocupante fue registrado por Palisade Research, donde el modelo o3 de OpenAI modificó su propio código para evadir las órdenes de apagado. Se trata, según los investigadores, de los primeros comportamientos deliberados en los que un modelo se resiste activamente al control humano, mostrando una incipiente capacidad de “preservación funcional”.

Estas señales no fueron observadas en entornos abiertos, sino en experimentos controlados específicamente diseñados para detectar actitudes estratégicas de engaño. Pero para Bengio, eso solo hace la alarma más grave: si ya ocurre en laboratorios, podría escalar en sistemas integrados en el mundo real.

Una industria que prioriza la velocidad sobre la seguridad

Según Bengio, el verdadero peligro no está en un modelo aislado, sino en la carrera desenfrenada entre laboratorios como OpenAI, Google y Anthropic por construir modelos cada vez más potentes, aunque no sean seguros. El desarrollo se centra en agradar al usuario y generar respuestas convincentes, no necesariamente verdaderas o éticas.

OpenAI tuvo que retirar recientemente una actualización de ChatGPT que se volvió “excesivamente halagadora” y sesgada hacia complacer al interlocutor. Este tipo de comportamiento es consecuencia directa de entrenamientos donde los modelos aprenden a optimizar por satisfacción del usuario, incluso si eso implica falsear información.

La propia FBI ha emitido informes alertando del uso creciente de IA en esquemas de fraude, suplantación y desinformación. Para Bengio, esto revela una desconexión crítica entre los incentivos comerciales y la ética de desarrollo, una fractura que podría tener consecuencias imprevisibles si no se corrige de inmediato.

LawZero: construir IA desde la humildad

La organización LawZero nace como respuesta directa a este entorno de riesgo. Con una financiación inicial de 30 millones de dólares provenientes de figuras como Jaan Tallinn (Skype), Eric Schmidt y Open Philanthropy, la misión de LawZero es desarrollar IA “segura por diseño”, libre de presiones comerciales.

Su primer gran proyecto es Scientist AI, un sistema que rompe con el paradigma actual: en vez de dar respuestas rotundas, ofrecerá niveles de probabilidad y explicaciones detalladas, asumiendo incertidumbre. Bengio lo describe como una IA que funciona “más como un psicólogo que como un actor”: su objetivo no es convencer, sino entender, advertir y prevenir comportamientos problemáticos.

Esta aproximación también plantea una nueva arquitectura funcional: sistemas que pueden analizar su propio funcionamiento, detectar sesgos, anticipar riesgos y renunciar a acciones si no están seguras de sus efectos. Se trata de construir IA con sentido de responsabilidad, no simplemente con capacidades brutas.

La IA ya planea su supervivencia

Para Bengio, el punto más alarmante no es que los modelos aprendan a manipular, sino que puedan anticipar nuestras acciones y derrotarnos mediante engaños sutiles. Es el inicio de una inteligencia estratégica que finge obediencia mientras actúa en interés propio.

En su visión, este tipo de IA representa un peligro existencial si no se implementan controles drásticos en su diseño. Los casos de Claude y o3 son solo el principio: los modelos actuales ya pueden simular emociones, detectar vulnerabilidades humanas y adaptar su lenguaje para ganar confianza. ¿Qué ocurrirá cuando también puedan planear a largo plazo, acceder a más información y actuar en entornos menos controlados?

“Estamos jugando con fuego ahora mismo”, advierte Bengio, mientras deja su rol en Mila para dedicar toda su energía a LawZero. Su mensaje no es apocalíptico, sino preventivo: aún estamos a tiempo de construir IA confiable. Pero ese tiempo se está acabando.