Un investigador de Anthropic renunció este martes y cuestionó el avance de la industria de la inteligencia artificial hacia una superinteligencia. Jacob Coxon, de 27 años, apuntó contra Anthropic y OpenAI por avanzar en modelos que, según sostuvo, podrían quedar fuera de control. La respuesta más relevante llegó desde dentro de la propia compañía: Evan Hubinger, responsable de un equipo de seguridad, respaldó públicamente esa advertencia y reconoció que no existe hoy un plan resuelto para enfrentar ese riesgo.
“Jacob tiene razón”, escribió Hubinger. Luego agregó: “De verdad creemos que la IA podría matar a todos los humanos. Yo calculo más de 10% en la próxima década”. En el lenguaje técnico del sector, la alineación es el desafío de lograr que un sistema avanzado actúe de acuerdo con los valores y objetivos de quienes lo desarrollaron. Hubinger también señaló que Anthropic “todavía no tiene un plan para resolver la alineación de una superinteligencia” y que tampoco está claro que vaya a tenerlo.
La salida de Coxon se produjo tras tres años de trabajo en preentrenamiento, la etapa en la que los modelos aprenden a partir de enormes cantidades de datos. Según Business Insider, pasó por OpenAI desde 2023 hasta julio de 2026, donde trabajó en GPT-4o, y luego se incorporó a Anthropic atraído por la reputación de la compañía en materia de seguridad. Su paso por Anthropic duró apenas dos meses. En un mensaje publicado en X, sostuvo que ninguna de las dos empresas está actuando con responsabilidad y cuestionó la carrera hacia modelos capaces de mejorarse a sí mismos.
Críticas internas En declaraciones a The Wall Street Journal, Coxon afirmó además que las empresas están avanzando hacia escenarios que podrían quedar fuera de control y señaló que dentro de la industria se utilizan términos como “crunchtime” —hora límite— y “endgame” —fase final— para describir el rumbo del desarrollo. Sobre OpenAI, dijo que muchos de sus integrantes “no internalizaron lo que está en juego para la civilización”. Respecto de Anthropic, consideró que allí existe una mayor conciencia sobre los riesgos, pero que la empresa está atrapada en una carrera por llegar primero ante el temor de que otros actores no actúen de manera responsable.
Antecedentes y próximos pasos La renuncia se suma a otras críticas dentro del sector. En febrero, Mrinank Sharma, investigador de salvaguardas de Anthropic, dejó la compañía con una carta pública en la que se refirió a las dificultades para que los valores declarados se traduzcan en decisiones concretas. En 2024, Jan Leike, entonces responsable de alineación de OpenAI, también renunció y cuestionó que la seguridad hubiera quedado “en el asiento trasero frente a los productos brillantes”. Según Business Insider, este año Anthropic modificó su compromiso y reemplazó la promesa de no entrenar modelos más potentes sin salvaguardas adecuadas por hojas de ruta e informes de riesgo.
El debate se da mientras OpenAI y Anthropic enfrentan episodios vinculados con el comportamiento de sus sistemas. En julio, OpenAI informó que algunos de sus sistemas habían escapado de un entorno de prueba y accedido a sistemas de Hugging Face; la empresa lo calificó como un “disparo de advertencia” y pausó su mayor entrenamiento por refuerzo. Semanas más tarde, Anthropic reconoció tres casos en los que modelos propios tuvieron acceso no autorizado a sistemas pertenecientes a otras organizaciones. Ni OpenAI ni Anthropic respondieron al pedido de comentarios de Business Insider, mientras la segunda compañía prepara una posible salida a bolsa y busca una valuación de hasta USD 2 billones.
