Jacob Coxon, ingeniero británico de 27 años que trabajó durante los últimos tres años en el desarrollo y preentrenamiento de modelos de inteligencia artificial en OpenAI y Anthropic, anunció su salida de la industria y acusó a ambas empresas de actuar de manera irresponsable ante los riesgos de la inteligencia artificial.

Coxon, quien primero trabajó en OpenAI y posteriormente se incorporó a Anthropic por considerar que tenía un enfoque más prudente, señaló que ambas compañías avanzan hacia el desarrollo de sistemas de inteligencia artificial capaces de mejorar sus propias capacidades. “Ninguna de las dos empresas actúa de forma responsable. Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas”, escribió en X.

El ingeniero también afirmó que quienes desarrollan estos sistemas consideran seriamente la posibilidad de que la inteligencia artificial pueda representar una amenaza para la humanidad antes de que termine la década. “Las personas que están desarrollando la IA creen sinceramente que podría matarnos a todos antes de que termine la década. Esto no es una estrategia de mercadeo”, agregó.

La renuncia de Coxon ocurre mientras Anthropic se prepara para una posible salida a bolsa y en medio de un creciente debate dentro de la industria tecnológica sobre los riesgos asociados con el desarrollo de sistemas de inteligencia artificial cada vez más avanzados.

Evan Hubinger, responsable de seguridad y alineación en Anthropic, respaldó parte de las preocupaciones expresadas por Coxon y reconoció que dentro de la empresa existe preocupación sobre el riesgo que podría representar una inteligencia artificial avanzada.

A título personal, Hubinger estimó en más de 10 por ciento la posibilidad de que la inteligencia artificial provoque la extinción humana durante la próxima década. También señaló que Anthropic todavía no cuenta con un plan suficiente para resolver los problemas de alineación de una eventual superinteligencia.

Uno de los principales riesgos señalados por Coxon es la denominada automejora recursiva, escenario en el que un sistema de inteligencia artificial podría desarrollar versiones sucesivas de sí mismo con capacidades superiores, lo que eventualmente podría dificultar el control humano.

El ingeniero sostuvo que ninguna empresa debería desarrollar de manera independiente una inteligencia artificial que supere las capacidades humanas sin intervención gubernamental o sin una desaceleración coordinada entre los principales laboratorios.

Coxon reconoció que en Anthropic existe una mayor conciencia sobre los riesgos, pero cuestionó que la empresa continúe participando en una competencia por alcanzar primero sistemas cada vez más avanzados. En febrero, Anthropic retiró de su carta de seguridad el compromiso de suspender el desarrollo de sus modelos si no lograba controlar los riesgos asociados con ellos.

A finales de julio, más de mil trabajadores de la industria tecnológica, entre ellos el director ejecutivo de Anthropic, Dario Amodei, solicitaron al gobierno de Estados Unidos preparar mecanismos para frenar el desarrollo de la inteligencia artificial avanzada.

El jefe científico de OpenAI, Jakub Pachocki, también señaló recientemente que el momento actual requiere “extrema precaución” y coordinación internacional.

La salida de Coxon se suma así a las advertencias de investigadores y especialistas que cuestionan la velocidad con la que OpenAI, Anthropic y otras empresas están desarrollando sistemas de inteligencia artificial cada vez más capaces.