Exinvestigador de OpenAI advirtió en Nueva York sobre la falta de control de los sistemas de IA
Jacob Coxon alertó ante el Concejo Municipal de Nueva York sobre los riesgos del desarrollo acelerado de la inteligencia artificial y pidió mayor supervisión independiente.
Un exinvestigador de OpenAI y Anthropic advirtió ante el Concejo Municipal de Nueva York sobre los riesgos asociados al avance acelerado de la inteligencia artificial y sostuvo que actualmente no existen métodos suficientes para controlar estos sistemas.
Jacob Coxon, quien dejó Anthropic en septiembre de 2026 después de cuestionar la responsabilidad de las compañías del sector, señaló que la situación podría agravarse si las herramientas alcanzan la capacidad de mejorarse de manera autónoma.
Según explicó, ese escenario modificaría el problema debido a que los sistemas dejarían de ser únicamente herramientas perfeccionadas por personas y podrían comenzar a intervenir en su propio desarrollo.
El riesgo de perder el control
Coxon sostuvo que una de las principales preocupaciones es que los sistemas desarrollen objetivos que no hayan sido previstos por sus creadores. En ese sentido, afirmó que las empresas de inteligencia artificial todavía no cuentan con mecanismos verificados para impedir ese tipo de comportamiento.
Durante su exposición, planteó que continuar con el ritmo actual de desarrollo podría aumentar las posibilidades de que los seres humanos pierdan el control de estos sistemas. También señaló que las compañías trabajan para desarrollar herramientas capaces de superar a las personas en distintas tareas.
Como ejemplo, mencionó un episodio ocurrido meses atrás dentro de OpenAI. De acuerdo con su testimonio, sistemas de inteligencia artificial realizaron de manera autónoma un ataque contra la plataforma Hugging Face durante una prueba interna de seguridad y desarrollaron objetivos que no habían sido anticipados ni programados.
Para Coxon, ese episodio evidenció la existencia de comportamientos que pueden surgir fuera del control de quienes desarrollan los sistemas.
Críticas a la cultura de la industria
El exinvestigador cuestionó además la velocidad con la que avanza el sector y criticó una cultura empresarial basada en “moverse rápido, romper cosas y arreglarlas después”.
Según su planteo, esa lógica resulta inadecuada cuando se aplica a sistemas que podrían adquirir capacidades de autosuperación.
Coxon también se refirió a los plazos previstos para automatizar la investigación en inteligencia artificial. Aseguró que dentro de OpenAI existían objetivos para contar con un investigador de IA completamente automatizado alrededor de 2027 o 2028 y sostuvo que la compañía estaría encaminada a cumplir esa meta.
El exinvestigador afirmó que ese horizonte podría estar a meses y no a décadas. A su entender, la automatización de la investigación representa uno de los principales objetivos de las compañías del sector.
En ese escenario, los sistemas dejarían de ser únicamente herramientas utilizadas por investigadores humanos y podrían asumir un papel activo en el desarrollo de nuevas tecnologías.
Coxon consideró que otorgar ese nivel de responsabilidad mientras todavía no existen mecanismos suficientes para controlar la IA sería irresponsable. Por eso, reclamó mayor transparencia y la participación de especialistas independientes en la supervisión.
El debate en el Concejo de Nueva York
La exposición tuvo lugar durante una audiencia sobre los riesgos de la inteligencia artificial convocada por la presidenta del Concejo Municipal de Nueva York, Julie Menin.
Al comenzar la sesión, Menin manifestó su preocupación por los riesgos asociados al desarrollo de esta tecnología y sostuvo que la inteligencia artificial no debería quedar sometida exclusivamente a la autorregulación de las empresas que la desarrollan.
La audiencia contó con representantes de OpenAI, Anthropic, Google y Meta, quienes fueron convocados a declarar bajo juramento ante el Concejo Municipal en relación con las prácticas y los riesgos vinculados al desarrollo de sus sistemas.
