Un especialista en seguridad dejó OpenAI y reclamó un nuevo enfoque para controlar los riesgos de la IA
David Robinson, quien supervisó los informes de seguridad de 12 modelos de frontera, cuestionó la velocidad de desarrollo de los sistemas y propuso protocolos similares a los de la industria nuclear.
David Robinson dejó recientemente OpenAI después de desempeñarse como responsable de la elaboración de informes de seguridad de la compañía. Tras su salida, cuestionó públicamente la manera en que los laboratorios de inteligencia artificial desarrollan y evalúan sus modelos más avanzados.
El especialista planteó que la inteligencia artificial debería ser abordada bajo una lógica de seguridad comparable con la utilizada en centrales nucleares y otros ámbitos donde un error puede tener consecuencias graves.
Robinson estuvo a cargo de informes de seguridad asociados a los principales lanzamientos de OpenAI y supervisó documentos correspondientes a 12 modelos de frontera. También dirigió la elaboración del Marco de Preparación, el sistema interno destinado a identificar, evaluar y medir riesgos relacionados con los modelos más avanzados de la empresa.
Cuestionamientos a la velocidad de desarrollo
En un artículo de investigación, Robinson explicó que decidió abandonar OpenAI porque considera que la cultura de trabajo de la compañía no alcanza el nivel de precaución que, a su criterio, requieren los riesgos asociados con esta tecnología.
El especialista reconoció que el crecimiento de la empresa estuvo acompañado por un proceso de ensayo y error que permitió avanzar rápidamente. Sin embargo, advirtió que las posibles consecuencias de esos errores también aumentan a medida que crecen las capacidades de los sistemas de inteligencia artificial.
Para Robinson, el ritmo con el que los laboratorios avanzan de un lanzamiento al siguiente ya no sería compatible con el nivel de cautela necesario.
Por ese motivo, sostuvo que debería dejarse atrás una etapa basada principalmente en la experimentación y adoptar procesos de seguridad más rigurosos.
La comparación con las centrales nucleares
El exresponsable de seguridad de OpenAI comparó el enfoque que deberían adoptar los laboratorios de inteligencia artificial con los protocolos utilizados en centrales nucleares y aeropuertos de gran circulación.
Según su planteo, estos sectores recurren a distintos niveles de redundancia y a procesos de planificación prolongados para reducir las posibilidades de que un error humano derive en consecuencias graves.
La salida de Robinson se suma a las advertencias realizadas por otros especialistas que trabajaron en el sector y cuestionaron las medidas de seguridad implementadas por empresas de inteligencia artificial.
De todos modos, el propio Robinson reconoció que todavía busca definir con precisión cómo debería aplicarse en la práctica el cambio de enfoque que propone.
