Sam Altman, CEO de OpenAI: "Hay dos formas de que el progreso de la IA salga mal"

Sam Altman, consejero delegado de OpenAI, ha situado el debate sobre el futuro de la inteligencia artificial en un terreno que va más allá de la velocidad de los nuevos modelos. Mientras las capacidades de la IA continúan avanzando, el ejecutivo sostiene que las empresas que trabajan en la frontera tecnológica deben asumir límites y controles capaces de acompañar ese desarrollo. Su preocupación se concentra en dos escenarios que, a su juicio, podrían convertir el progreso actual en un problema difícil de revertir.

Altman lo ha expresado de forma directa al plantear los riesgos que considera prioritarios: “Hay dos formas en que el progreso de la IA podría salir muy mal y que debemos evitar”. La primera está relacionada con la posibilidad de que los seres humanos dejen de controlar sistemas cada vez más capaces. “Esto es inaceptable; estamos en el Equipo Humanidad, y la IA debe siempre servir a las personas”, afirmó el responsable de OpenAI, que vincula esta amenaza con la necesidad de mantener las técnicas de alineación y seguridad por delante de las capacidades de los modelos.

El segundo peligro señalado por Sam Altman no parte directamente del comportamiento de las máquinas, sino de quién pueda controlarlas. El empresario advierte de que una concentración excesiva de poder alrededor de una IA extraordinariamente avanzada podría permitir que una sola persona, compañía, laboratorio o incluso un país impusiera su visión al resto. Según Altman, semejante escenario podría desembocar en “resultados extremadamente distópicos”, por lo que evitar ambos extremos exige mantener un delicado equilibrio.

Más controles para la IA avanzada

Esta advertencia llega acompañada de una propuesta más concreta sobre cómo deberían actuar las compañías estadounidenses que desarrollan IA de frontera. Altman defiende la creación de un marco federal que establezca requisitos de seguridad homogéneos y considera útil recurrir a mecanismos como los auditores independientes. “El mundo merece tener la confianza de que las empresas estadounidenses que desarrollan IA cada vez más capaz actuarán de manera responsable, especialmente ahora que la trayectoria del progreso se ha acelerado”, señaló.

OpenAI asegura que ya está modificando sus procedimientos internos para adaptarse a esta nueva etapa. Altman explica que marcos anteriores, como las políticas de escalado responsable y los sistemas de preparación, estaban orientados principalmente a decidir cómo desplegar modelos una vez terminados. Ahora, la atención se desplaza hacia lo que sucede durante su propio desarrollo. La compañía formula casos de seguridad explícitos antes de determinadas ejecuciones de aprendizaje por refuerzo que previsiblemente elevarán de forma considerable las capacidades del modelo.

El planteamiento no implica, según Altman, frenar por completo la evolución de la inteligencia artificial. “Cuando hablamos de ‘ritmo’, no nos referimos a ‘detenerse’. El progreso ha sido rápido y continuará siéndolo. Pero debería ser más lento de lo que podría ser de otra manera”, afirmó. Para el consejero delegado de OpenAI, asumir el coste de la seguridad, la supervisión y la alineación forma parte del precio necesario para seguir avanzando sin que la competición entre empresas o países coloque las capacidades de la IA por delante de los mecanismos destinados a mantenerlas bajo control humano.