Durante años nos dijeron que la inteligencia artificial era el futuro, ahora algunos de quienes están construyendo ese futuro piden que se baje la velocidad.
El debate tomó fuerza en septiembre, Dario Amodei, CEO de Anthropic, planteó ralentizar el desarrollo de los modelos más avanzados para dar tiempo a evaluar sus capacidades y construir mecanismos de seguridad, Sam Altman, de OpenAI, respaldó la idea de avanzar más despacio, aunque aclaró que “ralentizar” no significa detener el desarrollo.
¿Pero, por qué quienes compiten por construir la IA más poderosa están pidiendo cautela?
Pensamos que la respuesta no está solamente en el miedo a una máquina futurista que se rebele contra la humanidad, como lo muestra la saga de películas Terminator, el problema inmediato es mucho más terrenal: los sistemas están adquiriendo capacidades rápidamente y pueden utilizarse para ciberataques, fraude, desinformación o automatización de actividades peligrosas, mientras los mecanismos para evaluarlos y controlarlos todavía están en construcción. La propia Unión Europea ya exige evaluaciones de riesgo, pruebas adversariales, reporte de incidentes y medidas de ciberseguridad para los modelos considerados de riesgo sistémico.
Pero existe otra capa del problema: nadie quiere ser el primero en frenar, Estados Unidos busca mantener su liderazgo tecnológico y China considera la inteligencia artificial estratégica para su desarrollo. Pekín ha rechazado las recientes llamadas estadounidenses a desacelerar, interpretándolas también como una cuestión de competencia internacional.
Entonces aparece la verdadera paradoja, todos hablan de seguridad, pero nadie quiere quedarse atrás. Tal vez el debate no debería ser inteligencia artificial sí o inteligencia artificial no. La pregunta es quién establece las reglas, quién verifica que se cumplan y cuánto riesgo estamos dispuestos a aceptar por avanzar más rápido.
La historia tecnológica está llena de inventos que transformaron la sociedad antes de que aprendiéramos completamente a controlarlos, nótese la aparición de Internet hace algunos años atrás para su uso y democratización; quizá esta vez tengamos la oportunidad de hacer algo diferente, no detener el futuro. “Aprender a conducirlo antes de acelerar otra vez”.
Alex Jaramillo Campoverde
alex.r.jaramillo@unl.edu.ec