El dilema sobre la velocidad del desarrollo de la inteligencia artificial (IA) ha dejado a pocos actores económicos indiferentes. Con el respaldo del Nobel de Economía, se sumaron al debate Paul Krugman, con un respaldo directo a la propuesta del cofundador y director ejecutivo de Anthropic, Dario Amodei; y Joseph Stiglitz, advirtiendo que un despliegue acelerado podría causar un fuerte desplazamiento laboral y agravar la desigualdad, mientras uno más gradual dificultaría que las empresas cumplan las expectativas de rentabilidad de los inversionistas.
La discusión comenzó el sábado, cuando Amodei publicó el ensayo We Must Pace the Frontier, en el que llamó a moderar el aumento de las capacidades de los modelos más avanzados para dar tiempo a reforzar su seguridad, mediante evaluadores independientes, estándares comunes entre los principales laboratorios y una coordinación internacional que incluya a China, sin detener la investigación ni el entrenamiento de nuevos sistemas.
El planteamiento recibió rápidamente el respaldo de Sam Altman, director ejecutivo de OpenAI; Elon Musk, fundador de xAI, y Demis Hassabis, cofundador de Google DeepMind. Sin embargo, encontró resistencia tanto en Washington como en Beijing. Mientras Donald Trump afirmó que “existe una conspiración enfermiza contra la IA y los centros de datos, y el único que está contento con esto es China” y que “quien gana la IA, gana”, el vocero del Ministerio de Relaciones Exteriores chino, Guo Jiakun, sostuvo que “el alarmismo, la confrontación y la competencia despiadada solo perturbarán el proceso de gobernanza global de la IA, lo que no beneficia a nadie”.
El respaldo de Krugman
Krugman abordó directamente esa controversia en una columna publicada el lunes. El Nobel de Economía de 2008 respaldó la advertencia de Amodei y a quienes estuvieron de acuerdo con el desde el sector tecnológico. “Independientemente del motivo de este repentino remordimiento de conciencia de Musk y Altman, aplaudo su nueva postura”, escribió.
Según Krugman, ese cambio podría haber sido influido por recientes incidentes en los que agentes de IA vulneraron las restricciones impuestas por sus desarrolladores. También sugirió que los ejecutivos podrían estar anticipándose a un escenario político más proclive a investigar y regular a las grandes compañías tecnológicas.
El economista sostuvo que una coordinación voluntaria entre empresas difícilmente bastará para controlar una tecnología sometida a fuertes presiones comerciales y estratégicas. “El método más eficaz para regular su actividad es mediante una normativa que abarque a todas las empresas estadounidenses de vanguardia en inteligencia artificial, ya que esto incluye incluso a aquellas que no están dispuestas a cooperar voluntariamente”, afirmó
Krugman también dirigió sus críticas contra Trump. Recordó que, al iniciar su segundo mandato, el mandatario revocó la orden ejecutiva mediante la cual la administración de Joe Biden había establecido medidas básicas para promover un desarrollo seguro y confiable de la IA. Pocos días después, la Casa Blanca adoptó una nueva política orientada a eliminar los obstáculos al liderazgo tecnológico de Estados Unidos.
Para el economista, la negativa de Trump a reconocer los riesgos resulta especialmente cuestionable cuando son los propios desarrolladores quienes están alertando sobre la posibilidad de perder el control de sus sistemas. “Aplaudamos a líderes como Amodei por alzar la voz”, concluyó Krugman, aunque reconoció que la nueva disposición de otros ejecutivos también puede estar vinculada con intereses políticos y empresariales.
“El método más eficaz para regular su actividad es mediante una normativa que abarque a todas las empresas estadounidenses de vanguardia en inteligencia artificial”.
El dilema económico de Stiglitz
Stiglitz no respondió directamente al ensayo de Amodei, pero intervino en la discusión desde una perspectiva económica más amplia a través de una columna publicada en Financial times. El Nobel de Economía de 2001 examinó las condiciones necesarias para que la inteligencia artificial cumpla las expectativas de productividad, crecimiento y rentabilidad construidas a su alrededor.
“Hay buenas razones para creer que hoy existe una burbuja de IA”, advirtió. A su juicio, para que los inversionistas obtengan los retornos esperados deben cumplirse simultáneamente tres condiciones: que la competencia no reduzca las ganancias de las empresas; que los avances tecnológicos sean desplegados con suficiente rapidez; y que la economía sea capaz de absorber la transformación sin sufrir una crisis.
La velocidad de adopción ocupa un lugar central en ese análisis. “Si el despliegue es lento -de modo que el desplazamiento laboral sea más manejable-, los inversionistas no obtendrán los retornos que esperan, lo que conducirá nuevamente al estallido de la burbuja de la IA”, afirmó Stiglitz.
Una introducción acelerada de la tecnología permitiría acercar esos retornos, pero aumentaría el riesgo de una pérdida masiva de empleos y un debilitamiento de la demanda. “En última instancia, las ganancias de las empresas de IA dependen de la demanda de los consumidores, y esta será débil en una economía con un gran número de desempleados y una desigualdad creciente”, advirtió. “¿Cómo puede una economía sin empleos ser una buena economía?”, planteó.
El dilema no consiste, por lo tanto, en escoger simplemente entre acelerar o desacelerar. “En la trayectoria actual, existe una buena probabilidad de que la IA no entregue los beneficios prometidos ni a los inversionistas ni a nuestra sociedad”, afirmó el Nobel. “Esto es cierto tanto si alcanza el éxito tecnológico que esperan sus defensores como si no logra hacerlo”.
“En última instancia, las ganancias de las empresas de IA dependen de la demanda de los consumidores, y esta será débil en una economía con un gran número de desempleados y una desigualdad creciente”.
Una agenda para gestionar la transición
Frente a estas tensiones, Stiglitz propuso lo que denomina una “agenda progresista para la IA”, basada en tres pilares. El primero es una política de competencia capaz de impedir que las ganancias y el control de la tecnología queden concentrados en un reducido número de compañías.
El segundo pilar es la regulación. El economista plantea que las compañías deben responder por los daños provocados por sus sistemas, incluidos los casos en que agentes autónomos vulneren controles, difundan información falsa, invadan la privacidad o realicen acciones que no fueron ordenadas por sus creadores.
El tercer pilar consiste en utilizar los aumentos de productividad para construir una economía cuyos beneficios alcancen a la mayoría de la población. Eso requeriría una mayor tributación de quienes obtengan las mayores ganancias y políticas capaces de mejorar las remuneraciones y los servicios públicos, en lugar de permitir que la riqueza generada por la tecnología se concentre en una nueva élite.
Otros dos Nobel respaldan las advertencias
Hinton afirmó que nadie puede determinar con precisión la probabilidad de que sistemas superiores a los humanos escapen a su control, pero consideró que el riesgo es suficientemente significativo como para actuar. “Hasta que hayamos resuelto ese problema, sería imprudente desarrollarlos”, señaló. También pidió que los gobiernos obliguen a someter los nuevos modelos a pruebas de seguridad antes de su lanzamiento.
El científico rechazó, además, la idea de que las advertencias respondan exclusivamente a una estrategia comercial de los grandes laboratorios. A su juicio, advertir que una tecnología podría provocar una catástrofe constituye una forma de promoción poco conveniente para las propias empresas y una desaceleración podría reducir la valoración de compañías como Anthropic.
Demis Hassabis, Nobel de Química 2024 por sus trabajos sobre la predicción de estructuras de proteínas mediante inteligencia artificial, también respaldó el planteamiento. “El ensayo de Dario apunta hacia el camino correcto. Los detalles deben desarrollarse, pero la dirección es la adecuada para afrontar este momento crítico”, afirmó.
Hassabis vinculó su posición con la propuesta de Google DeepMind de establecer un organismo sectorial encargado de definir estándares comunes para los modelos de frontera. Su adhesión reconoce así la necesidad de moderar el avance, aunque deja abierta la discusión sobre los mecanismos específicos y las condiciones bajo las cuales las empresas podrían coordinarse.
VER MÁS
MARKET DATA
<%userdata?.email%>
Editar perfil
Credencial
Salir
(Twitter)
Instagram
Facebook
LinkedIn
YouTube
TikTok
Alto contraste
Inteligencia Artificial
{{/if}}
