El Presidente de Estados Unidos, Donald Trump, reunió este martes en la Casa Blanca a algunos de los nombres más influyentes de la industria tecnológica -o "las personas más grandes y brillantes, probablemente, del mundo”, como él las calificó- para discutir los riesgos de la inteligencia artificial (IA), en momentos en que desde el propio sector han aumentado las advertencias sobre la necesidad de establecer mayores resguardos.
En torno a la mesa estuvieron el CEO de Nvidia, Jensen Huang; el fundador de xAI, Elon Musk; el CEO de Meta, Mark Zuckerberg; el de Anthropic, Dario Amodei; el de Alphabet, Sundar Pichai; el de Microsoft, Satya Nadella; el fundador de Amazon, Jeff Bezos; la CEO de AMD, Lisa Su; el CEO de Palantir, Alex Karp; y el presidente de OpenAI, Greg Brockman, entre otros. Trump se sentó flanqueado por Huang y Musk.
El encuentro, organizado junto al presidente de la Cámara de Representantes, Mike Johnson, terminó con un acuerdo de estándares voluntarios para reforzar la supervisión de los sistemas de IA.
Las compañías se comprometieron a mantener procesos y controles internos robustos sobre los modelos más avanzados, bajo un esquema que Johnson describió como una declaración voluntaria de “principios, estándares y expectativas”.
Por la noche, el mandatario publicó en Truth Social lo pactado. "Creemos que cada empresa es responsable de desarrollar su propia tecnología de manera segura y de una manera que genere confianza con los clientes y el público", se lee en el documento que lleva la firma de Trump, junto a la de Amodei, Musk, Pichai, Zuckerberg, Huang y Brockman.
Además, se establecen cuatro compromisos: (1) "implementar controles internos sólidos para monitorear las capacidades y la alineación de sus modelos durante el entrenamiento y despliegue"; (2) "empoderar a un equipo interno para garantizar que todos los controles, el monitoreo y la detección funcionen según lo previsto"; (3) "asociarse con un auditor o evaluador externo independiente para llevar a cabo evaluaciones"; y (4) "designar un comité independiente de la junta directiva para supervisar y recibir informes".
Para el gerente general del Centro Nacional de Inteligencia Artificial (Cenia), Rodrigo Durán, el resultado deja una “señal clara” de que Washington no pretende imponer restricciones federales a los laboratorios.
“Trump se anota, entre comillas, una victoria” y les “devuelve la pelota” a las tecnológicas, afirmó, al señalar que el acuerdo permite a EEUU mantener el ritmo de desarrollo tecnológico.
Trump presentó precisamente el pacto como una alternativa a una mayor intervención gubernamental. “Creo que estoy viendo una tremenda autorregulación. Y ellos entienden que tienen que autorregularse”, afirmó. El mandatario calificó el acuerdo como “moralmente vinculante” y sostuvo que las propias compañías terminarán "vigilándose entre sí".
La definición está en línea con la postura que Trump ha defendido frente al creciente debate sobre los riesgos de la tecnología. Durante la jornada volvió a insistir en que EEUU no puede imponer restricciones que pongan en peligro su ventaja frente a China.
Consultado sobre las advertencias de que la IA podría provocar daños generalizados, Trump volvió a defender su potencial transformador y descartó poner trabas a su desarrollo. “Jamás frenaré el desarrollo de una tecnología que será más grande que la Revolución Industrial”, afirmó.
El mandatario también aseguró que en los próximos tres o cuatro días definirá un zar de la IA.
La confianza de Trump en la tecnología tuvo una demostración concreta horas antes del almuerzo. El mandatario presentó America.gov, una plataforma impulsada por IA destinada a facilitar el acceso de los ciudadanos a los servicios del gobierno federal y que incorpora un chatbot para ayudarlos a navegar entre miles de páginas gubernamentales.
Discrepancias
Pese al acuerdo en torno a estándares voluntarios, entre los ejecutivos persisten diferencias sobre los riesgos de la IA y la respuesta que estos requieren.
Zuckerberg explicó que los principios contemplan revisiones internas de riesgos y auditorías externas, además de distintas capas de controles sobre los sistemas. Anthropic, OpenAI y Google habían trabajado antes de la cita en propuestas de autorregulación vinculadas a pruebas y auditorías, aunque el alcance y los mecanismos de aplicación del acuerdo todavía no estaban claros.
Huang ha defendido que la seguridad debe ser una prioridad, pero discrepa de que una mayor regulación sea la respuesta. “La seguridad de la IA es primordial. Nada podría ser más importante”, dijo la semana pasada a CNN, donde planteó que los agentes deben operar con sistemas de contención, monitoreo y controles de acceso. “No estoy en contra de la regulación. ¿La situación actual requiere regulación para hacer las cosas bien? La respuesta es no”, afirmó. A su juicio, las compañías deben asumir directamente la responsabilidad por sus modelos: si consideran que un producto no es seguro, “simplemente no lo lance”.
Una posición diferente ha planteado Amodei, quien ha advertido sobre riesgos existenciales asociados a los modelos más avanzados y ha pedido moderar el ritmo de desarrollo de la frontera tecnológica. “El mecanismo para abordar esos riesgos todavía está en discusión”, afirmó el CEO de Anthropic, quien había cenado con Trump el domingo, antes del encuentro de este martes.
Karp, en tanto, puso el foco en combinar seguridad y utilidad. “La IA tiene que funcionar para el combatiente. Tiene que funcionar para las empresas. Tiene que ser segura, tiene que ser poderosa”, afirmó el CEO de Palantir.
El acuerdo voluntario, sin embargo, no resuelve una de las principales críticas al modelo impulsado por la Casa Blanca: quién fija los estándares, verifica su cumplimiento y actúa cuando las compañías no los respetan. El investigador visitante de Brookings y exjefe de la Comisión Federal de Comunicaciones de EEUU, Tom Wheeler, había advertido antes del encuentro que reconocer los riesgos no equivale a contar con un mecanismo capaz de contenerlos.
“La supervisión es un recipiente vacío hasta que se toman decisiones sobre quién escribe las reglas, a quiénes se aplican, cómo se verifica su cumplimiento y cómo se hacen cumplir”, planteó Wheeler. Su crítica apunta directamente a entregar a las mismas empresas un papel central en el diseño y aplicación de sus controles. Según el investigador, cuando los regulados escriben las reglas pasan a actuar como “pseudogobiernos”, con normas determinadas y aplicadas por ellos mismos.
Durán comparte parte de esa cautela, aunque considera que todavía es necesario observar cómo funciona el esquema anunciado este martes. “Aún queda un tiempo” para determinar si la autorregulación será efectiva, señaló, advirtiendo que los laboratorios de frontera avanzan más rápido que las capacidades de escrutinio de “cualquier Estado”. A su juicio, el desarrollo de los modelos debería complementarse con mecanismos “transparentes, conocidos y escrutables” para revisar los estándares antes de que lleguen al mercado.
La advertencia del Papa
El debate tuvo este martes un contrapunto desde el Vaticano. Horas antes del encuentro en la Casa Blanca, el Papa León XIV cuestionó directamente la posición de Huang y pidió no restar importancia a las advertencias sobre los riesgos de la tecnología.
El pontífice destacó que Nvidia presentó nuevas herramientas de seguridad para desarrolladores de modelos, pero contrapuso esa iniciativa con la resistencia de su CEO a una mayor regulación. “Él es el mismo que dice que no deberían imponerse límites ni existir regulación gubernamental”, señaló. “Sí creo que las preocupaciones planteadas por muchos de los expertos y especialistas en IA deberían tomarse en serio”.
Sin embargo, León XIV descartó una visión alarmista. “¿Estoy en modo pánico? No lo estoy. Duermo por las noches”, dijo. “Este es un problema sobre el que creo que tenemos que sentarnos y conversar”.
La intervención se produjo después de que Nvidia presentara un nuevo conjunto de herramientas para supervisar la actividad de los agentes de IA, incluido Sentry, un sistema que rastrea su comportamiento. “Justo hoy, leí que el responsable de Nvidia afirma haber encontrado alguna forma de incorporar ciertas salvaguardas a la IA”, sostuvo el Papa, dando cuenta de su seguimiento del asunto.
VER MÁS
MARKET DATA
<%userdata?.email%>
Editar perfil
Credencial
Salir
(Twitter)
Instagram
Facebook
LinkedIn
YouTube
TikTok
Alto contraste
IA
{{/if}}
