Jensen Huang, de Nvidia, y Mark Zuckerberg, de Meta, han rechazado los esfuerzos de los laboratorios de inteligencia artificial (IA) de frontera por coordinar una desaceleración de la investigación en nombre de la seguridad, argumentando que las compañías deberían abordar los riesgos de manera individual.
Los dos principales ejecutivos, en declaraciones separadas realizadas el martes, enfatizaron la responsabilidad de cada compañía de abordar las preocupaciones de que la investigación en IA pueda salirse de control y representar una amenaza para la humanidad.
Huang, quien se ha mostrado escéptico ante este tipo de advertencias existenciales, fue más allá al y señaló que no es necesario aprobar nuevas leyes o regulaciones en Estados Unidos sobre seguridad de la IA, y llamó a los laboratorios de IA a no caer en una “falsa dicotomía” entre la velocidad de la innovación y la capacidad de desarrollar productos seguros.
Los dos fundadores tecnológicos se pronunciaron después de que Dario Amodei, de Anthropic; Sam Altman, de OpenAI; y Elon Musk pidieran públicamente durante el fin de semana una desaceleración coordinada de la investigación para abordar adecuadamente los riesgos que plantea la IA.
Este raro momento de unidad entre los tres acérrimos rivales se produjo tras una creciente reacción pública y advertencias de investigadores de que una carrera desenfrenada por avanzar en IA podría provocar que los humanos perdieran el control de la tecnología, con consecuencias catastróficas.
Modelos abiertos
Zuckerberg, quien ha creado un importante laboratorio de IA dentro de Meta, y Huang, quien dirige al mayor proveedor mundial de hardware para IA -que además ofrece su propia gama de modelos de IA-, no se han sumado a esas propuestas de cooperación de la industria para “pausar el ritmo de la frontera”, pese a que Google y Microsoft han expresado su respaldo.
La división refleja diferencias más profundas dentro de la industria de la IA entre los principales desarrolladores de modelos propietarios “cerrados”, como OpenAI y Anthropic, y quienes defienden modelos “abiertos” y personalizables.
Huang ha destacado la importancia de los modelos abiertos para fomentar una adopción generalizada de la IA, mientras que Meta ha lanzado algunos modelos cerrados, pero en general ha defendido los sistemas abiertos. Algunos defensores de los modelos abiertos sostienen que las regulaciones o controles sobre el desarrollo beneficiarían a los grandes laboratorios que venden sistemas cerrados.
Huang sostuvo el martes que las compañías deberían concentrarse individualmente en no lanzar productos peligrosos.
“Las fuerzas del mercado ya están ahí, no necesitamos nuevas leyes, no necesitamos nuevas regulaciones”, dijo durante un evento con Marc Benioff, director ejecutivo de Salesforce, en San Francisco el martes.
“Si desarrollas un producto o servicio y no tienes confianza en su funcionalidad, capacidad o seguridad, entonces no lo lances”, dijo el jefe de Nvidia, cuya compañía es un importante inversionista en OpenAI, Anthropic y SpaceX. “Es algo muy obvio: marcas tu propio ritmo hasta tener la confianza de que estás lanzando algo que el mercado va a valorar”.
“Definitivamente puedes tener ambas cosas (innovación y seguridad) al mismo tiempo”, agregó Huang. “Así que corre tan rápido como puedas, pero si en algún momento sientes que la compañía está fuera de control o que los productos no van a ser seguros, sabes qué hacer: haz una pausa y corrígelo”.
El jefe de la compañía más valiosa del mundo se ha alineado con Donald Trump en contra de una desaceleración de la IA. Huang recibió una llamada telefónica del presidente mientras estaba sobre el escenario durante un evento el lunes, en el que Trump volvió a rechazar las preocupaciones existenciales sobre la tecnología calificándolas de “farsa”, y criticó las iniciativas destinadas a ralentizar la investigación estadounidense y la construcción de centros de datos.
“Tiene razón. No vamos a permitir que eso ocurra, señor”, respondió Huang.
Zuckerberg expuso sus puntos de vista en una publicación en X más tarde el martes, coincidiendo con el argumento de Huang de que la responsabilidad de garantizar la seguridad recae en cada laboratorio de IA.
“Cada laboratorio tiene la responsabilidad y el incentivo de avanzar al ritmo necesario para entrenar sus modelos de manera segura, y tiene la capacidad de tomar sus propias medidas para garantizar que eso ocurra”, escribió Zuckerberg. “Los laboratorios enfrentan una responsabilidad legal significativa si sus modelos causan daños, por lo que también tienen un fuerte incentivo para prevenirlos”.
Zuckerberg dijo que Meta retrasó durante varios meses el lanzamiento de su propio agente de IA: Muse, pero que “no pidió que todos los demás hicieran lo mismo antes de que nosotros lo hiciéramos”.
Agregó que sería útil contar con un ecosistema más amplio y diverso de evaluadores, expertos independientes utilizados por los laboratorios para evaluar modelos. Sin embargo, no se refirió a las propuestas de Anthropic para otorgar a estos evaluadores un mayor acceso.
VER MÁS
MARKET DATA
<%userdata?.email%>
Editar perfil
Credencial
Salir
(Twitter)
Instagram
Facebook
LinkedIn
YouTube
TikTok
Alto contraste
Nvidia
