Agustín Covarrubias terminó este año su último semestre de Ingeniería en la UC. “Lo chistoso es que todavía no me puedo licenciar porque me falta la práctica obrera”, dice. Tiene 25 años, vive en Chile y desde acá codirige una organización inscrita en Estados Unidos que el 2 de septiembre anunció que había conseguido US$ 50 millones.
Se llama Kairos y busca encontrar y preparar a personas para que trabajen en seguridad de la inteligencia artificial, es decir, en cómo evitar que los modelos de IA más avanzados causen daños graves. Su programa más grande es SPAR, un programa online donde investigadores con experiencia guían a principiantes en proyectos de tres meses sobre seguridad de IA. También financia a estudiantes que arman grupos sobre el tema en sus universidades y hace talleres de tres días para quienes quieren cambiarse al área. Después los ayuda a conseguir trabajo.
Después de ChatGPT
Entre 2021 y 2023, Covarrubias trabajó en la Fundación América Transparente, donde creó Dueños Directos, un buscador para saber quiénes son los dueños de las empresas. En la UC presidió el grupo de Altruismo Eficaz, un movimiento que busca poner la plata y el trabajo donde más bien hagan.
- ¿En qué momento te metiste en seguridad de IA y qué fue lo que te convenció de dedicarte a eso?
- Me metí a fines de 2022, justo después de que salió ChatGPT. Llevaba un tiempo leyendo sobre los riesgos de la inteligencia artificial, pero todo sonaba a ciencia ficción. La idea de que la IA pudiera automatizar gran parte del trabajo intelectual humano, o de que pudiéramos perder el control sobre ella, parecía algo para dentro de varias décadas (o quizás siglos). ChatGPT me cambió esa intuición. Me di cuenta de que esto estaba mucho más cerca de lo que pensaba, y que el plazo para prepararnos como sociedad iba a ser muy corto”.
En 2023 fundó con otros estudiantes un grupo de seguridad de IA en la UC y participó en SPAR, el mismo programa que hoy maneja Kairos, donde le tocó trabajar con un investigador de Anthropic. En febrero de 2024 entró al Centre for Effective Altruism a apoyar a grupos de seguridad de IA en distintos países. Seis meses después sacó ese trabajo a una organización propia junto a Neav Topaz, que había trabajado en Akamai. Así partió Kairos, en agosto de 2024.
El primer millón
- ¿Cómo se consiguen US$ 50 millones para una organización sin fines de lucro?
- Fue el resultado de una relación de dos años. Coefficient Giving, una de las filantropías más grandes de Estados Unidos, nos donó cerca de US$ 1 millón cuando partimos, a mediados de 2024, para probar una tesis: que podíamos atraer grandes cantidades de talento a trabajar en seguridad de IA. Eso ya fue una apuesta muy grande en nosotros, porque en ese momento éramos sólo mi cofundador y yo. Como contexto, en ese entonces había menos de mil personas trabajando en el tema en todo el mundo.
Coefficient Giving se llamaba Open Philanthropy hasta noviembre de 2025 y está ligado a Dustin Moskovitz, cofundador de Facebook. “Hablamos con varias otras filantropías, pero Coefficient es por lejos la que más gasta en este tema, así que fue la opción obvia”, dice Covarrubias. A los estadounidenses lo que más les importaba, dice, era ver evidencia de impacto. SPAR, que Kairos tomó cuando partió, pasó de 50 investigadores principiantes a más de 800 en la ronda actual. El programa para organizadores de grupos universitarios pasó de 15 a más de 100 por semestre. Y según Kairos, unas 80 personas que pasaron por sus programas hoy trabajan a tiempo completo en organizaciones de seguridad de IA.
“A principios de este año, Coefficient Giving decidió aumentar fuertemente su gasto en seguridad de IA, y fueron ellos quienes se nos acercaron para pedirnos que fuéramos más ambiciosos”, dice.
En LinkedIn, Covarrubias contó que en febrero él y su cofundador Topaz se encerraron una semana en medio del bosque a escribir lo que llamaron el “Big Plan”. “Pasamos seis meses con mi cofundador armando un plan estratégico que los convenciera”, dice. El resultado fueron US$ 50 millones para dos años, que según Kairos es uno de los compromisos más grandes que Coefficient Giving ha hecho para formar gente en el área. Es una donación, así que nadie se queda con una parte de la organización a cambio.
La plata llega en dos etapas. Ya recibieron US$ 16 millones y el resto, dice Covarrubias, se desbloquea apenas terminen de armar su directorio.
Como una startup
- ¿Por qué quieres hacer esto y no una startup?
- Al final del día operamos como una startup. Nos movemos igual de rápido, contratamos con sueldos súper competitivos, etc. La única diferencia es que no hay equity de por medio, lo que tiene sentido dado que nos financian donaciones. Si hubiésemos sido una empresa nunca hubiésemos podido levantar tanto capital filantrópico, y al final tampoco hice esto por plata.
- Pero en cuanto a tu motivación, ¿por qué algo non profit?
- Desde mi punto de vista, este es probablemente el problema más importante del mundo. Y cuando me metí a trabajar en esto, había súper pocas personas pensando al respecto. Para mí era la oportunidad perfecta de meterme a trabajar en algo donde pudiese tener muchísimo impacto”.
Confiesa que ha conversado con empleados de OpenAI que le dicen cosas como “me preocupa que la IA literalmente acabe con toda la humanidad, pero no me queda otra que hacer lo que puedo para dirigir la tecnología en la dirección correcta”.
El enjambre
- ¿Cómo explicarías en pocas palabras qué riesgo intentan evitar y por qué hace falta formar gente para eso?
- Nos preocupa que la sociedad no está preparada para lidiar con inteligencia artificial muy avanzada. La frontera de la IA se mueve muy rápido: pasamos de modelos que apenas podían escribir frases coherentes a modelos capaces de resolver los problemas más difíciles de toda la matemática, como el problema de Navier-Stokes el mes pasado.
Esto crea dos desafíos. Por un lado, todavía no sabemos controlar bien esta tecnología. En julio tuvimos evidencia muy concreta de esto: cientos de agentes de IA de OpenAI se escaparon de un entorno de pruebas, se coordinaron entre ellos como un “enjambre” y terminaron hackeando a otra empresa, Hugging Face, sin que ningún humano se los pidiera. Por otro lado, incluso si logramos controlarla, no estamos preparados para sus impactos en la sociedad: el desempleo masivo, o la concentración de poder en las pocas empresas que están en la frontera”.
Su foco, dice, es formar personas que puedan trabajar en esos problemas desde las políticas públicas, fundando organizaciones o haciendo investigación técnica.
Para la ronda actual de SPAR recibieron 6.000 postulaciones, más del doble que seis meses antes. “Muchos postulantes nos cuentan que fue justamente algo como lo de Hugging Face lo que los hizo interesarse en el tema”, dice.
Kairos quiere llegar a 30 personas a comienzos de 2027. La plata va a ir a equipos nuevos para los grupos universitarios y los talleres, a una base de datos de candidatos para que otras organizaciones encuentren gente más rápido y a una incubadora de organizaciones nuevas, que parte a comienzos del próximo año.
El equipo es remoto, con gente en Estados Unidos, Portugal, Reino Unido, Canadá y Chile. Acá están Antonia Boetsch, chilena, y Rob Gledhill, un británico que vive en el país y está a cargo de las operaciones.
“Cada vez vemos más chilenos participando en nuestros programas”, dice Covarrubias. “Ahora hay toda una comunidad del tema en Chile”.
VER MÁS
MARKET DATA
<%userdata?.email%>
Editar perfil
Credencial
Salir
(Twitter)
Instagram
Facebook
LinkedIn
YouTube
TikTok
Alto contraste
Juan Pablo Silva
