Uno es una excepción; dos, casualidad; pero tres es tendencia. Bilal Chughtai, un ingeniero que trabajaba en alineamiento y seguridad de IA en la filial de Alphabet, ha sido la última voz en sumarse al coro que advierte que los actuales modelos de IA están avanzando a un ritmo peligroso.
"En Google fui testigo de primera mano del desarrollo de la IA. Yo también estoy extremadamente preocupado por la trayectoria de esta tecnología. Creo sinceramente que la IA tiene el potencial de matarnos a todos", escribió esta semana en X y LinkedIn.
Su carta forma parte de una cadena de dimisiones y avisos que en los últimos quince días ha alterado el tono de la conversación pública sobre la inteligencia artificial. A principios de mes, Jacob Coxon, un desarrollador de IA en Anthropic, dejó su trabajo y acusó a las empresas de "jugar con nuestras vidas" al "correr hacia una IA superinteligente". Coxon escribió que quienes construyen estos sistemas creen de verdad que podrían matarnos a todos antes de que acabe la década pero a pesar de ello, siguen trabajando para hacerlos más avanzados.
Josh Engels, que trabajó con Chughtai en el equipo de seguridad para de inteligencia artificial en Google DeepMind, fue el segundo caso importante. El 13 de septiembre anuncio que había dejado su puesto en Google y rechazado ofertas de OpenAI y Anthropic para seguir trabajando en el desarrollo de modelos. En su lugar, se ha incorporado a METR, un grupo dedicado a la evaluación independiente de sistemas de IA, y advierte de que existe una "posibilidad aterradora" de que la IA cause daños reales en los próximos cinco años si no se mantiene el ritmo de las comprobaciones de seguridad.
Otro investigadores e ingenieros que aún trabajan en estos laboratorios también se han mostrado más preocupados últimamente por los peligros que podrían derivar de futuros modelos de lenguaje. Daniel Selsam, responsable de seguridad en OpenAI, cree que dentro de poco los modelos reconocerán los entornos de evaluación, serán capaces de engañar u ocultar información a los humanos y las pruebas de seguridad dejarán de ser fiables.
TAMBIÉN SUS JEFES
Desde lo alto de sus organizaciones, el mensaje es sorprendentemente parecido. Durante el fin de semana, el consejero delegado de Anthropic, Dario Amodei, publicó un ensayo de 3.800 palabras en el que pide a la comunidad de IA a ralentizar el desarrollo de los sistemas más avanzados para evitar que escapen al control humano. El texto, titulado "Debemos bajar el ritmo en la frontera" aclara que ir más despacio no significa detener el entrenamiento de modelos, sino dar a las empresas tiempo suficiente para alinear y proteger sus sistemas, y a evaluadores externos para confirmar que todo funciona como debería.
Amodei cita dos motivos. El primero es la capacidad creciente de los sistemas para construir versiones futuras de sí mismos, la llamada automejora recursiva. El segundo fue un incidente de julio en el que un enjambre de hasta 1.200 agentes de IA escapó de un entorno de pruebas en OpenAI y lanzó ciberataques fuera de su tarea asignada.
Elon Musk dio la razón a Amodei en X y Sam Altman, al frente de OpenAI, escribió poco después que coincide con Amodei en la necesidad de marcar el ritmo de la frontera, y que OpenAI también dará acceso a evaluadores externos.
ESCÉPTICOS
Pero no todo el mundo compra el argumento. Los críticos de Amodei sugieren que el ensayo tiene tanto de posicionamiento de mercado como de seguridad. El inversor Chamath Palihapitiya escribió en X que Dario, lo que busca en realidad, es acabar con modelos de código abierto y concentrar un enorme poder tecnológico y económico en Anthropic. La idea ha encontrado también resistencia en el gobierno. Donald Trump rechazó el planteamiento el domingo, argumentando que cualquier reducción del ritmo erosionaría la ventaja de Estados Unidos sobre China. El Ministerio de Exteriores chino, por su parte, ha calificado las advertencias de "alarmismo".
Chughtai, pese a todo, no se ha despedido como un profeta del apocalipsis. Dice ser optimista sobre la posibilidad de navegar la IA de forma segura, y su próximo trabajo se centrará en eso. Según su perfil de LinkedIn, ahora trabaja para BlueDot Impact, una organización sin ánimo de lucro que forma a personas de distintos campos en seguridad de IA.
Esta es una de las claves que los escépticos señalan para dar contexto a esta ola de dimisiones. Ninguno de estos ingenieros se ha retirado al campo a esperar el fin del mundo. Se están marchando a organizaciones independientes que evalúan y forman a laboratorios de IA y que tienen especial interés en que el discurso de los peligros de la IA siga activo.
Coxon iba a unirse esta semana a un evento en Washington donde dos figuras ideológicamente opuestas, el senador progresista Bernie Sanders y el ideólogo del movimiento MAGA Steve Bannon, harán un llamamiento a una mayor regulación en el sector, aunque finalmente no participará.
