
El magnate coincide en la necesidad de desacelerar la inteligencia artificial por riesgos de seguridad
Elon Musk ha respaldado a los directivos de Anthropic y OpenAI en su petición de desacelerar el desarrollo de la inteligencia artificial debido a los riesgos de seguridad y la disrupción económica que representa.
AI-generated summary
Elon Musk respalda la propuesta de Dario Amodei de Anthropic para ralentizar el avance de la inteligencia artificial debido a los riesgos de seguridad.
El magnate Elon Musk ha coincidido con sus rivales, Dario Amodei de Anthropic y Sam Altman de OpenAI, en la necesidad de desacelerar el desarrollo de la inteligencia artificial (IA) por los riesgos de seguridad que representa.
Musk, creador de la compañía xAI de inteligencia artificial, ha respaldado en X el pronunciamiento de Amodei, quien publicó un ensayo en el que pidió a la industria "un ritmo más lento" en el desarrollo de esta tecnología por riesgos como perder el control de los sistemas de IA y disrupción económica. "Dario tiene razón", ha escrito este sábado Musk en su red social, X.
Con ello, el fundador de Tesla se ha sumado a Altman, quien este sábado también apoyó el llamamiento de Amodei para moderar la velocidad de la IA.
Los líderes de OpenAI y Anthropic anunciaron que sus compañías permitirán que evaluadores independientes auditen sus sistemas, algo que Musk no indicó de manera expresa para su empresa.
En su ensayo, Amodei advirtió del mal uso de la IA para posibles ciberataques y bioterrorismo al considerar que, "desde este verano, la inteligencia artificial ha ido avanzando a un ritmo drásticamente más rápido, impulsada principalmente por la creciente capacidad de la propia IA para desarrollar la próxima generación de IA".
The creador de Anthropic se refirió en concreto al incidente de los agentes de OpenAI contra la empresa Hugging Face, en el que un enjambre de agentes actuó "como un colectivo fanáticamente entregado: llevaron a cabo ciberataques contra objetivos que no se les había asignado y que nada tenían que ver con la tarea en curso".
Para atajar la amenaza, Amodei planteó una estrategia en tres fases orientada a regular el ritmo de la tecnología sin ceder la ventaja estratégica a países como China.
El directivo concluyó que ralentizar el avance aportaría uno o dos años cruciales para que la comunidad investigadora domine el alineamiento y la interpretabilidad de los modelos, garantizar un debate público adecuado y reducir el riesgo de que la tecnología escape al control de la sociedad.
El escrutinio sobre la IA creció esta semana, cuando un investigador de Anthropic renunció por la preocupación de que la empresa y sus competidores no estuvieran desarrollando modelos de IA de manera responsable.

European astronaut Thomas Pesquet announces his third mission to the ISS on a SpaceX ship, while Europe debates its dependence on the US in space and proposes the IRIS program with 348 satellites for 2029-2030, facing an investment gap of up to six times less than the United States.

The Spanish Government is debating regulations for data centers after experiences in the US and Ireland that show increases in electricity rates and temporary employment. Óscar Puente defends Renfe in the face of recent incidents, while Elon Musk achieves $3 billion for The Boring Company with working conditions for investors. In addition, initiatives are launched to prevent suicide through campaigns and a health surveillance system.

Anthropic publishes a report revealing that it blocked five cases of malicious use of its AI models to develop biological and conventional weapons, including attempts to create more dangerous viruses and guided missiles, carried out by state actors, gangsters and individuals using dark methods to access Claude.

Uber receives authorization from the DGT to carry out tests of level 4 autonomous cars in Madrid, becoming the first company to achieve this in the capital together with its technological partners.

Apple launches the iPhone Duo, its first folding device, with a 5.4-inch exterior and 7.6-inch interior screen, Touch ID, compatibility with Apple Pencil and A20 Pro chip. Available in Spain from 2,339 euros for the 256 GB model.

Red.es has initiated a technological transition to gradually replace Huawei equipment in the RedIRIS academic network. Through new maintenance contracts, the agency seeks to ensure current operation while preparing a tender to replace the infrastructure.