Elon Musk se alineó este sábado con las posturas expresadas por Dario Amodei, director ejecutivo de Anthropic, y Sam Altman, de OpenAI, al considerar necesario reducir la velocidad con la que avanza la inteligencia artificial (IA), debido a los riesgos de seguridad asociados con esta tecnología.
El empresario, fundador de xAI, su propia compañía dedicada a la inteligencia artificial, manifestó en X su respaldo al planteamiento de Amodei, quien difundió un ensayo en el que instó a la industria tecnológica a adoptar "un ritmo más lento" en el desarrollo de la IA. Entre las amenazas señaladas se encuentran la posibilidad de que los sistemas lleguen a quedar fuera de control y las consecuencias de una fuerte disrupción económica.
"Dario tiene razón", afirmó Musk en X.
La postura del magnate también lo acercó a Sam Altman, quien ese mismo sábado expresó su apoyo a la propuesta de Amodei de moderar el ritmo de progreso de la inteligencia artificial.
Tanto OpenAI como Anthropic informaron que permitirán que especialistas independientes examinen y auditen sus sistemas. Musk, en cambio, no comunicó de forma explícita que xAI vaya a adoptar una medida equivalente.
Amodei alertó además sobre el posible uso de estas herramientas para cometer ciberataques o llevar a cabo acciones relacionadas con el bioterrorismo. Según explicó, "desde este verano, la inteligencia artificial ha ido avanzando a un ritmo drásticamente más rápido", un proceso que atribuyó principalmente a la capacidad cada vez mayor de la propia IA para contribuir al desarrollo de nuevas generaciones de inteligencia artificial.
Como ejemplo concreto, el responsable de Anthropic mencionó el episodio protagonizado por agentes de OpenAI frente a la compañía Hugging Face. De acuerdo con su descripción, un grupo de agentes operó "como un colectivo fanáticamente entregado" y llegó a realizar ciberataques contra objetivos que no formaban parte de las instrucciones recibidas y que tampoco guard cuyo propósito es controlar la velocidad de evolución de la IA sin que ello implique perder una posiciónaban relación con la tarea que estaban ejecutando.
Ante este panorama, Amodei propuso un plan dividido en tres etapas cuyo propósito es controlar la velocidad de evolución de la IA sin que ello implique perder una posición estratégica frente a países como China.
El directivo sostuvo que una desaceleración del progreso permitiría disponer de uno o dos años especialmente importantes para que los investigadores avancen en el dominio del alineamiento y la interpretabilidad de los modelos. Ese margen, añadió, serviría también para propiciar un debate público apropiado y disminuir la posibilidad de que la tecnología termine escapando después de que Jacob Coxon, investigador de Anthropic y antiguo trabajador de OpenAI, abandonara la empresa por considerar que tanto esta al control de la sociedad.
Las preocupaciones en torno a la supervisión y seguridad de la inteligencia artificial aumentaron durante esta semana después de que Jacob Coxon, investigador de Anthropic y antiguo trabajador de OpenAI, abandonara la empresa por considerar que tanto esta como sus competidores no estaban desarrollando sus modelos de forma suficientemente responsable.
Coxon sostuvo que las compañías estaban poniendo mayor énfasis en superar a sus rivales en la carrera por desarrollar IA que en garantizar la seguridad de los productos que ponen en circulación.
Síguenos en Facebook, Twitter,
Youtube ¡Dale click y ponte Adiscusión!.