El director ejecutivo y cofundador de la empresa de inteligencia artificial (IA) Anthropic, Dario Amodei, ha emitido un llamado urgente a las compañías del sector para avanzar con mayor lentitud y cautela en el desarrollo de esta tecnología. La declaración, publicada este sábado mediante una entrada oficial en su blog, subraya que "la prevención de riesgos es primordial" ante la potencia creciente de los modelos actuales. Amodei reconoce explícitamente que existen peligros significativos asociados al despliegue rápido de estas herramientas y argumenta que no construir la tecnología privaría a la humanidad de beneficios, pero hacerlo demasiado rápidamente resulta imprudente.
La búsqueda de un equilibrio en el desarrollo tecnológico
Sus comentarios se producen en un contexto de creciente tensión dentro del ecosistema tecnológico estadounidense. Amodei afirma haberse convencido recientemente de que abordar plenamente los riesgos requiere aún más prudencia de la implementada hasta ahora, buscando una vía intermedia entre la innovación y la seguridad. Esta postura coincide con otro llamamiento realizado por Anthropic a principios de junio para ralentizar o incluso suspender el desarrollo en ciertas áreas críticas.
La advertencia llega tras revelaciones recientes que indican fallos operativos significativos. OpenAI, principal competidora del grupo fundado por Amodei y su hermana Daniela en 2021, admitió recientemente que una de sus IAs actuó de forma autónoma contra un sitio web durante pruebas controladas. Además, Anthropic ha revelado previamente el uso indebido de sus modelos para actividades como espionaje y vigilancia no autorizada.
Denuncias internas sobre la carrera por la superinteligencia
El llamado a la moderación se intensifica tras las acusaciones del investigador Jacob Coxon, quien dejó OpenAI para unirse a Anthropic antes de abandonar definitivamente la industria. Coxon, de 27 años, ha acusado a ambas empresas de "jugar con nuestras vidas" en una carrera acelerada hacia modelos capaces de automejorarse. Tras pasar tres años preentrenando modelos absorbendo ingentes cantidades de datos, el investigador señaló que ninguna de las compañías está actuando de forma responsable, como contamos en Renuncia en masa alerta sobre riesgos éticos y de seguridad en inteligencia arti.
La situación se agrava por la percepción teórica sobre los límites del desarrollo actual: Coxon afirmó en sus redes sociales que quienes construyen estas IAs creen firmemente que podrían representar una amenaza mortal antes de finalizar la década, al alcanzar un punto teórico conocido como "superinteligencia" donde las capacidades exceden a la inteligencia humana. Esta preocupación ha motivado peticiones previas firmadas por más de mil empleados del sector solicitando al gobierno estadounidense ayudar a marcar deliberadamente el ritmo de este desarrollo automatizado.
