La carrera mundial por desarrollar una inteligencia artificial cada vez más poderosa enfrenta un giro importante: algunos de los principales líderes de la propia industria están pidiendo reducir el ritmo para dar más tiempo al desarrollo de medidas de seguridad.
Dario Amodei, CEO de Anthropic, advirtió sobre los riesgos asociados con el rápido avance de estos sistemas y planteó desacelerar el desarrollo de nuevas capacidades. Sus preocupaciones han encontrado respaldo en otros importantes protagonistas de la industria, entre ellos Sam Altman, CEO de OpenAI.
Las advertencias no se limitan a escenarios futuristas. Entre las preocupaciones aparecen el posible uso malicioso de modelos avanzados, ciberataques y sistemas capaces de realizar acciones con una autonomía cada vez mayor. El debate se centra ahora en si las medidas de seguridad están avanzando con suficiente rapidez para acompañar las nuevas capacidades de la IA.
La reacción llegó también a los mercados. Las acciones relacionadas con inteligencia artificial y semiconductores registraron fuertes caídas este lunes, con Nvidia y AMD entre las compañías afectadas, mientras las pérdidas se extendieron a empresas tecnológicas de Asia y Europa.
Consideramos que lo más importante de esta noticia es quién está lanzando la advertencia. Cuando los propios responsables de desarrollar algunos de los modelos de IA más avanzados consideran necesario discutir una desaceleración, el debate deja de ser solamente tecnológico y pasa a involucrar a gobiernos, empresas, inversionistas y reguladores.
Una reducción coordinada del ritmo podría dar más tiempo para desarrollar mecanismos de control, pero también sería difícil de aplicar en medio de la competencia tecnológica mundial. El desafío será encontrar un equilibrio entre continuar innovando y evitar que las capacidades de la inteligencia artificial avancen más rápido que nuestra capacidad para controlarlas.