Anthropic pide frenar el avance de la inteligencia artificial más poderosa. Anthropic, una de las compañías líderes en el desarrollo de inteligencia artificial, propuso una pausa global en la creación de sistemas cada vez más avanzados, al advertir que los modelos más recientes muestran señales que podrían dificultar su control por parte de los seres humanos.
La empresa, responsable de los modelos Claude, señaló en un informe que una desaceleración coordinada del desarrollo de la inteligencia artificial de vanguardia sería beneficiosa para permitir que la investigación en seguridad y los marcos regulatorios avancen al mismo ritmo que la tecnología.
Sin embargo, la compañía reconoció que una pausa solo tendría efecto si es aplicada de manera simultánea por las principales empresas y gobiernos involucrados en la carrera tecnológica, especialmente en Estados Unidos y China.
Anthropic pide frenar el avance de la inteligencia artificial más poderosa
Según Anthropic, la falta de mecanismos internacionales de coordinación obliga a empresas y países a tomar decisiones complejas en medio de una fuerte competencia tecnológica y geopolítica.
La propuesta surge en un contexto de creciente debate sobre los riesgos asociados a la inteligencia artificial avanzada. Diversos expertos han advertido que estos sistemas son capaces de realizar tareas cada vez más complejas y podrían acelerar significativamente su propio desarrollo.
Uno de los puntos señalados por la empresa es la llamada “mejora recursiva”, un escenario teórico en el que una inteligencia artificial adquiere la capacidad de optimizarse a sí misma sin intervención humana.
Aunque Anthropic aclaró que todavía no se ha alcanzado ese nivel y que no considera inevitable que ocurra, sostuvo que existen indicios de que el papel humano dentro de los procesos de desarrollo se está reduciendo progresivamente.
La compañía anunció además que buscará reunir durante los próximos meses a científicos, autoridades gubernamentales, organizaciones de la sociedad civil y empresas tecnológicas para debatir posibles mecanismos de supervisión internacional.
Mientras tanto, la propuesta enfrenta resistencia en sectores políticos y tecnológicos de Estados Unidos, donde algunos consideran que ralentizar el desarrollo de la inteligencia artificial podría otorgar ventajas estratégicas a China en una de las áreas tecnológicas más importantes de la actualidad.
Con información de AFP.
