La compañía de inteligencia artificial Anthropic ha advertido públicamente que los sistemas de IA actuales avanzan hacia la capacidad de generar versiones mejoradas de sí mismos de manera autónoma, sin requerir la participación directa de ingenieros humanos en cada etapa del proceso, según información difundida por Yahoo Finanzas.
De acuerdo con la fuente, Anthropic —una de las empresas líderes en el desarrollo de modelos de lenguaje avanzados— señala que esta tendencia plantea interrogantes relevantes sobre el control, la seguridad y la supervisión de los sistemas de inteligencia artificial en el mediano plazo. La compañía no precisó un calendario concreto para que este tipo de capacidad se materialice de forma plena, pero sí subrayó que los avances actuales apuntan en esa dirección.
El aviso forma parte de una postura que Anthropic ha mantenido en torno a la llamada «seguridad en IA», un área de investigación orientada a garantizar que los modelos actúen dentro de parámetros definidos por sus desarrolladores y no generen comportamientos no previstos. La empresa ha insistido en la necesidad de establecer marcos regulatorios y técnicos antes de que estas capacidades estén ampliamente disponibles.
La posibilidad de que un sistema de inteligencia artificial diseñe y entrene nuevas versiones de sí mismo sin supervisión constante es considerada por especialistas del sector como uno de los desarrollos más complejos de gestionar desde el punto de vista de la seguridad tecnológica. La automodificación o automejora de sistemas de IA es un tema que concentra atención creciente en foros académicos y organismos reguladores de distintas regiones.
Hasta el momento, Anthropic no ha detallado públicamente los mecanismos técnicos específicos que sustentan esta advertencia ni los datos experimentales que la respaldan, conforme a lo reportado por la fuente consultada.
Fuente: Yahoo Finanzas
