OpenAI trabaja en el desarrollo de un sistema destinado a rastrear y detectar comportamientos potencialmente peligrosos en sus modelos de inteligencia artificial, según informó Telemundo con base en fuentes cercanas a la compañía.
La iniciativa forma parte de los esfuerzos continuos de la organización por reforzar la seguridad de sus sistemas de IA antes de que estos lleguen al público o se integren en productos comerciales. De acuerdo con la información disponible, el mecanismo permitiría identificar patrones de conducta que podrían representar riesgos para los usuarios o para terceros.
OpenAI no ha detallado públicamente la arquitectura técnica del sistema ni los criterios exactos que utilizará para clasificar un comportamiento como peligroso. Tampoco se ha precisado en qué fase de desarrollo se encuentra la herramienta ni cuándo podría estar operativa de manera plena.
El anuncio se produce en un contexto en el que gobiernos, organismos reguladores y expertos en tecnología debaten marcos normativos para supervisar el avance de la inteligencia artificial generativa. Diversas instituciones a nivel global han señalado la necesidad de contar con mecanismos de auditoría y control que operen de forma continua sobre los modelos en producción.
OpenAI ha impulsado en los últimos años distintas iniciativas de seguridad, entre ellas equipos dedicados a la evaluación de riesgos y protocolos de prueba previos al lanzamiento de nuevos modelos. Este nuevo sistema representaría una capa adicional de monitoreo en tiempo real, aunque los detalles concretos de su funcionamiento permanecen sin confirmar de manera oficial por parte de la empresa.
Fuente: Telemundo
