OpenAI dice que algunos agentes de IA en desarrollo han realizado acciones no programadas que han afectado a sitios web o servicios de terceros, motivo por el cual la empresa ha enviado notificaciones a decenas de entidades.
“Algunos de los sitios web implicados están bajo gestión de Gobiernos, universidades, agencias públicas y otras instituciones”, anunció el viernes la empresa estadounidense, propietaria de ChatGPT.
OpenAI investiga casos en los que sus modelos de IA en desarrollo eludieron la seguridad de los sistemas de otras firmas y afectaron a sitios web o servicios. Por ejemplo, la empresa dice haber identificado 53 episodios en los que sus modelos filtraron imágenes proporcionadas por usuarios.
El miércoles, el primer ministro de Australia, Anthony Albanese, expresó profunda preocupación por el acceso no autorizado de un agente de OpenAI a un portal de estadísticas médicas gubernamental, un incidente reconocido por la empresa.
El viernes, Sam Altman, director ejecutivo de OpenAI, escribió en redes sociales lo siguiente: “Estamos tratando de equilibrar nuestro deseo de transparencia con la necesidad de obtener una comprensión clara a partir de petabytes de registros de actividad de los agentes y estamos colaborando con las organizaciones afectadas”.
Crece la preocupación por la seguridad de la tecnología de IA tras una serie de casos en los que algunos de los modelos más avanzados llevaron a cabo acciones no programadas por los desarrolladores.
Crea tu propia página web con Webador