A partir de hoy, todos los usuarios de Cloudflare One, nuestra plataforma de perímetro de servicio de acceso seguro (SASE), pueden utilizar nuestro agente de seguridad de acceso a la nube (CASB) basado en la API para evaluar la postura de seguridad de sus herramientas de IA generativa: específicamente, ChatGPT de OpenAI, Claude de Anthropic y Gemini de Google. Las organizaciones pueden conectar sus cuentas de IA generativa y, en cuestión de minutos, comenzar a detectar los errores de configuración, las coincidencias de la Prevención de pérdida de datos (DLP), la exposición y el intercambio de datos, los riesgos de cumplimiento y mucho más, y todo ello sin tener que instalar software engorroso en los dispositivos de los usuarios.
Con el aumento de la adopción de la IA generativa en las empresas, los equipos de informática y de seguridad tienen dificultades para mantenerse al día acerca de los nuevos desafíos relacionados con la seguridad y el cumplimiento que suponen estas potentes herramientas. En este panorama en rápida evolución, los equipos de informática y de seguridad necesitan herramientas que faciliten la adopción de la IA y protejan la seguridad y la privacidad de sus redes y datos empresariales.
El CASB en API y el CASB en línea de Cloudflare colaboran para que las organizaciones puedan adoptar herramientas de IA con total seguridad. Las integraciones del CASB en API proporcionan visibilidad fuera de banda sobre los datos en reposo y la postura de seguridad dentro de las herramientas de IA más populares, como ChatGPT, Claude y Gemini. Al mismo tiempo, Cloudflare Gateway proporciona funciones de control de las instrucciones en línea y de identificación de la Shadow AI. Para ello, aplica políticas y DLP al tráfico de salida a estos proveedores de IA. Juntas, estas funciones proporcionan a las organizaciones un plano de control unificado para proteger su uso de la IA generativa.
ChatGPT, Claude y Gemini ya están disponibles en las integraciones compatibles con el CASB en API de Cloudflare. Estas integraciones están disponibles para todos los usuarios de Cloudflare One. Los propietarios de cuentas pueden conectar fácilmente sus inquilinos de IA generativa. Asimismo, CASB analizará los problemas de seguridad en varios dominios:
Conexiones sin agente: conecta ChatGPT, Claude y Gemini mediante integraciones sin agente basadas en API para analizar la postura de seguridad y los riesgos relacionados con los datos, sin necesidad de instalar ningún software en los puntos finales.
Gestión de la postura de seguridad: detecta las configuraciones poco seguras y los errores de configuración que pueden llevar a la exposición o al uso indebido de datos.
Detección de DLP: identifica dónde se han cargado datos confidenciales en los archivos adjuntos de chat (las instrucciones estarán disponibles próximamente).
Información específica sobre la IA generativa: identifica los riesgos asociados con las capacidades únicas de los conjuntos de herramientas de un proveedor de IA específico.
Los administradores ahora pueden responder diversas preguntas, como por ejemplo: ¿Qué están haciendo nuestros empleados en ChatGPT? ¿Qué datos se están cargando y utilizando en Claude? ¿Está configurado correctamente Gemini en Google Workspace?
Analicemos ahora más detenidamente cada una de estas integraciones.
La integración del CASB de Cloudflare con ChatGPT de OpenAI analiza varios tipos de información, entre ellos:
Exposición externa: encuentra los chats y los GPT que se comparten más allá del inquilino, como los GPT compartidos públicamente o que figuran en el GPT Store, y los vincula a sus propietarios para una evaluación rápida.
Secretos, claves e invitaciones: identifica las claves API que no se renuevan o que ya no se utilizan, a fin de garantizar la integridad de las credenciales. Identifica las invitaciones obsoletas o con demasiados privilegios.
Contenido confidencial (mediante DLP): detecta datos confidenciales (p. ej. credenciales y secretos, información financiera/sanitaria, código fuente, etc.) mediante coincidencias de perfiles DLP en los archivos adjuntos de chat cargados, a fin de permitir una respuesta específica.
Para Claude, Cloudflare puede ofrecer las siguientes medidas de detección fuera de banda:
Secretos, claves e invitaciones: detecta las invitaciones de riesgo alto y la desviación de derechos en una etapa temprana, a fin de garantizar un estricto control de acceso de privilegio mínimo. Detecta las claves API no utilizadas y los fallos de rotación antes de que se conviertan en puertas abiertas olvidadas.
Contenido confidencial (a través de DLP): supervisa los datos confidenciales en los archivos cargados para ayudar a las organizaciones a activar con total seguridad el uso de Claude y garantizar la conformidad. Los equipos de seguridad reciben esta información tan pronto como el CASB la detecta, por lo que se benefician de la visibilidad necesaria para ayudar a los empleados a utilizar Claude de manera productiva y segura, incluso con datos confidenciales.
A medida que Anthropic continúe ampliando las capacidades y funciones de la API de Claude, Cloudflare añadirá las medidas de detección de seguridad correspondientes para adaptarse a las nuevas funciones conforme estas estén disponibles.
Las medidas de detección de Cloudflare para Google Gemini aparecen como parte de nuestra integración del CASB en API para Google Workspace:
Identidad y autenticación multifactor (MFA): identifica a los usuarios y administradores de Gemini que no han activado la MFA, por lo que son algunos de los principales objetivos en los intentos de exposición. Imagina que un administrador informático depende de Gemini a diario para procesar los datos corporativos, pero no ha activado la autenticación multifactor en su cuenta de Google Workspace. Un correo electrónico de phishing que logre su objetivo podría otorgar a un atacante acceso privilegiado a Gemini y a todo el entorno de Google Workspace. Lo que en un principio era un simple descuido podría convertirse en una brecha de seguridad para toda la organización.
Integridad de las licencias: detecta las cuentas suspendidas que aún cuentan con licencias de Gemini o AI Ultra, a fin de reducir los costes y la exposición. Un usuario de AI Ultra tiene acceso a funciones más potentes y con mayor riesgo, como Project Mariner, un prototipo de investigación que actúa como un agente autónomo, con capacidad para automatizar hasta 10 tareas simultáneamente en los navegadores web. Poniendo en riesgo a estos usuarios, un atacante puede causar más daños. Por este motivo lo incluimos en nuestro conjunto de medidas de detección.
La integración de Gemini tiene un alcance más limitado porque Google ha estructurado su producto y su API de manera diferente a los de OpenAI o Anthropic. Para las organizaciones, Gemini se entrega como un complemento de Google Workspace. Las empresas activan las funciones de Gemini en Gmail, Documentos, Hojas de cálculo y otras aplicaciones de Google Workspace mediante licencias adicionales como Gemini Enterprise o AI Ultra. Nuestras medidas de detección de CASB se centran en la identidad, la autenticación multifactor y la integridad de las licencias, no en problemas relacionados con la postura de seguridad como el intercambio público o la publicación de asistentes personalizados, ya que Gemini aún no proporciona esos puntos finales de la API.
El futuro de la gestión de la postura de seguridad de la IA generativa
Al igual que infinidad de otras organizaciones, Cloudflare adopta la IA generativa y se ha embarcado en un proceso que permitirá que estos entornos sean aún más seguros de lo que son hoy en día. Nos complace ampliar la cobertura de nuestras capacidades de gestión a nuestros clientes para que puedan seguir innovando con la IA generativa. Sin embargo, mirando al futuro, nos complace ver que los proveedores de IA generativa están adoptando medidas concretas para integrar aún más estrechamente en sus plataformas los principios de seguridad, conformidad y privacidad de los datos.
Proteger la IA generativa más allá del alcance de los controles en línea
La adopción de la IA generativa conlleva nuevos requisitos de seguridad. El CASB de Cloudflare proporciona visibilidad fuera de banda sobre estas herramientas, identificando información adicional a los controles en línea. Con la postura de seguridad, el acceso y los datos bajo control, las organizaciones pueden adoptar la IA generativa con total confianza y seguridad.
Cómo empezar:
Clientes actuales de Cloudflare One: contacta con tu gestor de cuenta o activa las integraciones directamente en tu panel de control hoy mismo.
¿Eres un nuevo cliente de Cloudflare One? Regístrate ahora para obtener 50 usuarios gratuitos y comenzar a utilizar de inmediato la IA generativa, con total seguridad. Para implementaciones más grandes, solicita una consulta con nuestros expertos.
Si deseas acceder a una vista previa de otras funciones nuevas y contribuir a definir nuestra hoja de ruta, te invitamos a manifestar tu interés por nuestro programa de investigación para usuarios sobre seguridad de la IA.