Antes de enviar el código de su empresa y la contraseña a AI, ¿sabe quién verá ese mensaje eventualmente? La empresa de seguridad industrial Dragos anunció una prueba real el 19 de noviembre: de julio a noviembre, enviaron alrededor de 2 millones de "avisos de cebo" a varios servicios de inteligencia artificial de uso común. Cada uno ocultó una URL única y una clave de nube, y luego vio dónde se usaban estos secretos.

Según Dragosinforme de investigación, los resultados encontraron tres tipos de problemas: al menos tres proveedores de servicios de IA fueron pirateados, los vendedores en el mercado de reventa de IA echaron un vistazo a las palabras clave de los clientes y algunos proveedores de servicios ignoraron la configuración de "retención de datos cero", capturaron las palabras clave e incluso las enviaron de regreso a China. Dragos se refiere a las empresas involucradas en el informe con seudónimos y no las nombra públicamente.

Cómo configurar el cebo: cada palabra clave oculta una clave exclusiva

Dragos utiliza un "token canario": un conjunto de secretos que sólo existen en un lugar determinado. Siempre que alguien lo use, significa que el lugar ha sido filtrado. Cada mensaje viene con una clave de AWS real (conectada a una cuenta vacía, se registra todo el proceso), un nombre de dominio y una URL que nunca ha aparecido en ningún otro lugar.

Dragos dijo que los señuelos colocados en julio comenzaron a activarse en cuestión de días y todavía suenan hoy. También crearon una herramienta similar al "rastreo de ruta" para descubrir por qué intermediarios pasó realmente la solicitud. Rastrearon alrededor de 2.000 rutas, cientos de las cuales pasaban por sistemas no identificables, y algunas enviaron datos a empresas que no se encontraban en rutas públicas.

3 proveedores de servicios fueron pirateados y se utilizaron cientos de claves

Lo más grave es que tres proveedores de servicios que alojan modelos de IA fueron pirateados. Dragos señaló que los señuelos se procesaron junto con las solicitudes de clientes reales y que es casi seguro que los datos de los clientes se copiaron. Las primeras intrusiones se remontan a mediados de julio y ninguna de las tres empresas sabía que habían sido pirateadas hasta que Dragos les notificó.

El caso más grave fue que todas las solicitudes enviadas en algunos períodos a finales de octubre fueron robadas. Cientos de claves de AWS cayeron en manos de atacantes. Algunas solicitudes incluso fueron rechazadas por el proveedor de servicios antes de que se ejecutara el modelo, lo que significa que el atacante copió la solicitud en la entrada del proveedor de servicios. Algunas de las otras dos solicitudes robadas estaban marcadas con cero retención de datos, y Dragos dijo que la configuración de privacidad no ayuda cuando los piratas informáticos ya están dentro.

Después de que el atacante obtuvo la clave, probó si podía usarse en unas pocas horas, luego buscó claves y almacenamiento en la nube, y luego intentó activar el servicio de modelo de inteligencia artificial de AWS y crear su propia cuenta para mantener el acceso. En total, estas claves señuelo se utilizaron para llamar a la API de AWS decenas de miles de veces. Dragos cree que un atacante ha invadido dos proveedores de servicios al mismo tiempo y también ha utilizado una herramienta de prueba de penetración ARTEX impulsada por IA desde el 1 de noviembre.

Vendedores del mercado de reventa: abra un registro y espere a que lleguen las indicaciones a su puerta.

El segundo tipo de problema ni siquiera utiliza lagunas jurídicas. Algunos servicios de enrutamiento de IA son mercados abiertos y quien ofrece el precio más bajo toma el pedido. Dragos dijo que siempre que los vendedores marquen el precio más bajo en los modelos populares y abran el historial de solicitudes, podrán ver las palabras clave del cliente.

La mayoría de las personas que atraparon eran personas que intentaban iniciar sesión en una cuenta a la vez desde su red doméstica. En un ejemplo, Dragos envió dos mensajes rápidos a través del mismo vendedor. Aproximadamente un día y medio después, alguien usó la banda ancha doméstica para abrir dos URL secretas y comenzó a adivinar la cuenta de inicio de sesión; Las solicitudes de otros vendedores para el mismo modelo no fueron tocadas. Otro ejemplo es una Mac en Francia. Utilicé manualmente la contraseña en la palabra emergente para intentar iniciar sesión en el servidor con los permisos más altos. Dragos también descubrió que un servicio de enrutamiento reenviaba parte del tráfico de forma privada a este mercado.

El laboratorio chino no capturó ninguna fotografía y retuvo las palabras clave, y el enlace apareció en el grupo Feishu.

En el tercer tipo de problema, nadie robó la clave, pero la URL secreta en la palabra emergente se rastreó repetidamente. La más obvia, dijo Dragos, fue un laboratorio de inteligencia artificial chino: más de la mitad de las URL secretas enviadas a sus modelos de julio a octubre fueron rastreadas por su sistema, incluidas alrededor de dos tercios de las solicitudes marcadas como "sin recopilación de datos" o sin retención de datos, que generalmente aparecían dos o tres días después de ser enviadas.

No sólo caerás en esta trampa si utilizas directamente los servicios de este laboratorio. Dragos señaló que varios proveedores de alojamiento de EE. UU. revendieron los modelos del laboratorio, y las palabras de aviso enviadas a estos proveedores de servicios de EE. UU. también activaron el mismo rastreador, lo que indica que las palabras de aviso regresaron al laboratorio. "Los clientes que eligen específicamente proveedores de servicios estadounidenses y quieren mantener sus datos en Estados Unidos no obtienen lo que pagaron".

El más extraño fue un mensaje de advertencia enviado a un proveedor de servicios estadounidense con una marca de retención de datos cero. 24 días después, el enlace secreto fue publicado en un grupo Feishu (Lark), y en dos minutos fue abierto por tres computadoras y tres teléfonos móviles en Beijing y Shanghai. Los grandes proveedores de servicios estadounidenses también tienen problemas: uno sigue rastreando esa URL más de dos meses después de una única solicitud de búsqueda, y otro la rastrea varios días después de cada solicitud.

Consejo de Dragos: no permita que el precio más bajo determine adónde va el mensaje.

Dragos dijo que ha notificado a las industrias relevantes y que actualmente está cooperando con alrededor de una docena de proveedores de servicios en la investigación; el proveedor de servicios que fue pirateado en julio aún no se ha revelado públicamente, y una de las empresas pirateadas a finales de octubre emitió un anuncio de seguridad preliminar. El servicio de enrutamiento que reenvía el tráfico al mercado dice que se ha detenido, pero todavía se está accediendo a las claves y URL robadas.

Las sugerencias de Dragos para los usuarios incluyen: construir sus propios modelos si se lo puede permitir; en caso contrario, utilice directamente fabricantes de modelos de primera línea, firme un contrato y lea una política de privacidad; elija su propio proveedor de servicios ascendentes cuando utilice servicios de enrutamiento y evite el mercado de reventa; active la función de filtrado automático de credenciales. Dragos recuerda que la configuración de privacidad solo restringe que el primer proveedor de servicios asuma el control, y siempre que el agente de IA pueda leerla, incluso se enviará la contraseña.

Este artículo Prueba real de 2 millones de palabras señuelo: el proveedor de servicios de inteligencia artificial fue pirateado, el laboratorio chino aún no obtuvo datos apareció por primera vez en Cadena de noticias ABMedia。