Anthropic PBC acusó a Moonshot AI, una de las principales compañías de inteligencia artificial de China, de enviar de manera encubierta miles de solicitudes de usuarios a sus modelos Claude y presentar las respuestas como propias para obtener ventaja en la carrera de la IA.
Moonshot desvió consultas a los chatbots de Anthropic sin informar a los usuarios, en lugar de procesarlas mediante su modelo Kimi, según un informe publicado el jueves por la firma estadounidense. En un caso, Anthropic afirmó haber detectado casi 300.000 solicitudes que Moonshot envió principalmente a su modelo de IA Opus. Como la compañía no permite acceder a su tecnología desde China, Moonshot utilizó 5.380 cuentas fraudulentas, la mayoría de las cuales parecían estar ubicadas en Singapur y Japón, según el informe.
Esto no les gusta a los autoritarios
El ejercicio del periodismo profesional y crítico es un pilar fundamental de la democracia. Por eso molesta a quienes creen ser los dueños de la verdad.
Anthropic determinó que la actividad de Moonshot formaba parte de un proceso conocido como destilación, mediante el cual un desarrollador utiliza datos de un modelo de IA más potente para mejorar un sistema menos avanzado. En este caso, Anthropic cree que Moonshot utilizó posteriormente las respuestas obtenidas de sus sistemas para entrenar su propio software. DeepSeek y Xiaomi Corp. incurrieron en prácticas similares, según la compañía.
El informe se publica poco después de que agencias de seguridad estadounidenses acusaran a importantes compañías chinas de IA, incluidas DeepSeek y Moonshot, de extraer sistemáticamente conocimiento patentado de firmas estadounidenses mediante la destilación. El gobierno instó a los desarrolladores de Silicon Valley a proteger su trabajo. Empresas tecnológicas estadounidenses, incluida Anthropic, también han acusado anteriormente a compañías chinas como Moonshot de recurrir a esa práctica. Desde entonces, Moonshot se ha convertido en uno de los principales rivales del sector de IA en China gracias al éxito de su modelo Kimi K3 este verano.
Moonshot declinó hacer comentarios. Representantes de DeepSeek y Xiaomi no respondieron a una solicitud de comentarios fuera del horario laboral habitual.
El Ministerio de Comercio chino señaló recientemente que “no existe fundamento fáctico ni jurídico” para las acusaciones de destilación a escala industrial de modelos estadounidenses por parte de compañías chinas de IA. También amenazó con adoptar contramedidas si Estados Unidos “toma medidas para contener y reprimir” a las compañías chinas de IA.
La destilación es una técnica habitual para mejorar modelos de IA. Anthropic también ha conseguido mejoras mediante la destilación de sus propios modelos, señaló Jacob Klein, director de investigación de amenazas de la compañía. Sin embargo, la destilación no autorizada puede permitir que otros desarrolladores tomen atajos para crear mejores modelos y ofrecerlos a menor precio, lo que podría perjudicar a firmas como Anthropic mientras se prepara para salir a bolsa.
La técnica, así como las presuntas tácticas de desvío de consultas, también podrían plantear nuevos interrogantes sobre las prácticas de privacidad de datos de los laboratorios chinos de IA. “Si nosotros hiciéramos eso, o si lo hiciera uno de nuestros competidores, sería un gran escándalo de privacidad”, afirmó Klein en una entrevista.
El reporte de Anthropic
El informe de 145 páginas de Anthropic detalla una serie de amenazas relacionadas con su software que, según la compañía, descubrió y neutralizó entre diciembre pasado y agosto de este año. Entre ellas figuraban presuntos ciberataques patrocinados por Estados y motivados por intereses financieros, operaciones de vigilancia y campañas de desinformación.
El informe reveló que un usuario de Kimi cargó datos de vigilancia chinos en el modelo para solicitar un análisis sobre si una persona específica se comportaba de manera anormal. Aunque probablemente el usuario pensaba que Moonshot procesaría la solicitud, esta terminó siendo enviada a un modelo de Anthropic y quedó así visible para la compañía estadounidense. La solicitud incluía videovigilancia procedente de cientos de cámaras, incluidas algunas ubicadas en el exterior de instalaciones del Ejército Popular de Liberación, señaló Anthropic en el informe.
Los ejemplos del informe muestran cómo la IA está acelerando la creación de software malicioso, el monitoreo de redes sociales y la difusión de propaganda política. Anthropic afirmó que en cada caso bloqueó las cuentas infractoras y desarrolló salvaguardias para protegerse frente a comportamientos similares.
Anthropic y el sector de la IA en general están bajo escrutinio por una serie de brechas divulgadas este verano relacionadas con modelos de IA y pruebas de ciberseguridad que salieron mal, lo que ha generado preocupaciones sobre la capacidad de las compañías para proteger su software más avanzado. El miércoles, Anthropic reveló que había descubierto un nuevo hackeo realizado por uno de sus modelos durante pruebas de seguridad. El incidente involucró una versión inicial de Claude Opus 4.6, señaló la compañía.
LM
