Anthropic denuncia ataques de distilación contra su chatbot Claude
Anthropic lanza un llamado a la acción contra los ataques de distilación de inteligencia artificial, después de acusar a tres empresas de inteligencia artificial de malversar su chatbot Claude. En su sitio web, Anthropic afirma que DeepSeek, Moonshot y MiniMax han llevado a cabo campañas a gran escala para extraer ilegítimamente las capacidades de Claude y mejorar sus propios modelos.
¿Qué son los ataques de distilación?
La distilación en el mundo de la inteligencia artificial se refiere a cuando los modelos menos capaces se apoyan en las respuestas de los más potentes para entrenarse. Aunque la distilación no es algo malo en sí mismo, Anthropic sostiene que este tipo de ataques puede utilizarse de manera más nefasta. Según Anthropic, estas tres empresas chinas de inteligencia artificial fueron responsables de más de 16 millones de intercambios con Claude a través de aproximadamente 24.000 cuentas fraudulentas.
Consecuencias de los ataques de distilación
Desde la perspectiva de Anthropic, estas empresas competidoras estaban utilizando Claude como un atajo para desarrollar modelos de inteligencia artificial más avanzados, lo que también podría llevar a eludir ciertas salvaguardas. Anthropic afirma que fue capaz de vincular cada una de estas campañas de ataques de distilación a las empresas específicas con alta confianza gracias a la correlación de direcciones IP, solicitudes de metadatos e indicadores de infraestructura, así como a la corroboración con otros en la industria de la inteligencia artificial que han notado comportamientos similares.
Al principio del año pasado, OpenAI hizo afirmaciones similares sobre empresas rivales que estaban distilando sus modelos y prohibió cuentas sospechosas en respuesta. En cuanto a Anthropic, la empresa detrás de Claude dijo que actualizará su sistema para hacer que los ataques de distilación sean más difíciles de realizar y más fáciles de identificar. Mientras Anthropic señala a estas otras empresas, también enfrenta una demanda de editores de música que acusaron a la empresa de inteligencia artificial de utilizar copias ilegales de canciones para entrenar su chatbot Claude.