# Scanner de terceiros: JFrog

O scanner de segurança da [JFrog](https://jfrog.com/) detecta comportamento malicioso em modelos de aprendizado de máquina.

![JFrog report for the danger.dat file contained in mcpotato/42-eicar-street](https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/hub/jfrog-report.png) *Exemplo de um relatório para [danger.dat](https://huggingface.co/mcpotato/42-eicar-street/blob/main/danger.dat)*

Fizemos uma parceria com a [JFrog](https://hf.co/blog/jfrog) para fornecer varreduras e tornar o Hub mais seguro. Os arquivos de modelo são varridos pelo scanner da JFrog e expomos os resultados da varredura na interface do Hub.

O scanner da JFrog foi desenvolvido com o objetivo de reduzir falsos positivos. De fato, o que observamos atualmente é que o código contido nos pesos do modelo nem sempre é malicioso. Quando um código é detectado em um arquivo, o scanner da JFrog o analisa e examina para verificar possíveis usos maliciosos.

    
    

Aqui está um repositório de exemplo que você pode verificar para ver o recurso em ação: [mcpotato/42-eicar-street](https://huggingface.co/mcpotato/42-eicar-street).

## Lembrete sobre a segurança do modelo

Para compartilhar modelos, serializamos as estruturas de dados que usamos para interagir com os modelos, a fim de facilitar o armazenamento e o transporte. Alguns formatos de serialização são vulneráveis a explorações maliciosas, como a execução de código arbitrário (olhando para você, pickle), o que torna o compartilhamento de modelos potencialmente perigoso.

Como a Hugging Face se tornou uma plataforma popular para compartilhamento de modelos, gostaríamos de proteger a comunidade disso, motivo pelo qual desenvolvemos ferramentas como [picklescan](https://github.com/mmaitre314/picklescan) e por que integramos scanners de terceiros.

Pickle não é o único formato explorável por aí, [veja como referência](https://github.com/Azure/counterfit/wiki/Abusing-ML-model-file-formats-to-create-malware-on-AI-systems:-A-proof-of-concept) como é possível explorar camadas Lambda do Keras para alcançar execução de código arbitrária.