Uma vulnerabilidade crítica rastreada como CVE-2024-3435 descoberta recentemente em um pacote Python usado por desenvolvedores de aplicativos de IA pode permitir a execução arbitrária de códigos, colocando sistemas e dados em risco.

O problema, descoberto pelo pesquisador Patrick Peng (também conhecido como retr0reg), é rastreado como CVE-2024-34359 e foi apelidado de Llama Drama. A empresa de segurança cibernética Checkmarx publicou na quinta-feira (16/05) uma postagem em um blog descrevendo a vulnerabilidade e seu impacto.

CVE-2024-34359 está relacionado à ferramenta Python de renderização de modelo Jinja2, que é usada principalmente para gerar HTML, e ao pacote llama_cpp_python, que é usado para integrar modelos de IA com Python.

Llama_cpp_python usa Jinja2 para processar metadados de templates, mas não conseguiu usar certas proteções, permitindo ataques de injeção de templates.

“O principal problema surge do processamento de dados de templates sem medidas de segurança adequadas, como o sandboxing, que o Jinja2 suporta, mas não foi implementado neste caso”, explicou a Checkmarx.

De acordo com a empresa de segurança, a vulnerabilidade pode ser explorada para execução arbitrária de código em sistemas que usam o pacote Python afetado. A empresa descobriu que mais de 6.000 modelos de IA na comunidade Hugging Face AI que usam llama_cpp_python e Jinja2 foram afetados.

“Imagine baixar um modelo de IA aparentemente inofensivo de uma plataforma confiável como o Hugging Face, apenas para descobrir que ele abriu um backdoor para invasores controlarem seu sistema”, disse Checkmarx.

A vulnerabilidade foi corrigida com o lançamento do llama_cpp_python 0.2.72.

Para saber mais, clique aqui.