A OWASP Foundation introduziu recentemente uma nova versão do OWASP Top 10 para Large Language Model Applications que, como o próprio nome sugere, descreve “as 10 vulnerabilidades mais críticas frequentemente vistas em aplicativos LLM” para ajudar os defensores a proteger o número cada vez maior de serviços nos quais a indústria de tecnologia está incorporando essa abordagem da inteligência artificial.
De acordo com a OWASP, essa iniciativa Top 10 para Large Language Model Applications começou em 2023 como um esforço conduzido pela comunidade para destacar e abordar problemas de segurança específicos para aplicativos de IA. Desde então, a tecnologia continuou a se espalhar por setores e aplicativos, assim como os riscos associados. À medida que os LLMs são incorporados mais profundamente em tudo, desde interações com clientes até operações internas, desenvolvedores e profissionais de segurança estão descobrindo novas vulnerabilidades bem como as maneiras de combatê-las.
Afirmar que a IA continuou a se espalhar desde 2023 é um eufemismo. Essas tecnologias estão praticamente em todos os lugares hoje em dia: a CES 2025 apresentou inúmeros fabricantes incorporando IA em TVs, geladeiras, cortadores de grama e robôs; a Apple e o Google tornaram chatbots e ferramentas de IA generativas partes essenciais de suas plataformas móveis; e aparentemente o site de cada empresa apresenta algum tipo de chatbot, mecanismo de busca ou outra ferramenta com suporte de LLM.
Não há uma solução única para proteger esses produtos e serviços ou para explorá-los. Convencer um chatbot a divulgar informações confidenciais requer um conjunto de habilidades diferente do que controlar remotamente um cortador de grama autônomo, por exemplo, embora ambos sejam baseados em alguma forma de “IA”. As consequências também seriam bem diferentes para cada um, especialmente se o chatbot for operado por uma empresa de saúde ou uma organização em um setor regulamentado de forma semelhante.
O mesmo poderia ser dito sobre vulnerabilidades em aplicativos da web, no entanto, a OWASP forneceu uma lista das 10 vulnerabilidades mais comuns em aplicativos da web desde 2003. Essa lista sofreu bastante modificação ao longo dos anos, à medida que as empresas adotaram novas linguagens de programação, estruturas e infraestrutura de back-end, mas sempre serviu como uma referência valiosa para profissionais de infosec que precisam saber que tipos de ataques os produtos e serviços que eles têm que defender provavelmente enfrentarão.
É por isso que o OWASP Top 10 para aplicativos de modelos de linguagem grandes é tão importante. Embora nenhuma avaliação de ferramentas baseadas em IA ou LLMs seja exatamente igual, ter um padrão comum que seja suportado por uma organização que tem ajudado a proteger a web desde antes de “chatbot” se tornar um termo familiar beneficia todo esse setor.
O projeto OWASP Top 10 for LLM tem sido um recurso crítico para profissionais da cibersegurança que buscam aprofundar sua compreensão dos riscos emergentes de IA e segundo a fundação, a nova orientação e os recursos do OWASP beneficiarão a comunidade de pesquisa de segurança e ajudarão os CISOs a encontrar soluções acionáveis para novas vulnerabilidades.
O software e os serviços em que confiamos estão prontos para continuar introduzindo novos recursos de IA habilitados para LLM. À medida que isso acontece, será fundamental testar esses recursos, seja para vieses não intencionais e salvaguardas ausentes ou capacidades e vulnerabilidades não intencionais. A pressa em adotar essas tecnologias não anula a necessidade de tomar decisões informadas sobre sua segurança e proteção.
Para saber mais, clique aqui.
