Desafios da segurança cibernética na adoção de inteligência artificial na direção autônoma

Um relatório da Agência da União Europeia para a Cibersegurança (ENISA) e do Centro Comum de Investigação (CCI) analisa os riscos de segurança cibernética associados à Inteligência Artificial (IA) em veículos autônomos e apresenta recomendações de mitigação.

Ao remover a causa mais comum de acidentes de trânsito – o motorista (ser humano) – espera-se que os veículos autônomos reduzam os acidentes de trânsito e as fatalidades. No entanto, eles podem representar um tipo de risco completamente diferente para os motoristas, passageiros e pedestres.

Os veículos autônomos utilizam sistemas de inteligência artificial, que empregam técnicas de aprendizado de máquina para coletar, analisar e transferir dados, a fim de tomar decisões que nos carros convencionais são tomadas por humanos. Esses sistemas, como todos os sistemas de TI, são vulneráveis a ataques que podem comprometer o bom funcionamento do veículo.

Alguns pontos de vista podem ilustrar a complexidade deste debate e das ideias lançadas no relatório da União Europeia:

  • “Quando um veículo autônomo inseguro cruza a fronteira de um Estado-Membro da UE, o mesmo ocorre com suas vulnerabilidades. A segurança não deve vir como uma reflexão tardia, mas sim um pré-requisito para a implantação fidedigna e confiável de veículos nas estradas da Europa”, disse Juhan Lepassaar, Diretor Executivo da Agência da UE para Segurança Cibernética.
  • “É importante que os regulamentos europeus garantam que os benefícios da direção autônoma não sejam contrabalançados por riscos de segurança cibernética. Para apoiar a tomada de decisões a nível da UE, o nosso relatório visa aumentar a compreensão das técnicas de IA utilizadas para a condução autônoma, bem como dos riscos de segurança cibernética a elas associados, para que possam ser tomadas medidas para garantir a segurança da IA na condução autônoma”, disse Stephen Quest, Diretor-Geral do JRC.

Vulnerabilidades de IA em veículos autônomos

Os sistemas de IA de um veículo autônomo trabalham sem parar para reconhecer sinais de trânsito e marcações de estradas, detectar veículos, estimar sua velocidade e planejar o caminho à frente. Além de ameaças não intencionais, como mau funcionamento repentino, esses sistemas são vulneráveis a ataques intencionais que têm o objetivo específico de interferir no sistema de IA e interromper funções críticas de segurança da informação.

Adicionar tinta na estrada para desviar a navegação, ou adesivos em uma placa de pare para impedir seu reconhecimento são exemplos de tais ataques. Essas alterações podem fazer com que o sistema de IA classifique erroneamente os objetos e, posteriormente, o veículo autônomo se comporte de forma perigosa.

Recomendações para IA mais segura em veículos autônomos

Para melhorar a segurança da informação da IA em veículos autônomos, o relatório contém várias recomendações, uma das quais é que as avaliações de segurança dos componentes da IA devam ser realizadas regularmente ao longo de seu ciclo de vida. Esta validação sistemática de modelos e dados de IA é essencial para garantir que o veículo sempre se comporte corretamente ao enfrentar situações inesperadas ou ataques maliciosos.

Outra recomendação é que processos contínuos de avaliação de risco apoiados por análises de inteligência de ameaças venham a permitir a identificação de riscos de IA em potencial e ameaças emergentes relacionadas à aceitação de IA na direção autônoma. Adequadas Políticas de Segurança da Informação de IA e uma boa cultura de Segurança da Informação de IA devem estar presentes em toda a cadeia de suprimentos automotiva.

A indústria automotiva deve adotar uma abordagem do tipo “security buy design” para o desenvolvimento e implantação de funcionalidades de IA, onde a segurança cibernética venha a ser o elemento central a ser considerada desde o início dos projetos. Finalmente, é importante que o setor automotivo aumente seu nível de preparação e reforce sua capacidade de resposta a incidentes para lidar com questões emergentes de segurança cibernética relacionadas à IA.

Informações obtidas/adaptadas de https://www.enisa.europa.eu/news/enisa-news/cybersecurity-challenges-in-the-uptake-of-artificial-intelligence-in-autonomous-driving