Notícia2023.10.20
Pesquisas que nos aproximam cada vez mais da realidade dos carros totalmente autônomos
Quando Jens Henriksson começou na Semcon, em 2015, ele mal sabia o que era IA. Agora, ele está defendendo sua tese de doutorado, que examina como podemos garantir que os modelos de aprendizagem profunda tomem as decisões certas em situações em que a segurança é um fator crítico.
Para que um carro seja totalmente conduzido por computadores, nós devemos ser capazes de confirmar quão seguros são os sistemas de tomada de decisões da “condução autônoma”. Esse é o principal desafio que a indústria automotiva enfrenta atualmente. Nossa solução atual para esse desafio, é um ser humano que mantém as mãos no volante enquanto o carro “dirige sozinho”. A ironia dessa “solução” não passa despercebida a Jens, que resume a situação: “No fim das contas, os modelos [de computação] que lidam com as imagens das câmeras do veículo são tão complexos, que você realmente não sabe como eles chegam a decisões diferentes quando agem com base em dados desconhecidos”. A segurança no gerenciamento de imagens também influencia outras aplicações importantes, como a geração de imagens para diagnósticos clínicos. “Essas limitações impedem que esses sistemas sejam utilizados e contribuam mais para um mundo melhor. É por isso que esse trabalho é tão interessante e importante,” afirma Jens.
Minha tese estudou como podemos identificar quando um modelo baseado em deep learning funciona de fato com dados desconhecidos.
— Jens Henriksson, doutorando da área industrial, Semcon.
Um passo importante para aproveitar todo o poder da IA
O trabalho de Jens se concentrou no gerenciamento de imagens, um processo vital para a tecnologia central dos carros autônomos e da área médica. Ele criou um método para ajudar os engenheiros de segurança na atribuição de requisitos de segurança a modelos de aprendizagem profunda e na avaliação de como eles se comportam quando trabalham com dados desconhecidos. A pesquisa de Jens é um passo importante no sentido de usar todo o poder da IA em diversas áreas.
“Deep learning (aprendizagem profunda) é usada hoje em uma série de áreas familiares para nós, como para o reconhecimento da sua voz no seu smartphone, por exemplo. O objetivo da minha tese foi investigar como podemos conectar parâmetros de deep learning a verificações e testes para aplicações críticas de segurança, como as dos carros autônomos.”
Isso também significa que Jens precisou investigar o que seria necessário para verificar também as redes neurais profundas.
Precisamos saber se o carro está tomando decisões seguras
Em um carro autônomo, o modelo recebe dados das câmeras do veículo, as imagens são interpretadas em tempo real e, então, formam a base de como o carro se comportará quando você deixar que ele dirija sozinho. Na maioria das vezes, tudo corre bem, porque o modelo é muito preciso na interpretação correta das imagens com as quais é alimentado. Mas o que acontecerá se, de repente, surgir um nevoeiro? Ou se ocorrer um fenômeno de luz com o qual o modelo ainda não tenha se deparado?
“Como os modelos atuais se baseiam em dados de experiências anteriores, não podemos garantir que eles tomarão a decisão certa, no que diz respeito à segurança, quando encontrarem uma situação totalmente nova. Isso ocorre porque o modelo de análise de imagem pode nem mesmo estar ciente de que existem riscos [envolvidos na] situação, o que é difícil de verificar devido à complexidade dos modelos”, diz Jens.
Jens criou uma nova abordagem de análise, que combina a deep learning e as técnicas de análise atualmente usadas para gerenciar novas imagens desconhecidas (dados discrepantes), criando as fundações para as áreas da deep learning em que a segurança é crucial.
“Nossos experimentos demonstram que o efeito de amostras [discrepantes] pode ser atenuado ampliando o modelo de deep learning com medidas de segurança, ou seja, com medidas que reduzam o impacto de comportamentos indesejados. Essa tese mostra como usar uma métrica de compensação de cobertura de risco que conecta o desempenho da aprendizagem profunda aos requisitos de segurança funcional.” O potencial é enorme, já que as capacidades dos modelos de IA [para a análise de imagens] são muito superiores às dos algoritmos básicos tradicionais.
Isso é deep learning
O cérebro humano tem uma capacidade única de manipular e processar informações. O deep learning, ou o aprendizado profundo de máquina, é um método de IA inspirado no funcionamento do cérebro humano. A tecnologia é apoiada em um modelo de IA que pode aprender por conta própria a tirar conclusões com base em diferentes tipos de dados.
Leia mais sobre a pesquisa de Jens
No dia 20 de outubro de 2023, Jens Henriksson defendeu sua tese, intitulada “”.
