Por que o carro freou? Uma IA tenta mostrar a razão
Bruno Belissimo
Na edição de
Pesquisadores do MIT e da Motional apresentaram o CW-Net, um método que traduz decisões de um sistema de direção autônoma em conceitos compreensíveis. A ideia é ajudar pessoas a prever o comportamento do veículo.
O que você precisa saber
- Num teste em pista privada, o carro parava ao se aproximar de um ciclista. O motorista de segurança acreditava que a detecção estava funcionando. As explicações revelaram outro motivo: a frenagem de emergência estava compensando uma falha no planejamento.
- Esse detalhe muda a interpretação do mesmo movimento. Ver o carro parar não basta para concluir que ele entendeu corretamente a cena ou que reagirá bem numa situação parecida.
- O método também foi avaliado em simulação com pessoas sem experiência técnica, usando situações reais registradas em Las Vegas. Segundo os pesquisadores, as explicações melhoraram a previsão do comportamento do veículo.
Por que importa
Eu gosto desse tipo de pesquisa porque deixa a automação mais examinável. Quando uma máquina erra, entender a causa ajuda tanto quem supervisiona quanto a equipe que precisa corrigir o sistema.