Cientistas criaram sistema de IA capaz de identificar quando ele mesmo não é confiável, usando redes neurais.
Um sistema de IA “autoconsciente”
A inteligência artificial (IA) está cada vez mais presente em nossas vidas, sendo uma das grandes tendências para o futuro. Aos poucos, mais equipamentos baseados em IA surgem, mudando todo o modo de vida e o comportamento da nossa sociedade.
A IA já toma decisões em áreas que afetam vidas humanas, como direção autônoma e diagnóstico médico. Assim, é vital que essas tecnologias sejam mais precisas e confiáveis o possível.
O sistema de rede neural recém criado pelos pesquisadores pode então ter papel fundamental nisso, aumentando o nível de confiança dos sistemas artificialmente inteligentes.
Segundo o cientista da computação Alexander Amini, um dos autores do projeto, é necessário que tenhamos não apenas modelos de alto desempenho, mas também modelos confiáveis. Devemos ser capazes de entender quando podemos, ou não, confiar na IA.
Os pesquisadores criaram, portanto, um sistema que pode identificar se ele próprio é confiável ou não. Essa “autoconsciência” recebeu o nome de “Regressão de Evidência Profunda” (Deep Evidential Regression) e baseia sua pontuação na qualidade dos dados disponíveis. Quanto mais precisos e abrangentes forem os dados de treinamento, mais provável é que as previsões deem certo.
Por exemplo, no sistema de um veículo autônomo prestes a atravessar um cruzamento, a rede poderia dar o comando de espera, caso estivesse menos confiante de suas previsões.
Afinal, a rede é confiável?
Embora sistemas semelhantes já tenham sido construídos com redes neurais no passado, o que diferencia este é a sua velocidade. O nível de confiança pode ser obtido rapidamente, no tempo de uma decisão.
Os pesquisadores testaram o sistema usando-o para avaliar uma imagem, assim como um carro autônomo avaliaria uma distância. A rede obteve sucesso nos resultados, além de estimar sua própria incerteza com precisão.
Os cientistas estão confiantes que o sistema possa contribuir para a segurança em situações com uso de IA.
No entanto, ainda não é tão simples. Mesmo que a rede neural esteja certa 99% das vezes, o 1% restante pode ter consequências graves, dependendo do cenário. Por isso, mais testes e aprimoramentos ainda deverão ser feitos.
O que são Redes Neurais?
As redes neurais artificiais são modelos computacionais inspirados no sistema nervoso central humano, sendo capazes de realizar o aprendizado de máquina e de reconhecer de padrões. São sistemas de nós interconectados que funcionam como os neurônios do cérebro humano, simulando o comportamento das redes neurais biológicas.
A partir de métodos iterativos, elas podem, com o tempo, aprender e melhorar continuamente. Podem, por exemplo, ajudar a criar programas que identificam objetos a partir de imagens. Elas são capazes de identificar padrões em conjuntos gigantescos de dados que nós, humanos, não temos a capacidade de analisar.
Fonte: SoCientífica
