Computadores com aparência de cérebro são uma caixa preta. Os cientistas finalmente estão olhando para dentro

Uma representação de uma rede neural.

Akritasa / Wikimedia Commons

Computadores com aparência de cérebro são uma caixa preta. Os cientistas finalmente estão olhando para dentro

Por Jackie SnowMar. 7, 2017, 15:15

No mês passado, o Facebook anunciou um software que poderia simplesmente olhar uma foto e dizer, por exemplo, se era uma foto de um gato ou um cachorro. Um programa relacionado identifica lesões cutâneas cancerígenas, assim como dermatologistas treinados. Ambas as tecnologias são baseadas em redes neurais, algoritmos sofisticados de computador na vanguarda da inteligência artificial (IA) - mas mesmo seus desenvolvedores não sabem exatamente como funcionam. Agora, os pesquisadores encontraram uma maneira de "olhar" as redes neurais em ação e ver como elas tiram conclusões.

As redes neurais, também chamadas de redes neurais, são vagamente baseadas no uso do cérebro de camadas de neurônios trabalhando juntos. Como o cérebro humano, eles não estão preparados para produzir um resultado específico - eles “aprendem” sobre o treinamento de conjuntos de dados, fazendo e reforçando conexões entre várias entradas. Uma rede neural pode ter uma camada de neurônios que olham pixels e uma camada que olha bordas, como o contorno de uma pessoa contra um fundo. Após ser treinado em milhares ou milhões de pontos de dados, um algoritmo de rede neural apresentará suas próprias regras sobre como processar novos dados. Mas não está claro o que o algoritmo está usando desses dados para chegar a suas conclusões.

"As redes neurais são modelos matemáticos fascinantes", diz Wojciech Samek, pesquisador do Instituto Fraunhofer de Telecomunicações do Instituto Heinrich Hertz, em Berlim. "Eles superam os métodos clássicos em muitos campos, mas geralmente são usados ​​em caixas pretas".

Na tentativa de desbloquear essa caixa preta, Samek e seus colegas criaram um software que pode passar por essas redes para trás, a fim de ver onde uma determinada decisão foi tomada e quão fortemente essa decisão influenciou os resultados. Seu método, que eles descreverão este mês na conferência do Centro de Automação de Escritório e Tecnologia da Informação e Telecomunicações em Hannover, na Alemanha, permite que os pesquisadores medam quanto entradas individuais, como pixels de uma imagem, contribuem para a conclusão geral. Os pixels e as áreas recebem uma pontuação numérica por sua importância. Com essas informações, os pesquisadores podem criar visualizações que impõem uma máscara sobre a imagem. A máscara é mais brilhante onde os pixels são importantes e mais escuros em regiões que têm pouco ou nenhum efeito na saída da rede neural.

Por exemplo, o software foi usado em duas redes neurais treinadas para reconhecer cavalos. Uma rede neural estava usando a forma do corpo para determinar se era cavalo. O outro, no entanto, estava olhando os símbolos de direitos autorais nas imagens associadas aos sites da associação de cavalos.

Este trabalho pode melhorar as redes neurais, Samek sugere. Isso inclui ajudar a reduzir a quantidade de dados necessários, um dos maiores problemas no desenvolvimento da IA, concentrando-se no que as redes neurais precisam. Também poderia ajudar a investigar erros quando ocorrem em resultados, como classificar objetos incorretamente em uma imagem.

Outros pesquisadores estão trabalhando em processos semelhantes para analisar como os algoritmos tomam decisões, incluindo redes neurais para recursos visuais e texto. A pesquisa contínua é importante, pois os algoritmos tomam mais decisões em nossas vidas diárias, diz Sara Watson, crítica de tecnologia do Berkman Klein Center for Internet & Society da Harvard University. O público precisa de ferramentas para entender como a IA toma decisões. Os algoritmos, longe de serem perfeitos árbitros da verdade, são tão bons quanto os dados fornecidos, observa ela.

Em uma notória rede neural, o Google marcou uma mulher negra como gorila em seu aplicativo de fotos. Discriminação ainda mais séria foi posta em causa em software que fornece escores de risco que alguns tribunais usam para determinar se um criminoso pode se reincidir, com pelo menos um estudo mostrando que os réus negros recebem uma pontuação de risco mais alta do que os réus brancos por crimes semelhantes. `` Tudo se resume à importância de fabricar máquinas, e as entidades que as empregam, responsáveis ​​por seus resultados '', diz Watson.