Redes neurais em IA menos conectadas do que o esperado

As redes neurais artificiais continuam a apresentar enigmas. É difícil decifrar exatamente como as informações são compiladas, como os textos são criados, por que ocorrem erros graves e por que alguns chatbots simplesmente falham.

Um dos motivos para isso é que a estrutura básica dessas redes é semelhante à de um cérebro. Não são os pontos de dados e as informações individuais que caracterizam a maneira como elas funcionam, mas o número quase infinito de ligações possíveis entre eles.

No entanto, as redes neurais da inteligência artificial geralmente permanecem em um nível muito mais simples, como descobriu um estudo recente da https://arxiv.org/pdf/2308.09124.pdf descobriu.

A IA lida com informações básicas de uma forma muito menos complexa do que se esperava anteriormente. Por exemplo, em vez de coletar todas as respostas possíveis para uma consulta e responder com o fato mais provável, porque mais frequentemente vinculado, é usada uma ligação linear.

Os pesquisadores conseguiram identificar um total de 47 links lineares diferentes na inteligência artificial sob investigação. Isso foi feito por meio de uma consulta correspondente e do rastreamento subsequente do caminho do sinal por meio da rede neural.

E isso foi surpreendentemente curto para muitos fatos. Por exemplo, perguntas sobre o instrumento tocado por artistas conhecidos, o tipo de esporte praticado por atletas profissionais ou até mesmo as capitais de países individuais poderiam ser respondidas com um único link. Em contrapartida, é mais difícil encontrar respostas para perguntas menos óbvias na rede.

No entanto, pode-se mostrar que muitas informações estão diretamente vinculadas umas às outras e dificilmente são organizadas como uma rede. Entender como esse chatbot emite seu conhecimento e como o sinal pode ser rastreado de forma confiável na rede deve, de qualquer forma, ajudar a entender os erros às vezes curiosos, mas às vezes difíceis de reconhecer, de uma IA.

A percepção de como ela funciona com sua estrutura surpreendentemente linear por si só já vale muito a pena.