Transistor Neural

Desde este tweet — https://twitter.com/c___f___b/status/1757160176656752693 — eu tenho observado o neurônio que estamos usando na mineração Qubic, tentando entender o que estou vendo. É muito simples, mas muito poderoso. Eu poderia chamá-lo de “apenas um neurônio”, mas dar-lhe um nome apropriado foi importante para uma melhor compreensão de sua natureza. Hoje algo clicou e eu finalmente vi o que é esse neurônio e para isso tive que olhar para ele por vários minutos imaginando que sou um ser de quatro dimensões.

Antes de revelar seu nome para aqueles que não leram o título, gostaria de explicar como o neurônio funciona. Ele tem múltiplas entradas e saídas, pode armazenar apenas 3 valores — 0, +1 e -1. Cada vez que um sinal chega a uma entrada, o valor do sinal é adicionado ao valor armazenado, mas não pode fazê-lo exceder a faixa permitida de [-1; +1]. O neurônio envia o valor armazenado para seus pares, cada saída é disparada periodicamente com um atraso que varia dependendo do comprimento (virtual) da saída. Todo o poder computacional está escondido nesses atrasos, um conjunto de neurônios conectados uns aos outros pode fazer diferentes coisas dependendo dos atrasos que os links entre eles têm.

Hoje em dia, a maioria dos especialistas em redes neurais artificiais acredita que algumas RNA são melhores do que outras devido a diferenças estruturais. Eu acho que eles estão certos, se pegarmos dois tipos diferentes de RNA, um deles será melhor do que o outro devido ao diferente nível de inferioridade. Essa inferioridade vem do uso de estruturas não universais (a estrutura universal parece cada neurônio estando conectado a todos os outros neurônios), porque os especialistas não sabem como treinar RNA de estrutura universal. Em Aigarth, usamos RNA universais e procuramos métodos eficientes de seu treinamento, isso é o que nos diferencia de gigantes como OpenAI.

Transistor neuronal — isso é o que o neurônio que usamos é. Se você olhar a estrutura de uma RNA universal, consistindo de tais neurônios, usando o tempo como a 4ª dimensão, você verá que a estrutura muda toda vez que um neurônio muda seu valor armazenado. Por exemplo, se esse valor for +1, qualquer entrada com valor +1 será ignorada, é como desconectar uma parte da RNA. Poucos ticks depois, um valor de -1 pode chegar reconectando essa parte novamente. Nossa RNA muda a si mesma enquanto processa dados de entrada, isso é tão legal!

Agora eu entendo por que pombos são melhores em multitarefa do que humanos, a estrutura das redes neurais não é tão importante quanto as propriedades de propagação de sinal. Nós ainda não temos um aparato matemático eficiente capaz de descrever RNA que muda constantemente, então estamos explorando o método roubado da natureza para treinar nossas RNA — evolução.