alt=Estrutura de um neurónio artificial|thumb|306x306px|Estrutura de um neurônio artificial
Um neurônio artificial é uma função matemática concebida como um modelo de um neurônio biológico numa rede neural. O neurônio artificial é a unidade elementar de uma rede neural artificial.
O desenho do neurônio artificial foi inspirado na circuitaria biológica. As suas entradas são análogas aos potenciais pós-sinápticos excitatórios e inibitórios nos dendrites neurais, ou . Os seus pesos são análogos aos pesos sinápticos, e a sua saída é análoga ao potencial de ação de um neurônio que é transmitido ao longo do seu axónio.
Normalmente, cada entrada é separadamente ponderada, e a soma é frequentemente adicionada a um termo conhecido como bias (correspondendo vagamente ao potencial limiar), antes de ser passada por uma função não linear conhecida como função de ativação. Dependendo da tarefa, estas funções podem ter uma forma sigmoide (por exemplo, para classificação binária), mas também podem assumir a forma de outras funções não lineares, funções lineares por partes, ou funções degrau. São também frequentemente monotonicamente crescentes, contínuas, diferenciáveis e limitadas. Funções de ativação não monótonas, não limitadas e oscilantes com múltiplos zeros que superam as funções de ativação sigmoides e tipo ReLU em muitas tarefas também foram recentemente exploradas. A função limiar inspirou a construção de portas lógicas referidas como lógica de limiar; aplicável à construção de circuitos lógicos que se assemelham ao processamento cerebral. Por exemplo, novos dispositivos como os memristores têm sido extensivamente usados para desenvolver essa lógica.
A função de ativação do neurônio artificial não deve ser confundida com a função de transferência de um sistema linear.
Um neurônio artificial pode ser referido como uma unidade semilinear, neurônio Nv, neurônio binário, função linear de limiar, ou neurônio de McCulloch–Pitts (MCP), dependendo da estrutura usada.
neurônios artificiais simples, como o modelo de McCulloch–Pitts, são por vezes descritos como "modelos caricatura", uma vez que se destinam a refletir uma ou mais observações neurofisiológicas, mas sem consideração pelo realismo. Os neurônios artificiais também podem referir-se a células artificiais na engenharia neuromórfica que são semelhantes aos neurônios físicos naturais.
Estrutura básica Para um dado neurônio artificial , sejam entradas com sinais a e pesos a . Normalmente, à entrada é atribuído o valor +1, o que a torna uma entrada de bias com . Isto deixa apenas entradas reais para o neurônio: a .
A saída do -ésimo neurônio é:
,
em que (phi) é a função de ativação.
Ficheiro:artificial neuron.png
A saída é análoga ao axónio de um neurônio biológico, e o seu valor propaga-se para a entrada da camada seguinte, através de uma sinapse. Pode também sair do sistema, possivelmente como parte de um vetor de saída.
Não tem nenhum processo de aprendizagem como tal. Os pesos da sua função de ativação são calculados, e o seu valor limiar é predeterminado.
neurônio de McCulloch–Pitts (MCP)
Um neurônio MCP é um tipo de neurônio artificial restrito que opera em passos de tempo discretos. Cada um tem zero ou mais entradas, escritas como . Tem uma saída, escrita como . Cada entrada pode ser excitatória ou inibitória. A saída pode ser quieta ou a disparar. Um neurônio MCP também tem um limiar .
Numa rede neural MCP, todos os neurônios operam em passos de tempo discretos síncronos de . No tempo , a saída do neurônio é se o número de entradas excitatórias a disparar for pelo menos igual ao limiar, e nenhuma entrada inibitória estiver a disparar; caso contrário.
Pode ser usado para representar funções booleanas linearmente separáveis (por exemplo, AND, OR, NOR) mas não, por exemplo, XOR.https://www.cse.iitm.ac.in/~miteshk/CS7015/Slides/Handout/Lecture2.pdf
Cada saída pode ser a entrada de um número arbitrário de neurônios, incluindo ele próprio (ou seja, auto-laços são possíveis). No entanto, uma saída não pode conectar mais do que uma vez com um único neurônio. Auto-laços não causam contradições, uma vez que a rede opera em passos de tempo discretos síncronos.
Como exemplo simples, considere um único neurônio com limiar 0 e um único auto-laço inibitório. A sua saída oscilaria entre 0 e 1 a cada passo, atuando como um "relógio".
Qualquer máquina de estados finitos pode ser simulada por uma rede neural MCP. Munidas com uma fita infinita, as redes neurais MCP podem simular qualquer máquina de Turing.
Modelos biológicos
thumb|400x400px|neurônio e axónio mielinizado, com fluxo de sinal desde as entradas nos dendrites até às saídas nos terminais do axónio Os neurônios artificiais são projetados para imitar aspetos dos seus equivalentes biológicos. No entanto, existe uma lacuna de desempenho significativa entre as redes neurais biológicas e artificiais. Em particular, neurônios biológicos individuais no cérebro humano com função de ativação oscilante capazes de aprender a função XOR foram descobertos.
Dendrites – nos neurônios biológicos, os dendrites atuam como o vetor de entrada. Estes dendrites permitem que a célula receba sinais de um grande número (>1000) de neurônios vizinhos. Como no tratamento matemático acima, cada dendrite é capaz de realizar a "multiplicação" pelo "valor do peso" desse dendrite. A multiplicação é realizada aumentando ou diminuindo a razão de neurotransmissores sinápticos para químicos de sinal introduzidos no dendrite em resposta ao neurotransmissor sináptico. Um efeito de multiplicação negativo pode ser alcançado transmitindo inibidores de sinal (ou seja, iões com carga oposta) ao longo do dendrite em resposta à receção de neurotransmissores sinápticos. Soma – nos neurônios biológicos, o soma atua como a função de soma, vista na descrição matemática acima. À medida que sinais positivos e negativos (excitatórios e inibitórios, respetivamente) chegam ao soma vindos dos dendrites, os iões positivos e negativos são efetivamente adicionados em soma, pela simples virtude de serem misturados na solução dentro do corpo da célula. Axónio – o axónio recebe o seu sinal do comportamento de soma que ocorre dentro do soma. A abertura para o axónio essencialmente amostra o potencial elétrico da solução dentro do soma. Uma vez que o soma atinge um certo potencial, o axónio transmitirá um pulso de sinal completo ao longo do seu comprimento. Neste aspeto, o axónio comporta-se como a capacidade de conectar o nosso neurônio artificial a outros neurônios artificiais.
Ao contrário da maioria dos neurônios artificiais, no entanto, os neurônios biológicos disparam em pulsos discretos. Cada vez que o potencial elétrico dentro do soma atinge um certo limiar, um pulso é transmitido ao longo do axónio. Este pulsar pode ser traduzido em valores contínuos. A taxa (ativações por segundo, etc.) a que um axónio dispara converte-se diretamente na taxa a que as células vizinhas recebem iões de sinal introduzidos nelas. Quanto mais rápido um neurônio biológico dispara, mais rapidamente os neurônios próximos acumulam potencial elétrico (ou perdem potencial elétrico, dependendo da "ponderação" do dendrite que conecta ao neurônio que disparou). É esta conversão que permite aos cientistas da computação e matemáticos simular redes neurais biológicas usando neurônios artificiais que podem produzir valores distintos (frequentemente de −1 a 1).
Codificação A investigação mostrou que a codificação unária é usada nos circuitos neurais responsáveis pela produção de canto dos pássaros. O uso de unário em redes biológicas é presumivelmente devido à simplicidade inerente da codificação. Outro fator contribuinte pode ser o facto de a codificação unária fornecer um certo grau de correção de erros.
Células artificiais físicas Há investigação e desenvolvimento de neurônios artificiais físicos – orgânicos e inorgânicos.
Por exemplo, alguns neurônios artificiais podem receberComunicado de imprensa da universidade: e libertar dopamina (sinais químicos em vez de sinais elétricos) e comunicar com músculo natural de rato musculatura e células cerebrais, com potencial para uso em ICCs/próteses.
Memristores de baixo consumo biocompatíveis podem permitir a construção de neurônios artificiais que funcionam a voltagens de potenciais de ação biológicos e poderiam ser usados para processar diretamente sinais de biossensoriamento, para computação neuromórfica e/ou comunicação direta com neurônios biológicos.
Circuitos neuromórficos orgânicos feitos de polímeros, revestidos com um gel rico em iões para permitir que um material transporte carga elétrica como neurônios reais, foram integrados num robô, permitindo-lhe aprender sensoriomotoramente dentro do mundo real, em vez de através de simulações ou virtualmente. Além disso, neurônios artificiais pulsantes feitos de matéria mole (polímeros) podem operar em ambientes biologicamente relevantes e permitir a comunicação sinérgica entre os domínios artificial e biológico.
História O neurônio artificial foi proposto pela primeira vez por Warren McCulloch e Walter Pitts no seu artigo de 1943 "A Logical Calculus of the Ideas Immanent in Nervous Activity". Foi chamado de Unidade Lógica de Limiar ou Unidade Linear de Limiar. O modelo foi especificamente direcionado como um modelo computacional da "rede nervosa" no cérebro. Como função de ativação, empregava um limiar, equivalente a usar a função degrau de Heaviside. Inicialmente, apenas um modelo simples foi considerado, com entradas e saídas binárias, algumas restrições nos pesos possíveis e um valor limiar mais flexível. Desde o início já se notou que qualquer função booleana poderia ser implementada por redes de tais dispositivos, o que é facilmente visto pelo facto de se poder implementar as funções AND e OR, e usá-las na forma normal disjuntiva ou na forma normal conjuntiva. Os investigadores também rapidamente perceberam que redes cíclicas, com feedbacks através de neurônios, poderiam definir sistemas dinâmicos com memória, mas a maior parte da investigação concentrou-se (e ainda se concentra) em redes estritamente feed-forward devido à menor dificuldade que apresentam.
Uma rede neural artificial importante e pioneira que usou a função linear de limiar foi o perceptron , desenvolvido por Frank Rosenblatt. Este modelo já considerava valores de peso mais flexíveis nos neurônios, e foi usado em máquinas com capacidades adaptativas. A representação dos valores limiares como um termo de bias foi introduzida por Bernard Widrow em 1960 – ver ADALINE.
Um desenvolvimento posterior foi a Regra de Aprendizagem Hebbiana, proposta por Donald O. Hebb, que forneceu uma regra fundamental para ajustar os pesos em redes neurais. O princípio da aprendizagem Hebbiana postula que a conexão entre dois neurônios se fortalece se eles ativarem simultaneamente e se enfraquece se ativarem separadamente. Um refinamento da aprendizagem Hebbiana, conhecido como plasticidade dependente do tempo de impulso, foi desenvolvido para explicar o timing preciso dos impulsos neuronais. Esta forma de aprendizagem foi implementada em redes neuronais pulsantes, que se acredita serem mais eficientes em termos energéticos do que as ANNs tradicionais e requerem menos energia para transmissão, pois processam dados com base na ocorrência de eventos em vez de computação contínua.