A Hebb-féle elmélet egy neuropszichológiai elmélet, amely szerint a szinaptikus hatékonyság növekedése abból fakad, hogy a preszinaptikus sejt ismétlődően és tartósan stimulálja a posztszinaptikus sejtet. Ez az elmélet a szinaptikus plaszticitás, azaz az idegsejtek tanulási folyamat során történő alkalmazkodásának magyarázatára irányul. A Hebb-féle elméletet Donald O. Hebb mutatta be 1949-ben megjelent The Organization of Behavior című könyvében. Az elméletet Hebb-szabálynak, Hebb-törvénynek, Hebb-posztulátumnak és sejtösszeállítási elméletnek is nevezik. Hebb a következőképpen fogalmazza meg:

Az elméletet gyakran így foglalják össze: „Azok a neuronok, amelyek együtt tüzelnek, összekapcsolódnak.”Siegrid Löwel, Göttingen University; The exact sentence is: "neurons wire together if they fire together" (Löwel, S. and Singer, W. (1992) Science 255 (published January 10, 1992) Hebb azonban hangsúlyozta, hogy az A sejtnek „részt kell vennie” a B sejt tüzelésében, és ilyen ok-okozati összefüggés csak akkor jöhet létre, ha az A sejt közvetlenül a B sejt előtt tüzel, nem pedig vele egy időben. A Hebb munkájában szereplő ok-okozati összefüggés ezen aspektusa előrevetítette a tüskeszám-függő plaszticitásról ma ismert tényeket, amelyek időbeli előzményt igényelnek.

A Hebb-féle elmélet az asszociatív, vagy más néven Hebb-féle tanulás magyarázatára törekszik, amelynek során az idegsejtek egyidejű aktiválódása a sejtek közötti szinaptikus erősség jelentős növekedéséhez vezet. Emellett biológiai alapot nyújt az oktatásban és a memória-rehabilitációban alkalmazott hibamentes tanulási módszerekhez. A kognitív funkciókban betöltött ideghálózatok kutatásában gyakran a felügyelet nélküli tanulás idegsejti alapjának tekintik.

Engramok, sejtcsoport-elmélet és tanulás A Hebb-féle elmélet magyarázatot ad arra, hogy az idegsejtek hogyan kapcsolódhatnak össze engramokká, amelyek átfedő sejtcsoportokban, vagyis meghatározott információkat kódoló idegsejt-csoportokban tárolódhatnak. Hebb sejtcsoportok formájára és működésére vonatkozó elméletét – amelyet eredetileg az agykéreg bizonyos idegsejt-csoportjaiban megfigyelt visszatérő aktivitás magyarázatára dolgozott ki – a következőképpen lehet értelmezni:

Hebb a következőket írta:

D. Alan Allport további elképzeléseket vet fel a sejtcsoport-elmélet és az engramok kialakulásában betöltött szerepük kapcsán, az autoasszociáció, vagyis az agy azon képességének fogalmát felhasználva, hogy részleges jelek alapján információt tudjon előhívni, amit a következőképpen ír le:

A Nobel-díjas Eric Kandel laboratóriumában végzett kutatások alátámasztották a Hebb-féle tanulási mechanizmusok szerepét az Aplysia californica nevű tengeri csiga szinapszisain. Mivel a tengeri gerinctelenek környéki idegrendszerében található szinapszisok kísérletek során sokkal könnyebben szabályozhatók, Kandel kutatása megállapította, hogy a Hebbian hosszú távú potenciálás és az aktivitásfüggő preszinaptikus facilitáció egyaránt szükséges az Aplysia californica szinaptikus plaszticitásához és klasszikus kondicionálásához.

Míg a gerinctelenekkel végzett kutatások megállapították a tanulás és a memória alapvető mechanizmusait, a gerinces idegsejtek közötti tartós szinaptikus változásokkal kapcsolatos munkák nagy része az agysejtek nem fiziológiai kísérleti stimulációját alkalmazza. Ugyanakkor a gerinces agyban vizsgált, fiziológiailag releváns szinaptikus módosítási mechanizmusok közül néhány valóban a Hebb-féle folyamatok példájának tűnik. Egy ilyen áttekintés arra utal, hogy a szinaptikus erősségek tartós változásait fiziológiailag releváns szinaptikus aktivitás indukálhatja, mind Hebb-féle, mind nem Hebb-féle mechanizmusok felhasználásával.

Alapelvek A mesterséges idegsejtek és a mesterséges neurális hálózatok esetében a Hebb-elv úgy írható le, mint a modellidegsejtek közötti súlyok módosításának meghatározására szolgáló módszer. Két idegsejt közötti súly növekszik, ha a két idegsejt egyszerre aktiválódik, és csökken, ha külön-külön aktiválódnak. Azok a csomópontok, amelyek egyszerre inkább mind pozitívak, mind negatívak, erős pozitív súlyokkal rendelkeznek, míg azok, amelyek inkább ellentétesek, erős negatív súlyokkal rendelkeznek.

Az alábbiakban a Hebb-féle tanulás képletes leírása található (számos más leírás is lehetséges):

ahol az és az neuron közötti kapcsolat súlya, és az neuron bemenete. Ez egy példa a mintatanulásra, ahol a súlyokat minden edzéspélda után frissítik. Egy Hopfield-hálózatban a kapcsolatokat nullára állítják, ha (reflexív kapcsolatok nem megengedettek). Bináris neuronok esetén (ahol az aktivációk vagy 0, vagy 1) a kapcsolatok értéke 1-re lenne állítva, ha a kapcsolódó neuronok ugyanazt az aktivációt mutatják egy mintára.

Ha több edzésmintát alkalmaznak, a kifejezés az egyének átlagává válik:

ahol a neuronból neuronba vezető kapcsolat súlya, a tanulási minták száma, pedig -edik bemenet az neuronhoz. Ez az epoch-alapú tanulás, amelynek során a súlyok frissülnek az összes edzéspélda bemutatása után, és ez az utolsó kifejezés mind a diszkrét, mind a folytonos edzéskészletekre alkalmazható. Ismét, egy Hopfield-hálózatban a kapcsolatok nullára vannak állítva, ha if (nincsenek reflexív kapcsolatok).

A Hebbian-tanulás egyik változata, amely figyelembe veszi az olyan jelenségeket, mint a blokkolás és más neurális tanulási folyamatok, Harry Klopf matematikai modellje. Klopf modellje abból indul ki, hogy az egyszerű adaptív mechanizmusokkal rendelkező rendszerrészek alapját képezhetik a fejlettebb adaptív viselkedéssel rendelkező, összetettebb rendszereknek, például a neurális hálózatoknak.Klopf, A. H. (1972). Brain function and adaptive systems—A heterostatic theory. Technical Report AFCRL-72-0164, Air Force Cambridge Research Laboratories, Bedford, MA.

Kapcsolat a felügyelet nélküli tanulással, a stabilitással és a generalizációval A Hebbian-tanulás egyszerű jellege miatt, amely kizárólag a pre- és poszt-szinaptikus aktivitás egybeesésén alapul, intuitív módon nem feltétlenül egyértelmű, hogy ez a plaszticitásforma miért vezet értelmes tanuláshoz. Ugyanakkor kimutatható, hogy a Hebbian-plaszticitás valóban felismeri a bemenet statisztikai tulajdonságait oly módon, amely felügyelet nélküli tanulásként kategorizálható.

Ezt matematikailag egy egyszerűsített példával lehet bemutatni. Dolgozzunk egy egyszerűsítő feltételezéssel, miszerint egy egyetlen, sebességű neuronról van szó, amelynek bemenetei sebességűek. A neuron válasza általában a bemeneteinek lineáris kombinációjaként írható le, , amelyet egy válaszfüggvény követ :

Az előző szakaszokban meghatározottak szerint a Hebb-féle plaszticitás a szinaptikus súly időbeli alakulását írja le:

Az egyszerűség kedvéért feltételezve, hogy az identitás válaszfüggvény , a következőképpen írhatjuk le

vagy mátrix formában:

Az előző fejezethez hasonlóan, ha az edzés epochok szerint történik, akkor az átlagát lehet kiszámítani az diszkrét vagy folytonos (időbeli) edzéskészletén:ahol a bemeneti vektor korrelációs mátrixa, azzal a kiegészítő feltételezéssel, hogy (azaz a bemenetek átlaga nulla). Ez egy darab kapcsolt lineáris differenciálegyenletből álló rendszer. Mivel szimmetrikus, ezért diagonális is, és a megoldás az sajátvektorok bázisában kifejezve a következő formájú:

ahol tetszőleges állandók, a sajátvektorai, pedig a hozzájuk tartozó sajátértékek. Mivel a korrelációs mátrix mindig pozitív definit mátrix, a sajátértékek mind pozitívak, és könnyen belátható, hogy a fenti megoldás időben mindig exponenciálisan divergál. Ez egy belső probléma, mivel a Hebb-szabály ezen változata instabil, mivel bármely domináns jelű hálózatban a szinaptikus súlyok exponenciálisan növekednek vagy csökkennek. Intuitív módon ez azért van, mert valahányszor a preszinaptikus idegsejt gerjeszti a posztszinaptikus idegsejtet, a kettő közötti súly megerősödik, ami a jövőben még erősebb gerjesztést okoz, és így tovább, önmegerősítő módon. Gondolhatnánk, hogy a megoldás a posztszinaptikus neuron tüzelési sebességének korlátozása egy nemlineáris, telítődő válaszfüggvény hozzáadásával, de valójában bebizonyítható, hogy bármely neuronmodell esetében Hebb-szabály instabil. Ezért a neuronok hálózati modelljei általában más tanulási elméleteket alkalmaznak, mint például a BCM-elmélet, Oja-szabály, vagy az általánosított Hebbian algoritmus.

Mindazonáltal még a fenti instabil megoldás esetében is látható, hogy elegendő idő elteltével az egyik tag dominál a többi felett, és

ahol a legnagyobb sajátértéke. Ekkor a posztszinaptikus idegsejt a következő műveletet hajtja végre:

Mivel, ismét, az -ek , közötti korrelációs mátrix legnagyobb sajátértékéhez tartozó sajátvektor, ez pontosan megegyezik a bemenet első főkomponensének kiszámításával.

Ez a mechanizmus kiterjeszthető a bemeneti adatok teljes PCA-elemzésére (főkomponens-elemzés) további posztszinaptikus idegsejtek hozzáadásával, feltéve, hogy megakadályozzuk, hogy a posztszinaptikus idegsejtek mind ugyanazt a főkomponenst vegyék fel – például laterális gátlás beépítésével a posztszinaptikus rétegbe. Így összekapcsoltuk a Hebbian tanulást a PCA-val, amely a felügyelet nélküli tanulás egyik elemi formája abban az értelemben, hogy a hálózat felismeri a bemenet hasznos statisztikai aspektusait, és azokat kinyert formában „leírja” a kimenetben.

A Hebb-féle tanulás és a tükörneuronok A Hebb-féle tanulás és a tüskeszám-függő plaszticitás egy meghatározó elmélet alapjául szolgáltak, amely a tükörneuronok kialakulását magyarázza.Keysers, C. (2011). The Empathic Brain. A tükörneuronok olyan idegsejtek, amelyek akkor is aktiválódnak, amikor az egyén maga hajt végre egy cselekvést, és akkor is, amikor látja vagy hallja, hogy más valaki hasonló cselekvést hajt végre. Ezen neuronok felfedezése nagy hatással volt annak magyarázatára, hogy az egyének hogyan értelmezik mások cselekedeteit, mivel amikor egy személy mások cselekedeteit érzékeli, az agyában aktiválódnak azok a motoros programok, amelyeket hasonló cselekvések végrehajtásához használna, ami további információval egészíti ki az érzékelést, és segít megjósolni, hogy a személy mit fog tenni a következő lépésben, a megfigyelő saját motoros programja alapján. A tükörneuronok működésének ezen elképzelésének egyik korlátja annak magyarázata, hogy az egyének hogyan fejlesztik ki azokat a neuronokat, amelyek mind a cselekvés végrehajtása közben, mind pedig mások hasonló cselekvéseinek hallgatása vagy látása közben reagálnak.

Christian Keysers idegtudós és David Perrett pszichológus felvetették, hogy ha megfigyeljük vagy halljuk, ahogy valaki egy cselekvést végrehajt, az olyan agyi régiókat aktivál, mintha mi magunk hajtanánk végre azt a cselekvést. Ezek a visszacsatoló szenzoros jelek aktivitást váltanak ki azokban az idegsejtekben, amelyek a cselekvés látványára, hangjára és érzésére reagálnak. Mivel ezeknek a szenzoros idegsejteknek az aktivitása időben következetesen átfedi a cselekvést kiváltó motoros idegsejtekét, a Hebbian-tanulás szerint a cselekvés látványára, hangjára és érzésére reagáló idegsejteket összekötő szinapszisok, valamint a cselekvést kiváltó idegsejtek szinapszisai erősödni fognak. Ugyanez igaz akkor is, amikor az emberek tükörbe néznek, hallják saját babonálásukat, vagy mások utánozzák őket. Ezen re-afferencia ismételt előfordulása után a cselekvés szenzoros és motoros reprezentációit összekötő szinapszisok annyira megerősödnek, hogy a motoros neuronok a cselekvés hangjára vagy látványára reagálva tüzelni kezdenek, és létrejön egy tükörneuron.