Una mistura di esperti o miscela di esperti (, da cui MoE) è un modello di apprendimento automatico nel quale si utilizzano più reti di esperti (learner) al fine di dividere lo spazio del problema in regioni omogenee. Il modello rientra anche nella classe delle cosiddette committee machine. Esso si differenzia dai modelli d'insieme per il fatto che, nel caso delle MoE, normalmente si esegue solo uno o pochi dei modelli esperti per ogni input, mentre nei modelli d'insieme si eseguono i modelli tutti per ciascun input.

Fondamenti Quello della mistura di esperti è un approccio che divide un modello di apprendimento in sotto-reti indipendenti, conosciute come "esperti", ognuna specializzata in un sottoinsieme specifico dei dati in ingresso, al fine di lavorare insieme per portare a termine il loro compito. Le architetture basate su misture permettono che per modelli su larga scala, compresi quelli con miliardi di parametri, si riducano significativamente i costi computazionali della fase di pre-addestramento e si raggiunga una maggiore efficienza nel processo d'inferenza. Quest'efficienza si acquisisce tramite l'attivazione selettiva dei soli esperti necessari per compito dato, invece di attivare tutta la rete neurale.

Sebbene la sua implementazione si sia sviluppata nell'ultimo decennio, l'idea centrale dietro questi modelli risale a un articolo del 1991 in cui si proponeva di addestrare un sistema composto da reti separate, ognuna specializzata in un sottoinsieme di casi di training. Quest'approccio implica l'addestramento sia della rete di esperti sia di una rete di controllo incaricata di decidere quali esperti debbano attivarsi per ogni compito specifico.

Teoria di base Nelle misture di esperti sono sempre presenti i seguenti ingredienti anche se combinati in modo diverso:

esperti , ricevono tutti lo stesso input e producono come risultato ; una funzione di ponderazione (nota anche come funzione di gating) , che sulla base di calcola il vettore di output a valori non-negativi (può anche essere una distribuzione di probabilità); l'insieme dei parametri in cui il parametro serve alla funzione di ponderazione, gli altri sono per gli esperti; dato un input , la mistura di esperti produce un unico risultato ottenuto combinando con i pesi in una qualche maniera specifica, tipicamente .

Sia gli esperti che la funzione di ponderazione vengono addestrati minimizzando un qualche tipo di funzione di perdita, solitamente tramite discesa del gradiente. C'è ampia libertà sulla scelta della forma precisa degli esperti, della funzione di ponderazione e della perdita.

Rete meta-pi La rete meta-pi di Hampshire e Waibel utilizza

come output.

Il modello viene addestrato tramite discesa del gradiente sull'errore quadratico medio

Gli esperti possono essere costituiti da funzioni arbitrarie.

Misture adattive di esperti locali Le misture adattive di esperti locali utilizzano un modello di mistura gaussiana. Ogni esperto deve predire semplicemente sulla base di una distribuzione gaussiana e ignora del tutto l'input. Nello specifico, l'i-esimo esperto predice l'output , dove è un parametro da apprendere. La funzione di ponderazione è una softmax lineare:

La combinazione di esperti predice l'output in base alla seguente densità di probabilità:

Il modello viene addestrato tramite stima della massima verosimiglianza, ovvero tramite salita del gradiente in . Il gradiente per l'-esimo esperto è

mentre quello della funzione di ponderazione è

.

Per ogni coppia di input-output , la funzione di ponderazione viene modificata in modo da aumentare il peso di tutti gli esperti che hanno ottenuto risultati superiori alla media e diminuire quello di tutti gli esperti che hanno ottenuto risultati inferiori. Questo induce la funzione di ponderazione a imparare a selezionare solo gli esperti che fanno previsioni corrette per ciascun input.

L'i-esimo esperto viene adattato per avvicinare la sua predizione a , con una quantità di cambiamento proporzionale a . Ciò ha un'interpretazione bayesiana. Dato l'input , la probabilità a priori che l'esperto sia quello corretto è , e è la probabilità di . Quindi la probabilità a posteriori per l'esperto sarà:

e il tasso di cambiamento per l'-esimo esperto è proporzionale alla sua probabilità a posteriori.

In altre parole, agli esperti che, a posteriori, sembravano quelli validi da consultare viene chiesto di imparare dall'esempio. Gli esperti che, a posteriori, non lo erano, non vengono presi in considerazione.

L'effetto combinato è che gli esperti si specializzano: si supponga che due esperti siano bravi nel predire un certo tipo di informazioni, ma uno di loro sia leggermente migliore. Quando ciò accade, il meno esperto non sarà in grado di ottenere un segnale di gradiente alto e risulterà ancor più scarso nel prevedere quel tipo di input. Al contrario, il meno esperto potrebbe migliorare nella predizione di altri tipi di input e spostarsi progressivamente verso un'altra regione. Ciò ha un effetto di feedback positivo, che induce ciascun esperto a separarsi dagli altri e a concentrarsi esclusivamente su una regione locale (da cui il nome "esperti locali").

MoE gerarchica Le misture gerarchiche di esperti utilizzano più livelli di gating in forma d'albero. Ogni gate è una distribuzione di probabilità che riguarda il livello successivo di gate e gli esperti si trovano nei nodi-foglia dell'albero. Il modello è simile a quello degli alberi di decisione.

Ad esempio, una MoE gerarchica a 2 livelli avrebbe una funzione di attivazione di primo ordine e funzioni di controllo del secondo ordine con esperti . La predizione finale sarà data quindi da:

.

Varianti Essendo simile al modello di mistura gaussiana, anche la mistura di esperti può essere addestrata utilizzando l'algoritmo EM, proprio come le misture gaussiane. Nello specifico, durante la fase di expectation, il "carico" di spiegazione di ciascun punto dati viene assegnato agli esperti e, durante la fase di maximization, gli esperti vengono addestrati a migliorare le spiegazioni per le quali hanno ottenuto un carico elevato, mentre il gate viene adattato per migliorare la sua assegnazione del carico. In tal modo si può convergere più velocemente rispetto alla salita del gradiente della verosimiglianza logaritmica.

La scelta della funzione di gating è solitamente una softmax. Oltre a ciò, viene proposto l'uso di distribuzioni gaussiane e famiglie esponenziali.

Invece di eseguire una somma ponderata di tutti gli esperti, nella MoE rigida viene scelto solo l'esperto con il punteggio più alto ossia, . Ciò può accelerare i tempi di apprendimento e inferenza

Per gli esperti si possono adottare forme più generali di distribuzioni gaussiane multivariate. Ad esempio, è stata proposta

dove sono i parametri da apprendere. In altre parole, ogni esperto impara a eseguire una regressione lineare, con una stima dell'incertezza che può essere appresa.

Possono anche essere adottate per gli esperti distribuzioni diverse dalle gaussiane. Ad esempio, possono essere utilizzate la distribuzione di Laplace o la distribuzione t di Student .

Per la classificazione binaria, sono stati proposti anche esperti basati su regressione logistica, ponendo

dove sono i parametri da apprendere. Ciò viene può essere generalizzato per il caso della classificazione multiclasse, con esperti basati su regressione logistica multinomiale.

Note

Voci correlate Apprendimento d'insieme Prodotto di esperti

Categoria:Apprendimento automatico