Post on 02-May-2015
transcript
“Come vede una rete neurale”
Titolo della tesi
Scopo della tesi:
simulare alcune proprietà del sistema visivo dei mammiferi attraverso l’utilizzo di una rete neurale
Che cosa verrà simulato?
• Immagini in bianco e nero(livelli di luminanza)
• Composizione spettrale del segnale
• Simulazione prevalentemente atemporale
• Complesse dinamiche neurali
• Trasformazioni in 2D
• Feed-back intermodale • Interazioni a feed-back con l’ambiente esterno
• Trasformazioni in 3D
E molto altro ancora….
Reti neurali
Rete di neuroni biologici
Rete neuraleartificiale
Sistemi nervosi artificiali che traggono ispirazione dai modelli biologici
Neurone
Neurone biologico Neurone artificiale
X1 X2 X3
F(Att.)
output
input
Vantaggi delle reti neurali• Plausibilità biologica
• Capacità di apprendere• Adattabilità: sono applicabili a più domini
(come i sistemi biologici)
• Veloci: processi in parallelo
• Robusti: errori e rumore degradano progressivamente la prestazione
• Rappresentazioni distribuite
• Possibilità di eseguire manipolazioni• Somiglianza fra prestazioni umane e modelli
Il modello
Tentativo di conciliare due diverse visioni del rapporto mente-cervello
NeuroscienzeOsservazioni psicologia sperimentale(percezione)
dialogo
Strutture anatomiche simulate
Parziale implementazione di• Strutture retiniche• NGL• V1• Aree associative• Sistema motivazionale
Caratteristiche funzionali simulate
• Elaborazione precoce dell’immagine visiva
• Eliminazione del rumore
• Estrazione delle variazioni di luminanza
• Prime fasi di elaborazione corticale (V1)
• Ricostruzione dell’immagine
• Livello associativo
• Rinforzo
• Attenzione selettiva
Schema generale della rete:
Totale di5.176 neuroniartificialie 528.439connessioni
Implementazione:Visual Basic
Primo strato: recettori
(istantanee del programma)
Matrice dei
recettori:20 x 20
400recettori
Livello diattivazione
Processo di smoothingLivellamento del rumore dell’immagine originaria
Immagine + rumore
Immagine percepita(depurata dal rumore)
Eliminazione del rumore: recettori
Prima dell’applicazione del filtro Dopo l’applicazione del filtro
Che cosa accade al segnale?
Estrazione delle variazioni di luminanzaLe caratteristiche importanti dell’immaginesono racchiuse nelle variazioni di luminanza(spesso coincidenti con i bordi degli oggetti)
Necessità di introdurre un ulteriore strato di unitàla cui struttura riassume le funzioni
delle cellule bipolari, gangliari e del NGL
INTERMEDIE
Connessioni recettori center-ON e center-OFF
Struttura del campo recettivodelle center-ON e center-OFF
Elaborazione in parallelo
Proprietà funzionali center-ON e center-OFF
1 2 3 4 5
S10
1
2
3
Att
Stimolo
Risposta di una center-ON in funzione della posizione dellostimolo luminoso
Simulazioni intermedie
Simulazioni intermedie
Prime fasi di elaborazione corticale (V1)Campo recettivo concentrico
Organizzazione modulare V1
Campo recettivo più complesso
Modello: unità semplici SI ed SII
• Salto concettuale rispetto alle intermedie• Nuova classe di unità con CR allungato: necessità di elaborare proprietà complesse dell’immagine, non solo grandezze puntiformi• Semplificazione della circuiteria corticale: solo due classi di unità semplici, SI ed SII
• Estrazione di contorni dell’immagine• Sensibilità alle frequenze spaziali• Sensibilità alla direzione del contrasto
Che cosa chiediamo a queste unità?
Unità SI
6 classi di unità2166 unità
Unità SII
8 classi di unità1800 unità
• Simulazione della presenza di un set completo di cellule semplici per orientamento e frequenza spaziale
Feed-Back
Competizione locale
• Meccanismo di controllo della dinamica della rete
• In una data popolazione di unità con funzioni simili solo l’unità più attiva trasmette il proprio output
1020
15
20
10
5
Simulazioni SI
Recettori
Intermedie
Camporecettivo
Scala attivazione
Simulazioni SII
Dopo la competizione locale
Effetto del Feed-Back
Prima
Dopo
Esempi 1
Esempi 2
Esempi 3
Obiettivi raggiunti
• Estrazione delle caratteristiche dell’immagine attraverso l’interazione fra più stadi: ciò che viene perso in uno stadio è recuperato dal feed-back di quello successivo
• Ricostruzione dei valori di luminanza
• Migliore prestazione per stimoli con alta simmetria e periodicità (similmente al SV umano)
• Riproduzione di alcuni fenomeni percettivi: bande di Mach, contrasto simultaneo, facilità nell’elabora_ zione di immagini simmetriche e periodiche
Ultimi stadi
• reagisca a delle semplici procedure di condizionamento
• modifichi le proprie prestazioni nel tempo: apprendimento
• relazione fra ambiente esterno ed interno (necessità dell’organismo)
• esibisca un processo di attenzione selettiva nei confronti degli stimoli che ha appreso essere più importanti: target e distrattori
Architettura• Unità capaci di apprendere
• Unità che codificano per rinforzi - e +
Unitàassociative
Unitàrinforzanti
Neuroni artificiali che codificano per stati “endogeni” della rete (piacere-dolore)
Unità associative• 12 unità
• Interamente interconnesse + connessioni da tutte SI + feed-back da SI
• Capaci di apprendimento
• Implementano una simu_ lazione di corteccia associativa
Convergenza di segnali visivi e motivazionali e capacità di apprendere
Unità rinforzanti• Interamente connesse con le associative
• Paia di unità che codificano per polarità opposte dello stimolo (simili a neur. ipotalamo e neur. facilitatori di Aplysya)
• “Leggono” l’input motivazionale e generano un feed-back verso le associative: se le unità entrano in uno stato di risonanza, allora c’è apprendimento
• 4 unità divise in due coppie
BA
C
A B
Apprendimento
Rafforzamento
Indebolimento
Prima dell’apprendimento Dopo l’apprendimento
Sensibilità
unità adiversi stimoli
Simulazione finale: apprendimento ed attenzione selettiva
Conclusioni• A differenza di altri modelli, questa rete integra gli stadi precoci di elaborazione sensoriale con i meccanismi di controllo superiori • Viene fornita una spiegazione computazionale del perché sia richiesta l’inibizione come meccanismo di controllo delle dinamiche neurali
• Una probabile spiegazione della preferenza nella percezione e nelle creazione di stimoli simmetrici e periodici può essere ricercata nella struttura delle SI ed SII • L’inibizione dei distrattori non è completa: questi forniscono ancora informazioni contestuali
• Più alto è il livello dell’input motivazionale, maggiore è l’inibizione di ciò che circonda i distrattori. Una rete animata da passione?…...
• Fornisce una metodologia per passare dal livello microscopico della circuiteria neurale a quello macroscopico del comportamento
• Tutto ciò è stato fatto con neuroni artificiali molto “stupidi”: quanto più semplici le unità, tanto migliore l’architettura a parità di prestazioni
Fine