1 /20Tehnici de inteligenţă computaţională în electronică, G. Oltean
FUNDAMENTE ALE IC
Fundamente ale inteligentei computationaleDomenii ale IC Mituri despre ICAdaptareAutoorganizareCI ca adaptare si autoorganizareCapacitatea de generalizare
2 /20Tehnici de inteligenţă computaţională în electronică, G. Oltean
FUNDAMENTE ALE IC
Domenii ale ICLogică fuzzy (Fuzzy logic)Calcul evoluţionist (Evolutionary computation)Reţele neuronale (Neural network)…Sisteme hybride
•
Domeniile sunt intr-o relatie de complementaritate (nu concurentiala), in care fiecare contribuie cu avantajele si tehnicile proprii la solutionarea problemelor.
•
Logica fuzzy ofera posibilitatea aproximarii, algoritmii genetici realizeaza o cautare “sistematica”
a solutiei, retelele neuronale au capacitatea de a invata
si de a se adapta.
3 /20Tehnici de inteligenţă computaţională în electronică, G. Oltean
FUNDAMENTE ALE IC
Logica fuzzyFuzzy: vag, neclar, imprecis, scamos, pufos, nuanţatFuzziness: imprecizie nestatistica si caracter vag al informatiilorsi datelor.
Logica fuzzylogica rationamentului aproximativ, care este o extensie a
logicii multivalente; generalizare a logicii conventionalemultimile fuzzy se refera la clase de obiecte cu granite
neprecise, in care apartenenta la o clasa este graduala intre 0 (totala neapartenenta) si 1 (apartenenta completa)
Lotfi Zadeh, parintele logicii fuzzy:“Motivul pentru care am ales cuvântul fuzzy este că ceea ce am avut în
minte sunt clasele care nu au graniţe precis delimitate”.
4 /20Tehnici de inteligenţă computaţională în electronică, G. Oltean
FUNDAMENTE ALE IC
Logica fuzzy - cont.
“Pe masură
ce creşte complexitatea, formulările precise pierd din înţeles şi formulările pline de înţeles pierd din precizie.”
–
Lotfi Zadeh
Precizie si semnificatie in lumea reala [FLT]
5 /20Tehnici de inteligenţă computaţională în electronică, G. Oltean
FUNDAMENTE ALE IC
Calcul evoluţionistArii ale calculului evolutionist [Ebe07]:
Algoritmi genetici (genetic algorithms)Programare evolutionista (evolutionary programming)Strategii evolutive (evolution strategies)Programare genetica (genetic programming)Optimizarea roiurilor de particule (particle swarm optimization)
Modeleaza procese naturale: selectie, recombinare, mutatie, etcMetode de cautare stocastica, bazate pe mecanismele de evolutie
naturala biologica.Lucreaza cu populatii de solutii potentiale si aplica principiul
supravietuirii celui mai bun (teoria evolutionista - Darwin) pentru a furniza aproximari din ce in ce mai bune ale solutiei.
Evolutia indivizilor din populatie, astfel ca acestia devin mai adaptati mediului dacat indivizii din care au fost creati - similar cu adaptarea naturala.
6 /20Tehnici de inteligenţă computaţională în electronică, G. Oltean
FUNDAMENTE ALE IC
Reţele neuronaleRetelele neuronale artificiale sunt sisteme de prelucrare a informatiei ce modeleaza structura paralela masiva a creierului – inspiratie biologica.Simuleaza o structura de calcul paralela, extrem de interconectata, ce contine un numar mare de elemente de prelucrare (neuroni) relativ simple.Elementele de prelucrare sunt conectate prin conexiuniponderatePonderile conexiunilor stocheaza informatia(cunostintele), reteaua fiind astfel capabila de adaptareprin modificarea acestor ponderi.
7 /20Tehnici de inteligenţă computaţională în electronică, G. Oltean
FUNDAMENTE ALE IC
Mituri depre IC۩ Necesitatea supercomputerelor/laureatilor Nobel/sume mari de bani pentru a obtine rezultate utilizand IC;
۩ Implementarile IC sunt cele mai rapide, mai ieftine si mai bune;
۩ IC elimina nevoia de programare;
۩ Intr-un sistem, partea de IC este mult mai importanta dacat partea de pre-prelucrare a datelor;
۩ Numai expertii in biologie pot utiliza IC;
۩ Logica fuzzy este vaga, imprecisa;
۩ Logica fuzzy este un alt fel de probabilitate;
۩ IC furnizeaza intotdeauna optimizarea absoluta.
8 /20Tehnici de inteligenţă computaţională în electronică, G. Oltean
FUNDAMENTE ALE IC
AdaptareaAdaptare
Capacitatea unui sistem de a-si modifica (evolua) parametrii cu scopul de a-si indeplini mai bine sarcinile.Orice proces in cursul caruia o structura este modificataprogresiv pentru a furniza performante mai bune in mediul sau.
Adaptare dinamicaCapacitatea unui sistem de a se adapta “on-line”, adica in timp
real la schimbarile de mediu.Adaptarea are loc in timpul functionarii sistemului.
Tipuri de adaptareSupervizata (supervised adaptation)Nesupervizata (unsupervised adaptation)Intarita (reinforcement adaptation)
9 /20Tehnici de inteligenţă computaţională în electronică, G. Oltean
FUNDAMENTE ALE IC
Spatiile adaptariiSpatiul parametrilor de intrare (spatiul problemei)
Domeniul dinamic al parametrilor de intrare, in general specificat
Spatiul iesirilor sistemului (spatiul functiei)Domeniul dinamic al variabilelor de iesireSpecificat ca si constrangere hard sau soft
Spatiul potriviriiSpatiul in care se defineste “valoarea” solutiilor (in spatiuliesirilor) determinate in urma adaptariiIn general se scaleaza potrivirea intre 0 si 1
•
optim
0 -
probleme
de minimizare•
optim
1 –
probleme
de maximizare
Uneori spatiile iesiriilor sistemului si cel al potriviriicoincid, alteori nu.
10 /20Tehnici de inteligenţă computaţională în electronică, G. Oltean
FUNDAMENTE ALE IC
Legea suficienteiDaca solutia unei probleme este:
destul de buna (satisface specificatiile)destul de rapidadestul de ieftina
atunci
este
suficient
!
Dificultati ale adaptarii Numarul mare de variabileFunctii de potrivire complexe, neliniareFunctii de potrivire variabile in timp si in spatiul parametrilor de intrareMediu complex si variabil
11 /20Tehnici de inteligenţă computaţională în electronică, G. Oltean
FUNDAMENTE ALE IC
Adaptarea supervizataProcesul de ajustare (adaptare) al sistemului astfel ca el saproduca o iesire specificata ca raspuns la o intrarespecificata.
Supervizat – iesirea este apriori cunoscuta pentru toateintrarile si algoritmul de antrenare al sistemului utilizeazaeroarea pentru a dirija antrenarea (Reed and Marks 1999).
Exista o masura directa a nivelului de potrivire
12 /20Tehnici de inteligenţă computaţională în electronică, G. Oltean
FUNDAMENTE ALE IC
Adaptarea supervizata - cont.•
“Profesorul”
furnizeaza
seturile de date intrare- iesire;
•
Adaptarea se realizeaza in iteratii;•
Potrivirea este adeseori
invers proportionala cu suma erorilor;•
Buna pentru
aproximarea functiilor;•
Examplu:
algoritmul cu
propagare inversa – antrenarea retelelor
neuronale, neuro-fuzzy (ANFIS)
13 /20Tehnici de inteligenţă computaţională în electronică, G. Oltean
FUNDAMENTE ALE IC
Sistemul se adapteaza la regularitatile datelorNu este prezent un “profesor” sau “critic” externNu exista nici o indicatie a potrivirii incorporata in algoritmul de instruie nesupervizataInterpretarea rezultatului instruirii (este bun, esteutilizabil) este realizata la finalizarea instruiriiEvaluarea “off-line” este in general realizata de un om saude un sistem inteligent.
Adaptarea nesupervizata
14 /20Tehnici de inteligenţă computaţională în electronică, G. Oltean
FUNDAMENTE ALE IC
Adaptarea nesupervizata - cont.
•
Utilizata in general pentru probleme de clasificare (clustering), sau “invatare competitiva”•
Clasificarea grupeaza vectorii de intrare
(pattern) similari in submultimi (grupuri) – clustere (clase)
•
Elementele dintr-un grup (clasa) au un grad ridicat de “asociere naturala”
intre ei
•
Grupurile (clusterele) sunt “relativ distincte”
unele fata de altele
• 2 faze:• determinarea numarului de clase•
repartizarea fiecarui punct de date
(pattern) intr-un grup (cluster)
15 /20Tehnici de inteligenţă computaţională în electronică, G. Oltean
FUNDAMENTE ALE IC
Adaptarea întărită
Interactiune cu un critic care furnizeaza informatiieuristice pentru intarire (ajutor, sprijin)Este necesar sa existe un fel de masura a potrivirii sauscopuluiO astfel de masura nu se poate obtine direct, dar pot existasugestii: cat de buna este o solutie fata de alte solutiiEste metoda de adaptare cea mai apropiata de sistemelebiologice
animalele (inclusiv oamenii) tind sa evite comportarile ce le provoaca discomfort si tind sa caute sau sa repete actiunilecare le aduc comfort.
16 /20Tehnici de inteligenţă computaţională în electronică, G. Oltean
FUNDAMENTE ALE IC
Adaptarea întărită - cont.•
adeseori sistemul
primeste o serie de date (intrare, stare)•
doar la sfarsit se
evolueaza potrivirea sistemului •
“criticul”
se uita numai la
rezultatele finale, neluand in considerare erorile datorate fiecarei intrari•
exemplu: optimizarea
roiurilor de particule (se poate calcula doar cat de buna este o solutie fata de alta)
17 /20Tehnici de inteligenţă computaţională în electronică, G. Oltean
FUNDAMENTE ALE IC
AutoorganizareProprietate a unui sistem evolutiv de a-şi elabora noiforme de organizare, noi modele sau structuri interne [MDN]Sistemele cu autoorganizare aparent prezinta ordinespontanaAutoorganizarea poate fi vazuta ca o incercare continua a sistemului de a se organiza el insusi in structuri maicomplexe, chiar si in fata fortelor permanente de desfacere (faramitare) descrise de legea a doua a termodinamicii
18 /20Tehnici de inteligenţă computaţională în electronică, G. Oltean
FUNDAMENTE ALE IC
Autoorganizare - cont.Intreaga stare a sistemului este o proprietate de emergenta a sistemuluiComponentele interconectate ale sistemului devin organizatede o maniera productiva (plina de inteles) in functie de informatiile locale; dinamica globala emerge din regulilelocaleSistemele complexe se pot autoorganizaProcesul de autoorganizare lucreaza aproape de limitahaosului
Exemple:formarea cristalelor de gheatacristalizarea sariiautomate celularecreierul uman
19 /20Tehnici de inteligenţă computaţională în electronică, G. Oltean
FUNDAMENTE ALE IC
O vedere simplificata a IC
Datele prelucrate provin din afara sistemuluiCunostintele incorporate sunt continute in interiorulsistemului
20 /20Tehnici de inteligenţă computaţională în electronică, G. Oltean
FUNDAMENTE ALE IC
Capacitatea de generalizareCapacitatea de a determina corect valoarea iesirii pentru vectori de intrare la care sistemul nu a fost expus pe durata antrenarii
iesirilorspatiul,intrarilorspatiul),( −−= YXxfy
Setul
de date de antrenare:
( ){ }antrenaredeperechidenumarul
...,2,1,x,−
=∈=n
niYXyxS ii
Construirea
modelului ( ) ( ) Sxxfxf ∉≈ ** pentru
Sistem
“perfect”:
( )Sxxfxf
Sxxfy∈∀=
∈∀=
),()(,
*
Poate
sa
nu fie valabil
datorita
erorilor
si
zgomotului prezente
in setul
de date de antrenare
Poate
fi
suparator
daca
S se imparte
in set de antrenare
si
set de test
In urma
antrenarii
poate
apare
“suprapotrivirea”
sistemului
cu setul
de date de antrenare
–
performante
slabe
pentru
setul
de test.
