1. Instruirea supervizata: Descriere, Principale aplicatii, Schema bloc, Rolurile blocurilor.

Descriere: Procesul de ajustare (adaptare) al sistemului astfel ca el sa produca o iesire specificata ca

raspuns la o intrare specificata. Supervizatiesirea este apriori cunoscuta pentru toate intrarile si algoritmul

de instruire utilizeaza o masura a erorii pentru a dirija antrenarea. Instruirea sistemului se realizeaza pe durata mai multor iteratii sau epoci de instruire.

Principale aplicatii:

Este buna pentru aproximarea functiilor, recunoastere de forme, etc. Un exemplu este algoritmul cu propagare inversa antrenarea retelelor neuronale, neuro-fuzzy(ANFIS).

Schema bloc:

Rolurile blocurilor: Profesorul furnizeaza seturile de date intrare-iesire de pe care se va invata sistemul. Instruirea se realizeaza in epoci/(iteratii). Blocul de sumare ne da eroarea sistemului. Algoritmul de adaptare supervizat corecteaza sistemul adaptiv cu scopul de a micsora cat

mai mult eroarea.

2. Definirea multimilor fuzzy (definirea conceptelor: variabila lingvistica, valoare lingvistica, universul discutiei, grad de apartenenta, functia de apartenenta; exemplificare conceptelor prin definirea a cel putin 2 multimi fuzzy peste o variabila lingvistica, alta decat amplificare).

Multimile fuzzy se refera la clase de obiecte cu granite graduale, in care apartenenta la o clasa creste treptat intre 0 (totala neapartenenta) si 1 (apartenenta completa).

Variabila lingvistic x =: o proprietate, un atribut al obiectului (obiectelor) n discuie (pentru un amplificator: amplificarea);

Valoarea lingvistic A =: un adverb, adjectiv asociat variabilei lingvistice, care d numele mulimii fuzzy asociate (medie, mare);

Universul discuiei X =: o mulime clasic, tranant, pe care se definesc mulimile fuzzy (intervalul considerat pentru amplificare X = [50; 300];

Funcia de apartenen A =: asociaz fiecrui element x gradul de apartenen la mulimea fuzzy A A (x) : X[0; 1] (exemplu: medie(amplificare) : [50; 300][0; 1].

Gradul de apartenen =: msura n care un element aparine unei mulimi fuzzy, [0; 1] (mare(201) =0,55; pentru amplificare de 201 ce aparine mulimii fuzzy amplificare mare)

Exemple: 1.Temperatura 2.Inaltimea unei persoane 1. O variatia temperatura atmosferica, Ta, cu universul discutiei [0*C;45*C]. Se definesc 4 multimi fuzzy Rece, Caldut, Cald, si Canicula. si deja la fel ca la 2. 2. O partitie fuzzy formata din 5 functii de apartenenta A de tip mf pentru variabila lingvistica x= inaltimea unei persoane considerand universul discutiei X=[140, 210] cm, avem valori lingvistice A =(FMica, Mica, Medie, Mare, FMare). exemplu: Mare(inaltime) : [170; 190][0; 1].

3. Structura unui sistem cu logica fuzzy (schema bloc, intrri, ieiri, fluxul de calcul, flux informaional, descrierea blocurilor)

Descrierea blocurilor: Baza de cunotine a SLF:

- mulimile fuzzy peste universul discuiei variabilei de intrare, X; - mulimile fuzzy peste universul discuiei variabilei de iesire, Y; - baza de reguli fuzzy, care leag ntre ele valorile fuzzy ale variabilei de intrare (x) de valorile fuzzy ale variabilei de iesire (y)

Operatii (operatorii) SLF: - Fuzzificarea : Transformarea valorii tranante de intrare x* ntr-o mulime fuzzy X*.

- Inferena : Cea mai complexa operatie dintr-un SLF, are sarcina de a rezolva baza de reguli fuzzy pentru valoarea fuzzy de intrare X*. Ea utilizeaza multimile fuzzy de intrare si iesire ale SLF, la iesire se obtine multimea fuzzy Y* din care se obtine prin defuzzificare valoarea transanta y=y*. Inferena trebuie s: - deduc pe baza valorii fuzzy de intrare X* i pe baza fiecrei reguli fuzzy Ri rezultatul fuzzy Yi* al regulii Ri.

- combine toate rezultatele pariale fuzzy Yi*, i=1,, M, ntr-o singur mulime fuzzy de ieire Y* - agregarea rezultatelor partiale. - Defuzzificarea: Rezultatul inferentei este multimea fuzzy de iesire Y* iar marimea de iesire a SLF trebuie sa fie o valoare transanta, la fel ca si intrarea, si deci blocul de defuzzificare selecteaza ca valoare de iesire o valoare transanta y* din suportul Y*.

Pentru aceasta se foloseste una din metodele de defuzzificare: - Centrul de greutate/arie (COG/COA). - Bisectoare. - Maxim (MOM,SOM,LOM).

4. Sistem fuzzy Takagi-Sugeno de ordin unu, cu doua intrri (schema bloc; exemplificare: multimi fuzzy de intrare si de ieire (expresie analitica), reguli; ilustrarea procesului de calcul pentru activarea a doua reguli: fuzzificare, grade de activare premise simple, grade de activare reguli, concluzii pariale, agregare, mulimea fuzzy de ieire, defuzzificare).

Schema bloc:

Exemplificare: -

5. Modelarea fuzzy pe baza de date numerice (problema de rezolvat, cerine pentru model, justificarea utilizrii SLF pentru modelare, procedura de modelare, structura seturilor de date, algoritmul utilizat pentru antrenare ANFIS - descriere calitativa, principalele argumente pentru funcia anfis, metode de generare a SLF iniial)

Problema estimrii unei funcii necunoscute f pe baza unor eantioane ( kxuur

, kyuur

); 1,k K= cu ( )k ky f x= uur si Nkx R

uur (adic aproximarea funciei pe baza unui set finit de perechi de date intrare-ieire).

Aproximarea funciei pe baza unui set finit de cupluri de date intrare-ieire a nvao aplicaie funcional necunoscut ntre vectorii de intrare i ieire folosind un set de date

cunoscute pentru antrenare. odat generat aplicaia, ea poate fi folosit pentru a prezice valoarea ieirii pentru orice nou vector de intrare

Justificare fuzzy

aproximatori universali

capacitate de interpolare operaii matematice simple (min, max, suma, prod, impartire) pot fi construite automat pe baza unui set de date numerice

Avem nevoie de dou seturi de date pentru estimarea modelului, care au urmtoarele caracteristici: setul de date antrenare (instruire):

consistent (s nglobeze toate caracteristicile funciei de modelat) mare (n special pentru funcii multivariabile cu neliniariti pronunate)

setul de date de validare/control (verificare):

reprezentativ pentru funcia de modelat distinct faa de setul de instruire

setul de test testeaza acuratetea modelulu

Algoritmul utilizat pentru antrenare ANFIS -

6. Modelul unui neuron cu mai multe intrri si o singura ieire: structura, definirea mrimilor, relaiile pentru determinarea valorii de ieire, exemple pentru funcia de activare.

7. Perceptronul: structura, definirea mrimilor, relaile pentru mrimea de ieire, regula de invatare a perceptronului.

Perceptronul este un clasificator binar ce mapeaza intrarea p(un vector cu valori reale) la o valoare binara a iesirii(0 sau 1; -1 sau 1)

Unde p-reprezinta intrarile perceptronului; Wi-ponderea cu care intrarea pi modifica iesrea. B biasul perceptronului.reprezinta ofsetul perceptronului.

Regula de invatare: - reprezinta procedura de modificare a ponderilor si biasurilor dintr-o retea neuronala(cu neuroni);

poate fi superviaza sau nesupervizata.

Antrenarea supervizata: - regulile de invatare sunt formate din seturi de exemple a comportarii retelei:

{p1,t1} {p2,t2}{pq,tq} unde pq reprezinta una din intrarile in retea si tq-iesirea corecta a retelei pentru intrarea pq.

-pe masura ce este aplicata semnal la intrare, iesirea acestei este comparata cu iesirea tinta. Apoi regula de invatare este folosita pentru a ajusta ponderile si biasurile retelei pentru a deplasa iesirile inspre tinta. De ex perceptronul reprezinta este un neuron ce reguli de invatare supervizata. - obiectivul este reducerea erorii dintre iesirea vector a si vectorul tinta t:min(e) unde e=t-a. Astfel apar trei cazuri:

CASE 1. If an input vector is presented and the output of the neuron is correct (a = t and e = t a = 0), then the weight vector w is not altered.

CASE 2. If the neuron output is 0 and should have been 1 (a = 0 and t = 1, and e = t a = 1), the input vector p is added to the weight vector w. This makes the weight vector point closer to the input vector, increasing the chance that the input vector will be classified as a 1 in the future.

CASE 3. If the neuron output is 1 and should have been 0 (a = 1 and t = 0, and e = t a = 1), the input vector p is subtracted from the weight vector w. This makes the weight vector point farther away from the input vector, increasing the chance that the input vector will be classified as a 0 in the future.

Procesul de gasire a noilor ponderi si biasuri poate fi repetata pana cand eroarea devine 0.

Regulile de invatare a perceptronului converg spre un nr finit de pasi pentru toate problemele ce pot fi rezolvate de un perceptron;aici se includ toate problemele de clasificare ce sunt liniar separabile.

8. Structura unui AG, schema bloc, explicarea blocurilor, reprezentarea variabilelor.

Generarea populatiei initiale: - Uzual, initializarea se realizeaza stocastic (aleator) - Uneori se introduc in populatia initiala catva indivizi selectati euristic (indivizi promitatori) si se

completeaza cu indivizi alesi aleator - Marimea populatiei: moderata 50 500 indivizi - Marimea populatiei ar trebui s creasca liniar cu dimensiunea unui individ (numar de gene ale

cromozomului Generarea populatie noua:

- In fiecare generatie este creat un nou set de indivizi (aproximatori, cautatori) in urma selectiei celor mai adecvati indivizi si combinarea acestora pentru a da nastere la noi indivizi utilizand operatori imprumutati din genetica

- Are loc evolutia populatiei de indivizi care astfel devin mai adecvati (potriviti) mediului decat indivizii din care au fost creati, similar cu adaptarea naturala.

- Sunt modelate procesele naturale: selectie reconbinare mutatie

Evaluarea functiei obiectiv: - Functia de adecvare se determina in concordanta cu valoarea functiei obiectiv. - Formularea problemei de optimizare este de tipul minimizeaza sau maximizeaza. - Ca functie de adecvare se poate utiliza direct functia obiectiv dar are neajunsul de diversificare.

Reprezentarea variabilelor: Specifica AG este notiunea de cromozom, ce contine toate informatiile necesare

reprezentarii unui individ. Un cromozom este compus din gene variabile a problemei de optimizat Cromozom generic in care fiecare gena reprezinta o variabila:

Alfabetul utilizat in reprezentarea genelor poate fi teoretic orice alfabet, cele mai utilizate fiind: reprezentarea binara reprezentarea reala specifica problemelor ingineresti

9. Operatori genetici (aspecte calitative, rolul in cadrul unui AG): generarea populaiei iniiale, selecia, recombinarea, mutaia.

Generarea populatiei initiale Uzual initializarea se realizeaza stocastic (aleator) Uneori se introduc in populatia initila catva indivizi selectati euristic (indivizi promitatori) si se completeazacu indivizi alesi aleator Populatia initiala ar trebui sa conste dintr-o varietate mare a indivizilor Marimea populatiei: moderata 50 500 indivizi Marimea populatiei tinde sa creasca liniar cu dimensiunea unui individ.

Selectia Determinarea populatie intermediare ce contin parintii care vor fi supusi operatorilor genetici de

recombinare si mutatie-selectarea indivizilor care vor produce urmasi. Metode:

aleatoarein procesul de selectie sunt introduse elemente aleatoare, in general prin utilizarea unor probabilitati de selectie care depind de gradul de adecvare.

o Elementele cu grad mare de adecvare sau sanse mai mari de a fi selectate, astfel ca numaru de urmasi ai acestora poate fi mai mare decat al celor cu grad mai mic de adecvare

o Selectia tip ruleta(esantionare stocastica cu inlocuire); selectie de tip turneu, selectie proportionala. Pentru fiecare individ se calculeaza o probabilitate de selectie:Selection probability(i)=fitness(i)/ fitness(i).

deterministeindivizii cu grad mare de adecvare sunt intotdeauna selectat iin defavoarea celor cu grad mai mic de adecvare: selectia prin trunchiere.

Recombinare Produce noi indivizi(urmasi) prin combinarea informatiilor continute de doi sau mai multi parinti Combinarea valorilor variabilelor parintilor Tipuri de recombinari:

discreta; pentru valori reale(recombinare intermediara,recombinare liniara,recombinare liniara

extinsa) pentru valori binare (incrucisare-etc)

Mutatia Indivizii(urmasii) sunt modificati aleator; Mutatie-Pentru variabile reale si pentru variabile binare.

Mutatia pentru variabile reale Valori create aleator sunt adaugate variabilelor reale; Trebuiesc definite: Probabilitatea ca o variabila sa sufere o mutatie(rata de mutatie) Este invers proportionala cu numarul variabilelor

O valoare optima se pare a fi 1/Nvar - o singura variabila a unui individ surefa procesul de mutatie

10. Optimizare SOO cu AG: enuntarea generala a problemei de optimizare; exemplificare pentru dimensionarea unui amplificator cu un tranzistor: functia obiectiv pentru cerinta de egalitate, structura cromozomului, reprezentarea variabilelor.

11. Optimizare multiobiectiv (definirea problemei de rezolvat, conceptul de optim Pareto, exemplificarea grafic a frontului Pareto pentru dou funcii obiectiv pentru care se doreste minimizarea, conceptul de ierarhizare multiobiectiv.

Pentru probleme de optimizare multiobiectiv exista doua variante: Optimizare multiobiectiv realamultimea solutiilor optime Pareto Transformarea intr-o problema cu un singur obiectiv prin combinarea functiilor obiectiv individuale

intr-o singura functie obiectiv globala rezulta o singura solutie

Conceptul de Pareto dominance: un vector obiectiv f(x1) se spune ca domina un alt vector obiectiv f(x2) daca nici o componeneta a vectorului f(x1) este mai mare decat corespondentul sau in f(x2) si cel putin o componenta este mai mica.Conform conceptului de optim Pareto se poate afirma faptul ca solutia x1 este mai buna ca solutia x2,i.e. x1 domina pe x2 daca f(x1) domina pe f(x2). O solutie x* se spune ca este optima de tip Pareto pt o problema de optimizare multiobiectiv daca si numai daca nu exista x a.i f(x)

Exemplu de minimizare pt o functie cu doua obiective