III: Inteligencja Obliczeniowa.

W semestrze letnim 2010 roku prowadzę wykład monograficzny "Metody inteligencji obliczeniowej". Ma on charakter matematyczny, dotyczy głównie modeli modeli statystycznych, uczenia maszynowego i sieci neuronowych, czyli tego co składa się na nową dziedzinę nauki zwaną "Inteligencją Obliczeniową" (Computational Intelligence). Wykłady odbywają się w czwartki, 18:00, w sali Klubu (obok baru), w budynku Inst. Fizyki, ul. Grudziądzka 5.

Wykład ten jest częścią większego cyklu wykładów o charakterze kognitywnym. Wstęp do kognitywistyki jest przede wszystkim o filozofii umysłu, prowadzony jest w ramach studiów z kognitywistyki w semestrze zimowym, a jego druga część, Mózg, umysł i zachowanie dotyczy głównie modeli działania mózgów, umysłów i zrozumienia zachowania zwierząt i ludzi. Są to wygłady o charakterze ogólnym. Wykłady z Inteligencji Obliczeniowej można uważać za część tego cyklu. Prowadzę również wykład Modelowanie Funkcji Mózgu (Neuropsychologia komputerowa) o bardziej matematycznym charakterze.
Wszystkich części można wysłuchać niezależne, ale oczywiście najlepiej wysłuchać całość i brać udział w laboratorium.

Równolegle z wykładem odbywa się laboratorium z metod inteligencji obliczeniowej (30 g.), które prowadzi mgr Tomasz Maszczyk z Katedry Informatyki Stosowanej (wtorek, 18:00-19:30 w PK VI, budynek IF, Grudziądzka 5). Chociaż uczestnictwo w tym laboratorium jest konieczne tylko na niektórych kierunkach, bardzo do niego zachęcam wszystkich słuchaczy wykładu.

Możliwe jest zaliczenie wykładu bez oceny i bez egzaminu, na podstawie obecności i po napisaniu pracy zaliczeniowej (ok. 10-20 stron) na uzgodniony wspólnie temat dotyczący zagadnień poruszanych na wykładzie. Nie ma zaliczeń metodą samego zasiedzenia! Przykłady poprzednich prac (po angielsku) są tutaj, pracę można pisać oczywiście po polsku. Zaliczenie nie daje jednak stopnia i nie jest egzaminem, tylko zaliczeniem. Proszę o uzgadnianie pocztą elektroniczną tematu pracy zaliczeniowej do połowy maja.
Warunkiem przystąpienia do egzaminu lub zaliczenia jest wpisanie się na listę w USOS. Osoby spoza wydziału FAiIS powinny wysłać email do prodziekana z prośbą o wpisanie do USOS, jeśli będą z tym trudności.
Wybory mają swoje konsekwencje ... Zgodnie z naszym regulaminiem student ma obowiązek zapisania się do końca lutego na wszystkie zajecia, które chce zaliczać, a do połowy marca można się z nich wypisać. Potem trzeba zdać egzamin lub zaliczyć przedmiot, bo USOS automatycznie przypisze ocene negatywną.

Zamiast 10.06 mamy wykład wyjątkowo 2.06, g. 18:00, Klub

Termin egzaminu ustalamy na 18.06.2010, g. 17:00, s. 20.
Uwaga! Egzamin poprawkowy 25.2010, g. 12:00, s. 26.

Przykładowy egzamin z tego wykładu na NTU

Włodzisław Duch

Orientacyjny plan wykładu

Część I: Wstęp do nauk o poznaniu (2009/10)
Część II: Mózg i zachowanie (wersja 2008/09)
Część III: Inteligencja obliczeniowa - poniżej
Część IV: Sztuczna inteligencja i symboliczne modele działania umysłów

Układ jest zmieniany w czasie wykładów. Ponieważ w tym roku (2010) jest to tylko jeden semestr wykład jest dość skondensowany. Prezentacje są tu podczepione w formacie PDF, nadają się do drukowania. Prezentacje, kóre pokazuję w trakcie wykładu są w PPT i mogą się trochę różnić. Dla ułatwienia korzystania z literatury prezentacje i plan wykładu (poniżej) są w języku angielskim.

Course outline:

Computational Intelligence (CI) overview, types of adaptive systems, learning and applications. (2 h)
Visualization and exploratory data analysis: few variables, parallel coordinates and other direct multivariate visualization algorithms, Principal Component Analysis (PCA), Self-Organized Mappings (SOM) and Multidimensional Scaling (MDS). (7 h)
Theory: overview of statistical approaches to learning, bias-variance decomposition, expectation maximization algorithm, model selection, evaluation of results, ROC curves. (4 h)
CI packages in action: WEKA/RapidMiner and GhostMiner, presentation of algorithms available in these packages (2 h, more during lab)
Statistical algorithms: discriminant analysis - linear (LDA), Fisher (FDA), regularized (RDA), probabilistic data modeling, SVM and kernel methods. (4 h)
Density estimation and rule induction, separability criteria. (4 h)
Similarity based methods, generation of prototypes, similarity functions. (2 h)
Improving CI models: boosting, stacking, ensemble learning, meta-learning, information theory for selection of features. (5 h)

Total number of lecture hours: 30 hours

Reference texts: 3 best books

R.O. Duda, P.E. Hart, D.G. Stork, Pattern Classification (2nd Edition), J Wiley 2000
T. Hastie, R. Tibshirani, J. Friedman, The Elements of Statistical Learning. Springer 2001
A. Webb, Statistical Pattern Recognition. Wiley, 2-nd ed. 2002

Other useful books:

C.M. Bishop, Pattern Recognition and Machine Learning, Springer 2006
D. Hand, H. Mannila, P. Smyth, Principles of Data Mining, MIT Press 2001 (wersja polska: 2005)
V. Kecman, Learning and soft computing, MIT Press 2001
Amit Konar, Computational Intelligence. Principles, Techniques and Applications. Springer 2005
I.H. Witten, E. Frank, Data Mining: Practical Machine Learning Tools and Techniques with Java Implementations. Morgan Kaufmann 1999 (WEKA book) Some WEKA models are described here, with examples for the Gamma-ray burst analysis.
J. P. Marques De Sa, Pattern Recognition: Concepts, Methods, and Applications. Springer Verlag, 2001

Links to some free books that you may print are below:

Machine Learning, Neural and Statistical Classification, D. Michie, D.J. Spiegelhalter, C.C. Taylor (eds), Statlog project - great book!
Links to other free books on CI

Question/answers page.
Some links relevant to Computational Intelligence.

Course notes in PDF format:

I have to cut some material to adjust it to 30 hours. Note that these slides may change just before the lecture and even a week after, if some corrections/additions are needed or if some questions are asked.

General Introduction: 3 hours

Visualization of multidimensional data: 8 hours