Aine eesmärk on:
- tutvustada enamlevinud kaasaegseid masinõppe meetodeid;
- luua arusaam masinõppe meetodite baasiks olevast matemaatilisest aparatuurist;
- seostada varem õpitud matemaatilisi meetodeid masinõppe rakendustega;
- õppida programmeerima lihtsamaid masinõppe meetodeid;
- õppida tundma ja kasutama olemasolevaid masinõppe algoritme realiseerivaid pakette ja teeke.

The aim of this course is to:
- introduce the main methods in modern machine learning;
- establish the understanding of the mathematical basis of the machine learning methods;
- establish the connection between the previously studied mathematical courses and machine learning;
- learn to program simple machine learning models;
- get to know and use the existing tools and libraries implementing machine learning models and algorithms.

Õppeaine läbinud üliõpilane:
- nimetab põhilisi kaasaegseid masinõppe meetodeid;
- klassifitseerib ülesandeid ja valib nende lahendamiseks sobivaid masinõppe algoritme;
- programmeerib lihtsamaid masiõppe algoritme;
- kasutab olemasolevaid pakette ja teeke uute ülesannete lahendamiseks;
- hindab eri masinõppe meetodite sobivust uute ülesannete lahendamiseks.

Upon completing this course the student:
- lists the main machine learning methods;
- classifies problems and chooses proper methods for each type of problems;
- programs simple machine learning algorithms;
- uses existing tools and libraries for solving new problems;
- estimates the suitability of different methods for solving new problems.

Põhimõisted: õppimine, üleõppimine, alaõppimine, juhendatud ja juhendamata õppimine, meetodi üldistusvõime.
Erinevad mudelid: regressioon, logistiline regressioon ja klassifitseerimine, närvivõrgud, Bayesi meetodid, klasterdamine, tugivektormasinad ja kernelid, tagasisidega õppimine, komponentanalüüsi meetodid, markovi mudelid
Meetodid: maksimaalse tõepära meetod, ootuste maksimeerimise meetod
Modelleerimise paradigmad: klassikaline, bayesiaanlik, parameetriline, mitteparameetriline
Optimeerimisalgoritmid: esimest ja teist järku meetodid.

Eeldused: Mat.analüüs I, Lineaaralgbra, Tõenäpsusteooria ja statistika. Samuti eeldatakse, et üliõpilane oskab programeerida.

Main concepts: learning, overfitting, underfitting, supervised learning, unsupervised learning, generalization ability.
Models: regression, logistic regression and classification, neural networks, Bayes methods, clustering, support vector machines and kernels, reinforcement learning, component analysis methods, markov models
Methods: maximum likelihood estimation, expectation-maximization method
Modelling paradigms: frequentist, Bayesian, parametric, non-parametric.
Optimization: first and second order methods.

The student should possess basic knowledge of calculus, linear algebra, probability theory and statistics and computer programming before joining this course.

Kursuse läbimiseks peavad õpilased sooritama kolm kodutööd, kaks kontrolltööd ja kaitsma lõpp projekti. Test või kodutöö loetakse sooritatuks, kui tulemus ületab 50%. Iga kodutöö moodustab 10% lõpphinnangust. Iga test moodustab 20% lõpphinnangust. Lõputöö (ÕIS-is nimetatud „eksamiks”) moodustab 30% lõpphinnangust. Pange tähele, et kõik testid ja ülesanded on kohustuslikud!

To pass the course, students must complete three homework assignments, two closed book tests, and defend a final project. A test or homework assignment is considered passed if the result exceeds 50%. Each homework assignment accounts for 10% of the final grade. Each test accounts for 20% of the final grade. The final project (called "exam" in the ÕIS) accounts for 30% of the final grade. Note that all tests and assignments are mandatory!

Programmeerimisülesanded, kodulugemine.

Programming exercises, home reading.

Christopher M. Bishop, “Pattern Recognition and Machine Learning”, Springer, 2007.
Kevin Murphy, “Machine Learning: A Probabilistic Perspective”, MIT Press, 2012.
Kursuse veebileht: https://courses.cs.ttu.ee/pages/ITI8565
The student should possess basic knowledge of calculus, linear algebra and computer programming before studying this course.

-