Приватност, безбедност и доверба на системите за машинско учење

1.

Наслов на наставниот предмет

Приватност, безбедност и доверба на системите за машинско учење

Privacy, Security and Trust in Machine Learning Systems

2.

Код

m23_w_055

3.

Студиска програма

Пресметување во облак, Управување во информатички технологии, Биоинформатика, Безбедност, криптографија и кодирање, Едукација со ИКТ, Еко-информатика, Интелигентни системи, Компјутерски науки, Статистика и аналитика на податоци, Софтвер за вградливи системи, Софтверско инженерство, Пресметување во облак, Управување во информатички технологии, Биоинформатика, Безбедност, криптографија и кодирање, Статистика и аналитика на податоци, Софтверско инженерство, Data science in computer science and engineering, Интернет технологии и сајбер безбедност,

4.

Организатор на студиската програма (единица, односно институт, катедра, оддел)

Факултет за информатички науки и компјутерско инженерство

5.

Степен (прв, втор, трет циклус)

Втор циклус

6.

Академска година / семестар

5 / Зимски

7. Број на ЕКТС кредити

6.0

8.

Наставник

ворн. проф. д-р Ристе Стојанов ворн. проф. д-р Сашо Граматиков

9.

Предуслови за запишување на предметот

10.

Цели на предметната програма (компетенции):

Целта на овој предмет е воведување на основните ризици кои се појавуваат со вклучување на машинско учење во софтверските системи, нападите кои може да се искористат да за се наруши нивниот интегритет, безбедност и авторитет. Покрај нападите, ќе бидат разгледани и стратегиите за заштита на системите од овие најчести напади. Вториот дел од курсот ќе ги обработи предизвиците кои постојат кај најголемиот број системи кои користат машинско учење, а тоа е како да се заштити приватноста на податоците кои се користат при нивно тренирање. Последниот дел од курсот ќе се насочи на тоа како да се зголеми довербата на системите за машинско учење преку преглед на техники за објаснување на нивните резултати.

11.

Содржина на предметната програма:

Вовед во безбедносни димензии, концепти и методи. Безбедност од аспект на машинско учење. Закани кај решенија со машинско учење. Нападни кај машинско учење. Избор на соодветно решение за одбрана. Проблеми со доверба на резултатите кај машинско учење и можни решенија.

12.

Методи на учење:

Предавања поддржани со презентации преку слајдови, интерактивни предавања, вежби (користење на опрема и софтверски пакети), тимска работа, пример случаи, поканети гости предавачи, самостојна изработка и одбрана на проектна задача и семинарска работа, учење во електронско опкружување (форуми, консултации).

13.

Вкупен расположив фонд на време

6.0 ЕКТС x 30 часа = 180 часа

14.

Распределба на расположивото време

45 + 15 + 30 + 50 + 40 = 180 часа

15.

Форми на наставните активности

15.1.

Предавања- теоретска настава

45 часови

15.2.

Вежби (лабораториски, аудиториски), семинари, тимска работа

15 часови

16.

Други форми на активности

16.1.

Проектни задачи

50 часови

16.2.

Самостојни задачи

30 часови

16.3.

Домашно учење

40 часови

17.

Начин на оценување

17.1.

Тестови

45 бодови

17.2.

Семинарска работа/ проект ( презентација: писмена и усна)

50 бодови

17.3.

Активности и учење

10 бодови

17.4.

Завршен испит

0 бодови

18.

Критериуми за оценување (бодови/ оценка)

до 50 бода

5 (пет) (F)

од 51 до 60 бода

6 (шест) (E)

од 61 до 70 бода

7 (седум) (D)

од 71 до 80 бода

8 (осум) (C)

од 81 до 90 бода

9 (девет) (B)

од 91 до 100 бода

10 (десет) (A)

19.

Услов за потпис и полагање на завршен испит

реализирани активности

20.

Јазик на кој се изведува наставата

македонски и англиски

21.

Метод на следење на квалитетот на наставата

механизам на интерна евалуација и анкети

22.

Литература

22.1.

Задолжителна литература

22.2.

Дополнителна литература