Skandaliczne "rozebranie" zdjęć nauczycielki przez AI. Prezes UODO zawiadomił prokuraturę

Używanie aplikacji opartych na sztucznej inteligencji coraz częściej staje się naszą codziennością. Korzystamy z AI w pracy, w domu i w szkole. Niestety nie zawsze jest ona wykorzystywana w słusznych celach – już jakiś czas temu było głośno o wygenerowanych fotografiach uczennicy, którą rówieśnicy "rozebrali" w aplikacji i rozesłali jej kompromitujące (choć nieprawdziwe) zdjęcia wśród uczniów szkoły.

Teraz w mediach pojawiła się informacja o tym, że użytkownicy AI (nie tylko uczniowie) nie boją się i nie mają szacunku nie tylko do kolegów z klasy, ale również do nauczycieli.

Prezes Urzędu Ochrony Danych Osobowych, Mirosław Wróblewski, poinformował, że Prokuratura Rejonowa Warszawa-Śródmieście została przez niego zawiadomiona o zdarzeniu naruszającym ustawę o ochronie danych osobowych (naruszenie art. 107 ustawy o ODO). Wcześniej o sprawie w mediach społecznościowych opowiedziała sama poszkodowana – nauczycielka, której zdjęcie zostało przerobione przez za pomocą deepfake'u

"[...] moje zdjęcie zostało przerobione (ROZEBRANE) za pomocą AI przez jakiegoś obleśnego typa, a następnie umieszczone w internecie. Czuję się paskudnie, czuję się skrzywdzona i nawet mówienie sobie, że przecież to nie było moje ciało, niewiele pomaga" – napisała kobieta.

Trzeba zaznaczyć, że nie jest to pierwsza interwencja prezesa UODO dotycząca ochrony praw obywateli w związku z krzywdzącymi, wygenerowanymi fotografiami, które są rozsyłane m.in. między uczniami.

Za naruszenie prawa osobie odpowiedzialnej za wygenerowanie krzywdzącego nauczycielkę deepfake’u grozi grzywna, kara ograniczenia wolności albo pozbawienia wolności do 2 lat.

Takie zachowanie jest przestępstwem, a dotychczas w wielu podobnych sprawach nie wyciągano konsekwencji, co mogło utwierdzić młodych ludzi w przekonaniu, że korzystając w taki sposób z AI, pozostają bezkarni. Nie jest to jednak prawda, co dobitnie pokazuje zgłoszenie do prokuratury osób odpowiedzialnych za "rozebrane" zdjęcie swojej nauczycielki.

"Niedopuszczalnym przetwarzaniem danych jest w takim przypadku przetwarzanie danych bez podstawy prawnej, gdy nie występuje żadna z przesłanek legalizacyjnych przetwarzania danych określonych w RODO. W szczególności, nie uzyskano zgody osoby, której dane dotyczą na przetwarzanie jej danych osobowych w jednym lub większej liczbie określonych celów" – skomentował sprawę prezes UODO.

Takie działanie szkodzi wizerunkowi kobiety jako nauczycielki, godzi w jej prywatność i narusza jej interesy życiowe.

Problem polega na tym, że choć co do szkodliwości deepfake’ów nikt nie ma wątpliwości, to zjawisko to wciąż nie ma jednoznacznej definicji w polskim prawie, więc nie każde takie zdarzenie może być rozstrzygane w jego granicach. Istnieje co prawda unijne

Rozporządzenie o sztucznej inteligencji (AI Act), gdzie definicja brzmi następująco: "wygenerowane przez AI lub zmanipulowane przez AI obrazy, treści dźwiękowe lub treści wideo, które przypominają istniejące osoby, przedmioty, miejsca, podmioty lub zdarzenia, które odbiorca mógłby niesłusznie uznać za autentyczne lub prawdziwe".

Nie ma tam jednak ani słowa o tym, jakie konsekwencje powinny być każdorazowo wyciągane wobec sprawcy takiego czynu. Brakuje więc przepisów bezpośrednio regulujących korzystanie z AI w Polsce, dlatego urzędnicy zmuszeni są do stosowania prawa unijnego.

Źródło: infor.pl, portalsamorzadowy.pl