Uczniowie wygenerowali nagi wizerunek uczennicy. Jest apel do ministra sprawiedliwości

Od kiedy sztuczna inteligencja weszła do powszechnego użytku, wiele osób chętnie z niej korzysta. Chat GPT i inne tego typu aplikacje są szeroko dostępne, a eksperci ostrzegają, że znajdą się osoby, wykorzystujące je do krzywdzenia innych. Niedawno w jednej ze szkół miała miejsce sytuacja, kiedy na podstawie zdjęcia uczennicy, nastolatkowie wygenerowali jej nagi wizerunek, a później rozpowszechnili go na terenie szkoły i zachęcali uczniów do dalszego udostępniania go.

O zdarzeniu w mediach opowiedział prezes Urzędu Ochrony Danych Osobowych, Mirosław Wróblewski, który w rozmowie z Polską Agencją Prasową przyznał, że w tej sprawie skierował do ministra sprawiedliwości i prokuratora generalnego Waldemara Żurka wniosek o reakcję.

Chodzi o to, by podjęto działania w sprawie korzystania przez młodzież z deepfake’ów. W przypadku, na który powołał się Wróblewski, zareagowały władze szkoły, ale zarówno policja, jak i prokuratura odmówiły interwencji. Władze broniły się, twierdząc, że przecież nie doszło do czynu zabronionego.

Wróblewski w rozmowie z PAP sytuację komentował następująco: – Była to sytuacja wykorzystania aplikacji, gdzie na podstawie zdjęcia uczennicy, wygenerowano jej nagi wizerunek, rozpowszechniano go w szkole, namawiano innych do upowszechniania tego wizerunku [...] Młodzi ludzie mocno przesadzili i wydaje mi się, że środki dyscyplinujące z ustawy o postępowaniu w sprawach nieletnich są konieczne.

Zaznaczył również, że o interwencję wniosła szkoła oraz rodzice pokrzywdzonej dziewczynki. – Ani policja, ani prokuratura nie dostrzegła znamion czynu zabronionego. Jednostki te omówiły podjęcia działań w tej sprawi [...] Bardzo liczę na to, że pan minister Żurek podejdzie z rozwagą i troską do tego problemu – apelował Wróblewski.

Sprawa ze szkoły, o której opowiadał prezes UODO, jest – jak sam podkreśla – tylko jednym z wielu przykładów narastającego problemu. Wróblewski zaznaczył, że urząd coraz częściej mierzy się z odmowami ze strony policji i prokuratury, kiedy zgłaszane są naruszenia związane z deepfake’ami. Organy ścigania mają trudność ze stosowaniem obecnych przepisów do zjawiska syntetycznych treści, które rozwijają się szybciej, niż prawo jest w stanie za nimi nadążyć.

Prezes UODO zwrócił uwagę, że we wrześniu skierował apel do wicepremiera i ministra cyfryzacji Krzysztofa Gawkowskiego o wprowadzenie regulacji odnoszących się bezpośrednio do rozpowszechniania szkodliwych deepfake’ów. Chodzi o stworzenie ram prawnych, które pozwolą szybko reagować i zapewnią realną ochronę ofiarom takich działań.

– Formalnie odpowiedź do urzędu jeszcze nie dotarła, ale zdaję sobie sprawę, że to jest bardzo trudna materia – przyznał.

Jak ocenia, obecne przepisy – zarówno prawa autorskiego, ochrony dóbr osobistych, jak i prawa karnego – nie gwarantują efektywnej ochrony przed deepfake’ami. Są "szczątkowe" i "niewystarczające", zwłaszcza w sytuacjach, gdy syntetyczne treści wykorzystuje się do oszustw, szantażu, generowania zysków czy celowego wprowadzania odbiorców w błąd.

Problem nie ogranicza się wyłącznie do szkół. Wróblewski przypomniał, że deepfake’i mogą prowadzić do poważnych kryzysów psychicznych, zwłaszcza wśród młodzieży. Fałszywe nagrania i zdjęcia często stają się narzędziem szantażu rówieśniczego, a w skrajnych przypadkach – jak zaznaczył – mogą przyczyniać się do prób samobójczych.

Zjawisko ma również wymiar przestępczy: syntetyczne wizerunki bywają wykorzystywane w celu naciągania i oszustw finansowych, nierzadko bazujących na ludzkich tragediach.

Ostatnio odbyła się konferencja "Między faktem a feedem. Prezentacja raportu z badań jakościowych dotyczących podatności młodzieży na dezinformację i teorie spiskowe", na której eksperci podkreślali, że niepokojącym zjawiskiem jest fakt, że nastolatki korzystają z Chata GPT niczym z powiernika sekretów.

Z kolei "Business Insider" podkreślał w niedawnym artykule, że Zetki wolą zwierzyć się AI niż udać się na konsultację do psychologa lub psychiatry w razie problemów z psychiką lub emocjami.

Eksperci są zgodni – bez zmian prawnych i jasnych procedur reagowania ofiarom będzie trudno uzyskać pomoc. A szkoły, rodzice i instytucje publiczne pozostaną na pierwszej linii frontu wobec technologii, która potrafi być zarówno innowacyjna, jak i wyjątkowo krzywdząca.

Źródło: strefaedukacji.pl