Fałszywe nagie zdjęcia dzieci mogą powstawać w kilka minut, a krzywda dla dziecka czy nastolatka ciągnie się dużo dłużej. Problem dostrzega prezes UODO, który zwrócił się w tej sprawie do prezydenta. Chodzi o skuteczniejszą ochronę najmłodszych w sieci.
Ustaw MamaDu jako preferowane medium w GoogleNowe technologie groźne dla dzieci i młodzieży
Rozwój nowych technologii, w szczególności narzędzi wykorzystujących sztuczną inteligencję, stwarza nowe możliwości przetwarzania i modyfikowania danych osobowych, a tym samym prowadzi do pojawiania się nowych zagrożeń. Jednym z nich jest tworzenie i rozpowszechnianie materiałów typu deepfake, w tym fałszywych zdjęć i nagrań przedstawiających osoby w sytuacjach intymnych. Takie działania mogą naruszać ochronę danych osobowych, a także prawo do prywatności, wizerunku, czci i dobrego imienia.
Cyberprzemoc szczególnie dotkliwie dotyka dzieci i młodzież. Wizerunki małoletnich mogą być bezprawnie wykorzystywane do tworzenia fałszywych zdjęć i nagrań, również o charakterze seksualnym.
Przykładem jest sprawa uczniów szkoły podstawowej, którzy wygenerowali fałszywe zdjęcie przedstawiające nagą koleżankę, a następnie zachęcali inne osoby do jego rozpowszechniania. Tego typu przypadki pokazują, że łatwo dostępne technologie mogą zostać wykorzystane do głębokiej ingerencji w prywatność i godność człowieka, a szczególnie narażone są na to dzieci i młodzież.
Problem jest tym większy, że sztuczna inteligencja stała się powszechnie dostępna. Użytkownicy internetu mogą za pomocą kilku kliknięć tworzyć realistyczne obrazy, nagrania czy inne treści, których autentyczność bywa trudna do zweryfikowania. W przypadku młodych osób dochodzi również ryzyko bezkrytycznego zaufania odpowiedziom generowanym przez AI, co może sprzyjać rozpowszechnianiu nieprawdziwych informacji, dezinformacji czy teorii spiskowych.
Ochrona przed zagrożeniami cyfrowymi nie może ograniczać się jedynie do penalizowania nielegalnych zachowań. Konieczne są również działania prewencyjne i edukacyjne, a także odpowiednie rozwiązania prawne i technologiczne.
W wyniku postulatów prezesa UODO Ministerstwo Edukacji Narodowej w programie kształcenia dla klas IV-VI szkół podstawowych uwzględniło zagadnienia dotyczące m.in. cyberprzemocy, hejtu, deepfake’ów, kradzieży tożsamości, phishingu, child groomingu, szantażu oraz korzyści i zagrożeń związanych ze sztuczną inteligencją i wirtualną rzeczywistością.
Szczególne postępowanie wobec zagrożeń dla dzieci i młodzieży
Zdaniem prezesa Urzędu Ochrony Danych Osobowych (UODO) jednym z kluczowych elementów ochrony użytkowników internetu powinno być wdrożenie rozwiązań wynikających z aktu o usługach cyfrowych (DSA) oraz stworzenie skutecznych procedur reagowania na nielegalne treści.
W toku prac nad projektem ustawy o zmianie ustawy o świadczeniu usług drogą elektroniczną oraz niektórych innych ustaw prezes Mirosław Wróblewski postulował wprowadzenie szczególnego trybu postępowania wobec najpoważniejszych zagrożeń dla dzieci i młodzieży. Organ nadzorczy wskazywał przede wszystkim na potrzebę umożliwienia niezwłocznego blokowania treści związanych z seksualnym wykorzystywaniem małoletnich.
W wyniku tych działań projekt został rozbudowany o rozwiązanie, zgodnie z którym rygor natychmiastowej wykonalności decyzji będzie mógł zostać nadany, jeżeli będzie ona dotyczyła nielegalnych treści, których rozpowszechnianie może wyczerpywać znamiona czynu zabronionego.
Zobacz także
Apel do prezydenta Karola Nawrockiego
W ocenie prezesa UODO rozwiązania wypracowane w procesie legislacyjnym związanym z wdrażaniem aktu o usługach cyfrowych mogą wzmocnić ochronę prywatności i danych osobowych w internecie oraz ograniczyć możliwość wykorzystywania nowych technologii do bezprawnej ingerencji w najbardziej osobiste dobra człowieka.
W związku z tym prezes UODO zwrócił się do prezydenta Karola Nawrockiego z prośbą o akceptację rozwiązań ustawowych mających chronić użytkowników sieci, w tym dzieci i młodzież, przed zagrożeniami cyfrowymi. W swoim stanowisku podkreślił, że wprowadzenie do polskiego porządku prawnego przepisów wdrażających DSA ma znaczenie dla zapewnienia skuteczniejszej ochrony danych osobowych przetwarzanych w internecie.
Sztuczna inteligencja rozwija się zdecydowanie szybciej niż przepisy, które mają regulować jej wykorzystywanie. W przypadku dzieci i młodzieży problem jest szczególnie poważny, bo konsekwencje stworzenia jednego fałszywego zdjęcia czy nagrania mogą być dla młodej osoby bardzo dotkliwe, a raz opublikowane materiały trudno całkowicie usunąć z sieci.
Dlatego, obok edukacji cyfrowej, potrzebne są również jasne procedury pozwalające szybko reagować na nielegalne treści i skuteczniej chronić najmłodszych użytkowników internetu.
Nie przegap żadnej ważnej wiadomości i obserwuj nas w Google News!