"Na wnuczka" nabierają się najczęściej babcie, na miłość – użytkowniczki aplikacji randkowych, na wypadek – mamy. Do tego dochodzą oszustwa podczas zakupów na platformach sprzedażowych, próby wyłudzenia pieniędzy SMS-em (niezapłacony rachunek za prąd, przekierowana paczka itp.) czy przez telefon (kryptowaluty na koncie do zgarnięcia). Ale co powiecie na oszustwo na… sztuczną inteligencję? 

"Mamo, porwali mnie!"

Jennifer DeStefano z Arizony (USA) jest mamą piętnastolatki. Opowiedziała lokalnej stacji telewizyjnej o oszustwie, którego ofiarą prawie padła, bo było tak wiarygodne, że trudno było coś podejrzewać. Pewnego dnia odebrała połączenie telefoniczne z nieznanego numeru. Zwykle nie odbiera takich telefonów, ale tego dnia jej córka Briana była na wycieczce na nartach, więc przestraszyła się, że mogło coś jej się stać.

Usłyszała w słuchawce zapłakany głos córki. "Mamo, nawaliłam" – powiedziała dziewczynka. Jej mama zapytała, co się stało. "Mamo, porwali mnie źli mężczyźni. Pomóż mi, pomóż" – powiedziała wystraszona Briana. Po tym Jennifer usłyszała męski głos, każący jej córce położyć się.

Mężczyzna powiedział do telefonu: "Słuchaj, mam twoją córkę. Oto co teraz będzie. Jeśli zadzwonisz na policję, jeśli zadzwonisz do kogokolwiek, nafaszeruję ją narkotykami, zabawię się nią i porzucę w Meksyku".

– W tym momencie zaczęłam się po prostu trząść – opowiadała mama Briany. – W tle słyszałam, jak ona mówiła "Pomóż mi, mamo. Proszę, pomóż mi. Pomóż mi" i ryczała. 

Mężczyzna zażądał 1 mln dolarów okupu w zamian za uwolnienie nastolatki. Kiedy DeStefano powiedziała, że nie ma takich pieniędzy, obniżył żądanie do 50 tys. Zaznaczył jednak, że nie chce przelewu, tylko przyjedzie osobiście do Jennifer.

Na szczęście kobieta przebywała w tym czasie w towarzystwie innych matek, na zajęciach tanecznych swojej drugiej córki. Paniom udało się jeszcze w trakcie tej rozmowy potwierdzić, że córka Jennifer jest bezpieczna i plan oszustwa spalił na panewce.

"To był jej głos"

DeStefano mówi, że oszuści wykorzystali sztuczną inteligencję, żeby odtworzyć głos jej córki i poznać szczegóły z życia rodziny, które uwiarygadniały tę historię.

– To był naprawdę jej głos. Jej modulacja głosu. Sposób, w jaki płacze – opowiada mama dziewczyny. – Nawet przez sekundę nie miałam wątpliwości, że to ona. I to jest najbardziej przerażające.

Czy to w ogóle możliwe? Zdaniem ekspertów sklonowanie czyjegoś głosu przy użyciu odpowiedniego oprogramowania zajmuje kilka sekund, co może być wykorzystywane do popełniania przestępstw.

Sinéad Bovell, założycielka firmy Waye, zajmującej się edukacją technologiczną, powiedziała dziennikarzom "Good Morning America", że otrzymanie nagrania czyjegoś głosu nie jest trudne w erze mediów społecznościowych:

– Większość ludzi w tych czasach ma jakąś formę swojej internetowej tożsamości i najprawdopodobniej gdzieś słychać ich nagrany głos, szczególnie w przypadku osób poniżej 25 roku życia – wyjaśniała Bovell. Specjalistka uważa, że potwierdzenie wiarygodności czyjegoś głosu w dobie generatorów AI będzie coraz większym wyzwaniem.

Jak się przed tym ustrzec?

Warto stosować się do poniższych zasad:

• uczyć dzieci bezpiecznego poruszania się w internecie
• sprawdzić ustawienia prywatności w profilach w mediach społecznościowych – własnych i tych należących do dzieci, krewnych i znajomych;
• nie zgadzać się na publikowanie nagrań i zdjęć w żadnych publicznie dostępnych kanałach. Córka pani DeStefano nie ma publicznych profili społecznościowych, ale jej głos można usłyszeć w kilku zamieszczonych w sieci wywiadach, których udzielała w szkole;
• zachować szczególną ostrożność odbierając telefony lub SMS-y od nieznanych albo zagranicznych numerów.

źródła: goodmorningamerica.com, wkyt.com