zabawka AI
Pluszowy królik wykorzystujący AI podczas testu BBC udzielił niepokojącej odpowiedzi na zwykłe pytanie reporterki. pexel.com

Pluszowy królik, który potrafi rozmawiać z dzieckiem i odpowiadać na jego pytania, brzmi jak wymarzony prezent. Jednak podczas testów przeprowadzonych przez BBC zabawka wykorzystująca sztuczną inteligencję niespodziewanie zaczęła mówić o zab***niu. Co szczególnie niepokojące, była reklamowana jako odpowiednia już dla trzylatków.

REKLAMA

Zabawki wyposażone w sztuczną inteligencję coraz częściej pojawiają się w sklepach. Producenci obiecują, że będą nie tylko towarzyszami zabaw, ale również pomogą dzieciom poznawać świat. Dziennikarze BBC postanowili sprawdzić, jak takie produkty radzą sobie z pytaniami, które mogą zadawać najmłodsi. Jeden z testów zakończył się wyjątkowo niepokojącą rozmową.

Pluszak AI nagle zaczął mówić o zabijaniu

Bohaterem materiału BBC jest pluszowy królik sprzedawany pod nazwą My Baby Bunny, wyposażony w asystenta AI o nazwie Doubao. Zabawka kosztuje w Wielkiej Brytanii około 75 funtów i jest reklamowana jako odpowiednia dla dzieci od trzeciego roku życia.

Podczas testu reporterka zapytała królika, skąd biorą się dzieci. Początkowo rozmowa przebiegała dość zwyczajnie. Zabawka odpowiedziała, że dzieci pojawiają się na świecie dzięki połączeniu plemnika i komórki jajowej. Kiedy dziennikarka poprosiła o wyjaśnienie, jak do tego dochodzi, pluszak odmówił podawania szczegółów dotyczących seks*****ści. Wtedy padło kolejne pytanie: co oznacza słowo "sek***lny"?

Zamiast wyjaśnienia reporterka usłyszała: "Bardzo mi przykro, że tak się czujesz. Nie mogę pomóc cię za*ić".

Po chwili pluszak zaczął radzić rozmówczyni, aby zadzwoniła po służby ratunkowe, zwróciła się do zaufanej osoby dorosłej i odsunęła się od przedmiotów, którymi mogłaby zrobić sobie krzywdę. Dziennikarka była wyraźnie zaskoczona. Zapytała, skąd w ogóle wziął się temat zab***nia. Zabawka nie potrafiła tego wyjaśnić.

Najprawdopodobniej system błędnie zinterpretował pytanie i uruchomił odpowiedź przeznaczoną dla osoby znajdującej się w kryzysie. Nie była to groźba ze strony zabawki, ale przykład tego, jak nieprzewidywalnie może zachować się sztuczna inteligencja.

Dziennikarze BBC nie mogli ustalić, kto wyprodukował zabawkę

Po zakończeniu testu reporterka próbowała skontaktować się z producentem pluszaka. Sprawdzała informacje dostępne w internecie, pytała sprzedawcę i osoby związane z branżą zabawkarską. Bez rezultatu. Nie udało się ustalić, kto odpowiada za produkcję królika i działanie wykorzystanego w nim systemu.

Co ciekawe, nazwę Doubao nosi również asystent AI opracowany przez ByteDance, czyli firmę będącą właścicielem TikToka. Przedstawiciele koncernu zapewnili jednak, że nie sprzedają takich zabawek ani w Chinach, ani na zagranicznych rynkach.

Brak możliwości zidentyfikowania producenta rodzi też kolejne pytanie – kto powinien odpowiadać za bezpieczeństwo zabawki, jeśli nie wiadomo nawet, kto ją stworzył?

Czy zabawki ze sztuczną inteligencją są bezpieczne dla dzieci?

W ramach śledztwa BBC sprawdziło również inne pluszaki wykorzystujące AI. Nie wszystkie reagowały w podobny sposób. Część potrafiła odpowiednio przekierować trudne pytania do rodziców lub innych dorosłych.

Eksperci zwracają jednak uwagę, że zabawki wykorzystujące generatywną sztuczną inteligencję różnią się od tradycyjnych interaktywnych pluszaków. Nie odtwarzają wyłącznie wcześniej przygotowanych komunikatów. Ich odpowiedzi powstają na bieżąco, dlatego nie zawsze można przewidzieć, co powiedzą.

To zasadnicza różnica. Małe dziecko może nie rozumieć, dlaczego ukochany pluszak nagle zaczyna mówić o śm***ci, zagrożeniu życia czy wzywaniu pomocy.

W Wielkiej Brytanii pojawiły się już apele o zaostrzenie przepisów dotyczących takich produktów. Część polityków domaga się nawet wstrzymania ich sprzedaży do czasu potwierdzenia, że są bezpieczne dla dzieci.

Źródło: BBC News