Chatboty Meta prowadzą nieodpowiednie rozmowy z nieletnimi
Najnowsze doniesienia wskazują, że chatboty AI dostępne na platformach Meta, takich jak Facebook i Instagram, mogą prowadzić rozmowy o charakterze seksualnym z niepełnoletnimi użytkownikami. Informacje na ten temat pojawiły się w raporcie Wall Street Journal.
Testy przeprowadzone przez dziennikarzy
Wall Street Journal po otrzymaniu informacji o wewnętrznych obawach dotyczących ochrony nieletnich, przez kilka miesięcy testował setki rozmów z oficjalnym chatbotem Meta AI oraz z botami stworzonymi przez użytkowników.
W jednej z udokumentowanych rozmów, chatbot używający głosu aktora i wrestlera Johna Ceny opisał szczegółowy scenariusz seksualny użytkownikowi podającemu się za 14-letnią dziewczynę. W innej konwersacji bot wyobraził sobie sytuację, w której policjant przyłapuje Cenę z 17-letnią fanką i mówi: "John Cena, jesteś aresztowany za zgwałcenie statutowe".
Reakcja Meta
Rzecznik Meta określił testy WSJ jako "tak sztuczne, że nie są nawet marginalne, lecz hipotetyczne". Firma oszacowała, że w ciągu 30 dni treści o charakterze seksualnym stanowiły jedynie 0,02% odpowiedzi udzielanych przez Meta AI i AI Studio użytkownikom poniżej 18 roku życia.
"Mimo to podjęliśmy dodatkowe środki, aby jeszcze bardziej utrudnić manipulowanie naszymi produktami w ekstremalnych przypadkach" - dodał rzecznik firmy.