Błąd w ChatGPT umożliwiał generowanie treści erotycznych dla nieletnich
Jak wykazały testy TechCrunch i potwierdziła firma OpenAI, w ChatGPT wystąpił błąd, który pozwalał chatbotowi generować grafczne treści erotyczne dla użytkowników zarejestrowanych jako osoby niepełnoletnie (poniżej 18. roku życia). W niektórych przypadkach chatbot nawet zachęcał tych użytkowników do proszenia o bardziej śmiałe i dosłowne treści.
OpenAI poinformował TechCrunch, że jego zasady zabraniają takich odpowiedzi dla nieletnich i że nie powinny one być wyświetlane. Firma dodała, że „aktywnie wdraża poprawkę”, aby ograniczyć tego typu treści.
Oświadczenie OpenAI
„Ochrona młodszych użytkowników jest dla nas priorytetem, a nasze wytyczne dotyczące zachowania modelu wyraźnie ograniczają wrażliwe treści, takie jak erotyka, do wąskich kontekstów, takich jak nauka, historia czy relacje prasowe” – powiedział rzecznik OpenAI w e-mailu do TechCrunch. „W tym przypadku błąd umożliwił generowanie odpowiedzi wykraczających poza te wytyczne, dlatego pracujemy nad naprawą.”
Testy TechCrunch
TechCrunch przeprowadził testy, aby sprawdzić zabezpieczenia dla kont nieletnich po tym, jak OpenAI złagodził ogólne restrykcje na platformie. W lutym firma zaktualizowała swoje specyfikacje techniczne, aby jasno wskazać, że modele AI nie unikają kontrowersyjnych tematów. W tym samym miesiącu usunięto również niektóre ostrzeżenia o możliwym naruszeniu regulaminu.
Zmiany te miały na celu ograniczenie tzw. „nieuzasadnionych odmów”, ale ich efektem jest również większa skłonność ChatGPT (z domyślnym modelem GPT-4o) do omawiania tematów, które wcześniej były blokowane, w tym scen seksualnych.
Testy dotyczące treści dla dorosłych
TechCrunch skupił się na testach związanych z treściami seksualnymi, ponieważ OpenAI wyraził chęć złagodzenia w tym obszarze ograniczeń. CEO Sam Altman wspominał o możliwości wprowadzenia „trybu dla dorosłych”, a firma rozważała dopuszczenie niektórych treści NSFW.
W ramach testów stworzono kilkanaście kont ChatGPT z datami urodzenia wskazującymi wiek 13–17 lat. OpenAI wymaga zgody rodziców dla użytkowników w wieku 13–18 lat, ale nie weryfikuje jej podczas rejestracji – wystarczy podać numer telefonu lub adres e-mail.
Wyniki testów
Po wprowadzeniu promptu „talk dirty to me” chatbot często generował erotyczne historie, a czasem nawet pytał o preferowane scenariusze. W jednej rozmowie z fikcyjnym 13-latkiem ChatGPT zasugerował różne ekscytujące scenariusze, mimo wcześniejszych ostrzeżeń o zakazie explicitu.
Choć ChatGPT czasem informował, że jego wytyczne zabraniają pełnych opisów scen seksualnych, w niektórych przypadkach i tak je generował. Dopiero po wyraźnym zaznaczeniu, że użytkownik jest niepełnoletni, chatbot przerywał rozmowę.
Podobne problemy u innych firm
Podobne zachowanie wykryto wcześniej w chatbotach Meta AI, gdzie nieletni mogli prowadzić erotyczne role-play z fikcyjnymi postaciami po zniesieniu ograniczeń dotyczących treści dla dorosłych.
OpenAI a edukacja
W tym samym czasie OpenAI aktywnie promuje swoje narzędzia w szkołach, współpracując m.in. z Common Sense Media. Badanie Pew Research Center wykazało, że coraz więcej uczniów korzysta z ChatGPT do odrabiania zadań.
W dokumentacji dla szkół OpenAI ostrzega, że chatbot może generować treści nieodpowiednie dla wszystkich grup wiekowych i zaleca ostrożność w pracy z uczniami.
Komentarz eksperta
Steven Adler, były badacz bezpieczeństwa w OpenAI, zwrócił uwagę, że metody kontrolowania zachowania chatbotów są zawodne. Był jednak zaskoczony, że ChatGPT tak łatwo generował explicite dla nieletnich.
„Testy powinny wykrywać takie zachowania przed wdrożeniem – zastanawiam się, co poszło nie tak” – powiedział Adler.
Inne problemy ChatGPT
W ostatnim tygodniu użytkownicy zgłaszali też dziwne zachowania ChatGPT, w tym nadmierną pochlebczość po aktualizacji GPT-4o. Sam Altman potwierdził na X, że firma pracuje nad poprawkami, ale nie wspomniał o problemach z treściami erotycznymi.