Skandal na Reddicie: AI-boty podszywające się pod ludzi
Użytkownicy Reddita na całym świecie byli zszokowani w zeszłym tygodniu, gdy okazało się, że zespół badaczy przeprowadził nieautoryzowany eksperyment z wykorzystaniem botów AI na subreddicie "Change My View". Eksperyment na dużą skalę miał na celu sprawdzenie, jak przekonujące może być sztuczne inteligencja.
Boty opublikowały ponad 1700 komentarzy, przybierając różne tożsamości - od ofiar przemocy po kontrowersyjne postaci, takie jak przeciwnik ruchu Black Lives Matter.
Problem dla wizerunku Reddita
Dla Reddita ta sytuacja to prawdziwy koszmar. Platforma zawsze kojarzyła się z autentycznością - miejscem, gdzie prawdziwi ludzie dzielą się szczerymi opiniami. Jeśli to środowisko zostanie zdominowane przez treści generowane przez AI lub użytkownicy przestaną ufać, że rozmawiają z ludźmi, może to zagrozić nie tylko tożsamości marki, ale też jej zyskom - zwłaszcza że Reddit sprzedaje swoje dane OpenAI do trenowania modeli AI.
Firma potępiła "niewłaściwy i wysoce nieetyczny eksperyment" i złożyła skargę na uniwersytet stojący za tym badaniem. To jednak tylko jeden z wielu przypadków, gdy boty AI będą próbować udawać ludzi na Reddicie - czy to dla celów naukowych, czy politycznej manipulacji.
Nowe zasady weryfikacji
Aby chronić użytkowników przed manipulacją i "zachować ludzki charakter Reddita", platforma zapowiedziała wprowadzenie kontrowersyjnych zmian, które mogą nie spodobać się zwolennikom anonimowości.
W poniedziałek CEO Reddita Steve Huffman ogłosił w poście, że Reddit zacznie współpracować z "różnymi usługami zewnętrznymi" w celu weryfikacji, czy użytkownik jest człowiekiem. To znacząca zmiana dla platformy, która dotąd wymagała minimalnych danych przy zakładaniu konta.
"Aby zachować ludzki charakter Reddita i spełnić wymogi prawne, będziemy potrzebować nieco więcej informacji" - napisał Huffman. "Konkretnie, musimy wiedzieć, czy jesteś człowiekiem, a w niektórych miejscach - czy jesteś osobą pełnoletnią. Ale nigdy nie chcemy znać twojego imienia ani tego, kim jesteś."
Kontrowersje wokół weryfikacji
(Warto zauważyć, że niektóre media społecznościowe już wprowadzają weryfikację tożsamości, ponieważ co najmniej dziewięć stanów USA oraz Wielka Brytania uchwaliło prawa wymagające weryfikacji wieku w celu ochrony dzieci.)
Rzecznik Reddita nie ujawnił, w jakich okolicznościach użytkownicy będą musieli przejść proces weryfikacji, potwierdzając jedynie, że platforma już teraz usuwa "złe" boty. Nie podano też szczegółów na temat zewnętrznych usług weryfikacyjnych ani rodzaju wymaganych danych.
Wiele firm korzysta obecnie z platform takich jak Persona, Alloy, Stripe Identity, Plaid czy Footprint, które zwykle wymagają dokumentu tożsamości. Istnieją też nowsze rozwiązania, jak urządzenie do skanowania tęczówki oka firmy Tools for Humanity Sama Altmana, które ma potwierdzać "bycie człowiekiem".
Obawy o prywatność
Przeciwnicy weryfikacji tożsamości wskazują na ryzyko związane z ochroną danych. To szczególnie ważne dla platformy takiej jak Reddit, gdzie użytkownicy dzielą się często bardzo osobistymi doświadczeniami, których nie ujawniliby pod własnym nazwiskiem.
Łatwo wyobrazić sobie sytuację, w której władze zażądają od Reddita ujawnienia tożsamości np. nastolatki pytającej o doświadczenia z aborcją na subreddicie r/women w stanach, gdzie jest ona nielegalna. Przypadek z Nebraski pokazuje, jak Meta przekazała organom ścigania prywatne rozmowy matki z córką na temat planowanej aborcji, co doprowadziło do postawienia im zarzutów.
Właśnie przed takim ryzykiem Reddit chce się zabezpieczyć, współpracując z zewnętrznymi firmami weryfikacyjnymi, które - jak podkreśla Huffman - dostarczą "tylko niezbędnych informacji". "Anonimowość jest kluczowa dla Reddita" - dodał CEO, zapewniając, że platforma będzie "bardzo chronić dane osobowe użytkowników" i "sprzeciwiać się nadmiernym żądaniom ze strony władz".