Prezydent Trump podpisuje ustawę Take It Down, a CivitAI traci wsparcie procesorów płatności
Prezydent Donald Trump podpisał właśnie ustawę Take It Down Act, która na poziomie federalnym w USA kryminalizuje tworzenie i rozpowszechnianie seksualnych deepfake'ów. W tym samym czasie społeczność CivitAI, mimo prób "oczyszczenia" swojej platformy z treści NSFW i deepfake'ów celebrytów, nie zdołała przekonać procesorów płatności, co zmusza serwis do szukania alternatyw lub grozi jego zamknięciem. Wszystko to zaledwie dwa tygodnie po tym, jak najstarszy i największy na świecie serwis z deepfake'ową pornografią zniknął z sieci.
Zawirowania w świecie nieuregulowanych deepfake'ów
Ostatnie tygodnie przyniosły znaczące zmiany w świecie niekontrolowanego tworzenia deepfake'ów obrazów i wideo. Dwa tygodnie temu Mr. Deepfakes, najpopularniejsza platforma udostępniająca deepfake'ową pornografię z celebrytami, nagle zniknęła z sieci po ponad siedmiu latach dominacji. Serwis, który był obiektem wielu badań, w momencie zamknięcia przyciągał średnio ponad pięć milionów odwiedzin miesięcznie.
Oficjalnym powodem zamknięcia Mr. Deepfakes było wycofanie się "kluczowego dostawcy usług" (co widać na załączonym obrazku, który tydzień później został zastąpiony przez błąd 404). Jednak dziennikarskie śledztwo ujawniło tożsamość jednej z kluczowych osób stojących za serwisem tuż przed jego zamknięciem, co sugeruje, że decyzja mogła wynikać z przyczyn osobistych lub prawnych tej osoby.
CivitAI zaostrza zasady, ale traci wsparcie
Mniej więcej w tym samym czasie CivitAI, popularna platforma do tworzenia deepfake'ów celebrytów i treści NSFW z użyciem LoRA, wprowadziła kontrowersyjne zasady autocenzury. Nowe regulacje objęły generowanie deepfake'ów, hosting modeli oraz wprowadziły całkowity zakaz na niektóre niszowe treści NSFW i to, co platforma określiła jako "ekstremistyczne ideologie".
Zmiany te były odpowiedzią na groźby wycofania usług przez procesory płatności, jeśli platforma nie ograniczy treści NSFW i deepfake'ów celebrytów.
CivitAI odcięte od płatności kartami
Jak wynika z ogłoszenia Alasdaira Nicolla, menedżera ds. zaangażowania społeczności w CivitAI, Visa i Mastercard od tego piątku (23 maja 2025) wstrzymają obsługę płatności kartami na platformie. Uniemożliwi to użytkownikom odnawianie miesięcznych członkostw lub zakup wirtualnej waluty "buzz".
Nicoll sugeruje, że użytkownicy mogą zachować obecne przywileje, przechodząc na roczne członkostwo (kosztujące 100-550 USD) przed piątkiem. Warto zauważyć, że opcja rocznych subskrypcji pojawiła się równocześnie z ogłoszeniem o utracie procesorów płatności.
Odnośnie braku procesora płatności, Nicoll stwierdza: "Rozmawiamy z każdym dostawcą, który jest otwarty na innowacje w AI".
W kwestii niepowodzenia prób zmiany często krytykowanych zasad dotyczących treści NSFW i celebrytów, Nicoll wyjaśnia:
"Niektórzy dostawcy płatności uznają platformy generatywnego AI za wysokie ryzyko, szczególnie gdy pozwalamy użytkownikom na tworzenie treści dla dorosłych, nawet jeśli są legalne i moderowane. To nasz wybór polityki, a nie działania użytkowników, doprowadził do odcięcia."
Komentarz użytkownika "Faeia", który w swoim profilu na CivitAI widnieje jako szef personelu, dodaje:
"Dla jasności - tracimy procesora płatności, ponieważ nie zgodziliśmy się na usunięcie treści NSFW i dla dorosłych z platformy. Pozostajemy wierni wspieraniu wszystkich rodzajów twórców i pracujemy nad alternatywnymi rozwiązaniami."
Warto zauważyć, że treści NSFW często napędzają rozwój nowych technologii, by później być odrzucanymi, gdy platforma zdobędzie wystarczającą bazę użytkowników i kapitał.
Przez pewien czas wydawało się, że CivitAI pójdzie śladem Tumblra i innych platform, które "wyczyszczono" z treści dla dorosłych. Jednak rosnąca kontrowersja wokół treści generowanych przez AI jakiegokolwiek rodzaju wydaje się uniemożliwiać ostatni ratunek. Tymczasem platforma zaleca użytkownikom korzystanie z kryptowalut jako alternatywnej metody płatności.
Nowe prawo: Ustawa Take It Down
Prezydent Donald Trump z entuzjazmem podpisał federalną ustawę Take It Down, która kryminalizuje rozpowszechnianie niekonsensualnych intymnych wizerunków, w tym generowanych przez AI deepfake'ów.
Ustawa nakazuje platformom usuwanie zgłoszonych treści w ciągu 48 godzin, a nadzór nad jej wykonaniem powierzono Federalnej Komisji Handlu. Przepisy karne weszły w życie natychmiast, umożliwiając ściganie osób, które świadomie publikują lub grożą publikacją niekonsensualnych intymnych wizerunków (w tym deepfake'ów) na terenie USA.
Choć ustawa zyskała rzadkie poparcie bipartisanne oraz wsparcie firm technologicznych i grup aktywistycznych, krytycy twierdzą, że może ograniczać legalne treści i zagrażać narzędziom ochrony prywatności, takim jak szyfrowanie. Electronic Frontier Foundation (EFF) wyraziło sprzeciw wobec ustawy, argumentując, że mechanizmy usuwania treści obejmują szerszy zakres materiałów niż wąska definicja niekonsensualnych intymnych wizerunków zawarta w innych częściach ustawy.
"Mechanizm usuwania w ustawie Take It Down stosuje się do znacznie szerszej kategorii treści – potencjalnie każdego wizerunku o charakterze intymnym lub seksualnym – niż wąska definicja niekonsensualnych intymnych wizerunków zawarta w innych częściach ustawy. Mechanizmowi brakuje też zabezpieczeń przed frywolnymi lub złej wiary zgłoszeniami."
"Serwisy będą polegać na automatycznych filtrach, które są notorycznie niedokładne. Często oznaczają one legalne treści, od komentarzy po relacje prasowe. Ciasne ramy czasowe ustawy wymagają usunięcia treści w ciągu 48 godzin, co rzadko daje wystarczająco czasu na weryfikację, czy dana treść jest rzeczywiście nielegalna."
"W efekcie dostawcy usług online, szczególnie mniejsi, prawdopodobnie wybiorą unikanie ryzyka prawnego poprzez usuwanie treści, zamiast próbować je weryfikować."
Platformy mają rok od wejścia ustawy w życie na wdrożenie formalnego procesu zgłaszania i usuwania treści, umożliwiając poszkodowanym lub ich przedstawicielom domaganie się usunięcia materiałów.
Oznacza to, że choć przepisy karne obowiązują natychmiast, platformy nie mają jeszcze prawnego obowiązku wdrażania infrastruktury do obsługi zgłoszeń aż do upływu rocznego okresu przejściowego.
Czy ustawa Take It Down obejmuje deepfake'i celebrytów?
Choć ustawa Take It Down ma zasięg ogólnokrajowy, niekoniecznie zakazuje wszystkich generowanych przez AI wizerunków celebrytów. Kryminalizuje ona rozpowszechnianie niekonsensualnych intymnych wizerunków, w tym deepfake'ów, tylko wtedy, gdy przedstawiona osoba miała „uzasadnione oczekiwanie prywatności”:
Ustawa stanowi:
"(2) PRZESTĘPSTWO DOTYCZĄCE AUTENTYCZNYCH INTYMNYCH WIZERUNKÓW.—
"(A) DOTYCZĄCE DOROSŁYCH.—Z wyjątkiem [celów dowodowych, reporterskich itp.], jest niezgodne z prawem, aby jakakolwiek osoba, w handlu między stanami lub zagranicznym, używała interaktywnej usługi komputerowej do świadomego publikowania intymnego wizerunku rozpoznawalnej osoby, która nie jest nieletnia, jeśli—
"(i) intymny wizerunek został uzyskany lub stworzony w okolicznościach, w których osoba wiedziała lub powinna była rozsądnie wiedzieć, że rozpoznawalna osoba miała uzasadnione oczekiwanie prywatności;
"(ii) to, co jest przedstawione, nie zostało dobrowolnie ujawnione przez rozpoznawalną osobę w miejscu publicznym lub komercyjnym [np. samodzielnie publikowana pornografia];
"(iii) to, co jest przedstawione, nie jest przedmiotem zainteresowania publicznego; oraz
"(iv) publikacja intymnego wizerunku—
"(I) ma na celu wyrządzenie szkody; lub
"(II) powoduje szkodę, w tym psychologiczną, finansową lub szkodę dla reputacji, rozpoznawalnej osobie."
Warunek „uzasadnionego oczekiwania prywatności” tradycyjnie nie faworyzował praw celebrytów. W zależności od orzecznictwa, nawet wyraźne treści AI z udziałem osób publicznych w miejscach publicznych lub komercyjnych mogą nie podlegać zakazom ustawy.
Ostatni warunek dotyczący zakresu szkody jest słynnie elastyczny w terminach prawnych i nie wnosi nic szczególnie nowego do ustawy. Jednak zamiar wyrządzenia szkody wydaje się ograniczać zakres ustawy do kontekstu „pornografii zemsty”, gdzie (nieznany) były partner publikuje prawdziwe lub fałszywe materiały innego (również nieznanego) byłego partnera.
Choć wymóg „szkody” może wydawać się nieprzystosowany do przypadków, w których anonimowi użytkownicy publikują deepfake'i celebrytów, może być bardziej istotny w scenariuszach stalkingu, gdzie szerszy wzór nękania wskazuje na celowe i złośliwe działanie przeciwko osobie publicznej.
Choć ustawa wyklucza prywatne kanały, takie jak Signal czy e-mail, z obowiązku wdrażania mechanizmów usuwania treści do maja 2026, nie oznacza to, że niekonsensualne treści AI udostępniane prywatnie nie podlegają przepisom karnym.
Oczywiście brak mechanizmów zgłaszania na stronie nie uniemożliwia poszkodowanym zgłaszania nielegalnych treści na policję ani kontaktowania się z serwisem w celu usunięcia materiałów.
Pozostawione prawa
Ponad siedem lat narastającej krytyki deepfake'ów wydaje się kulminować w niezwykle krótkim czasie. Jednak choć ustawa Take It Down wprowadza szerokie federalne zakazy, może nie mieć zastosowania w każdym przypadku związanym z generowanymi przez AI wizerunkami, pozostawiając niektóre scenariusze do uregulowania przez rosnącą mozaikę stanowych przepisów, które często odzwierciedlają „lokalne interesy”.
Na przykład w Kalifornii California Celebrities Rights Act ogranicza wyłączne korzystanie z tożsamości celebryty do niego samego i jego spadkobierców, nawet po śmierci; z kolei w Tennessee ELVIS Act koncentruje się na ochronie muzyków przed nieautoryzowanymi generowanymi przez AI głosami i wizerunkami, odzwierciedlając ukierunkowane podejście do grup interesu istotnych na poziomie stanowym.
Większość stanów ma już przepisy dotyczące seksualnych deepfake'ów, choć wiele nie precyzuje, czy ochrona obejmuje w równym stopniu osoby prywatne i publiczne. Tymczasem polityczne deepfake'i, które podobno skłoniły Donalda Trumpa do poparcia nowej federalnej ustawy, mogą w praktyce napotkać bariery konstytucyjne w niektórych kontekstach.
† Zarchiwizowana wersja: https://web.archive.org/web/20250520024834/https://civitai.com/articles/14945
†† Zarchiwizowana wersja (nie zawiera cen miesięcznych): https://web.archive.org/web/20250425020325/https://civitai.green/pricing
* Rzeczywisty „szef personelu” CEO CivitAI jest wymieniony na LinkedIn pod innym nazwiskiem, podczas gdy podobnie brzmiąca „Faiona” to oficjalny moderator personelu CivitAI na subreddicie platformy.
Pierwsza publikacja: wtorek, 20 maja 2025