CivitAI wprowadza zaostrzone zasady dotyczące deepfake'ów pod presją Mastercard i Visa
CivitAI, prawdopodobnie najpopularniejsze repozytorium modeli AI w internecie, uległo naciskom firm płatniczych Mastercard i Visa, wprowadzając radykalne zmiany w polityce dotyczącej treści dla dorosłych (NSFW), a zwłaszcza regulacji odnoszących się do tzw. celebryckich LoRA – jednego z najchętniej wykorzystywanych przez użytkowników typów treści. LoRA to dodatkowe modele, które można pobrać za darmo i wykorzystać do tworzenia AI-owych wizerunków znanych osób, w tym także w formie wideo.
Kliknij, aby odtworzyć. Choć Civit nie podaje dokładnych liczb (a błędne oznaczenia są częste, co mogłoby zniekształcić statystyki), liczba modeli AI przedstawiających celebrytów, głównie LoRA, sięga setek, a nawet tysięcy, z przewagą kobiet. Źródło: civitai.com
Podczas transmisji na żywo na Twitchu Alasdair Nicoll, menedżer ds. zaangażowania społeczności w CivitAI i jednocześnie twórca bezpiecznych modeli na platformie, przyznał, że zmiany zostały wymuszone przez obawy procesorów płatności dotyczące treści dla dorosłych i wykorzystywania wizerunków prawdziwych osób. Zaznaczył też, że Visa i Mastercard mogą w przyszłości zażądać jeszcze większych restrykcji:
„To nie są zmiany, które chcieliśmy wprowadzić. Wynikają one z nowych i nadchodzących przepisów. Istnieją już prawa dotyczące deepfake'ów, pornografii AI… Procesorzy płatności, a w szczególności Visa i Mastercard, obawiają się konsekwencji prawnych i to oni dyktują te zmiany.”
„Inne proponowane rozwiązania to całkowite usunięcie treści NSFW z CivitAI i przeniesienie ich na oddzielną platformę z geoblokadą, ponieważ ponad połowa stanów w USA oraz wiele krajów azjatyckich i Wielka Brytania wymagają blokowania dostępu do pornografii.”
„Trzecią opcją było przejście wyłącznie na płatności kryptowalutowe… Nie było dobrego wyjścia z tej sytuacji.”
W ostatnich dniach domena CivitAI była okresowo niedostępna z powodu wprowadzanych zmian. Platforma już wcześniej zakazała wykorzystywania motywów NSFW w celebryckich LoRA, ale teraz użytkownicy nie mogą nawet przeglądać sekcji modeli, w której wcześniej widoczne były podglądy takich treści obok licznych generycznych modeli NSFW.
W oficjalnym ogłoszeniu czytamy:
„Treści oznaczone imionami i nazwiskami prawdziwych osób (np. „Tom Cruise”) lub oznaczone jako zasoby związane z rzeczywistymi osobami (POI) zostaną ukryte w publicznych kanałach.”
Podczas transmisji Nicoll ujawnił więcej szczegółów na temat nowych mechanizmów ochrony wizerunku znanych osób. CivitAI zawsze umożliwiało realnym osobom zgłaszanie żądań usunięcia modeli przedstawiających ich wizerunek, ale teraz wprowadzono system, który ma zapobiegać ponownemu przesyłaniu takich treści po ich usunięciu. Platforma współpracuje też z systemem moderacji Clavata AI, choć zakres tej współpracy nie jest jeszcze jasny.
Nicoll dodał:
„Na przykład Tom Hanks zgłosił roszczenie do swojego wizerunku. Podobnie zrobiło wiele aktorek filmów dla dorosłych oraz gwiazd Hollywood.”
„Pierwszą osobą, która zgłosiła takie roszczenie, była Barbara Eden* – co jest dość zabawne, ponieważ jest już w podeszłym wieku.”
Czy ochrona stanie się standardem?
W ciągu ostatnich kilku lat firma Metaphysic (autor artykułu pracował dla Metaphysic.ai w latach 2022-2024) próbowała stworzyć własny system rejestracji wizerunku, skierowany głównie do gwiazd Hollywood, takich jak Anne Hathaway, Octavia Spencer czy Tom Hanks. Jednak w świetle szybko rozwijających się przepisów dotyczących deepfake'ów, usługa ta może stać się zbędna, zwłaszcza że firma została przejęta przez Double Negative VFX.
Wygląda na to, że globalne prawo i presja rynkowa skuteczniej chronią wizerunki niż komercyjne rozwiązania.
Stopniowe zaostrzanie zasad
W 2023 roku serwis 404 Media zwrócił uwagę na popularność celebryckich i pornograficznych modeli AI na CivitAI, choć założyciel platformy, Justin Maier, bagatelizował związek między udostępnianymi wizerunkami a ich wykorzystaniem w treściach pornograficznych.
Nicoll podkreślił, że to nie generowanie treści na platformie, ale samo hostowanie modeli przyciągnęło uwagę procesorów płatności:
„Niektórzy twierdzą, że to generowanie treści wpędziło nas w kłopoty. To nieprawda. Samo hostowanie tych modeli i treści wystarczyło, by zwrócić na nas uwagę.”
W społecznościowych dyskusjach od dawna dziwiono się, że CivitAI w ogóle pozwalało na udostępnianie celebryckich LoRA. W odpowiedzi na zapowiadane zmiany pojawiły się inicjatywy archiwizowania usuwanych treści, takie jak subreddit r/CivitaiArchives, ale żadna większa platforma nie podjęła się tego zadania.
Obecnie celebryckie LoRA są nadal dostępne na CivitAI, ale z ograniczonym dostępem. Nicoll przyznał jednak, że restrykcje prawdopodobnie będą się zaostrzać:
„Nie zatrzymają się na tym, będą żądać coraz więcej. Tak po prostu wygląda świat. Jedyna nadzieja w tym, że staniemy się na tyle duzi, by mieć więcej do powiedzenia.”
Dodał też, że CivitAI wyczerpało wszystkie możliwości współpracy z procesorami płatności:
„Nikt nie będzie kupował Bitcoinów, żeby korzystać z generatora CivitAI. Próbowaliśmy znaleźć jak najlepsze rozwiązanie i to jest efekt. Przykro mi, jeśli to dla kogoś nie do zaakceptowania, ale nie mieliśmy wyboru.”
Co dalej?
Przed ogłoszeniem zmian CivitAI zaczęło usuwać treści, które teraz są zakazane. Tymczasowe repozytorium dla modeli Wan 2.1 LoRA powstało na Hugging Face, choć niektóre z tych modeli dotyczą zakazanych kategorii, takich jak „rozbieranie” wizerunków.
Subreddit r/datahoarders, który wcześniej archiwizował usuwane przez administrację Donalda Trumpa dane, tym razem nie wykazał zainteresowania zachowaniem treści z CivitAI.
Badania naukowe, takie jak raport z 2024 roku „Exploring the Use of Abusive Generative AI Models on Civitai”, skupiały się na platformie, ale procesorów płatności niepokoi głównie to, co dzieje się z modelami w innych, mniej regulowanych społecznościach.
Strona Mr. Deepfakes, niegdyś synonim NSFW-owych deepfake'ów, zaczęła ostatnio publikować przykłady pornograficznych wideo z celebrytami, tworzonych przy użyciu najnowszych generatorów, takich jak Hunyuan Video i Wan 2.1.
Obowiązkowe metadane
Jedną z ciekawszych zmian wymuszonych przez procesory płatności jest wymóg dodawania metadanych do wszystkich obrazów. Generowane pliki zwykle zawierają informacje o użytym modelu i parametrach, co pozwala innym użytkownikom odtworzyć proces tworzenia. Teraz treści bez metadanych będą usuwane w ciągu 30 dni.
Choć metadane mogą być kopiowane lub wymyślane, nowe zasady zmuszają użytkowników do ręcznego opisywania tysięcy przesłanych wcześniej plików.
Nowe zasady w skrócie
- Treści związane z prawdziwymi osobami są ukrywane w publicznych kanałach.
- Treści o tematyce dziecięcej są filtrowane.
- Treści X i XXX bez metadanych są ukrywane do czasu uzupełnienia informacji.
- Obrazy tworzone z użyciem własnych zdjęć (BYOI) muszą być modyfikowane w co najmniej 50%.
- Wyszukiwanie nazwisk celebrytów w połączeniu z treściami dla dorosłych jest zablokowane.
- Reklamy i system napiwków (Buzz) nie działają przy treściach związanych z realnymi osobami.
- Modele przedstawiające znane osoby nie mogą być udostępniane w ramach Early Access.
- Dodano oświadczenie o zgodności z przepisami 2257, potwierdzające, że treści są generowane przez AI.
- Utworzono formularz zgłaszania treści do usunięcia.
- Wprowadzono nowy system moderacji we współpracy z Clavatą.
* Barbara Eden, aktorka znana z serialu „I Dream of Jeannie”, wciąż żyje i ma 93 lata.
Artykuł pierwotnie opublikowany 24 kwietnia 2025 roku.