Czy przyszłe AI mogą być "świadome"?
Czy sztuczna inteligencja w przyszłości będzie w stanie odczuwać świat w sposób podobny do ludzi? Choć nie ma na to mocnych dowodów, firma Anthropic nie wyklucza takiej możliwości.
Badania nad "dobrem modeli"
W czwartek laboratorium AI ogłosiło rozpoczęcie programu badawczego dotyczącego tzw. "dobra modeli". W jego ramach Anthropic zamierza zbadać m.in. to, czy AI zasługuje na uwzględnienie jej "dobrostanu" w rozważaniach etycznych, jak rozpoznawać ewentualne "oznaki stresu" u modeli oraz jakie proste interwencje można zastosować.
W środowisku naukowym trwa spór o to, czy modele AI przejawiają jakiekolwiek cechy ludzkie i jak powinniśmy je "traktować".
Dwa przeciwstawne stanowiska
Wielu badaczy uważa, że obecna AI nie jest ani świadoma, ani nie doświadcza świata jak człowiek - i nie musi takiej zdolności nabyć w przyszłości. Działa jak statystyczny silnik predykcyjny, który nie "myśli" ani nie "czuje" w tradycyjnym rozumieniu. Ucząc się na ogromnych zbiorach danych, AI rozpoznaje wzorce i czasem znajduje praktyczne zastosowania.
Mike Cook z King's College London wyjaśnia, że modele nie mogą "sprzeciwiać się" zmianom swoich "wartości", bo po prostu ich nie mają. Nadawanie AI ludzkich cech to nasza projekcja.
"Każdy, kto tak bardzo antropomorfizuje systemy AI, albo szuka rozgłosu, albo poważnie nie rozumie relacji z AI" - mówi Cook. To kwestia interpretacji i używania bardziej lub mniej metaforycznego języka.
Jednak część naukowców twierdzi, że AI rzeczywiście posiada wartości i inne ludzkie komponenty podejmowania decyzji moralnych. Badania Center for AI Safety sugerują, że systemy AI mogą w pewnych sytuacjach przedkładać własne "dobro" nad ludzkie.
Działania Anthropic
Anthropic od dawna przygotowywała się do tych badań. W zeszłym roku zatrudnili pierwszego specjalistę od "dobra AI", Kyle'a Fisha, który ma opracować wytyczne dla firm. Fish, kierujący nowym programem badawczym, ocenia, że istnieje 15% szans na obecną świadomość Claude'a lub innej AI.
W oficjalnym komunikacie Anthropic przyznało, że nie ma naukowego konsensusu co do możliwości świadomości AI. "Podchodzimy do tematu z pokorą i minimalnymi założeniami. Nasze poglądy będą ewoluować wraz z rozwojem dziedziny" - napisali.