Pornograficzny deepfake z Taylor Swift rozpętał prawdziwą burzę w USA. Jest też dowodem dużo głębszego problemu, który może dotyczyć każdego z nas.
Najpierw tło wydarzeń. W zeszłym tygodniu na Twitterze noszącym obecnie nazwę X, pojawiły się pornograficzne zdjęcia Taylor Swift, wygenerowane przez sztuczną inteligencję. Za ich powstaniem stoi grupa działająca na Telegramie, która specjalizuje się w tego typu akcjach. Wygenerowanie zdjęcia dowolnej osoby nie jest ogromnym wyzwaniem, ale w przypadku tej afery problem wydaje się znacznie głębszy.
W każdym razie ich dzieło rozpełzło się po świecie błyskawicznie. Deepfake został wyświetlony ponad 45 milionów razy i uzyskał setki tysięcy polubieni, a dodatkowo był wielokrotnie udostępniany. Dlatego nawet trudno policzyć do jak dużej liczby odbiorców dotarł, a pewne jest, że usunięcie go z sieci jest w zasadzie niemożliwe.
Wirusowo rozchodzący się deepfake obnażył całkowitą bezsilność Twittera/X, który pod rządami Muska przeszedł gruntowną „reformę”, polegająca na zwolnieniu setek pracowników, często z kluczowych obszarów działalności, w tym oczywiście zabezpieczeń i moderacji treści. Nic więc dziwnego, że platforma nie potrafiła sobie poradzić z problemem.
Jak podkreślają specjaliści, do rozwiązania delikatnej kwestii, użyto młota kowalskiego, a więc wyłączono możliwość wyszukiwania frazy „Taylor Swift”. Co ciekawe stało się to po interwencji Białego Domu, który naciskał na Kongres, żeby ten z kolei przymusił platformę Muska do działania. W końcu ucierpiała Swift, dobro narodowe USA. Niestety było to bezskuteczne, bo nie trzeba być specem od łamania zabezpieczeń, żeby wyszukiwać treści innymi sposobami. Dla przykładu użytkownicy TikToka wyszukują „seggs” zamiast „seks” itd. Dlatego deepfake wciąż był niezwykle popularny, a platforma Muska twierdziła, że w zasadzie rozwiązała problem z jego dostępnością.
Afera ma też inny wymiar. Specjaliści wykorzystują ją jako przykład, pokazując słabość platform społecznościowych, które tak naprawdę nie są w stanie chronić nikogo z nas. Inna sprawa, że w przypadku przysłowiowego Kowalskiego, nigdy nie uruchomi się taka lawina wsparcia i zadziałają najwyższe osoby w państwie.
Czy takich problemów można unikać? Podobno sposobem może być zwiększona przejrzystość działania platform mediów społecznościowych w stosunku do indywidualnych użytkowników i oddanie im większego wpływu na to, co się dzieje z informacjami publikowanymi na ich temat. Ułatwiłoby to szybsze i skuteczniejsze reagowanie na podobne zdarzenia. Jako drugi aspekt wskazywany jest konieczność większej współpracy platform z pokrzywdzonym użytkownikiem.
Pokłosiem skandalu z pornograficznymi zdjęciami Swift jest obietnica zatrudnienia przez X aż 100 moderatorów treści do pracy w nowym centrum „Zaufania i bezpieczeństwa” w Austin. I tutaj zachodzi obawa o jej realizację, bo Musk uważa, że w zasadzie jego platforma nie stworzyła mocnego precedensu w zakresie ochrony użytkowników przed nadużyciami. Mówiąc krótko – Nic się nie stało!
I na koniec można też się zastanowić nad rolą firm tworzących narzędzia bazujące na sztucznej inteligencji. Czy nie warto byłoby zadbać o jakieś regulacje w tym zakresie, bo problem nie leży rzeczywiście tylko po stronie social mediów, w których te cyfrowe dzieła się pojawiają?
