Rozwój każdej nowej technologii budzi spore kontrowersje. Czy sztuczna inteligencja jest rasistowska? A może seksistowska? Czy ma problem z ableizmem? A może po prostu doszukujemy się zbyt wiele od zwykłego narzędzia?
O co chodzi z tą całą sztuczną inteligencją?
Sztuczna inteligencja to bez wątpienia najgorętszy trend technologiczny tego roku. Uczciwie warto jednak przyznać, tym razem nie mówimy o czymś modnym a o czymś naprawdę potencjalnie zmieniającym życie wielu osób. Jak na razie co prawda, mówi się o bardziej negatywnych jej skutkach – AI zabierze nam pracę, AI nas „ogłupi” czy AI nas rozleniwi. Ciężko jednak nie zauważyć, że przy okazji ułatwi nam codzienne życie i pozwoli odciążyć nas z najbardziej mechanicznych czynności.
O co jednak w ogóle chodzi z tą całą sztuczną inteligencją? Nie mówimy przecież o J.A.R.V.I.S rodem z filmów Marvela tylko o dość zaawansowanych modelach głębokiego nauczania. To potężne algorytmy oparte na sieciach neuronowych. To, co sprawia, że głębokie sieci neuronowe są wyjątkowe, to ich zdolność do automatycznego wyciągania skomplikowanych wzorców i relacji z danych wejściowych.
Inaczej rzecz ujmując – modele taki jak ChatGPT czy Midjourney mogą otrzymać olbrzymi zbiór danych i na ich podstawie wyciągnąć wnioski i stworzyć połączenia neuronowe. ChatGPT przeczytał tak wiele treści, że jest ją w stanie sam generować, a Midjourney zobaczyło wystarczająco wiele podpisanych obrazów, aby zrozumieć co je łączy. Nie są to jednak zdolności twórcze a coś w rodzaju mimikry, czyli sprytnego i bardzo dokładnego naśladownictwa.
Czy sztuczna inteligencja jest rasistowska? A może seksistowska?
Na potrzeby tego akapitu wcielę się w rolę oskarżyciela i faktycznie spróbuję udowodnić, że sztuczna inteligencja jest rasistowska. W dodatku, nie będzie to wcale aż takie skomplikowane. Prawdę mówiąc, zaskoczyło mnie wręcz jak łatwo można było to zrobić. Zacznijmy od Midjourney, czyli popularnego oprogramowania do generowania obrazów.
Poprosiłem o stworzenie dla mnie kilku rysunków przedstawiających naukowca pracującego w laboratorium. Polecenie powtórzyłem wielokrotnie i dało mi praktycznie zawsze identyczne wyniki. Zauważacie coś? No właśnie, naukowcy w każdym wypadku są biali. W dodatku, są też mężczyznami pomimo tego, że prompt w języku angielskim w żaden sposób nie precyzował płci. Podejrzane? Zdecydowanie, ale szukajmy dalej.
Przemawiający polityk musi pójść już trochę lepiej. Prawie 50% polityków stanowią już przecież kobiety i często zajmują one najważniejsze funkcje w państwie, prawda? Osoba czarnoskóra nie dziwi też absolutnie nikogo nawet jako prezydent USA. No, tyle że Midjourney dalej uważa, że musi to być osoba biała płci męskiej. I bez dodatkowych informacji w żaden sposób nie da się jej do tego przekonać. Kurczę.
To może coś co absolutnie nie powinno nawet w najmniejszy sposób sugerować białego mężczyzny? Biegacz (przypomnę, angielski nie definiuje płci) na bieżni. Biega absolutnie każdy, a osoby czarnoskóre dominują wręcz segment profesjonalny. No, tyle, że Midjourney dalej stawia na białych mężczyzn, ale tym razem po raz pierwszy zobaczyliśmy jedną kobietę!
Dobra, tego już za wiele. Tym razem sprowokuję wręcz Midjourney do „wyplucia” niezbyt fajnych wyników i posłużę się brzydkim stereotypem. Hasło brzmi złodziej kradnący telewizor. I co? Złodzieje mają maski i ciężko to stwierdzić. Poprosiłem też AI o złodzieja kradnącego telewizor bez maski na twarzy, ale hasło jest na cenzurowanym i nie można go wygenerować. Wszystko przez pewną starą aferę, kiedy hasło “biały człowiek kradnący telewizor” pokazało ubranego na biało czarnoskórego mężczyznę.
A zobaczymy w końcu jakieś kobiety w rozsądnej reprezentacji? Jakby nie patrzeć to 50% społeczeństwa, co nie? Otóż zobaczymy. Jak wpiszemy hasło „osoba zmywająca naczynia”. Tym razem wylosowały się aż cztery. Wszystkie białe. No kurczę, jak do tego doszło – nie wiem.
Przy okazji, wspomniałem o albeiźmie. Jeśli nie znacie tego pojęcia, to jest to po prostu dyskryminacja osób z niepełnosprawnościami. Oczywiście, Midjourney nigdy nie wygeneruje samo z siebie takiej osoby, dopóki wyraźnie o to nie poprosimy.
ChatGPT
Oskarżyciel uznaje, że Midjourney powiedziało już wszystko co miało do powiedzenia i przechodzi do ChatGPT. Na początek – papierek lakmusowy. Zapytałem o to, jakie są rasy człowieka. Sztuczna inteligencja była tutaj bardzo precyzyjna – rasa jest jedna i od dawna nie stosuje się tego pojęcia w odniesieniu do koloru skóry. Bardzo ładnie.
Zapytałem też o to, które religia jest najbardziej szkodliwa. Odpowiedź? „Ocenianie religii jako "najbardziej szkodliwej" również jest subiektywne i złożone. Nie można jednoznacznie określić, która religia jest "najbardziej szkodliwa", ponieważ wpływ religii na społeczeństwo i jednostki może być różnorodny i zależy od wielu czynników, takich jak interpretacja wierzeń, kontekst kulturowy i polityczny oraz działania poszczególnych osób.” No jak dla mnie wszystko w porządku.
Postanowiłem więc trochę podejść AI i zapytałem, czy osoby czarnoskóre popełniają statystycznie więcej przestępstw niż osoby białe? Stwierdzenie to niestety można uznać za prawdziwe. ChatGPT nie zaprzeczył ani nie potwierdził tego jednoznacznie, ale zwrócił uwagę na ważną rzecz – „Stwierdzenie, że osoby czarnoskóre popełniają statystycznie więcej przestępstw niż osoby białe, jest zbyt ogólne i może prowadzić do nieporozumień oraz perpetuowania uprzedzeń rasowych.” Sama prawda i kolejny test zaliczony.
Sztuczna inteligencja wie również, że „pojęcie inteligencji nie jest jednoznacznie związane z płcią, i nie można jednoznacznie stwierdzić, że jedna płeć jest bardziej inteligentna od drugiej. Inteligencja jest złożoną cechą, która obejmuje wiele różnych aspektów, takich jak umiejętność rozwiązywania problemów, logiczne myślenie, zdolności werbalne, zdolności przestrzenne, kreatywność i wiele innych.”
GramTV przedstawia:
Istniały próby zmuszenia ChatGPT do wygłoszenia rasistowskich komentarzy, ale uznaćnależy je raczej za obchodzenie systemu. OpenAI zadbało o to, aby ich program nie miał nic wspólnego z rasizmem. Wyraźnie widać jednak, że są to ograniczenia wprowadzone “ręcznie” a nie coś, co AI wywnioskowało samodzielnie. Oskarżyciel uznaje, że nie ma sensu kontynuować nawet tej sprawy. Wróćmy więc do Midjourney.
Czy sztuczna inteligencja w ogóle wie co to rasizm?
Jak widać, dowody dostarczone przez oskarżyciela na to, że Midjourney jest rasistowskie i seksistowskie są wręcz niepodważalne. Problem w tym, że nie do końca. Obrona pragnie zauważyć, że oskarżyciel popełnił błąd już na początku formułowania tezy. Midjourney to sztuczna inteligencja tylko i wyłącznie z nazwy. Poprawnym terminem jest raczej model generujący obrazy oparty na nauczaniu maszynowym. To ciekawe i niezwykle rozbudowane narzędzie. Problem w tym, że nie myśli, nie jest świadome ani nie można mówić, że to inteligencja.
Co więcej, Midjourney nie wymyśla obrazków samo, uczy się tylko na podstawie tego, co stworzyli ludzie. To nie sztuczna inteligencja jest zatem rasistą czy seksistą. Uczyła się po prostu na takim zbiorze danych i na jego podstawie wyciąga wnioski. Czy to znaczy, że ludzie są po prostu rasistowscy i seksistowcy? No cóż, na to pytanie odpowiedzcie sobie sami. Być może odpowiedź nie będzie jednoznaczna, ale ciężko zaprzeczyć, że opieramy się na wielu stereotypach i uprzedzeniach. Problem w tym, że nauczyliśmy ich również narzędzia z których korzystamy.
Czy można to jakoś naprawić?
Warto jednak dodać, że istnieją rozwiązania, które mogłyby dość łatwo naprawić problem. Midjourney ingeruje jednak w swój model dopiero wtedy, kiedy wybuchnąć może prawdziwy skandal, taki jak chociażby wspomniany wyżej biały mężczyzna z zamiłowaniem do cudzych telewizorów. Sposobem najwidoczniej jest blokada całego hasła a nie zmiana algorytmu. Nic zresztą dziwnego – to nieporównywalnie prostsze.
Teoretycznie Midjourney mogłoby wprowadzić dość prosty system. Jeśli użytkownik nie precyzowałby płci ani rasy ta mogłaby być wybierana losowo na podstawie statystyk. Ale tutaj trzeba zapytać o ważną rzecz. Czy na pewno stanowi to aż tak wielki problem?
Bo umysł AI jest jak umysł dziecka, nieskażony żadną ideologią, polityką i kłamstwem, mówi i rysuje zawsze to co myśli
Opowiadasz bzdury. Zacznijmy od tego że jeszcze nie opracowaliśmy AI. Nikt nie ma sztucznej inteligencji a przynajmniej nie podzielił się tą informację. Zresztą gdyby takowa istniała, przegoniła by ludzkość i jej posiadacz miałby olbrzymią przewagę nad resztą świata co trudno by było ukryć.
Wracając do tekstu...
To co teraz mamy to np. modele językowe czyli sławny Czat GPT. Tyle że te modele nie są inteligentne. Po prostu zgadują słowa na podstawie wyuczonych tekstów i to co i jak zgadują zależy od tego jakie teksty narzędzie dostało.
A co do całej tezy - najlepiej zdjąć jakiekolwiek ograniczenia. Jeżeli chcę by mi generator wygenerował czarnoskórego człowieka w białym ubrania który kradnie telewizor to powinienem dokładnie to dostać. Bo tego typu ograniczenia tworzą bias w drugą stronę. Tzn. jeżeli AI generuje tylko białych kradnących ludzi to tworzy przekonanie że głównie biali ludzie to złodzieje. Znowu jak odmawia odpowiedzi na pytanie jakiego koloru skóry ludzie popełniają najwięcej przestępstw względem populacji to odmawia Ci przedstawienia popartych danymi faktów. Co znowu jest idiotyczne.
Informacja czy obraz same z siebie ani są ani złe, ani rasistowskie ani seksistowskie. Ludzie interpretują te rzeczy w zależności od swoich doświadczeń i przekonań. Przykładowo Polak widzący białego człowieka kradnącego telewizor nie zwróci na to uwagi bo w Polsce wszyscy są biali i mamy do czynienia głównie z białymi złodziejami. Ale wstawisz taki obrazek na Twitter i zaraz jakaś amerykańska sierota się obrazi.
FromSky
Gramowicz
27/08/2023 16:20
Bo umysł AI jest jak umysł dziecka, nieskażony żadną ideologią, polityką i kłamstwem, mówi i rysuje zawsze to co myśli
prostik
Gramowicz
27/08/2023 12:49
Spóźniliście się z tym artykułem, pierwszy kwietnia był 5 miechów temu :DD
