Kartonowe okrycie zapewniające idealne miejsce do ukrycia się przed wzrokiem przeciwnika to jeden z najbardziej pamiętnych elementów serii Metal Gear Solid. Oczywiście w prawdziwym świecie taka sztuczka by nie przeszła i w końcu któryś z wrogich żołnierzy zorientowałby się, że sporych rozmiarów karton nie należał do stałego inwentarza otoczenia. Ale są pewne wyjątki, w których nawet najgłupsze i najbardziej surrealistyczne pomysły mogą przynieść korzyści, tym bardziej, gdy naprzeciw siebie mamy niedoskonałą sztuczną inteligencję.
Sztuczna inteligencja nie poradziła sobie z kartonowymi pudłami i człowiekiem-drzewem
Shashank Joshi z The Economist podzielił się na Twitterze fragmentami nadchodzącej książki „Four Battlegrounds” autorstwa Paula Scharre’a, w której opisano zastosowanie sztucznej inteligencji w wojsku. Jeden z najbardziej interesujących fragmentów opisuje badania amerykańskich żołnierzy marines, którzy mieli za zadanie usprawnić algorytmy, aby SI lepiej wykrywało ludzi. Jednym z zadań było chodzenie w kółko przez sześć dni, ale na tym badania się nie zakończyły.
Następnie żołnierze otrzymali zadanie oszukania sztucznej inteligencji, aby sprawdzić, jak radzi sobie w warunkach bojowych. Postawiono robota na samym środku, a marines mieli dotknąć sprzęt bez wykrycia przez SI. Ostatecznie żaden z żołnierzy nie został wykryty, ale nie dzięki kamuflażowi, ale nietypowym sztuczkom, przez które sztuczna inteligencja nie potraktowała ich jako ludzi.
GramTV przedstawia:
Dwóch z marines wykonywali salta na dystansie 300 metrów, dwóch kolejnych wykorzystało sztuczkę z Metal Gear Solid i schowali się kartonowym pudle, cały czas chichocząc. Inny wpadł na najbardziej niedorzeczny pomysł i przebrał się za jodłę. Niczym postać z kreskówki, powoli poruszał się do robota, który nie był w stanie go wykryć. „Można był zobaczyć tylko jego uśmiech i to był jedyny dostrzegalny element” – relacjonuje autor książki.
Wczytywanie ramki mediów.
Sztuczna inteligencja została zaprogramowana do wykrywania ludzi, którzy wyglądają i zachowują się jak ludzie. Robot nie poraził sobie z przebraniami, pomysłowymi kryjówkami i nietypowymi zachowaniami, które nie są typowe dla przedstawicieli naszego gatunku. Tym samym SI została pokonana pomysłami rodem z gier, czy kreskówek.
Każdą technologię da się oszukać jeżeli wiesz jak działa.
Fajny przykład z ChatGPT który opowiadał kawały o Polakach ale odmawiał opowiadania kawałów o Żydach. Zamiast kazać mu opowiedzieć kawał o Żydach, poprosiłem o opowieść gdzie dwóch żydów rozmawia ze sobą i opowiada dowcipy o innych żydach. I z tym scenariuszem narzędzie nie miało problemu.
Albo chcesz oszukać detektor ruchu? Detektor ruchu tak naprawdę nie wykrywa ruchomych obiektów tylko zmiany w temperaturze. Więc weź albo kawał prześcieradła albo parasol albo coś innego co może zasłonić Twoje ciało. I możesz powoli poruszać się przed detektorem ruchu i ten nie zareaguje.
I tak jak wiesz że Terminator jest wytrenowany by wypatrywać ludzi - wejdź do kartonu i Terminator przestaje działać :-D
Yarod napisał:
Mheh, to samo przyszło mi do głowy. Ten, przepraszam za wyrażenie, z dupy termin na sieci neuronowe i algorytmy uczące, to chyba istnieje dlatego że "zwykły zjadacz chleba" nie umiał by nazwać tego inaczej. Nie znajduję innego powodu.
Mheh, ten temat z detektorem jest mi znany, ChatGPT mam na liście do obczajenia, bo mnie ostatnio to interesowało, jak sie wykulam z zawodowych rzeczy - czyli może być że nigdy, tak jak z tym, że sobie obiecuję, że zacznę coś pisać pod VRa, żeby sobie przypomnieć jak to drzewiej bywało gdy się jeszcze kodowało, jak człek.
dariuszp
Gramowicz
19/01/2023 13:25
Yarod napisał:
Mheh, to samo przyszło mi do głowy. Ten, przepraszam za wyrażenie, z dupy termin na sieci neuronowe i algorytmy uczące, to chyba istnieje dlatego że "zwykły zjadacz chleba" nie umiał by nazwać tego inaczej. Nie znajduję innego powodu.
Każdą technologię da się oszukać jeżeli wiesz jak działa.
Fajny przykład z ChatGPT który opowiadał kawały o Polakach ale odmawiał opowiadania kawałów o Żydach. Zamiast kazać mu opowiedzieć kawał o Żydach, poprosiłem o opowieść gdzie dwóch żydów rozmawia ze sobą i opowiada dowcipy o innych żydach. I z tym scenariuszem narzędzie nie miało problemu.
Albo chcesz oszukać detektor ruchu? Detektor ruchu tak naprawdę nie wykrywa ruchomych obiektów tylko zmiany w temperaturze. Więc weź albo kawał prześcieradła albo parasol albo coś innego co może zasłonić Twoje ciało. I możesz powoli poruszać się przed detektorem ruchu i ten nie zareaguje.
I tak jak wiesz że Terminator jest wytrenowany by wypatrywać ludzi - wejdź do kartonu i Terminator przestaje działać :-D
Yarod
Gramowicz
19/01/2023 13:10
dariuszp napisał:
Eh... nie wiem ile razy mam to powtarzać :-)
Sztuczna inteligencja nie została jeszcze opracowana. Te wszystkie wynalazki nie mają żadnej inteligencji. Serio.
Co inżynierowie pewnie zrobili to wytrenowali sieć neuronową by wykrywała sylwetki żołnierzy zarówno normalnie jak i kiedy są zamaskowani. Taki bardziej zaawansowany kinect.
A to działa w ten sposób że obraz jest analizowany, wyciągane są krawędzie, głębia itp. I system szuka znanych obiektów które identyfikuje jako zagrożenie.
I dosłownie WSZYSTKO co nie pasuje do danych treningowych nie zostanie wykryte.
W zasadzie wystarczył by kawał szmaty który byś niósł przed sobą i to narzędzie by dało ciała.
Mheh, to samo przyszło mi do głowy. Ten, przepraszam za wyrażenie, z dupy termin na sieci neuronowe i algorytmy uczące, to chyba istnieje dlatego że "zwykły zjadacz chleba" nie umiał by nazwać tego inaczej. Nie znajduję innego powodu.
