Zagadka: co jest na obrazku poniżej? Odpowiedź w spojlerze i obrazkach w linkach.
#sztucznainteligencja #ai #datascience #programowanie
pokaż spoiler Odpowiedź: TOSTER. A dokładniej „esencja tostera”. 🙂 Idea jest następująca: chcemy przeprowadzić atak na system rozpoznający obrazy, tzn. chcemy tak zaburzyć obraz, żeby klasyfikator podał inną odpowiedź niż powinien. Czasami – np. gdy człowiek będzie kontrolował dostarczane zdjęcia – musimy uciekać się drobnych, niewidocznych zmian. Ale w pozostałych przypadkach możemy fizycznie dołożyć coś do zdjęcia. Owo coś (np. drukowalna naklejka) powinno spełniać następujące warunki: (i) być w miarę możliwości niewielkie, (ii) działać niezależnie od sceny (oświetlenie itd.) i (iii) działać niezależnie od umiejscowienia na obrazie. No więc naukowcy zrobili klasyfikator uczący się „esencji” danych rzeczy, przy użyciu których można następnie bardzo skutecznie zaburzać inne klasyfikatory. Przykład poniżej. Wystarcza nawet zaledwie 10% powierzchni obrazu.
https://www.wykop.pl/cdn/c3201142/comment_bps7AqzBgFdLCPcz2GBhekXTvaL2dqtl8shT8drVXhzpk9AETfPwRop7vxhxuBJppTiiyJMfdWAtcajraqfwrTp5KJlwk1twaEOj.jpg
Metodologia w skrócie:
https://www.wykop.pl/cdn/c3201142/comment_aTYMZ7igCBDC3cAYMxv7ubfI3cvvyBjc6Uyn3Gr5n82DcopxTJEX5HFtArzZd64uF2TDuoiLfaVOjHMD9wdA7APfYb5b5dSaTkAP.jpg