Reklama

Nauka

Wojny na algorytmy – nowe wyzwanie dla cyberbezpieczeństwa

WAT

Piosenka puszczona w radio może spowodować serię katastrof w ruchu drogowym lub wyciek poufnych danych bankowych. O tym, jak można oszukać asystentów głosowych i wprowadzić w błąd autonomiczne pojazdy, telefony i urządzenia, które same się uczą – pisze w nagrodzonej pracy doktorant Wojskowej Akademii Technicznej.

Od sztucznej inteligencji może zależeć nasze życie, jeśli jest zastosowana w medycynie, albo w autonomicznych pojazdach. A jednak łatwo da się oszukać maszyny – dowodzi Łukasz Tymoszuk. Drogą do “złośliwej” ingerencji jest budowanie systemów-hakerów, które same szukają sobie niewidocznych uchylonych drzwi.

Jego praca magisterska pt. „Antagonistyczne uczenie maszynowe jako zapowiedź wojen na algorytmy” otrzymała nagrodę główną (ex aequo) i nagrodę specjalną tegorocznego „Forum Młodych Informatyków”. Równorzędna nagrodę główną odebrał Paweł Tarsała za pracę pt. „Algorytmy głębokiego uczenia maszynowego w obszarze widzenia komputerowego”. Obydwaj laureaci pracowali pod opieką naukową dr. inż. Rafała Kasprzyka z Wydziału Cybernetyki WAT.

Reklama

Łukasz Tymoszuk podaje przykład ataku dokonanego poprzez... piosenkę. Atak polega na puszczeniu w radio zainfekowanej piosenki, transmitowanej w milionach odbiorników równocześnie.

„Człowiek nie usłyszy nic nadzwyczajnego, po prostu piosenkę. Natomiast systemy sztucznej inteligencji odbiorą komendę, która może spowodować serię katastrof w pojazdach autonomicznych, albo wyciek danych na ogromną skalę. Te systemy to asystenci głosowi, których wykorzystujemy do przekazywania poleceń w domach, samochodach czy telefonach komórkowych z dostępem do e-maili i poufnych danych” – tłumaczy doktorant.

Jak wyjaśnia dr Kasprzyk, algorytm bardzo zaawansowanej sztucznej inteligencji jest łatwo oszukać poprzez inny algorytm – to właśnie wojna na algorytmy. Choć nawet najbardziej inteligentny człowiek nie rozumie do końca reguł działania złożonego systemu, to przecież potrafi go „wytrenować”. A skoro tak – to przestępca lub naukowiec zaangażowany w działania wojenne potrafi zbudować przeciwstawny algorytm, który nauczy się wszystkiego o tym pierwszym. Złośliwy algorytm będzie umiał wyszukać lukę i spreparować taki „szum”, żeby nasz pierwszy, poprawny algorytm się pomylił.

Reklama

Wojny na algorytmy dzieją się od dziesiątek lat w obszarze kryptologii – tu chodzi o zapewnienie poufności danych. Obszarów takiej walki jest coraz więcej w codziennym życiu, a tym bardziej w wojsku. Cyberbezpieczeństwo dotąd obejmowało sprzęt, czyli hardware, i nadający ducha temu „ciału” software, czyli oprogramowanie. Obecnie obszar cyberbezpieczeństwa, powiększył się o usuwanie luk w modelach budowanych przez same maszyny w oparciu o Big Data. Przez te luki, zwane podatnościami, mogą wślizgnąć się „maszynowi hakerzy”.

Złośliwe systemy preparowania danych wejściowych mogą być wykorzystane w wojnach przyszłości, nawet między państwami – tak w ataku, jak w obronie. Zatem nie tylko przestępcy, ale i specjaliści od spraw wojskowych pracują nad zaawansowanymi systemami przeciwstawnego uczenia się maszyn. Aby opracować zabezpieczenia, naukowcy muszą odnaleźć luki w aktualnych modelach uczenia maszynowego – i zrozumieć, jak je chronić.

2020-12-17 20:25

[ TEMATY ]

Wybrane dla Ciebie

Papież: sztuczna inteligencja może uczynić świat lepszym

Adober Stock

Do refleksji nad rozwojem sztucznej inteligencji, która powinna ona szanować godność człowieka oraz stworzenia zaprasza Franciszek w intencji na listopad, przekazanej za pośrednictwem Światowej Sieci Modlitewnej Papieża. Podkreśla, że należy zachować świadomość niebezpieczeństw, jakie może przynieść nieograniczony postęp: nierówność szans i dyskryminację. Franciszek wyraża pragnienie, obecne w encyklice „Fratelli tutti”: „Byłoby dobrze, gdyby wzrostowi innowacji naukowych i technologicznych towarzyszyła również coraz większa sprawiedliwość i integracja społeczna!”.

Więcej ...

Nowenna do Matki Bożej rozwiązującej węzły!

Obraz Matki Bożej Rozwiązującej Węzły

Wiesław Podgórski

Obraz Matki Bożej Rozwiązującej Węzły

Zachęcamy do odmawiania Nowenny do Matki Bożej rozwiązującej węzły. Już od dziś poświęć kilka minut w Twoim życiu i zwróć swą twarz ku Tej, która zdeptała głowę szatanowi.

Więcej ...

Hiszpania: ożywienie na szlakach do Santiago de Compostela

2021-05-14 21:13
SANTIAGO DE COMPOSTELA

KS. SŁAWOMIR MAREK

SANTIAGO DE COMPOSTELA

Wraz z zakończonym w niedzielę stanem zagrożenia epidemicznego w Hiszpanii na szlaki pielgrzymkowe zmierzające do Santiago de Compostela wyszli pierwsi pątnicy, a także ruszyły pierwsze samochodowe grupy pielgrzymkowe. Dotychczasowe podróże do tego miejsca kultu możliwe były jedynie z obszaru gmin położonych na terenie wspólnoty autonomicznej Galicji, gdzie znajduje się Santiago de Compostela. Powodem była konieczność przestrzegania kordonu sanitarnego, jaki ogłosił w tym regionie rząd wspólnoty autonomicznej z powodu pandemii COVID-19.

Więcej ...

Reklama

Najpopularniejsze

#NiezbędnikMaryjny: odnajdź z nami drogę do Maryi!

Wiara

#NiezbędnikMaryjny: odnajdź z nami drogę do Maryi!

#NiezbędnikMaryjny: Królowa Tatr z Wiktorówek

Wiara

#NiezbędnikMaryjny: Królowa Tatr z Wiktorówek

Apostoł, który zastąpił zdrajcę

Święci i błogosławieni

Apostoł, który zastąpił zdrajcę

Komunikat Nuncjatury Apostolskiej w Polsce: Ojciec Święty...

Kościół

Komunikat Nuncjatury Apostolskiej w Polsce: Ojciec Święty...

Dni Krzyżowe 2021

Kościół

Dni Krzyżowe 2021

Rozpoczyna się Nowenna do św. Andrzeja Boboli

Wiara

Rozpoczyna się Nowenna do św. Andrzeja Boboli

#NiezbędnikMaryjny: Cuda za wstawiennictwem Matki Bożej...

Wiara

#NiezbędnikMaryjny: Cuda za wstawiennictwem Matki Bożej...

#NiezbędnikMaryjny: Modlitwa do Matki Bożej Nieustającej...

Wiara

#NiezbędnikMaryjny: Modlitwa do Matki Bożej Nieustającej...

#NiezbędnikMaryjny: Matka Boża Fatimska

Wiara

#NiezbędnikMaryjny: Matka Boża Fatimska