Usled brzog tempa tehnološkog napretka i društvenih promena, termini „AI“ i „veštačka inteligencija“ čvrsto su se pozicionirali kao tema globalnih debata. Sa sve širom primenom velikih jezičkih modela (LLM), porast zabrinutosti za bezbednost i privatnost direktno ukazuju na veze AI i sveta sajber-bezbednosti.
Stručnjaci kompanije Kaspersky analizirali su koliki je značaj razvoja i sve veće primene veštačke inteligencije na sajber pretnje u 2023. i kako će to uticati na oblast sajber bezbednosti u 2024. godini. Analiza je vršena primenom višestranog pristupa, fokusirajući se na implikacije primene veštačke inteligencije, a posebno njenu upotrebu od strane onih koji se bore protiv pretnji, zatim regulatora, a svakako i procenjujući mogućnosti njenog korišćenja i od strane sajber kriminalaca.
Dragan Davidović, generalni direktor kompanije Kaspersky za istočnu Evropu razmatrao je ove nalaze i izdvojio nekoliko novih potencijalnih trendova relevantnih za sajber bezbednost, koji su povezani sa veštačkom inteligencijom.
Veća kompleksnost osetljivih tačaka
Kako se veliki jezički modeli (LLM) kojima se upravlja pomoću instrukcija budu sve više integrisali u sve veći broj korisničkih proizvoda, izgledno je da će se pojaviti nove kompleksne ranjivosti. To bi prvenstveno moglo da se desi u prostoru gde se preklapaju generativna veštačka inteligencija zasnovana na verovatnoći i tradicionalne tehnologije zasnovane na determinizmu, kreiranjem nove površine osetljive na napade. Zadatak profesionalaca za sajber bezbednost biće da obezbede i ovu novu zonu, što će zahtevati od programera da prouče nove bezbednosne mere kao što je odobrenje korisnika za radnje koje iniciraju agenti LLM…
Tekst u celosti možete pročitati u digitalnom izdanju časopisa.
