{"id":1003,"date":"2025-10-23T14:17:11","date_gmt":"2025-10-23T14:17:11","guid":{"rendered":"https:\/\/www.cert.hr\/novosti\/kiberneticke-prijetnje-koje-pokrece-ai\/"},"modified":"2026-11-04T09:01:45","modified_gmt":"2026-11-04T09:01:45","slug":"kiberneticke-prijetnje-koje-pokrece-ai","status":"publish","type":"post","link":"https:\/\/cert.hr\/en\/novosti\/kiberneticke-prijetnje-koje-pokrece-ai\/","title":{"rendered":"Kiberneti\u010dke prijetnje koje pokre\u0107e AI"},"content":{"rendered":"

Autorica teksta: Louise Altvater, analiti\u010darka kiberneti\u010dke sigurnosti, CSIRT FCCN, Portugal<\/em><\/strong><\/p>\n\n\n\n

Umjetna inteligencija posljednjih je godina postala jedna od najzanimljivijih tema u svijetu tehnologije. Prepoznata je po svojoj sposobnosti automatizacije ponavljaju\u0107ih zadataka, analize velikih koli\u010dina podataka brzinom nedosti\u017enom \u010dovjeku, pomo\u0107i u dono\u0161enju odluka, pobolj\u0161anju korisni\u010dke podr\u0161ke, pa \u010dak i stvaranju kreativnog sadr\u017eaja. No u podru\u010dju kiberneti\u010dke sigurnosti taj trend ima dvostruku prirodu: AI mo\u017ee biti mo\u0107an saveznik obrambenih timova, ali i oru\u017eje u rukama zlonamjernih aktera. Zlouporaba umjetne inteligencije ubrzava tempo, opseg i slo\u017eenost napada, dok tradicionalne sigurnosne mjere \u010desto te\u0161ko uspijevaju pravovremeno ih otkriti ili sprije\u010diti.<\/p>\n\n\n\n

AI i socijalni in\u017eenjering<\/strong><\/p>\n\n\n\n

Jedna od najzabrinjavaju\u0107ih primjena AI-a jest u socijalnom in\u017eenjeringu<\/a>, koji se temelji na psiholo\u0161koj manipulaciji kako bi se pojedince navelo da otkriju osjetljive podatke ili poduzmu \u0161tetne radnje. Tradicionalno su takve prijevare zahtijevale ru\u010dni rad, prevaranti su sami sastavljali phishing poruke, zvali \u017ertve telefonom ili izra\u0111ivali la\u017ene dokumente. Danas AI automatizira i usavr\u0161ava te procese.<\/p>\n\n\n\n

Zlonamjerni akteri sada mogu stvarati hiperpersonalizirane phishing poruke koje opona\u0161aju stil pisanja \u017ertvinog nadre\u0111enog, prijatelja ili kolege. Veliki jezi\u010dni modeli (LLM - Large Language Models) mogu trenutno prilagoditi sadr\u017eaj na temelju podataka prikupljenih s dru\u0161tvenih mre\u017ea, \u010dine\u0107i poruke uvjerljivima i relevantnima. Postoje \u010dak i zlonamjerni LLM-ovi razvijeni upravo u tu svrhu, ali i legitimni modeli poput ChatGPT-a ili DeepSeek-a mogu se zlorabiti putem pa\u017eljivo osmi\u0161ljenih upita kako bi proizveli sadr\u017eaj koji se koristi za phishing ili druge \u0161tetne aktivnosti.<\/p>\n\n\n\n

Deepfake prijevare<\/strong><\/p>\n\n\n\n

Tehnologija deepfakea dodatno produbljuje razinu prevare. AI danas mo\u017ee stvoriti videozapise i audiozapise koji vjerno repliciraju ne\u010dije lice, glas i geste. U jednom poznatom slu\u010daju, djelatnik multinacionalne tvrtke u Hong Kongu prevaren je da prebaci vi\u0161e od 25 milijuna dolara nakon \u0161to je prisustvovao videokonferenciji na kojoj su svi \u201esudionici\u201c zapravo bili AI-generirani deepfakeovi stvarnih kolega. Prevara nije uspjela zbog tehni\u010dke ranjivosti, ve\u0107 zato \u0161to su napada\u010di savr\u0161eno simulirali ljudsku prisutnost i izbjegli pobuditi sumnju.<\/p>\n\n\n\n

Osim la\u017enih glasova i videa, AI mo\u017ee generirati slike koje se ne mogu provjeriti klasi\u010dnim metodama poput obrnutog pretra\u017eivanja slika (npr. Google Lens, TinEye). Takvi se vizuali stvaraju od nule, bez ikakvog izvora, pa je nemogu\u0107e potvrditi njihovu autenti\u010dnost. Ova se mogu\u0107nost sve \u010de\u0161\u0107e koristi u prijevarama za stvaranje la\u017enih dokaza, izmi\u0161ljenih doga\u0111aja ili identiteta koji izgledaju stvarno, iako ne postoje u stvarnosti.<\/p>\n\n\n\n

Socijalni in\u017eenjering samo je dio zlonamjernog potencijala AI-a. Napada\u010di ga kombiniraju s automatiziranim skeniranjem velikih mre\u017ea u nekoliko minuta radi pronalaska ranjivih sustava. Time se obrambenim timovima drasti\u010dno smanjuje vrijeme potrebno za primjenu sigurnosnih zakrpi.<\/p>\n\n\n\n

Nakon \u0161to se prona\u0111u ranjivosti, umjetna inteligencija mo\u017ee pomo\u0107i u izradi zlonamjernog softvera koji kontinuirano mijenja svoj k\u00f4d kako bi izbjegao detekciju tradicionalnih alata poput antivirusa.<\/p>\n\n\n\n

AI je tako\u0111er smanjio tehni\u010dku prepreku za ulazak u kiberneti\u010dki kriminal. Kriminalci vi\u0161e ne trebaju napredne tehni\u010dke vje\u0161tine \u2013 mogu iskoristiti crno tr\u017ei\u0161te AI alata, dostupnih na forumima dark weba. Ti alati djeluju kao \u201emaliciozni asistenti\u201c<\/em>, generiraju\u0107i uvjerljive phishing poruke, zlonamjerni k\u00f4d ili nude\u0107i detaljne upute za iskori\u0161tavanje ranjivosti.<\/p>\n\n\n\n

Obrana od AI kiberneti\u010dkih prijetnji<\/strong><\/p>\n\n\n\n

Obrana protiv napada koji koriste umjetnu inteligenciju zahtijeva proaktivan i strate\u0161ki pristup, a ne samo reaktivne mjere. Organizacije bi trebale jasno definirati ciljeve kori\u0161tenja AI-a u sigurnosnim operacijama, osiguravaju\u0107i da on podr\u017eava konkretne obrambene funkcije. AI se treba integrirati s postoje\u0107im sigurnosnim alatima i pobolj\u0161ati ih, a ne potpuno zamijeniti. Neki stru\u010dnjaci upozoravaju da bi se AI trebao promatrati i kao potencijalna prijetnja koju treba nadzirati, s obzirom na mogu\u0107nost manipulacije ili kompromitiranja.<\/p>\n\n\n\n

Transparentnost je klju\u010dna: potrebno je dati prednost interpretabilnim AI sustavima kako bi analiti\u010dari razumjeli na\u010din dono\u0161enja odluka, mogli predvidjeti pona\u0161anje sustava i provjeriti njegovu u\u010dinkovitost. Uz to, ljudi moraju zadr\u017eati kontrolu, AI bi trebao pomagati timovima kiberneti\u010dke sigurnosti, a ne donositi odluke bez nadzora. I na kraju, AI sustave treba redovito a\u017eurirati i pratiti, jer napada\u010di stalno razvijaju nove metode.<\/p>\n\n\n\n

O autorici<\/strong><\/p>\n\n\n\n

Louise Altvater je sigurnosna analiti\u010darka u CSIRT FCT-u, timu koji je odgovoran za incidente unutar FCCN-a, odjel za digitalne usluge koji za cilj ima doprinijeti razvoju znanosti, tehnologije i znanja u Portugalu. Vi\u0161e od tri godine dio je tima za odgovor na incidente, doprinose\u0107i otkrivanju, analizi i koordinaciji odgovora na incidente kiberneti\u010dke sigurnosti. Izme\u0111u ostalog, njezin rad uklju\u010duje provo\u0111enje revizija sigurnosti web aplikacija, identificiranje ranjivosti i podr\u0161ku partnerima u ja\u010danju njihove ukupne sigurnosne pozicije. Po obrazovanju je psihologinja, \u0161to joj omogu\u0107uje da u sigurnost unosi ljudsku perspektivu, fokusiraju\u0107i se na pona\u0161anje korisnika i ljudske \u010dimbenike koji stoje iza digitalnih prijetnji. Jedno od njezinih profesionalnih interesa jest prikupljanje obavje\u0161tajnih podataka o prijetnjama (threat intelligence) i njihova uloga u predvi\u0111anju te razumijevanju novih rizika u kiberneti\u010dkom prostoru.<\/p>","protected":false},"excerpt":{"rendered":"

Autorica teksta: Louise Altvater, analiti\u010darka kiberneti\u010dke sigurnosti, CSIRT FCCN, Portugal Umjetna inteligencija posljednjih je godina postala jedna od najzanimljivijih tema u svijetu tehnologije. Prepoznata je po svojoj sposobnosti automatizacije ponavljaju\u0107ih zadataka, analize velikih koli\u010dina podataka brzinom nedosti\u017enom \u010dovjeku, pomo\u0107i u dono\u0161enju odluka, pobolj\u0161anju korisni\u010dke podr\u0161ke, pa \u010dak i stvaranju kreativnog sadr\u017eaja. No u podru\u010dju kiberneti\u010dke […]<\/p>\n","protected":false},"author":3,"featured_media":1599,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":[],"meta":{"_acf_changed":false,"footnotes":""},"categories":[12],"tags":[],"tema":[],"class_list":["post-1003","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-novosti"],"acf":[],"_links":{"self":[{"href":"https:\/\/cert.hr\/en\/wp-json\/wp\/v2\/posts\/1003","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cert.hr\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cert.hr\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/cert.hr\/en\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/cert.hr\/en\/wp-json\/wp\/v2\/comments?post=1003"}],"version-history":[{"count":1,"href":"https:\/\/cert.hr\/en\/wp-json\/wp\/v2\/posts\/1003\/revisions"}],"predecessor-version":[{"id":1602,"href":"https:\/\/cert.hr\/en\/wp-json\/wp\/v2\/posts\/1003\/revisions\/1602"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cert.hr\/en\/wp-json\/wp\/v2\/media\/1599"}],"wp:attachment":[{"href":"https:\/\/cert.hr\/en\/wp-json\/wp\/v2\/media?parent=1003"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cert.hr\/en\/wp-json\/wp\/v2\/categories?post=1003"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cert.hr\/en\/wp-json\/wp\/v2\/tags?post=1003"},{"taxonomy":"tema","embeddable":true,"href":"https:\/\/cert.hr\/en\/wp-json\/wp\/v2\/tema?post=1003"},{"taxonomy":"format","embeddable":true,"href":"https:\/\/cert.hr\/en\/wp-json\/wp\/v2\/format?post=1003"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}