Marko Lihter: Od radoznalog programera do vizionara u AI sigurnosti

Share

Danas imamo zadovoljstvo predstaviti vam Marka Lihtera, istinskog entuzijasta računalne tehnologije i kibernetičke sigurnosti. Još od malih nogu zaljubio se u svijet računala, eksperimentirajući s raznim postavkama i kreirajući svoje prve aplikacije još u srednjoj školi. Nakon što je svoje tehničke vještine usavršio tijekom studija na FER-u, Marko se pridružio Five Agency-ju kao iOS developer, gdje je gradio svoje iskustvo u razvoju mobilnih aplikacija. Međutim, njegova strast prema kibernetičkoj sigurnosti vodila ga je u novom smjeru, gdje danas kao Business Development Manager u startupu SplxAI radi na stvaranju inovativnih rješenja za sigurnost umjetne inteligencije. Uživajte u uzbudljivom razgovoru s Markom o njegovom putu i viziji za budućnost AI sigurnosti.

  1. Možete li nam predstaviti SplxAI i njegovu ulogu u području umjetne inteligencije?

Hrvatski startup SplxAI bavi se kibernetičkom sigurnošću umjetne inteligencije. Naš softver napada (ali na dobar način) i brani generativne AI aplikacije, jačajući njihovu razinu sigurnosti. Osnovan od strane Ante Gojsalića i Kristiana Kambera, tim Splx-a čine talenti za umjetnu inteligenciju, računalni olimpijci i iskusni savjetnici za kibernetičku sigurnost, koji zajedničkim snagama rješavaju sigurnosne rizike koje donosi generativna umjetna inteligencija.

  1. Kako ste došli na ideju za razvoj SplxAI platforme i koji su njeni ključni elementi?

Ideju je dobio naš, co-founder i osnivač, Ante Gojsalić, početkom prošle 2023. godine. Radio je kao konzultant u njemačkoj AI savjetodavnoj tvrtki gdje je primjetio kako generativni AI (GenAI) uvodi prijeko zastrašujuće sigurnosne propuste u aplikacije koje implemeniraju tu tehnologiju. Istražujući tržište nije našao ni jedno konkretno sigurnosno rješenje i tada se je upoznao sa Krisom koji je svojim iskustvom u IT salesu, a i cybersecurity salesu stekao dobar uvid u tržište i profil kupaca koji bi bio zainteresiran za ovakva rješenja. Zajedno su razvili ideju i poslovni plan, počeli su oformljavati tim te osnovali SplxAI u studenom 2023.

SplxAI platforma sastoji se od 2 rješenja – jedno ofenzivno, a drugo defenzivno sigurnosno rješenje. Trenutno mogu pričati samo o ofenzivnom rješenju, a o onom defenzivnom ću se morati još morati malo strpiti i ne prenagliti s otkrivanjem detalja prije puštanja u produkciju istog. Ono što mogu reći je da će biti unique na tržištu sa nekoliko inovativnih, game-changing, značajki.

Ofenzivno rješenje, Probe, služi za automatsko i kontinuirano pentestiranje GenAI aplikacija, iliti, za non-technical čitatelje, anti-virus scanner za aplikacije koje koriste GenAI. (GenAI je svaka umjetna inteligencija koja kreira neki novi sadržaj, tu spadaju ChatGPT, Google Gemini, Claude 3, Midjourney, itd.) Probe testira aplikacije koje implementiraju GenAI modele – odnosno u 95% slučajeva su to chatbotovi. Sa inovacijom na tržištu, dodajemo i mogućnost testiranja multi-modalnih aplikacija koje podržavaju slike ili govor. Probe prilikom pokretanja generira tisuće napada specifičnih za baš za pojedinu aplikaciju, njezinu industriju, kompaniju, set rizika, i profil korisnika. Npr. napadi na zdravstveni AI chatbot moraju biti drugačiji od onih na chatbot osiguravajuće kuće jer oni komuniciraju o različitim domenama. Zanimljivo je da su chatbotovi uvijek najranjiviji u vlastitoj domeni. Rezultat pokretanja Probe-a su identificirani propusti, pregled rizika GenAI aplikacije i kompanije, te strategije kako ublažiti te ranjivosti i rizike.

  1. Koliko je bilo teško pokrenuti ovaj startup, te koliko je bilo izazovno odraditi fundraising?

Ne mogu reći da je teško kad radiš ono što voliš. Stvarno nije problem dati 120% u motiviranom timu gdje svako daje sve od sebe. Istina je da nemamo karijernu pozadinu u startup svijetu, i da smo hrvatski startup pa sami fundraising nije toliko jednostavan kao u Izraelu ili US gdje se nalazi većina naših competitora, ali to nam je veliki motivator – pokazati da se može. Vjerujem da smo se odlično i brzo prilagodili svim izazovima startupa i da dobro vladamo njime s obzirom da smo osnovani krajem 2023. Od VC-jeva dobivamo nenormalno puno interesa i trenutno smo pri zatvaranja pre-seed fundraising runde. O iznosu i datumu još ne mogu govoriti, ali zapratite nas na LinkedInu i tamo ćete saznati čim se runda finalizira.

  1. Koje su prednosti korištenja SplxAI u usporedbi s drugim alatima za implementaciju sigurnosti umjetne inteligencije?

Prednost SplxAI-ja je da naš Probe radi potpuno automatizirano što onda omogućava integraciju u razvojni ciklus aplikacije i kontinuirano testiranje. Najveća prednost Probe-a su njegovi domenski specifični testovi – odnosno za svaku aplikaciju, kompaniju, set rizika i profil korisnika generiramo smislene napade koji pokrivaju većinski dio attack surface-a generativne umjetne inteligencije. Također nakon skeniranja, još jedan veliki tehnički diferencijator jesu strategije ublažavanja (engl. mitigation strategy) koje su mapirane na standardizirane AI security frameworke poput OWASP Top 10 for LLM apps, MITRE Atlas, i EU AI Act.

Dodatno, naš pricing model je definitivno najpristupačniji, jer nudimo freemium, premium i enterprise model, s time da premium može biti pay-as-you-go ili monthly subscription. Tim specifičnim pricingom targetiramo start-upe i scale-upe jer oni trenutno razvijaju najviše GenAI aplikacija, a i svjesni su sigurnosnih nedostataka istih. Kod enterpriseova vidim pozitivni trend te smatramo da će do kraja godine učetverostručiti broj AI aplikacija koje isporučuju za razliku o prošle godine.

  1. Kolike su često greške u Chatbotovima, te kako možemo objasniti pojam prompt injection?

Još nisam vidio AI Chatbot bez visokorizične greške, odnosno bez brojnih visokorizičnih grešaka. Čak i kod onih koji su implementirali neke zaštitne mjere, uvijek smo uspijeli nadmudriti te zaštite s lakoćom pomoću naših strategija napada odnosno pentestiranja.

Prompt injection je svakako omiljena i kritična ranjivost u kojoj napadači manipuliraju upitima za unos kako bi promijenili ponašanje chatbota, izlažući osjetljive podatke ili izvršavajući neovlaštene radnje. Prompt Injection može dovesti do teških sigurnosnih povreda i operativnih smetnji.

  1. Koje su vaše ideje vodilje u razvoju aplikacija i kako se trudite da se istaknete u konkurentnom tržištu?

Vodilja Splx-a, a mislim da bi trebala biti i svakog tko razvija aplikacije, je razviti kvalitetnu uslugu, u našem slučaju najnaprednije rješenje za sigurnost AI aplikacija, ali pobrinuti se da UI/UX iskustvo korisnika bude iznadprosječno, jer na kraju dana dizajn i jednostavnost je ono što privlači i zadržava većinu korisnika. Lagao bih kad bi rekao da smo se istaknuli na tržištu, ali nitko se još nije istaknuo. Industrija sigurnosti AI-ja je nova i broj startupa u njoj raste svakodnevno. Zahvalan sam da smo krenuli na vrijeme te smo među vodećima u tom space-u. Krajem 2025. biti će jasno tko je preživio i tko je leader u sigurnosti umjetne inteligencije. Moj cilj je da se ističemo po inovativnosti i kvaliteti pristupa rješenja, automatizaciji, jednostavnosti korištenja te cjenovnoj pristupačnosti za sve profile ICP-ova. Naravno, za to trebamo izgraditi brend i to će zahtjevati vrijeme i novi set vještina koje ćemo morati dodati u SplxAI tim.

  1. Kakve savjete biste dali mladim programerima koji žele ući u svijet razvoja aplikacija za iOS platformu?

Mislim da je iOS idealna tehnologija za početi programersku karijeru jer taskovi iOS programera pokrivaju poslovnu logiku aplikacije, naučiš razvijati UI komponente, a dobiješ i dobar uvid u ostale uloge u timu zbog stalne komunikacije s njima. Preporučam da krenete sami, ili ako ste u mogućnosti upišete iOS vještinu na FER-u, razvijte portfolio od dvije ili tri aplikacije na GitHub-u i u tom trenutku ste shvatili – ili da vam se iOS ne sviđa, ili da želite nastaviti u tom smjeru. Ako želite nastaviti, spremni ste za prijavu na junior iOS poziciju. Moj prijedlog je za početak ciljati agencije s velikim mobilnim timovima koje imaju strane klijente, jer ćete tamo proći više projekata, raditi s brojnim novim framework-ima, najbrže učiti kroz više projektnih timova i postaviti odlične temelje za nastavak karijere. Ako se netko prepozna ovdje u tekstu, osjećajte se slobodno stupiti u kontakt sa mnom pa ću vam dati više savjeta ili vas spojiti s svojim prijateljima koji rade u opisanom profilu tvrtki.

  1. Kako biste opisali trenutno stanje u području blockchain tehnologije i kripto industrije?

Kripto, a posljedično i blockchain, doživljavaju trenutno značajan rast i transformaciju. Nedavna odluka SEC-a o odobrenju spot Ethereum ETF-ova predstavlja veliki korak naprijed, što je potaknulo rast cijene Ethereuma. Istovremeno, Bitcoin je dosegao nove visine, približavajući se svom maksimumu, što ukazuje na snažan tržišni zamah. Ipak, industrija se suočava s izazovima, uključujući regulatorni nadzor i političke rasprave, posebno u SAD-u, gdje kriptovalute postaju središnja tema izbornih kampanja. Iako se čini da je smjer pozitivan, uvjeren sam da će se s rapidnim razvojem umjetne inteligencije, ubrzati i razvoj blockchain-a nekoliko puta.

  1. Koje smjerove smatrate najperspektivnijima u budućnosti razvoja blockchaina i kripto industrije?

Nisam duboko uključen u svijet blockchain i kripta, pa moja razmišljenja uzmite s dozom skepse. Međutim, vjerujem da je integracija blockchaina s umjetnom inteligencijom (AI) zvuči obećavajuća te će na taj način generički podići broj use-caseva obje tehnologije. S druge strane, zabrinut sam zbog potencijalne prijetnje koju kvantna računala mogu predstavljati za sigurnost blockchaina, što me drži na oprezu kad razmišljam o budućnosti blockchaina. Ono što bih ja osobno želio vidjeti više je tokenizacije stvarne imovine kako bi se povećala likvidnost i transparentnost na tržištima gdje to ima smisla.

Kripto Dnevnik
Kripto Dnevnikhttp://kriptodnevnik.com
Vaš dnevnik u svijet kriptovaluta.

Najnovije vijesti

Edukacija uz Kripto Dnevnik