Jadek & Pensa, Humanfrog: “V tem trenutku nihče popolnoma ne razume AI …

14. maj 2026

… vemo pa, da bo temeljito spremenila naše delo in življenje.”

Po besedah Domna Česnika iz tehnološkega podjetja Humanfrog je umetna inteligenca, kakršno uporabljamo danes, komaj v drugi od petih faz razvoja. A že danes spreminja načine, kako obdelujemo podatke, ustvarjamo vsebine, načrtujemo delovne procese in skrbimo za varnost svojih podatkov in podatkov podjetja.

Na tokratnem srečanju partnerjev KCDM so nam strokovnjaki s področja prava in informacijske varnosti predstavili ključne pravne, regulatorne, tehnične in procesne izzive, ki jih za organizacije prinaša razvoj in uporaba umetne inteligence.

Nejc Setnikar

Poskusi evropske regulative

Na začetku nam je Nejc Setnikar iz odvetniške pisarne Jadek & Pensa predstavil nastanek in namen evropskega Akta o umetni inteligenci (AI Act), prve celovite regulacije umetne inteligence na ravni EU. Orisal je razvoj uredbe od prvotnega predloga Evropske komisije leta 2021 do sprejema končnega besedila leta 2024 ter z razloge, zaradi katerih je zakonodaja vmes postala bistveno širša – predvsem zaradi hitrega razvoja generativne umetne inteligence. Izpostavil je pristio na podlagi tveganja (risk-based approach), ki AI sisteme razvršča glede na vpliv na varnost, temeljne pravice in družbo.

Dotaknil se je tudi prepovedanih AI praks, visokotveganih sistemov, obveznosti transparentnosti ter posebega režima za modele splošnega namena (GPAI), kot so veliki jezikovni modeli. Udeleženci so spoznali tudi praktične posledice za organizacije, ki AI razvijajo ali uporabljajo, pri čemer je bilo izpostavljeno predvsem vprašanje pravilne opredelitve vloge organizacije (ponudnik, uporabnik, distributer ipd.) ter pomen skladnosti z novimi obveznostmi, ki se bodo začele postopno uporabljati do leta 2027.

Eva Gostiša

Pomanjkljivo razumevanje avtorskih pravic

Nejčeva kolegica Eva Gostiša je udeležencem predstavila izzive razumevanja in spoštovanja avtorskih pravic in intelektualne lastnine v dobi AI. Pri tem je veliko pozornost posvetila kar osnovnim konceptom avtorskega prava: vrstam avtorskih del, pravicam avtorjev ter pogojem, pod katerimi je posamezno delo sploh lahko avtorskopravno varovano, saj – to so potrdila tudi vprašanja udeležencev – smo slovenci pri razumevanju avtorskega prava pod povprečjem EU. V nadaljevanju je predstavila temeljna vprašanja avtorskega prava v kontekstu umetne inteligence ter razmerje med človekovo ustvarjalnostjo in AI orodji, ter nam poskušala odgovoriti na vprašanje, kdaj lahko vsebine, ustvarjene s pomočjo umetne inteligence, še vedno štejejo za avtorska dela. Odgovor: predvsem kadar rezultat odraža ustvarjalne odločitve človeka.

Predavanje je naslovilo tudi vprašanja reproduciranja vsebin, uporabe zaščitenih del pri učenju AI modelov ter t. i. besedilnega in podatkovnega rudarjenja (text and data mining). Opozorila je na izjeme, ki jih evropska zakonodaja dopušča za raziskovalne in analitične namene, ter omejitve, ki jih lahko postavijo imetniki pravic. Predstavila je tudi nekaj praktičnih primerov sodne prakse in opozorila na nevarnosti uporabe generativne umetne inteligence pri ustvarjanju vsebin, oblikovanja in drugih kreativnih procesov.

AI proti GDPR

V nadaljevanju smo se spraševali o varnosti osebnih podatkov v dobi AI. Nejc Setnikar je izpostavil ključne poudarke varstva osebnih podatkov pri razvoju in uporabi umetne inteligence v EU; predvsem to, da AI Act ne nadomešča GDPR, temveč oba režima delujeta vzporedno in kumulativno. Pojasnil je glavne konflikte med delovanjem sodobnih AI sistemov in temeljnimi načeli varstva osebnih podatkov, kot so načelo minimizacije podatkov, transparentnost obdelave ter pravica do popravka ali izbrisa osebnih podatkov.

Poseben poudarek je namenil uporabi velikih količin podatkov za učenje modelov, problemu »memorization & regurgitation«, pri katerem modeli reproducirajo osebne podatke iz učnih zbirk, ter vprašanju profiliranja. Na hitro smo preleteli tudi stališča evropskih nadzornih organov, aktualno sodno prakso ter priporočila za organizacije glede zakonitih pravnih podlag, določanja vlog upravljavcev in obdelovalcev ter izvajanja načela privacy by design pri uvajanju AI rešitev.

Aljaž Česnik

IT varnost ni tehnična, ampak poslovna zadeva

V drugem delu je Aljaž Česnik iz podjetja Humanfrog predstavil glavne pristope za zagotavljanje tehnološke in IT varnosti podjetij v dobi AI. Podobno kot Eva glede avtorskega prava je tudi on poudaril, da podjetja pogosto slabo razumejo in udejanjajo že same osnove IT varnosti. AI, ki dandanes omogoča enostavno profiliranje podatkov podjetja in zaposlenih in v le nekaj minutah najde najšibkejši člen in najprimernejša mesta za vdor, jih naredi samo še bolj ranljive.

Poudaril je, da IT varnosti nikakor ne smemo obravnavati samo kot tehnični problem, ki ga mora reševati ITjevec v podjetju, ampak kot izziv za celotno podjetje. Največja nevarnost namreč še vedno ni tehnološka ranljivost, ampak človeški faktor – nepozorni zaposleni, ki nenamerno klikne na neznano povezavo, odpre priponko ali v najboljši veri zaupa svoje dostopne podatke kolegu.

Nejc Setnikar, Nika Logar in Aljaž Česnik

AI se razvija bliskovito; kako mu slediti?

Srečanje smo zaključili s pogovorom o tem, kako se podjetja in organizacije lahko pripravijo na vse večjo prisotnost umetne inteligence. Sogovorniki so poudarili, da se ta trenutno razvija s takšno hitrostjo in v toliko vzporednih smereh, da je obvladovanje praktično nemogoče.

Podjetjem in organizacijam priporočajo, naj se nove tehnologije ne bojijo, saj bo tistim, ki jo bodo znali uporabljati v svoj prid, prinesla velike prednosti. Obenem pa naj bodo pri uporabi previdni in dosledni: pripravijo naj pravilnik, ki bo določal, katera orodja AI podjetje uporablja, in za izbrane rešitve zakupijo pakete, ki jim bodo omogočale več varnosti podatkov in naprednejšo rabo; zaposleni naj za delo z informacijami podjetja ne uporabljajo brezplačnih modelov; določijo naj, kdo dela s katerimi podatki in dokumenti in kdo je odgovoren za pregled končnega izdejka; predvidijo naj namenska sredstva za zakupe rešitev in usposabljanja zaposlenih s področja AI.

Pogovor smo sklenili z ugotovitvijo, da je AI že korenito spremenila naše delo; čeprav so številna podjetja do nje še zadržana, jo veliko zaposlenih že danes uporablja za pohitritev in poenostavitev svojega dela. Pri tem pa pogosto spregledajo problematiko avtorskih pravic, kakovosti končnega izdelka ali varnosti informacij. Glede na to, da gre za enega največjih tehnoloških preskokov v zadnjem času tako AI obenem brez dvoma predstavlja tudi enega največjih izzivov.

Strokovno srečanje smo pripravili kot odgovor na eno izmed najpogostejših ovir, ki podjetja v partnerstvu KCDM ovirajo pri bolj smeli, celostni uporabi designa za doseganje poslovnih ciljev: Nepoznavanje kupcev in njihovih potreb. Raziskavo smo opravili v začetku leta 2025 v sodelovanju z Darraghom Murphyjem iz svetovalnega podjetja DUCO.