# UI Suputnik — Susret 17: Benefiti, rizici i izazovi UI u poslovanju

> Interaktivna stranica za istraživanje pojmova iz susreta 17: benefiti AI-a i percepcija (zašto dobra tehnologija propada), definiranje ciljne varijable i curenje podataka, proxy pristranost, suradnja čovjeka i stroja te rizici, etika i upravljanje. Vodeća nit: umjetna inteligencija nije svemoguća — njome se upravlja; ishod određuju ljudski izbori. „AI je moćan motor, ali netko mora držati volan.”

Kanonska stranica: https://dragutinoreski.com/courses/ui-suputnik/susret-17/

Početna stranica kolegija: https://dragutinoreski.com/courses/ui-suputnik/

Glavna poruka: AI sam po sebi ne jamči uspjeh. Kroz sva tri sata vraća se isto pitanje — **tko drži volan?** Usvajanje ovisi o ljudima i povjerenju; pristranost ulazi kroz podatke i ciljeve koje *mi* biramo; rizik se obuzdava ljudskim nadzorom i odgovornošću.

## Moduli

### 1. Zašto dobra tehnologija propada (percepcija i usvajanje)

Usvajanje tehnologije nije zbroj nego **umnožak** faktora: Prihvaćanje = Kvaliteta × Edukacija tržišta × Sklad s navikama × Povjerenje. Polaznik pomiče četiri klizača (0–1). Budući da je riječ o množenju, bilo koji faktor blizu nule ruši cijelo prihvaćanje — „lanac je jak koliko i najslabija karika”. Drugi stupac („za 6 mjeseci”) pokazuje da povjerenje koje nije pokriveno stvarnom kvalitetom popušta: tipka „Romb trik” digne samo percepciju i prikazuje kratkoročni skok koji se kasnije ispuše. Veže tri priče iz predavanja — instant kava (visoka kvaliteta, niske navike i percepcija → propast), „kvadrat postaje romb” (isti proizvod, promijenjena percepcija) i „šišanje u svemiru” (promjena jednog parametra mijenja sve) — te domaće primjere (samonaplatne blagajne, eGrađani/e-recept). Pouka za AI: model točan 99% koji nitko ne razumije, ne koristi ili mu ne vjeruje vrijedi nula; prava poluga su transparentnost, edukacija i pouzdanost, ne „pakiranje”.

### 2. Što uopće mjerimo — i smijemo li to znati? (ciljna varijabla + curenje podataka)

Dva odvojena panela na primjeru predviđanja odustajanja korisnika (churn).

- **Panel A — definicija ciljne varijable.** Tablica od 14 korisnika (dani neaktivnosti, je li ugovor obnovljen, je li zatražena deaktivacija, je li korisnik na godišnjem). Polaznik bira definiciju churna (neaktivnost ≥ prag, ugovor nije obnovljen, zatražena deaktivacija — može kombinirati) i pomiče prag neaktivnosti (vrijedi samo za prvu definiciju). Tablica označava tko je churn = 1 i pokazuje da se različite definicije razilaze: korisnici na godišnjem koji su obnovili ugovor postaju „lažne mete” (definicija ih pogrešno uključuje), a „tihi odlasci” (neaktivni + neobnovljeni, ali bez zahtjeva za deaktivacijom) znaju biti propušteni. Pouka: definicija cilja nije neutralna — mijenja koga ćeš stvarno kontaktirati.
- **Panel B — curenje podataka (data leakage).** Toggle dodaje značajku iz budućnosti (kontakti podršci 30 dana NAKON datuma odluke). Točnost na uzorku za učenje skoči na ~99%, a na novim korisnicima padne na ~56%. Mala vremenska crta pokazuje trenutak odluke i „procurjelu” budućnost. Pouka: curenje ≠ overfitting — problem je što značajka u trenutku predikcije uopće ne bi postojala. (Brojke su demonstracijski ekstrem.)

### 3. Gdje zapravo nastaje pristranost (proxy pristranost)

~200 fiktivnih korisnika i fiksna formula bodovanja (nema treniranja). Polaznik uključuje/isključuje varijable (broj prijava — ponašajna; poštanski broj i uređaj — proxy; dob i spol — osjetljive) i bira što „odabran” znači (kredit odobren / kandidat pozvan / ponuda poslana). Prikazuje se udio odabranih po skupini (niži vs viši prihod kvarta) i omjer (pravilo 4/5: omjer < 0,80 je znak nerazmjernog učinka), uz točnost mjerenu na povijesnim (pristranim) odlukama. Ključna lekcija: micanje spola i dobi gotovo ne mijenja razliku jer proxy varijable nose isti signal; čak i sa samo ponašajnom varijablom ostaje rezidualna razlika jer i ona blago korelira s prihodom skupine. Pravednost nije brisanje stupaca, nego trajno mjerenje i kompromis; dio „točnosti” dolazio je iz varijabli koje nose neprihvatljiv društveni signal.

### 4. AI pomaže — ne odlučuje sam (zona upućivanja, čovjek + stroj)

Probir CT snimaka: ~220 nalaza, ~10% ima tumor, AI daje „sigurnost da je nalaz sumnjiv” (0–1) uz namjerno preklapanje u sredini. Umjesto jednog praga, polaznik postavlja **dvije granice**: ispod L AI sam otpušta nalaz kao „uredno” (jedina potpuno samostalna odluka AI-a), između L i H nalaz pregledava liječnik, iznad H ide liječniku po hitnom prioritetu. Brojači prate uhvaćene i propuštene tumore, opterećenje liječnika i nepotrebne hitne slučajeve. Tri postavke: „Samo AI” (agresivno otpušta → puno propuštenih), „Samo liječnik” (ništa propušteno, ali neodrživo opterećenje) i „AI + liječnik” (dobra ravnoteža). Odgovornost: greške u zoni „AI sam: uredno” nitko ne provjeri (odgovara sustav/proizvođač), sve ostalo presuđuje liječnik. Toggle „manjinska skupina” pomakne njihove rezultate prema sredini pa isti prag propušta više njihovih tumora („isti prag, nejednak ishod”). Pojednostavljenje: pretpostavlja se da liječnik točno presudi sve što pregleda.

### 5. Rizici oko nas i upravljanje

Tri kratke vježbe. (a) Kartice za **lažne vijesti / deepfake** i **privatnost** — klikom se otkriva rizik i kako se braniti (provjera kroz drugi kanal; prikupljaj samo nužno, traži pristanak). (b) Kartice po sektorima (financije, obrazovanje, zaštita okoliša) — prvo pretpostaviš koji je najosjetljiviji, pa otkriješ korist i rizik. (c) Igra spajanja: poveži rizik s timom koji ga mora pokriti (podaci → pravni/DPO, pristranost → etika + struka, tehnička pogreška → IT, reputacija → uprava). Pouka: nijedan tim sam ne pokriva sve rizike — razvoj AI rješenja nije „samo IT projekt”.

### 6. Kratki kviz

Šest pitanja s trenutnim povratnim informacijama: umnožak usvajanja, rizik definicije churna, prepoznavanje curenja podataka, zabluda „obriši spol i dob”, jedina samostalna (i najopasnija) odluka AI-a u probiru, te obrana od deepfake prijevare.

## Pitanja Za Vježbu

- Zašto je usvajanje tehnologije umnožak, a ne zbroj faktora? Navedi primjer dobrog proizvoda koji je propao.
- Kako različite definicije „churna” mijenjaju popis korisnika koje ćeš kontaktirati?
- Po čemu se curenje podataka razlikuje od overfittinga?
- Zašto micanje spola i dobi ne uklanja pristranost? Što je proxy varijabla?
- U probiru CT snimaka — koju odluku AI smije donijeti sam i zašto je baš ta najosjetljivija?
- Koji sektor smatraš najosjetljivijim na etičke rizike i zašto? Tko sve mora sudjelovati u razvoju AI rješenja u poduzeću?