Klinički AI

Clinician-in-the-loop: zašto nadzirani AI pobjeđuje samostalni u komunikaciji s pacijentima

23. juni 2026. · 5 min čitanja

Postoji raskršće u tome kako se AI ugrađuje u zdravstvo, i klinike sve češće moraju odabrati stranu. Na jednom putu AI samostalno razgovara s pacijentima — odgovara na pitanja, provodi trijažu simptoma, a ponekad i djeluje bez ikoga ko provjerava šta je zapravo rekao. Na drugom putu AI odrađuje veći dio posla, ali kliničar ostaje u petlji: AI priprema, a kliničar odlučuje. Drugi put je manje efektan na demonstraciji. No to je i jedini koji bismo mi pustili blizu pacijenta.

Problem sa samostalnim slanjem poruka pacijentima

Jezički modeli su impresivni, ali znaju i pogriješiti s potpunom sigurnošću, na način koji je teško predvidjeti. Kod većine softvera pogrešan odgovor je tek smetnja. U kliničkoj komunikaciji, pogrešan odgovor znači da je pacijent umiren kad je trebao doći na pregled — ili uznemiren kad za to nije bilo razloga. Upravo su najvažniji propusti — rijedak alarmantni znak koji se zanemari, suptilan sigurnosni signal koji promakne — oni koje probabilistički sistem najteže može zajamčeno izbjeći.

Ispod svega toga krije se i pitanje odgovornosti. Kad samostalni sistem pošalje poruku pacijentu, ko je odgovoran za ono što je napisano? Klinike posluju pod stvarnim medicinskim, pravnim i regulatornim obavezama. "Model je tako odlučio" nije odgovor koji će prihvatiti klinicar, upravni odbor ili regulator — i ne bi ni trebao biti.

Šta "clinician-in-the-loop" zapravo znači

Clinician-in-the-loop ne znači da čovjek samo mehanički potvrđuje ono što AI izbaci. Riječ je o podjeli rada koja iskorištava prednosti obiju strana. AI radi ono u čemu je uistinu dobar i što nijedan prijemni ured ne može raditi u tom obimu: doseže svakog pacijenta na njegovom vlastitom kanalu, provodi strukturirane provjere stanja, razdvaja rutinsko od zabrinjavajućeg i priprema nacrte poruka. Kliničar radi ono što jedino kliničar smije: pregleda ono što je označeno, primjenjuje stručnu procjenu i odobrava sve što je klinički relevantno prije nego što stigne do pacijenta.

U praksi to znači da je većina pacijenata dobro te da sistem rutinske slučajeve rješava unutar granica koje je klinika odobrila, dok se rijetki koji trebaju čovjeka — zabrinjavajući odgovor, propuštena doza, pacijent koji je iznenada prestao odgovarati — prosljeđuju u red za pregled osoblju, umjesto da dobiju automatiziranu procjenu. Ništa klinički važno ne ide van bez odluke kliničara.

Zašto je nadzirani model bolji proizvod, ne samo sigurniji

Lako je nadzor prikazati kao oprezan izbor koji se prihvaća po cijenu manje sposobnosti sistema. Mi bismo rekli suprotno: to je upravo dizajn koji klinici uopće omogućava da AI primijeni u praćenju pacijenata. Nadzor je ono što izlazni sadržaj čini dovoljno pouzdanim da se šalje pod imenom klinike, dovoljno branjivim da se iza njega stane, i usklađenim s načinom na koji medicina već dodjeljuje odgovornost. Autonomija uklanja upravo tu jednu stvar koja sve to čini prihvatljivim.

To uvjerenje čini srž toga kako je SeuSive građen. AI priprema; kliničar odlučuje. Svaki korak koji je klinički usmjeren prema pacijentu prolazi kroz red za pregled osoblju, a proizvod je oblikovan oko te granice, a ne tako da je tretira kao naknadnu formalnost usklađenosti. To je razlika između automatizacije administrativnih zadataka i automatizacije prosudbe — a samo jedno od to dvoje pripada blizu pacijenta.