Klinički AI

Clinician-in-the-loop: zašto nadzirani AI pobjeđuje samostalni u komunikaciji s pacijentima

23. lipnja 2026. · 5 min čitanja

Postoji raskrižje u tome kako se AI ugrađuje u zdravstvo, i klinike sve češće moraju odabrati stranu. Na jednom putu AI samostalno razgovara s pacijentima — odgovara na pitanja, provodi trijažu simptoma, a ponekad i djeluje bez ikoga tko provjerava što je zapravo rekao. Na drugom putu AI odrađuje veći dio posla, ali klinicar ostaje u petlji: AI priprema, a klinicar odlučuje. Drugi put je manje efektan na demonstraciji. No to je i jedini koji bismo mi pustili blizu pacijenta.

Problem sa samostalnim slanjem poruka pacijentima

Jezični modeli su impresivni, ali znaju i pogriješiti s potpunom sigurnošću, na način koji je teško predvidjeti. Kod većine softvera pogrešan odgovor je tek smetnja. U kliničkoj komunikaciji, pogrešan odgovor znači da je pacijent umiren kad je trebao doći na pregled — ili uznemiren kad za to nije bilo razloga. Upravo su najvažniji propusti — rijedak alarmantni znak koji se zanemari, suptilan sigurnosni signal koji promakne — oni koje probabilistički sustav najteže može jamčeno izbjeći.

Ispod svega toga krije se i pitanje odgovornosti. Kad samostalni sustav pošalje poruku pacijentu, tko je odgovoran za ono što je napisano? Klinike posluju pod stvarnim medicinskim, pravnim i regulatornim obvezama. "Model je tako odlučio" nije odgovor koji će prihvatiti klinicar, upravni odbor ili regulator — i ne bi ni trebao biti.

Što "clinician-in-the-loop" zapravo znači

Clinician-in-the-loop ne znači da čovjek samo mehanički potvrđuje ono što AI izbaci. Riječ je o podjeli rada koja iskorištava prednosti obiju strana. AI radi ono u čemu je uistinu dobar i što nijedan prijamni ured ne može raditi u tom obujmu: doseže svakog pacijenta na njegovom vlastitom kanalu, provodi strukturirane provjere stanja, razdvaja rutinsko od zabrinjavajućeg i priprema nacrte poruka. Klinicar radi ono što jedino klinicar smije: pregledava ono što je označeno, primjenjuje stručnu prosudbu i odobrava sve što je klinički relevantno prije nego što stigne do pacijenta.

U praksi to znači da je većina pacijenata dobro te da sustav rutinske slučajeve rješava unutar granica koje je klinika odobrila, dok se rijetki koji trebaju čovjeka — zabrinjavajući odgovor, propuštena doza, pacijent koji je iznenada prestao odgovarati — prosljeđuju u red za pregled osoblju, umjesto da dobiju automatiziranu procjenu. Ništa klinički važno ne ide van bez odluke klinicara.

Zašto je nadzirani model bolji proizvod, ne samo sigurniji

Lako je nadzor prikazati kao oprezan izbor koji se prihvaća po cijenu manje sposobnosti sustava. Mi bismo rekli suprotno: to je upravo dizajn koji klinici uopće omogućuje da AI primijeni u praćenju pacijenata. Nadzor je ono što izlazni sadržaj čini dovoljno pouzdanim da se šalje pod imenom klinike, dovoljno branjivim da se iza njega stane, i usklađenim s načinom na koji medicina već dodjeljuje odgovornost. Autonomija uklanja upravo tu jednu stvar koja sve to čini prihvatljivim.

To uvjerenje čini srž toga kako je SeuSive građen. AI priprema; klinicar odlučuje. Svaki korak koji je klinički usmjeren prema pacijentu prolazi kroz red za pregled osoblju, a proizvod je oblikovan oko te granice, a ne tako da je tretira kao naknadnu formalnost usklađenosti. To je razlika između automatizacije administrativnih zadataka i automatizacije prosudbe — a samo jedno od to dvoje pripada blizu pacijenta.