Klinički AI

Clinician-in-the-loop: zašto nadzirani AI pobeđuje samostalni u komunikaciji s pacijentima

23. jun 2026. · 5 min čitanja

Postoji raskršće u tome kako se AI ugrađuje u zdravstvo, i klinike sve češće moraju da izaberu stranu. Na jednom putu AI samostalno razgovara s pacijentima — odgovara na pitanja, sprovodi trijažu simptoma, a ponekad i deluje bez ikoga ko proverava šta je zapravo rekao. Na drugom putu AI odrađuje veći deo posla, ali lekar ostaje u petlji: AI priprema, a lekar odlučuje. Drugi put je manje efektan na demonstraciji. Ali to je i jedini koji bismo mi pustili blizu pacijenta.

Problem sa samostalnim slanjem poruka pacijentima

Jezički modeli su impresivni, ali znaju i pogrešiti sa potpunom sigurnošću, na način koji je teško predvideti. Kod većine softvera pogrešan odgovor je tek smetnja. U kliničkoj komunikaciji, pogrešan odgovor znači da je pacijent umiren kad je trebao doći na pregled — ili uznemiren kad za to nije bilo razloga. Upravo su najvažniji propusti — redak alarmantni znak koji se zanemari, suptilan bezbednosni signal koji promakne — oni koje probabilistički sistem najteže može zajamčeno izbeći.

Ispod svega toga krije se i pitanje odgovornosti. Kada samostalni sistem pošalje poruku pacijentu, ko je odgovoran za ono što je napisano? Klinike posluju pod stvarnim medicinskim, pravnim i regulatornim obavezama. "Model je tako odlučio" nije odgovor koji će prihvatiti klinicar, upravni odbor ili regulator — i ne bi ni trebalo da bude.

Šta "clinician-in-the-loop" zapravo znači

Clinician-in-the-loop ne znači da čovek samo mehanički potvrđuje ono što AI izbaci. Reč je o podeli rada koja iskorišćava prednosti obeju strana. AI radi ono u čemu je zaista dobar i što nijedna prijemna služba ne može raditi u tom obimu: doseže svakog pacijenta na njegovom sopstvenom kanalu, sprovodi strukturirane provere stanja, razdvaja rutinsko od zabrinjavajućeg i priprema nacrte poruka. Lekar radi ono što jedino lekar sme: pregleda ono što je označeno, primenjuje stručnu procenu i odobrava sve što je klinički relevantno pre nego što stigne do pacijenta.

U praksi to znači da je većina pacijenata dobro te da sistem rutinske slučajeve rešava unutar granica koje je klinika odobrila, dok se retki koji trebaju čoveka — zabrinjavajući odgovor, propuštena doza, pacijent koji je iznenada prestao da odgovara — prosleđuju u red za pregled osoblju, umesto da dobiju automatizovanu procenu. Ništa klinički važno ne ide van bez odluke kliničara.

Zašto je nadzirani model bolji proizvod, ne samo bezbedniji

Lako je nadzor prikazati kao oprezan izbor koji se prihvata po cenu manje sposobnosti sistema. Mi bismo rekli suprotno: to je upravo dizajn koji klinici uopšte omogućava da AI primeni u praćenju pacijenata. Nadzor je ono što izlazni sadržaj čini dovoljno pouzdanim da se šalje pod imenom klinike, dovoljno branjivim da se iza njega stane, i usklađenim s načinom na koji medicina već dodeljuje odgovornost. Autonomija uklanja upravo tu jednu stvar koja sve to čini prihvatljivim.

To uverenje čini srž toga kako je SeuSive građen. AI priprema; kliničar odlučuje. Svaki korak koji je klinički usmeren prema pacijentu prolazi kroz red za pregled osoblju, a proizvod je oblikovan oko te granice, a ne tako da je tretira kao naknadnu formalnost usklađenosti. To je razlika između automatizacije administrativnih zadataka i automatizacije rasuđivanja — a samo jedno od to dvoje pripada blizu pacijenta.