Human-in-the-Loop Nedir? Klinik Yapay Zekada Neden Önemlidir?

Yapay zekanın yetenekleri arttıkça önemli bir soru ortaya çıkıyor:

Sistem hangi işlemleri kendi başına yapabilmeli, hangi noktada hekimin onayını beklemeli?

Human-in-the-loop yaklaşımı, yapay zeka ile insan arasındaki bu sınırı tanımlar. Klinik kullanımda amaç, yapay zekanın hızından ve otomasyon kapasitesinden yararlanırken karar ve kontrol mekanizmasını hekimin elinde tutmaktır.

Human-in-the-loop nedir?

Human-in-the-loop (HITL), bir yapay zeka sisteminin belirli bir süreci tamamen bağımsız şekilde tamamlamak yerine kritik aşamalarda insan kontrolü, düzeltmesi veya onayı gerektirmesi anlamına gelir.

En basit haliyle süreç şöyle düşünülebilir:

Klinik bilgi → Yapay zeka analizi → Taslak / öneri → Hekim kontrolü → Onay → İşlem

Buradaki önemli ayrım, yapay zekanın bir şey önermesi ile o işlemin gerçekten gerçekleşmesinin aynı şey olmamasıdır.

Örneğin bir sistem hekimin:

“Hastayı üç ay sonra kontrole çağıralım.”

ifadesini anlayabilir.

Yapay zeka hastayı, tarihi ve yapılması gereken işlemi belirleyerek bir randevu taslağı hazırlayabilir. Ancak human-in-the-loop yaklaşımında bu taslağın hazırlanması, randevunun oluşturulduğu anlamına gelmez.

Hekim önce öneriyi görür, gerekirse değiştirir ve ancak onay verdikten sonra işlem gerçekleşir.

Klinik yapay zekada neden önemlidir?

Üretken yapay zeka sistemleri olasılıksal çalışır. Bu nedenle oldukça başarılı çıktılar üretebilseler de her çıktının doğru olduğu varsayılamaz.

Klinik ortamda küçük bir hata bile önemli sonuçlar doğurabilir.

Bir tarih yanlış anlaşılabilir. Benzer isimlere sahip iki hasta karıştırılabilir. Bir ilaç veya doz yanlış yorumlanabilir. Konuşmada geçen bir ifade bağlamından farklı değerlendirilebilir.

Sistem yalnızca bir metin taslağı hazırlıyorsa hata hekimin kontrolü sırasında düzeltilebilir.

Ancak aynı sistem doğrudan randevu oluşturabiliyor, reçete sürecini başlatabiliyor veya başka bir klinik sisteme veri yazabiliyorsa, yanlış bir yorum dijital bir çıktı olmaktan çıkarak gerçek bir işleme dönüşür.

Human-in-the-loop yaklaşımının önemi tam olarak burada ortaya çıkar.

Her yapay zeka çıktısı aynı riski taşır mı?

Hayır. Yapay zekanın yalnızca bilgi göstermesi ile sistemde değişiklik yapması arasında önemli bir fark vardır.

Örneğin:

“Bugünkü randevularımı göster.”

isteğinde sistem mevcut bilgiyi hekime getirir. Bu bir okuma işlemidir ve veritabanındaki mevcut durumu değiştirmez.

Buna karşılık:

“Ayşe Hanım'a cuma günü saat 14.00'e kontrol randevusu oluştur.”

isteği bir yazma işlemidir. Onaylandığında sistemde yeni bir kayıt oluşur.

Benzer şekilde bir sonraki hastayı göstermek ile bir randevuyu silmek veya bir hastaya fatura oluşturmak aynı risk seviyesinde değerlendirilemez.

Bu nedenle iyi tasarlanmış bir klinik yapay zeka sisteminde kontrol mekanizması yalnızca “AI kullandık mı?” sorusuna göre değil, yapay zekanın gerçekleştirmek üzere olduğu işlemin etkisine göre tasarlanmalıdır.

Dr.Medkit'te human-in-the-loop nasıl çalışıyor?

Model önerir, hekim onaylar, sistem uygular.

Dr.Medkit'te yapay zeka tarafından anlaşılan ve sistemde değişiklik oluşturabilecek işlemler, hekimin onayı olmadan veritabanına kaydedilmez.

Modelin görevi işlemi gerçekleştirmek değil, yapılacak işlemi anlamak ve hekime bir taslak hazırlamaktır.

Örneğin hekim:

“Ayşe Hanım'a cuma saat 14.00'e 30 dakikalık kontrol randevusu oluştur.”

dediğinde yapay zeka bu cümleden hasta, tarih, saat, süre ve ziyaret türü gibi bilgileri çıkarabilir.

Ancak bu aşamada randevu henüz oluşturulmaz.

Bunun yerine hekimin karşısına düzenlenebilir bir onay kartı gelir. Hekim hastayı, tarihi, saati, süreyi veya ziyaret türünü kontrol edebilir ve gerektiğinde değiştirebilir.

Yalnızca hekim onay verdiğinde ayrı ve doğrulamalı bir işlem çalışır ve randevu sisteme kaydedilir.

AI niyeti anlar → Taslağı hazırlar → Hekim kontrol eder → Hekim onaylar → Sistem işlemi gerçekleştirir

Bu ayrım Dr.Medkit'in human-in-the-loop yaklaşımının temelini oluşturur.

Yapay zekanın oluşturduğu veri neden doğrudan kaydedilmiyor?

Çünkü model tarafından üretilen çıktı ile güvenilir uygulama verisi aynı şey değildir.

Bir yapay zeka modeli örneğin hasta adını, tarihi, saati, işlem türünü veya tutarı doğal dilden çıkarabilir.

Ancak modelin oluşturduğu bu bilgilerin doğrudan veritabanına yazılması, yapay zeka çıktısının otomatik olarak doğru kabul edilmesi anlamına gelir.

Dr.Medkit'te hekim onay verdiğinde bile modelin oluşturduğu veri doğrudan kaydedilmez.

Onay sonrasında sistem ayrı bir işlem başlatır ve gerekli alanları yeniden doğrular. Böylece modelin önerisi ile uygulamanın gerçekleştirdiği işlem teknik olarak birbirinden ayrılmış olur.

Human-in-the-loop burada yalnızca arayüzde bulunan bir “Onayla” düğmesi değildir; sistem mimarisinin bir parçasıdır.

Randevu işlemlerinde hekim kontrolü nasıl uygulanıyor?

Randevu oluşturma, silme ve güncelleme işlemlerinin tamamı Dr.Medkit'te hekim onayından geçer.

Örneğin yapay zeka hekimin randevu oluşturmak istediğini anladığında önce gerekli bilgileri çıkarır ve bir taslak hazırlar.

Hekim kart üzerinde hastayı, tarihi, saati, süreyi ve ziyaret türünü kontrol edebilir ve değiştirebilir.

Takvimde bir çakışma bulunması halinde sistem alternatif bir saat önerebilir ve bunu hekime gösterebilir. Ancak sistem kendi önerdiği saate otomatik olarak randevu oluşturmaz.

Son karar yine hekimdedir.

Aynı prensip randevu silme ve güncelleme işlemleri için de geçerlidir. Birden fazla randevunun etkilenebileceği bir işlemde hekim, işlem gerçekleşmeden önce neyin değişeceğini görür.

Finansal işlemlerde de aynı prensip geçerli mi?

Evet.

Örneğin hekim:

“Ayşe Hanım'a 1.500 TL fatura kes.”

dediğinde sistem hastayı, tutarı, KDV bilgisini ve fatura kalemlerini anlamaya çalışarak bir fatura taslağı hazırlayabilir.

Ancak yapay zekanın bu isteği anlaması faturanın kesildiği anlamına gelmez.

Hekim önce alıcıyı, kalemleri, tutarı ve KDV'yi kontrol edebilir veya değiştirebilir.

Fatura ancak hekimin açık şekilde onay vermesinden sonra oluşturulur.

Böylece yapay zeka doğal dili yapılandırılmış bir işleme dönüştürürken finansal yan etki hekimin kontrolünde kalır.

Human-in-the-loop yalnızca “onayla” butonu mudur?

Hayır.

Ekrana bir onay penceresi koymak tek başına güvenli bir human-in-the-loop sistemi oluşturmaz.

Etkili bir kontrol mekanizmasında hekimin neyin gerçekleşmek üzere olduğunu anlayabilmesi, yapay zekanın çıkardığı bilgileri görebilmesi, gerektiğinde bu bilgileri değiştirebilmesi, işlemi reddedebilmesi ve ancak bundan sonra işlemin gerçekleşmesi gerekir.

Aynı zamanda sunucu tarafında da yetkilendirme ve veri doğrulamalarının yeniden yapılması önemlidir.

Dolayısıyla human-in-the-loop yalnızca bir kullanıcı deneyimi tercihi değil, arayüz, yapay zeka ve backend arasında kurulan güvenlik mimarisidir.

Hekim her işlem için onay vermek zorunda mı?

Human-in-the-loop yaklaşımının amacı hekimin önüne mümkün olduğunca fazla onay ekranı çıkarmak değildir.

Kontrol, işlemin oluşturduğu riskle orantılı olmalıdır.

Örneğin sistemin bugünkü randevuları göstermesi veya sıradaki hastayı ekrana getirmesi mevcut veriyi değiştirmez. Bu nedenle bu tür salt okuma işlemleri doğrudan gerçekleştirilebilir.

Ancak yeni kayıt oluşturmak, mevcut kaydı değiştirmek, kayıt silmek veya finansal işlem oluşturmak gibi sistemde gerçek bir değişiklik yaratan işlemlerde hekim kontrolü daha kritik hale gelir.

Amaç otomasyonu engellemek değil, geri dönüşü veya etkisi olan işlemlerde kontrolü doğru noktaya yerleştirmektir.

Human-in-the-loop yapay zekayı daha mı yavaş hale getirir?

İlk bakışta her işlemden önce insan onayı istemek otomasyonun avantajını azaltıyor gibi görünebilir.

Ancak amaç hekimin işlemi baştan manuel olarak yapması değildir.

Yapay zeka yine konuşmayı anlamış, gerekli alanları çıkarmış ve işlemi hazırlanmış hale getirmiştir.

Hekimin görevi sıfırdan veri girmek yerine hazırlanmış işlemi kontrol etmek ve onaylamaktır.

Bu nedenle iyi tasarlanmış bir human-in-the-loop sistemi otomasyon ile kontrol arasında bir denge kurar:

Yapay zeka işi hazırlar → Hekim karar verir → Sistem uygular

Klinik yapay zeka geliştikçe human-in-the-loop neden daha önemli hale geliyor?

Klinik yapay zeka yalnızca metin ürettiğinde risk büyük ölçüde ekranda kalan çıktıyla sınırlıdır.

Ancak yapay zeka sistemleri randevu sistemlerine, hasta kayıtlarına, faturalandırmaya ve diğer klinik araçlara bağlandıkça yapabilecekleri işlemlerin etkisi büyür.

Bu nedenle yapay zekanın yetenekleri arttıkça insan kontrolüne duyulan ihtiyaç ortadan kalkmaz.

Aksine, hangi işlemin otomatik yapılabileceği, hangisinin hekim onayı gerektirdiği ve gerçekleştirilen işlemin nasıl izlenebileceği daha önemli hale gelir.

Dr.Medkit'in yaklaşımı bu nedenle yapay zekayı hekimin yerine karar veren otonom bir yapı olarak değil, hekimin niyetini anlayan, işi hazırlayan ve kontrollü şekilde uygulanmasını sağlayan bir klinik asistan olarak konumlandırır.

Temel çıkarımlar

• Human-in-the-loop, yapay zekanın her adımında insandan izin istemesi değil, insan kontrolünün sonuç doğuran kritik işlemlerin doğru noktasına yerleştirilmesidir.
• Klinik yapay zeka açısından temel ayrım öneri ile eylem arasındadır.
• Yapay zeka bir randevuyu veya faturayı hazırlayabilir; gerçek işlem hekimin açık onayından sonra gerçekleşebilir.
• Dr.Medkit'te model taslak üretir, hekim kontrol eder ve onaylar; doğrulanmış işlem daha sonra ayrı olarak gerçekleştirilir.
• Klinik yapay zeka daha fazla işlem yapabilir hale geldikçe amaç insanı döngüden çıkarmak değil, insanın hangi noktada döngüde olması gerektiğini doğru tasarlamaktır.

Yapay zeka niyeti anlayabilir ve işi hazırlayabilir. Sonuç doğuran işlem ise hekimin kontrolünde kalır.