Yapay zekâ modellerinin sağlık alanındaki yüksek doğruluk oranlarının tek başına güvenilirlik anlamına gelmediği, karar süreçlerinin açıklanabilir olması gerektiği vurgulandı.

Biruni Üniversitesi Mühendislik ve Doğa Bilimleri Fakültesi Bilgisayar Mühendisliği Bölümü Dr. Öğr. Üyesi Damla Övek Baydar, sağlık alanında kullanılan yapay zekâ sistemlerinde yüksek doğruluk oranlarının tek başına güvenilirlik anlamına gelmediğine dikkat çekti. Baydar, yapay zekânın kararlarını klinik olarak anlamlı olmayan özelliklere dayandırmasının farklı hasta gruplarında güvenilirliği etkileyebileceğini belirterek, modellerin karar süreçlerinin açıklanabilir olmasının önemini vurguladı.

Doğru Tahmin ile Güvenilir Tahmin Farklıdır

Yapay zekânın sağlık alanındaki kullanımının giderek yaygınlaştığını belirten Dr. Öğr. Üyesi Damla Övek Baydar, tıbbi görüntülerin değerlendirilmesinden hastalık risklerinin tahminine, genomik verilerin analizinden klinik karar destek sistemlerine kadar pek çok alanda yapay zekâ modellerinin sağlık profesyonellerine yardımcı olabilecek sonuçlar ürettiğini söyledi. Yapay zekâ sistemlerinin başarısının çoğunlukla tahmin doğruluğuyla ölçüldüğüne dikkat çeken Baydar, "Bu gelişmeler çoğu zaman modellerin ne kadar yüksek doğrulukla tahmin yaptığı üzerinden değerlendiriliyor. Ancak sağlık gibi insan yaşamını doğrudan etkileyen bir alanda yalnızca doğru sonuca ulaşmak yeterli olmayabilir. Bir sistemin bu sonuca nasıl ulaştığını anlamak da önemlidir" dedi.

Karar Süreçleri Anlaşılabilir Olmalı

Derin öğrenme modellerinin karar süreçlerinin anlaşılabilir olması gerektiğini vurgulayan Baydar, genetik, ilaç keşfi ve hastalık araştırmalarında kullanılan bu modellerin kara kutu olarak tanımlandığını ifade etti. Baydar, "Bir model yüksek doğrulukla tahmin yapabilir. Ancak bu tahmini biyolojik ya da klinik olarak anlamlı bir işarete mi, yoksa verideki tesadüfi veya yanıltıcı bir örüntüye mi dayandırdığını bilmiyorsak sonuca güvenmek zorlaşır" şeklinde konuştu.