Research Information System
in: Digital Transformation and XAI in Healthcare, Ilhan Uysal,Román Rodríguez Aguilar,Jafar Ahmad Abed Alzubi,Mehmet Bilen, Editor, Crc Press-Taylor & Francis Group, London, pp.308-320, 2025
As artificial intelligence (AI) becomes increasingly integrated into healthcare decision-making, concerns regarding patient autonomy, transparency, and ethical accountability have emerged. Traditional AI models often function as black boxes, making it difficult for patients and healthcare professionals to interpret their recommendations. Explainable AI (XAI) offers a solution by ensuring that AI-generated medical insights are interpretable, fostering trust, informed decision-making, and patient-centered care.
This chapter explores the role of XAI in supporting patient autonomy by enhancing shared decision-making, patient education, and ethical AI governance. AI-assisted medical systems must not only provide accurate predictions but also offer clear, understandable explanations to patients regarding their diagnoses and treatment options. By increasing interpretability, XAI enables patients to actively engage in their care, ask informed questions, and make decisions aligned with their personal health priorities.
In addition, this chapter examines the legal and ethical considerations surrounding AI-driven medical decision-making, with a focus on patient privacy, informed consent, and compliance with global healthcare regulations such as GDPR, HIPAA, and the AI Act. Ensuring that AI systems respect patient rights, maintain data security, and provide transparent justifications for their recommendations is essential for building trust and facilitating responsible AI adoption.
Finally, the chapter highlights real-world applications where XAI has improved patient–provider communication, reduced bias in AI-driven diagnostics, and enabled safer, more ethical healthcare interventions. By integrating XAI principles into medical AI systems, healthcare institutions can create a more inclusive, accountable, and patient-empowered approach to AI-driven medicine.
Yapay zeka (AI) sağlık hizmetlerinde karar verme sürecine giderek daha fazla entegre oldukça, hasta özerkliği, şeffaflık ve etik sorumluluk ile ilgili endişeler ortaya çıkmıştır. Geleneksel AI modelleri genellikle kara kutu gibi işlev görür ve hastaların ve sağlık profesyonellerinin önerilerini yorumlamasını zorlaştırır. Açıklanabilir AI (XAI), AI tarafından üretilen tıbbi bilgilerin yorumlanabilir olmasını sağlayarak, güveni, bilinçli karar vermeyi ve hasta odaklı bakımı teşvik ederek bir çözüm sunar. Bu bölüm, ortak karar verme, hasta eğitimi ve etik AI yönetişimini geliştirerek hasta özerkliğini desteklemede XAI'nin rolünü incelemektedir. AI destekli tıbbi sistemler sadece doğru tahminler sağlamakla kalmamalı, aynı zamanda hastalara teşhisleri ve tedavi seçenekleri hakkında açık ve anlaşılır açıklamalar sunmalıdır. Yorumlanabilirliği artırarak, XAI hastaların bakımlarına aktif olarak katılmalarını, bilinçli sorular sormaları ve kişisel sağlık öncelikleri ile uyumlu kararlar almalarını sağlar. Ayrıca, bu bölümde AI odaklı tıbbi karar verme sürecini çevreleyen yasal ve etik hususlar, hasta mahremiyeti, bilgilendirilmiş onam ve GDPR, HIPAA ve AI Yasası gibi küresel sağlık düzenlemelerine uyum odaklanılarak incelenmektedir. AI sistemlerinin hasta haklarına saygı duymasını, veri güvenliğini sağlamasını ve önerileri için şeffaf gerekçeler sunmasını sağlamak, güven oluşturmak ve sorumlu AI benimsenmesini kolaylaştırmak için çok önemlidir. Son olarak, bu bölümde XAI'nin hasta-sağlık hizmeti sağlayıcı arasındaki iletişimi iyileştirdiği, AI destekli teşhislerde önyargıyı azalttığı ve daha güvenli, daha etik sağlık müdahalelerini mümkün kıldığı gerçek dünya uygulamaları öne çıkarılmaktadır. XAI ilkelerini tıbbi AI sistemlerine entegre ederek, sağlık kurumları AI destekli tıbba daha kapsayıcı, hesap verebilir ve hastayı güçlendiren bir yaklaşım getirebilirler.