---
type: "Akademik Makale Analizi"
title: "Güvenilir Tıbbi Yapay Zekanın Etiği ve Yönetişimi: Tasarım ve Uygulama Düzeyinde Çok Disiplinli Bir Çerçeve"
description: "Yapay zeka teknolojilerinin sağlık hizmetlerine entegrasyonu, tanı ve tedavi süreçlerinde büyük bir dönüşüm sağlarken veri kalitesi, algoritmik sapma, şeffaflık eksikliği ve güvenlik gibi etik ve hukuki riskleri de beraberinde getirmektedir. Tıbbi yapay zekaya duyulan güvenin sarsılması, klinik uygu"
resource: "https://makaleanalizi.com/saglik-bilimleri/klinik-ve-halk-sagligi/guvenilir-tibbi-yapay-zekanin-etigi-ve-yonetisimi-tasarim-ve-uygulama-duzeyinde-cok-disiplinli-bir-cerceve"
doi: "10.1186/s12911-023-02103-9"
authors: ["Jie Zhang", "Zongming Zhang"]
citation: "Zhang, J., Zhang, Z. (2023). Ethics and governance of trustworthy medical artificial intelligence. BMC Medical Informatics and Decision Making, 23(1), 7-7. https://doi.org/10.1186/s12911-023-02103-9"
publicationType: "theoretical-conceptual"
discipline: "Sağlık Bilimleri"
subDiscipline: "Klinik ve Halk Sağlığı"
evidenceCount: 11
tags: ["Yapay zeka", "Sağlık hizmetleri", "Etik", "Yönetişim", "Düzenleme", "Veri", "Algoritmalar", "Sorumluluk atfı"]
timestamp: "2026-08-04T13:28:03.698Z"
---

# Güvenilir Tıbbi Yapay Zekanın Etiği ve Yönetişimi: Tasarım ve Uygulama Düzeyinde Çok Disiplinli Bir Çerçeve

Özgün başlık: Ethics and governance of trustworthy medical artificial intelligence
DOI: https://doi.org/10.1186/s12911-023-02103-9
Künye (APA 7): Zhang, J., Zhang, Z. (2023). Ethics and governance of trustworthy medical artificial intelligence. BMC Medical Informatics and Decision Making, 23(1), 7-7. https://doi.org/10.1186/s12911-023-02103-9

Bilim alanı: [Sağlık Bilimleri](/okf/saglik-bilimleri/index.md) › Klinik ve Halk Sağlığı

# Alan bağlamı

Yapay zeka teknolojilerinin sağlık hizmetlerine entegrasyonu, tanı ve tedavi süreçlerinde büyük bir dönüşüm sağlarken veri kalitesi, algoritmik sapma, şeffaflık eksikliği ve güvenlik gibi etik ve hukuki riskleri de beraberinde getirmektedir. Tıbbi yapay zekaya duyulan güvenin sarsılması, klinik uygulamalarda bu sistemlerin benimsenmesini zorlaştırmakta ve hekim-hasta ilişkisindeki özerklik ile sorumluluk dengelerini sarsmaktadır. Bu bağlamda, teknolojinin kontrolü dilemması çerçevesinde yapay zeka sistemlerinin tasarım ve uygulama boyutlarında güvenilirliğini etkileyen etik, hukuki ve düzenleyici etkenlerin çok disiplinli bir yaklaşımla incelenmesi literatürde kritik bir gereksinim haline gelmiştir.

# Akademik özet

Yapay zekanın sağlık sektörüne hızla entegre olması, tanı ve tedavi süreçlerinde verimliliği ve hassasiyeti artırarak geleneksel tıp modelinde devrim niteliğinde gelişmeler sunmaktadır. Ancak teknolojinin bu hızlı ilerleyişi, teknik karmaşıklıklar ve belirsizliklerle birlikte etik, hukuki ve sosyal riskleri de beraberinde getirmektedir. Yapay zeka sistemlerinin klinik ortamlarda yaygınlaşması, hekimlerin karar verme yetkisini desteklerken veri gizliliği, algoritmik taraflılık ve otonomi tehditleri gibi sorunlar nedeniyle klinik güvenin zedelenmesine yol açmaktadır. Bu durum, teknolojinin toplumsal sonuçlarının erken aşamada öngörülmesinin zorluğunu ifade eden Collingridge dilemması ile açıklanmakta ve teknolojinin kontrol edilemez bir boyuta ulaşmadan önce etik ve hukuki bir çerçevede yönetilmesi gerekliliğini ortaya koymaktadır.

Bu çalışmanın temel amacı, tıbbi yapay zekanın güvenilirliğini belirleyen etik, hukuki ve teknik dinamikleri sistematik bir biçimde incelemek ve uygulamaya aktarılabilir bir etik yönetişim modeli sunmaktır. Yazarlar, konuyu çok disiplinli bir yöntemle ele alarak yapay zeka sistemlerini tasarım ve uygulama boyutlarında iki ana düzeyde çözümlemiştir. Tasarım düzeyinde teknolojinin teknik güvenilirliği ve emniyeti veri kalitesi, algoritmik sapma ve kapalı kutu (opaklık) sorunları üzerinden değerlendirilmiştir. Uygulama düzeyinde ise yapay zekanın insan hakları, insan onuru, hasta özerkliği ve sorumluluk dağılımı üzerindeki etkileri hukuki ve etik açıdan analiz edilmiş; etik değerler, etik ilkeler ve etik normlar kademelenmesine dayalı bütüncül bir yönetişim yaklaşımı önerilmiştir.

Çalışmada elde edilen temel çıkarımlar, tıbbi verilerin büyük oranda yapılandırılmamış olmasının ve standart olmayan veri etiketleme süreçlerinin yapay zeka modellerinin doğruluğunu doğrudan olumsuz etkilediğini göstermektedir. Algoritmik sapmaların hekimlerin klinik kararlarını etkileyerek sağlık eşitsizliklerini derinleştirdiği, derin öğrenme algoritmalarının opak yapısının ise hekim ve hastaların yapay zeka kararlarına duyduğu güveni sarstığı saptanmıştır. Ayrıca yapay zeka sistemlerinin henüz ahlaki bir özne ya da bağımsız bir hukuki sorumluluk taşıyıcısı olmadığı, bu nedenle meydana gelebilecek tıbbi hatalarda sorumluluğun insan öznelerde kalması gerektiği vurgulanmıştır. Yanıltıcı etik aklama (Ethics Bluewashing) girişimlerinin önüne geçilmesi için sıkı denetim ve şeffaflık mekanizmalarının kurulması gerektiği ifade edilmiştir.

Tartışma ve sonuç bölümünde, tıbbi yapay zekanın güvenilir kılınması için üst düzey tasarımda insan sağlığı ve refahını artırma etik değerinin temel alınması gerektiği belirtilmektedir. Yazarlar, mevcut hukuki düzenlemelerin teknolojinin gerisinde kaldığını vurgulayarak veri yönetişiminin güçlendirilmesi, algoritmik izlenebilirliğin sağlanması ve tüm yapay zeka ürün süreçlerinin sürekli denetlenmesi gerektiğini savunmaktadır. Bu çalışma, literatürde parçalı olarak ele alınan teknik, etik ve hukuki boyutları tek bir teorik çerçevede birleştirerek Türk araştırmacılar için yapay zeka etiği, veri koruma hukuku ve klinik karar destek sistemlerinin yönetişimine yönelik araştırmalarda temel bir başvuru kaynağı niteliği taşımaktadır.

# Araştırmanın amacı

Çalışmanın temel amacı, tıbbi yapay zekanın güvenilirliğini etkileyen etik, hukuki ve teknik faktörleri tasarım ve uygulama düzeylerinde çok disiplinli bir yaklaşımla çözümlemek ve etik değerler, ilkeler ve normlar çerçevesinde kapsamlı bir yönetişim modeli geliştirmektir.

# Yöntem ve tasarım

Çalışmada, tıbbi yapay zekanın güvenilirliğini etkileyen etik ve teknik faktörleri tasarım ve uygulama olmak üzere iki temel düzeyde incelemek amacıyla çok disiplinli kavramsal bir analiz yaklaşımı benimsenmiştir.

# Bulgular ve önermeler

1. Tıbbi verilerin çok kaynaklı ve yapılandırılmamış doğası ile standart etiketleme eksiklikleri, yapay zeka modellerinin veri kalitesini doğrudan düşürmekte ve Watson Oncology sisteminde görüldüğü gibi hatalı önerilere yol açmaktadır.
2. Algoritmik yanlılık hem insan odaklı tasarım tercihlerinden hem de yanlı veri setlerinden kaynaklanmakta, klinik kararlarda belirli hasta gruplarının risklerinin yanlış tahmin edilmesine ve sağlık eşitsizliklerinin pekişmesine neden olmaktadır.
3. Yapay zekanın teknik karmaşıklığı ve derin öğrenme modellerinin doğasından kaynaklanan algoritmik şeffaflık eksikliği, klinik ortamda hekimlerin ve hastaların sisteme duyduğu güveni ve iş birliğini zedelemektedir.
4. Mevcut tıbbi yapay zeka sistemleri bağımsız ahlaki failliğe veya özgür iradeye sahip olmadıkları için hukuki olarak birer yasal sorumluluk öznesi sayılamaz ve yalnızca hekimlerin kullandığı yardımcı birer araç olarak kabul edilir.

# Yazarın tartışması

Çalışmanın ortaya koyduğu en önemli bulgulardan biri, veri kalitesinin tıbbi yapay zeka algoritmalarının başarısında oynadığı belirleyici roldür. Yazarlar, heterojen ve yapılandırılmamış tıbbi verilerin standart dışı etiketlenmesinin 'çöp girerse çöp çıkar' ilkesi gereği algoritma modellerini doğrudan bozduğunu savunmaktadır. Literatürdeki Watson Oncology vakasıyla desteklenen bu durum, klinik karar destek sistemlerinin klinik gerçeklikle uyuşmayan verilerle eğitilmesinin yaratacağı güvenlik risklerini açıkça göstermektedir.

İkinci olarak, algoritmik yanlılığın klinik tahminlerde yarattığı sapmalar ve sağlık eşitsizliklerini derinleştirme potansiyeli ele alınmaktadır. Geliştiricilerin öznel tercihleri ya da veri setlerinin demografik yetersizlikleri nedeniyle ortaya çıkan bu yanlılıklar, kara kutu modellerin opaklığı sebebiyle kolayca tespit edilememektedir. Yazarlar, bu durumun özellikle farklı ırklar ve sosyoekonomik katmanlar üzerindeki teşhis doğruluğunu düşürerek etik ihlallere yol açtığına işaret etmektedir.

Sorumluluk atfı tartışmalarında, yapay zekanın ahlaki ya da yasal bir özne olamayacağı, yalnızca hekimlerin kullanımına sunulmuş gelişmiş bir yardımcı araç niteliği taşıdığı vurgulanmaktadır. Avrupa Birliği'nin robotik kuralları gibi literatürdeki özerk kişi tartışmalarına değinen yazarlar, tıbbi yapay zekanın özgür iradeden yoksun olması nedeniyle sorumluluk boşluklarının ancak insan odaklı yasal düzenlemelerle ve çok taraflı risk paylaşım havuzlarıyla çözülebileceğini savunmaktadır.

Son olarak, çalışmada sunulan yönetişim modeli, etik değerlerin yasal düzenlemelere ve somut normlara nasıl dönüştürüleceğini sistematik bir biçimde açıklamaktadır. Sadece makro düzeyde etik ilkeler ilan etmenin yetersiz olduğu, bunların veri yönetimi standartları, algoritma izlenebilirliği ve bağımsız etik komite denetimleri gibi mikro uygulamalarla birleştirilmesi gerektiği savunulmaktadır. Bu yönüyle makale, teorik etik tartışmaları ile pratik sağlık politikaları arasında güçlü bir köprü kurmaktadır.

# Yazarın sonucu

Tıbbi yapay zekanın güvenilir kılınabilmesi için insan sağlığını destekleyen etik değerlerin en üst düzey tasarım ilkesi olarak benimsenmesi, yapay zekanın hukuki statüsünün bir araç olarak sınırlandırılarak insanların sorumluluk taşıyıcısı kalması ve veri kalitesi ile algoritmik şeffaflığı gözeten uçtan uca bir risk yönetişim mekanizmasının kurulması zorunludur.

# Literatürdeki işlevi

Bu çalışma, sağlık hizmetlerinde yapay zeka entegrasyonunun getirdiği teknik imkânlar ile bunların doğurduğu etik ve hukuki açmazlar arasındaki boşluğu sistematik bir biçimde doldurmaktadır. Alan yazında çoğunlukla tekil olarak ele alınan veri gizliliği, algoritmik yanlılık veya karar şeffaflığı gibi konuları bütüncül bir yönetişim çerçevesinde birleştirmektedir. Collingridge ikilemini merkeze alarak, teknolojinin henüz kontrol edilebilir olduğu erken tasarım aşamalarında etik müdahalelerin yapılmasının önemini vurgular. Böylelikle literatürde yalnızca teknik performansa odaklanan yaklaşımlara karşı güçlü bir etik-sosyal dengeleyici işlif üstlenmektedir.

Önceki çalışmalarla ilişkisi: Çalışma, geleneksel tıbbi etik ilkelerini (özerklik, zarar vermeme, yararlılık, adalet) ve modern dijital etik prensiplerini sentezleyerek önceki araştırmaların üzerine inşa edilmiştir. Özellikle Avrupa Birliği'nin Güvenilir Yapay Zeka Kılavuzu ve Dünya Sağlık Örgütü'nün sağlık yapay zekası yönetişim ilkeleri gibi küresel referans metinlerle doğrudan ilişki kurar. Önceki çalışmaların yapay zekaya bağımsız bir ahlaki statü veya 'elektronik kişilik' atfetme eğilimlerine karşı durarak, mevcut tıbbi yapay zekanın insan denetiminde bir yardımcı araç olduğu tezini savunur. Böylece literatürdeki yasal sorumluluk tartışmalarını insan merkezli bir temele yeniden oturtur.

Literatür taramasına katkısı: Literatür taraması yapan araştırmacılar için bu çalışma, yapay zeka etiği alanındaki kavramsal kargaşayı sadeleştiren bir harita sunmaktadır. Çalışma, teorik etik değerlerin (üst düzey tasarım), pratik etik ilkelerin (yol gösterici rehberler) ve yasal normların (bağlayıcı kurallar) bir sarmal halinde nasıl işletileceğini göstererek gelecekteki incelemelere kuramsal bir zemin kazandırır. Ayrıca, teknik karar alma mekanizmalarının ve derin öğrenmenin doğasındaki opaklığın hekimlerin bağımsız klinik kararlarını nasıl tehdit ettiğini ayrıntılandırarak, klinik bilişim literatüründeki paternalizm tartışmalarını sörgülamaya açar.

# Tez ve makale araştırmalarında kullanım

- **Yapay zeka teknolojilerinin tasarım aşamasında kontrol edilmemesi, ilerleyen süreçlerde telafisi imkânsız toplumsal ve teknik riskler doğurmaktadır.** — Bu iddia, makalede ele alınan Collingridge ikilemi ve teknolojinin kontrol edilemezlik sınırları çerçevesinde kavramsallaştırılarak literatür taraması bölümünde desteklenecektir.
- **Klinik veri setlerinin belirli bir popülasyona dayanması, diğer demografik gruplarda teşhis doğruluğunu düşüren algoritmik sapmalara yol açmaktadır.** — Yapay zekanın veri temsiliyeti ve ırksal yanlılık tartışmaları üzerinden, kavramsal çerçevenin adalet ve eşitlik boyutları bu kanıtla temellendirilecektir.
- **Klinik hatalarda yasal sorumluluk yapay zeka sistemine değil, sistemi yardımcı araç olarak kullanan insan aktörlere aittir.** — Tez tartışmasında yapay zekanın hukuki statüsü ve faillik sınırları ele alınırken, yazarların insan merkezli sorumluluk tezi referans gösterilerek tartışma derinleştirilecektir.

# Türetilebilir araştırma soruları

- **Klinik karar destek sistemlerinin karar süreçlerindeki şeffaflık düzeyi, uzman hekimlerin yapay zekaya yönelik tahmine dayalı güven düzeylerini nasıl etkilemektedir?**
  - Desen: Nitel veri doygunluğuna ulaşana kadar en az 25 uzman hekim ile derinlemesine mülakatlar gerçekleştirilecek, yarı yapılandırılmış görüşmelerden elde edilen veriler tematik analiz yöntemiyle çözümlenecektir.
  - Gerekçe: Yazarların makalede tartıştığı algoritmik opaklık ve hekimlerin açıklanamayan sistemlere karşı gösterdikleri direnç ile predictive trust kavramsallaştırmasından türetilmiştir.
- **Giyilebilir cihaz kullanıcılarının tıbbi veri paylaşımına yönelik rızalarında genişletilmiş (broad) onam ile genel (blanket) onam modelleri arasında güven ve veri kontrol algısı bakımından anlamlı bir fark var mıdır?**
  - Desen: Nicel araştırma modeline göre, giyilebilir teknoloji kullanan en az 400 katılımcıdan anket yoluyla veri toplanacak, onam tercihleri ile güven düzeyleri arasındaki ilişki t-testi ve regresyon analizleriyle incelenecektir.
  - Gerekçe: Makalenin veri yönetimi kısmında ele alınan informed consent tartışmaları ile genişletilmiş ve genel onam modellerine yönelik etik ikilemlerden esinlenmiştir.
- **Tıbbi yapay zeka kaynaklı tanı hatalarında hekimler, yazılım geliştiriciler ve hastane yöneticileri sorumluluk dağılımını nasıl algılamakta ve kusursuz sorumluluk yaklaşımını nasıl değerlendirmektedir?**
  - Desen: Karma araştırma deseni kullanılarak nicel aşamada anket uygulanacak, ardından her gruptan 10 katılımcı ile odak grup görüşmeleri yürütülerek nitel ve nicel veriler entegre edilecektir.
  - Gerekçe: Yazarların tartışma bölümünde Floridi'nin faultless responsibility (kusursuz sorumluluk) ilkesi ve çok paydaşlı sorumluluk dağılımı üzerine yaptıkları analizlerden esinlenmiştir.

# Kaynak izleri

Her iddia, özgün yayının belirtilen sayfasındaki birebir alıntıya bağlıdır.

| Kanıt | Bölüm | PDF sayfası | Basılı sayfa | Alıntı |
|---|---|---|---|---|
| ev-o-1 | Abstract | 1 | — | We adopted a multidisciplinary approach and summarized five subjects that influence the trustworthiness of medical AI: data quality, algorithmic bias, opacity, safety and security, |
| ev-o-2 | Background | 2 | 2 | This paper focuses on trustworthy medical AI from an ethical perspective. We analyzed both the design level (whether the technology is reliable) and the application level (the huma |
| ev-s-1 | Method | 2 | 2 | We adopted a multidisciplinary approach to analyze the factors affecting the trustworthiness of medical AI from both the design and application levels (Fig. 1). |
| ev-s-2 | Results | 3 | 3 | Medical-related data mainly comes from multi-source and heterogeneous data includ - ing literature data, clinical trial data, real-world data, and also health data collected by a l |
| ev-s-3 | Results | 4 | 4 | In healthcare, biased algorithms may underestimate or overestimate certain patients’ risks, and unrepresentative data may consolidate or exacerbate health disparities. |
| ev-s-4 | Results | 7 | 7 | Current medical AI is only an auxil - iary tool used by doctors to diagnose and treat diseases, not qualified to be a responsible subject. |
| ev-s-5 | Discussion | 8 | 8 | Beauchamp T.L. and Childress J.F. first proposed four major principles of bioethics in their book Principles of Biomedical Ethics: respect for autonomy, nonmaleficence, beneficence |
| ev-s-6 | Conclusion | 13 | 13 | At the legal level, we clarified that medical AI does not have moral status at this stage, and humans remain the responsibility bear - ers. |
| ev-l-1 | Background | 2 | 2 | The social consequences of technology are difficult to predict early in its development. When the demand for technological change becomes intense, such change has become very diffi |
| ev-l-2 | Results | 4 | 4 | In healthcare, biased algorithms may underestimate or overestimate certain patients ‘risks, and unrepresentative data may consolidate or exacerbate health disparities. |
| ev-l-3 | Results | 7 | 7 | Therefore, medical AI is still a tool in human medical activities at present, and humans should be responsible for AI. |

# İlgili kavramlar

- [Barselona Beyin Sağlığı Girişimi: Beyin Sağlığının Belirleyicilerini Tanımlamaya ve Geliştirmeye Yönelik Kohort Çalışması Protokolü](/okf/saglik-bilimleri/klinik-ve-halk-sagligi/barselona-beyin-sagligi-girisimi-beyin-sagliginin-belirleyicilerini-tanimlamaya-ve-gelistirmeye-yonelik-kohort-calismasi-protokolu.md)
- [Futbölçularda Ön Çapraz Bağ Rekonstrüksiyonu Sonrası Kulüp Tabanlı ve Hastane Rehberliğindeki Rehabilitasyonun Karşılaştırılması: İki Yıllık İleriye Dönük Kohort Çalışması](/okf/saglik-bilimleri/klinik-ve-halk-sagligi/futbolcularda-on-capraz-bag-rekonstruksiyonu-sonrasi-kulup-tabanli-ve-hastane-rehberligindeki-rehabilitasyonun-karsilastirilmasi-iki-yillik-ileriye-donuk-kohort-calismasi.md)
- [Bodur ve Bodur Olmayan Ergenlerin Pubertal, Psikososyal ve Bilişsel Gelişim Yörüngelerinin Anlaşılması: Çok Merkezli Bir Endonezya Kohort Çalışması Protokolü](/okf/saglik-bilimleri/klinik-ve-halk-sagligi/bodur-ve-bodur-olmayan-ergenlerin-pubertal-psikososyal-ve-bilissel-gelisim-yorungelerinin-anlasilmasi-cok-merkezli-bir-endonezya-kohort-calismasi-protokolu.md)
- [Kanser Önleme ve Tedavisinde A, C, D ve E Vitaminlerinin Rolü: Terapötik Potansiyeller ve Etki Mekanizmaları](/okf/saglik-bilimleri/klinik-ve-halk-sagligi/kanser-onleme-ve-tedavisinde-a-c-d-ve-e-vitaminlerinin-rolu-terapotik-potansiyeller-ve-etki-mekanizmalari.md)
- [Vaka Takdimi: Ultra-Ortodoks Yahudi Erkeklerde Agir Fiziksel ve Psikolojik Morbiditeye Yol Acan Anoreksiya Nervoza ve Belirlenmemis Kisitlayici Tip Yeme Bozuklugu](/okf/saglik-bilimleri/klinik-ve-halk-sagligi/vaka-takdimi-ultra-ortodoks-yahudi-erkeklerde-agir-fiziksel-ve-psikolojik-morbiditeye-yol-acan-anoreksiya-nervoza-ve-belirlenmemis-kisitlayici-tip-yeme-bozuklugu.md)
- [Kültürel Olarak Duyarlı Anne Sağlığını Geliştirme Müdahalesinin Tek Kollu Prospektif Karma Yöntem Uygulanabilirlik Çalışması Protokolü](/okf/saglik-bilimleri/klinik-ve-halk-sagligi/kulturel-olarak-duyarli-anne-sagligini-gelistirme-mudahalesinin-tek-kollu-prospektif-karma-yontem-uygulanabilirlik-calismasi-protokolu.md)
- [Müdahale Haritalama Protokolü Kullanılarak DEHB'li Çocukların Ultra-Ortodoks Yahudi Anneleri İçin Psikolojik Sağlığı Geliştirme Müdahalesinin Geliştirilmesi](/okf/saglik-bilimleri/klinik-ve-halk-sagligi/mudahale-haritalama-protokolu-kullanilarak-dehbli-cocuklarin-ultra-ortodoks-yahudi-anneleri-icin-psikolojik-sagligi-gelistirme-mudahalesinin-gelistirilmesi.md)
- [2015 Nepal Depremi Sonrasında Hastane Dayanıklılığı: Hastane Personeliyle Yapılan Yarı Yapılandırılmış Görüşmelerden Elde Edilen Bulgular](/okf/saglik-bilimleri/klinik-ve-halk-sagligi/2015-nepal-depremi-sonrasinda-hastane-dayanikliligi-hastane-personeliyle-yapilan-yari-yapilandirilmis-gorusmelerden-elde-edilen-bulgular.md)

# Şeffaflık

- Analiz tarihi: 2026-08-04T13:28:03.698Z
- Kanıt sayısı: 11
- Üretim sürümü: makale-analizi-v3.0.0
- Kanonik sayfa: https://makaleanalizi.com/saglik-bilimleri/klinik-ve-halk-sagligi/guvenilir-tibbi-yapay-zekanin-etigi-ve-yonetisimi-tasarim-ve-uygulama-duzeyinde-cok-disiplinli-bir-cerceve