Hastanelerde, polikliniklerde ve araÅŸtırma laboratuvarlarında sessiz sedasız bir devrim yaÅŸanıyor. Kanser hücrelerini gözümüzden kaçan detaylarla yakalayan, hastanın hayati bulgularını saniyeler içinde analiz eden yapay zeka sistemleri artık birer bilim kurgu öÄŸesi deÄŸil; günlük klinik pratiÄŸin birer parçası. Ancak her büyük teknolojik sıçrama gibi, bu geliÅŸme de çok büyük bir soruyu beraberinde getiriyor: Hata payı doÄŸrudan "insan hayatı" olan bir sektörde, kararları bir algoritmaya ne kadar teslim edebiliriz?

Avrupa Komisyonu tarafından sunulan ve Yapay Zeka (YZ) sistemlerinin piyasaya arzı, hizmete sunulması ve bazı uygulamaların yasaklanmasına dair kuralları belirleyen "Yapay Zeka Hakkında UyumlaÅŸtırılmış Kurallar Getiren ve Bazı Birlik Yasama Tasarruflarını DeÄŸiÅŸtiren (AB) 2024/1689 sayılı Tüzük", 12 Temmuz 2024 tarihinde AB Resmi Gazetesi'nde yayımlanmış ve 1 AÄŸustos 2024 tarihinde yürürlüÄŸe girmiÅŸtir.

AB'nin bu düzenlemesi bir yandan iç pazarın iÅŸleyiÅŸinin geliÅŸtirilmesini, diÄŸer yandan insan odaklı ve güvenilir YZ teknolojilerinin benimsenmesini teÅŸvik etmeyi hedeflemektedir. AB böylece yenilikçiliÄŸi desteklerken, YZ sistemlerinin olası zararlı etkilerine karşı saÄŸlığın, güvenliÄŸin, çevrenin yanı sıra demokrasi ve hukukun üstünlüÄŸü dahil temel hakların korunmasını amaçlamaktadır.

Avrupa BirliÄŸi'nin tarihi nitelikteki bu adımı tam da bu yaÅŸamsal endiÅŸelerden yola çıkarak yapay zeka dünyasına adeta yeni bir anayasa getirdi. Yasa, yapay zekayı bir "tehdit" olarak görüp önünü kesmeyi deÄŸil, aksine kontrolden çıkmasını engelleyerek sınırlarını belirlemeyi amaçlıyor. Özellikle saÄŸlık sektörü, taşıdığı yaÅŸamsal risklerden ötürü bu tüzükte en sıkı mercek altına alınan alanların başında geliyor.

SaÄŸlıkta Yapay Zeka Artık "Yüksek Riskli" Sınıfta

TüzüÄŸün getirdiÄŸi en radikal deÄŸiÅŸiklik, tıbbi cihazlarda, klinik karar destek sistemlerinde, teÅŸhis yazılımlarında ve hasta takip uygulamalarında kullanılan yapay zekaları doÄŸrudan "Yüksek Riskli" kategorisine almasıdır.

Bu, saÄŸlık alanında yapay zeka destekli bir araç geliÅŸtirenlerin ve bu sistemleri hastalarında kullanan her saÄŸlık kuruluÅŸunun artık sıradan bir teknoloji deÄŸil, her adımı yasal denetime tabi, ağır yaptırımları olan kritik bir altyapı iÅŸlettiÄŸi anlamına geliyor. Yani iÅŸin özü ÅŸu: Yapay zekayı yanlış bilgiyle beslerseniz, o da yanlış teÅŸhis koyar. Teknolojideki bu ufacık 'bilgi hatası' ise maalesef klinikte bir insanın canına mal olabilir.

Ä°laç AraÅŸtırmalarında Yapay Zeka ve Hukuki Sınırlar

Yapay zekanın saÄŸlıkta yarattığı devrim sadece teÅŸhis ve tedaviyle sınırlı deÄŸil; yeni moleküllerin keÅŸfi ve ilaç araÅŸtırmaları da bu rüzgardan fazlasıyla nasibini alıyor. Normal ÅŸartlarda 10-15 yıl süren ve milyarlarca dolara mal olan ilaç geliÅŸtirme süreçleri, yapay zeka algoritmaları sayesinde artık çok daha kısa sürede simüle edilebiliyor. Ancak bu noktada çok ince ve hukuki bir çizgi devreye giriyor: Ä°laç araÅŸtırmalarında yapay zeka kullanımının sınırları nerede baÅŸlıyor, nerede bitiyor?

• KeÅŸif ve Ön AraÅŸtırma Evresi: AB Yapay Zeka TüzüÄŸü, inovasyonun ve bilimsel ilerlemenin önünü tıkamamak adına çok önemli bir esneklik saÄŸlıyor. Sadece bilimsel araÅŸtırma, geliÅŸtirme ve keÅŸif amacıyla laboratuvar ortamında kullanılan yapay zeka modelleri, tüzüÄŸün katı ve bürokratik yükümlülüklerinden muaf tutuluyor. Bu sayede araÅŸtırmacılar, yeni bir molekül tasarlarken ya da kimyasal bileÅŸenleri simüle ederken ağır yasal süreçlerle boÄŸuÅŸmak zorunda kalmıyor.
• Klinik AraÅŸtırmalar ve Gerçek Dünya Testleri (Yüksek Risk Alanı): Ne zaman ki bu araÅŸtırmalar laboratuvardan çıkıp "gerçek dünya" testlerine, yani klinik denemelere ve insan saÄŸlığına doÄŸrudan etki edecek aÅŸamaya geliyor; iÅŸte o zaman tüzüÄŸün tüm kırmızı çizgileri devreye giriyor. Ä°laçların hedef kitleler üzerindeki etkilerini analiz eden, hasta seçimi yapan veya klinik araÅŸtırma verilerini iÅŸleyen yapay zeka sistemleri doÄŸrudan yüksek riskli kabul edilerek sıkı bir veri yönetiÅŸimine, izlenebilirliÄŸe ve insan denetimine tabi tutuluyor.

Büyük Riskler ve TüzüÄŸün KoyduÄŸu Altın Kurallar

Peki bu yüksek riskleri yönetmek ve hastalarımızı korumak için AB Yapay Zeka TüzüÄŸü hangi katı kriterleri zorunlu kılıyor? Ä°ÅŸte tüm saÄŸlık profesyonellerinin ve hastaların mutlaka bilmesi gereken o kriterler:

• 1. Karar Merkezinde Her Zaman "Ä°nsan" Kalmalı (Ä°nsan Gözetimi): Yapay zeka sistemleri asla tek başına nihai teÅŸhisi koyamaz veya tedavi protokolünü baÅŸlatamaz. Karar mekanizmasının başında her zaman bir hekim olmalıdır. Sistemler, hekimin yapay zekanın önerisini dilediÄŸi an reddetmesine, geçersiz kılmasına veya sistemi tamamen kapatmasına izin verecek ÅŸekilde tasarlanmak zorundadır.
• 2. Eksik Bilgiyle EÄŸitilen Yapay Zeka Neden Tehlikeli: Yapay zekanın en büyük tehlikelerinden biri, eÄŸitildiÄŸi veri setinin tek yönlü olmasıdır. ÖrneÄŸin, sadece belirli bir etnik kökene veya yaÅŸ grubuna ait verilerle eÄŸitilmiÅŸ bir cilt kanseri teÅŸhis yazılımı, farklı ten renklerinde veya yaÅŸlarda ölümcül hatalar yapabilir. Tüzük, eÄŸitim verilerinin son derece temsil gücü yüksek, güncel ve hatasız olmasını; yanlılığın tespit edilip düzeltilmesini zorunlu kılıyor.
• 3. Åžeffaflık ve Ä°zlenebilirlik: Yapay zeka sistemleri birer "kara kutu" olamaz. Bir algoritma bir hastaya tanı koyduÄŸunda veya tedavi önerdiÄŸinde, hekimin bu sonuca nasıl varıldığını, sistemin sınırlarını ve hata payını net bir ÅŸekilde anlayabilmesi gerekir. Ayrıca, sistemin tüm karar adımları (log kayıtları) geriye dönük izlenebilirlik adına otomatik olarak kaydedilmelidir.
• 4. Siber Güvenlik ve Dayanıklılık: SaÄŸlık verileri en hassas kiÅŸisel verilerdir. Tıbbi yapay zekaların; eÄŸitim verisinin manipüle edilmesi, aldatıcı siber saldırılara ve sistem çökmelerine karşı maksimum düzeyde siber dayanıklılığa sahip olması ÅŸart koÅŸulmaktadır.

Sonuç: Ä°novasyon mu, Güvenlik mi?

AB Yapay Zeka TüzüÄŸü bizlere çok net bir mesaj veriyor: SaÄŸlıkta yapay zekanın gücünden sonuna kadar yararlanacağız, ancak kontrolü asla algoritmaların insafına bırakmayacağız. Gelecekte hayatımızı emanet edeceÄŸimiz bu sistemlerin sınırlarını bugünden çok iyi çizmek zorundayız. Çünkü bugün yapay zeka sistemlerine uygulayacağımız yasal ve etik kalite, yarın kurtaracağımız hayatların en temel güvencesi olacaktır.

Kaynak

AB Yapay Zeka TüzüÄŸü - https://eur-lex.europa.eu/eli/reg/2024/1689/oj