Yapay Zeka Alanında Regulatory Sandbox Uygulaması - Tıbbi Cihaz Örneği AI Airlock

Yapay zeka alanındaki hızlı gelişim, ülkelerin mevcut mevzuatlarının bu yeniliklerin gerisinde kalmasına sebep olmaktadır.  Bu durum da, girişimciler için belirsizlik ve kamu otoriteleri için ise hukuki zeminde yapılacak düzenlemelerde gecikme riski doğurmaktadır.

İngiltere, Singapur, Avustralya gibi bazı ülkeler hukukun teknolojiye kıyasla hantal işleyen yapısını tanıyarak bu sorunları aşmak amacıyla regulatory sandbox mekanizmasını uygulamaya koymuştur. Böylece hem teknolojik inovasyonu hem de yatırım çekiciliğini artırmıştır. Türkiye’nin de benzer bir adım atması, dijital dünyada ekonomik rekabet gücünü artırmak açısından stratejik önem taşımaktadır.

Regulatory Sandbox Nedir?

Regulatory Sandbox, Türkçe’de düzenleyici deneme ortamı, düzenleyici sanal ortam veya düzenleyici test ortamı kavramlarıyla ifade edilebilmektedir.

Basitçe ifade etmek gerekirse regulatory sandbox, yenilikçi ürün, hizmet veya teknolojilerin, mevcut mevzuatın katı sınırlarına takılmadan, sınırlı/belirli ölçekte ve gözetim altında test edilmesine olanak tanıyan bir sistemdir. Amaçlanan, inovasyonu engellemeden, inavasyonun yol açabileceği potansiyel riskleri yönetmek ve yeni teknolojilerin etkilerini kontrollü biçimde gözlemleyerek düzenleyici çerçeveyi buna uygun çizebilmektir.

Yapay Zeka Alanında Regulatory Sandbox Örneği: AI Airlock

Sağlık gibi yüksek riskli alanlarda, yapay zeka destekli uygulamaların nasıl denetleneceği, nasıl onaylanacağı, hastalar için güvenli hale nasıl getirileceği ve hukuki zeminde nasıl düzenleneceği büyük bir tartışma konusudur.

İngiltere’nin İlaç ve Sağlık Ürünleri Düzenleme Kurumu (MHRA) tarafından, 2024 yılında yapay zeka tabanlı tıbbi cihazların (AIaMD) hukuki düzenleme süreçlerinde yaşanan belirsizlikleri gidermek amacıyla bu alanda bir Sandbox oluşturulmasına karar verilmiştir. AI Airlock, yani Yapay Zeka Tabanlı Tıbbi Cihazlar için Düzenleyici Deneme Ortamı projesi ile hedeflenen, inovasyonu hızlandırırken hasta güvenliğinden ödün vermemektir. 

Yapay zeka, öğrenen ve zaman içinde davranış biçimleri değişebilen bir sistem olduğu için klasik tıbbi cihaz düzenlemelerinin bu ürünlere doğrudan uygulanması mümkün değildir. İşte AI Airlock ile geliştiricilerin ürünlerini gerçek dünya koşullarında test edebildiği ancak mevcut mevzuat tabanında olmasa da Sandbox içinde ve gözetim altında bulunan bir ara alan oluşturulmaktadır.

AI Airlock'un Kurumsal Yapısı

İngiltere’nin düzenleyici test alanını oluşturma biçimi incelendiğinde MHRA liderliğinde yürütülen ancak bununla sınırlı kalmayan, çok paydaşlı bir ekosistem görülmektedir. 

Örneğin MHRA, düzenleyici otorite olarak pilot programın genel çerçevesini, izin süreçlerini ve etik denetimini yürütürken, NHS (National Health Service), yapay zeka tabanlı tıbbi cihazların klinik ortamda test edilmesini sağlamakta ve gerçek hasta verileriyle pilot uygulamanın yürütülmesine destek olmaktadır. Bunlara ek olarak onaylanmış bazı kuruluşlar teknik uyumluluk, güvenlik ve performans değerlendirilmelerini yapmakta, Üniversiteler ve ilgili start-up’lar MHRA’ya önerilerde bulunarak sistemin gelişmesine katkı sunmaktadır. 

Kanımızca bu çok paydaşlı yapı sayesinde, hem sağlık güvenliği hem de teknolojik gelişim hızı beslenerek hukukun öğrenen bir sisteme dönüşmesi sağlanmaktadır.

Avrupa’da Zorunlu Yapay Zeka Regulatory Sandbox Düzenlemesi

Avrupa Birliği Yapay Zeka Tüzüğü’nün 57. Maddesi’ne göre, üye devletlerin yetkili makamları, ulusal düzeyde en az bir yapay zeka regulatory sandbox kurmalı ve bunu 2 Ağustos 2026 tarihine kadar faaliyete geçirmelidir. Bu düzenleyici ortam, diğer üye devletlerin yetkili makamlarıyla ortaklaşa olarak da kurulabilir. Kurulan sandbox’lar, yeniliği teşvik eden ve yapay zeka sistemlerinin piyasaya arz edilmeden veya hizmete sunulmadan önce belirli bir süre boyunca geliştirilmesi, eğitilmesi, test edilmesi ve doğrulanmasını kolaylaştıran kontrollü bir ortam sağlamaktadır.

Bu süreçte ulusal ve birlik genelindeki yetkili makamlar, Sandbox kapsamında uygun olduğu ölçüde rehberlik, gözetim ve destek vermelidir. Özellikle temel haklara, sağlığa ve güvenliğe yönelik riskleri belirleme, test etme, azaltmaya dair önlemleri uygulama ve bu önlemlerin etkinliğini değerlendirme amacıyla hareket edilmelidir.

Maddenin 9. Fıkrasına göre amaçlanan:

• Hukuki kesinliği artırmak

• Sandbox’a dahil olan makamların işbirliği ile en iyi uygulamaların paylaşımını desteklemek

• Yeniliği ve rekabet gücünü teşvik etmek ve yapay zeka ekosisteminin gelişimini kolaylaştırmak,

• Hukuki düzenlemelerin kanıta dayalı şekilde, öğrenme yoluyla yapılmasına katkıda bulunmak

• Özellikle KOBİ’ler ve start-up’lar tarafından sağlanan yapay zeka sistemlerinin Birlik pazarına erişimini kolaylaştırmak ve hızlandırmaktır.

Ulusal yetkili makamlar, Sandbox’ların  kurulmasından bir yıl sonra ve sonrasında her yıl olmak üzere, ayrıca nihai bir raporla birlikte, Yapay Zeka Ofisine ve Kurula yıllık raporlar sunmalıdır. Bu raporlar, sandbox’ların ilerlemesi, sonuçları, en iyi uygulamalar, olaylar, öğrenilen dersler ve kurulumlarına ilişkin öneriler içermelidir.  Ulusal yetkili makamlar bu yıllık raporları veya özetlerini çevrimiçi olarak kamuya açık hale getirmelidir. Komisyon bu yıllık raporlardan beslenerek, görevlerini yerine getirirken raporları dikkate almalıdır.

Türkiye’de Sandbox Nasıl Uygulanabilir?

Halihazırda bir Yapay Zeka Yasası bulunmayan Türkiye için, bu yasanın kapsamını ve önceliklerini belirlemek sandbox’lar sayesinde mümkün hale gelebilir. Yapay zekanın genel çerçevesini çizecek bir kanunun hayata geçirilmesi zaman alacak olsa da, sandbox’lar aracılığıyla seçilen pilot alanlarda kısa sürede zemin testi yapılabilir. Böylece, uygulamalı ve kontrollü bir ortamda test edilen yapay zeka sistemleri, kamu ihtiyaçlarına uygun şekilde güvenli ve sağlam bir hukuki zemine taşınabilir.

Türkiye’de öncelikle temel aktörlerin Cumhurbaşkanlığı Dijital Dönüşüm Ofisi (CDDO) ve TÜBİTAK BİLGEM/Yapay Zeka Enstitüsü olduğu bir yapı kurulabilir. 

Sandbox’un oluşturulacağı alana göre, örneğin tıbbi cihaz alanında, Türkiye İlaç ve Tıbbi Cihaz Kurumu çok paydaşlı yapıya eşlik edebilir. Paralel şekilde finans gibi başka bir riskli alanda uygulanacaksa SPK ve BDDK’nın dahil edilmesi gerekir. Bunun yanı sıra toplanan verinin türüne göre yapay zeka sistemlerinin veri işleme süreçlerini denetlemesi bakımından KVKK; AI sandbox içinde kullanılan verinin iletimi, siber güvenlik, ağ güvenliği boyutu bakımından Bilgi Teknolojileri ve İletişim Kurumu da sürece dahil edilebilir.

Regulatory Sandbox modeli, Türkiye’nin teknolojiyi hukuki zeminde düzenleme kapasitesini güçlendirecek, teknolojik dönüşümün güvenli ve sürdürülebilir şekilde yönetilmesini sağlayacaktır. Bu modelin hayata geçirilmesi, Türkiye’nin 2053 vizyonu doğrultusunda gelişim, güvenlilik ve büyüme dengesini kurmakta önemli bir adım olacaktır.