Sistemik Risk Taşıyan Genel Amaçlı Yapay Zeka Modeli

Sistemik Risk Taşıyan Genel Amaçlı Yapay Zeka Modeli Nedir?

Genel amaçlı yapay zeka modelinin yetenekleri, en ileri düzey modellerle eşdeğer veya onları aşan düzeydeyse ve model, toplamda 10^25 FLOP üzerinde bir hesaplama gücü kullanılarak eğitilmişse sistemik risk taşıyan model olarak sınıflandırılır. Bu eşik, modelin, kamu sağlığı, güvenliği, temel insan hakları ve genel olarak toplum üzerinde doğurabileceği olumsuz sonuçlar sebebiyle Avrupa Birliği piyasasını ciddi boyutta etkileyebilme gücüne sahip olduğu anlamına gelmektedir.

Buna ek olarak Komisyon, modelin yetkinlikleri veya etkisi en ileri düzey modellerle denk seviyedeyse, bu modeli kendi inisiyatifiyle veya bilimsel panelin görüşü üzerine, sistemik risk taşıyan genel amaçlı yapay zeka modeli olarak belirleyebilir.

Sistemik Risk Taşıyan Genel Amaçlı Yapay Zeka Modeli Sağlayıcılarının Yükümlülükleri

Buradaki yazımızda açıklanan genel yükümlülüklere ek olarak, sistemik risk taşıyan genel amaçlı yapay zeka modeli sağlayıcıları aşağıdaki ilave yükümlülükleri de yerine getirmelidir:

1. Model Değerlendirmesi

   Sağlayıcılar, standartlaştırılmış protokoller ve gelişmiş teknolojiler kullanarak model değerlendirmesi yapmalıdır. Bu kapsamda, sistemik riskleri tespit etmek ve azaltmak amacıyla rekabetçi testler (adversarial test) yapılmalı ve bu testler ayrıntılarıyla belgelenmelidir.

   
   

2. Risk Değerlendirmesi

   Modelin geliştirilmesi, piyasaya arzı veya kullanımından kaynaklanabilecek sistemik riskler, Avrupa Birliği düzeyinde analiz edilmeli ve bu riskler giderilmelidir. Sağlayıcılar, risklerin kaynağını ve etkilerini değerlendirmekle yükümlüdür.

   
   

3. Olay Bildirimi

   Sağlayıcılar, ciddi olaylara (serious incidents) ilişkin bilgileri takip etmeli, belgelendirmeli ve uygun düzeltici önlemleri belirlemelidir. Ayrıca edinilen bilgiler, gecikme olmaksızın Yapay Zeka Ofisi’ne ve gerekli hallerde ulusal yetkili makamlara iletmelidir.

   
   

4. Siber Güvenlik Önlemleri

   Modelin kendisine ve fiziksel altyapısına yönelik yeterli siber güvenlik koruması sağlanmalıdır. Bu önlemler, modelin çalınması, kötüye kullanılması veya arızalanmasının kitlelere yayılan sonuçlar doğurmasını önlemeye yönelik olmalıdır.

Bir Yapay Zeka Modelinin Sonradan Sistemik Risk Taşıyan Yapay Zeka Modeli Olması

Bu aşamada önemli sorulardan bir tanesi, bir genel amaçlı bir yapay zeka modelinin işlem gücü eşiğini sonradan karşılaması halinde sistemik risk taşıyan genel amaçlı yapay zeka modeli olarak kabul edilip edilmeyeceğidir.

Bir genel amaçlı yapay zeka modeli işlem gücü eşiğini karşıladığında veya bu eşiğin karşılanacağının anlaşılması halinde sağlayıcı, bu durumu derhal ve en geç iki hafta içinde Avrupa Komisyonu’na bildirmekle yükümlüdür.

Söz konusu bildirime ek olarak sağlayıcı, işlem gücü eşiğini karşılamış olsa bile modelin en gelişmiş modellerle eşdeğer veya daha üstün yeteneklere sahip olmadığını veya başka nedenlerle sistemik risk oluşturmadığını ortaya koyan gerekçeler sunarak modelinin bu yöndeki sınıflandırmaya dahil olmadığını ileri sürebilir. Örneğin modelin, yüksek etkili yeteneklere sahip olmadığı, en gelişmiş modellerle eşdeğer veya daha üstün yetenekler barındırmadığı ve bu tür yüksek etkili yeteneklere özgü sistemik riskler doğurmadığı savunulabilir.

Komisyon, sağlayıcının sunduğu gerekçeleri değerlendirerek kabul veya red kararı verebilir. Gerekçe kabul edilirse, model artık sistemik risk taşıyan genel amaçlı yapay zeka modeli olarak sınıflandırılmayacak ve dolayısıyla sağlayıcı, bu sınıfa özgü yükümlülüklere tabi olmayacaktır.

Red halinde ise, modelin sistemik risk taşıyan genel amaçlı yapay zeka modeli olduğu kesinleşecek ve sağlayıcı, söz konusu yükümlülüklerden modelin işlem gücü eşiğini karşıladığı andan itibaren sorumlu olacaktır.