Yapay Zeka Okuryazarlığı Nedir? Avrupa Birliği Yapay Zeka Tüzüğü Kapsamında Yapay Zeka Okuryazarlığı

AB Yapay Zeka Tüzüğü’nün 4. Maddesi’ne göre, yapay zeka sistemlerinin sağlayıcıları ve operatörleri, çalışanları ve kendileri adına yapay zeka sistemleriyle ilgilenen diğer kişilerin yeterli düzeyde yapay zeka okuryazarlığına sahip olmasını sağlamalı ve bunun için önlem almalıdır. Çalışanlarının ve kendileri adına sistemle ilgilenen diğer kişilerin teknik bilgisi, deneyimi ve eğitimi, yapay zeka sistemlerinin kullanılacağı bağlam ve bu sistemleri kullanılacak kişiler dikkate alınarak sağlanmalıdır.

1- Yapay zeka okuryazarlığı nedir?

Yapay zeka okuryazarlığı, sağlayıcıların, operatörlerin ve etki alanındaki diğer kişilerin, Tüzük kapsamında tanımlanan hakları bilerek, yapay zeka sistemlerini bilinçli bir şekilde uygulamaya koymalarını; yapay zekanın sağladığı fırsatlar, riskler ve neden olabileceği olası zararlar hakkında farkındalık kazanmalarını sağlayan bilgi, beceri ve anlayışı ifade etmektedir.

2- Tüzük kapsamında, çalışanların yapay zeka okuryazarlığı seviyesinin ölçülmesi gerekir mi?

Tüzük çalışanların yapay zeka okuryazarlığı seviyesini ölçme yükümlülüğü getirmemektedir. Ancak, yapay zeka sağlayıcıları ve operatörlerinin, çalışanların teknik bilgisini, deneyimini, eğitimini dikkate alarak yeterli düzeyde yapay zeka okuryazarlığı sağlama yükümlülüğü altındadır.

3- Tüzüğün 4. maddesine uyumlu bir yapay zeka okuryazarlığı programında bulunması gereken asgari içerik hangi konulardan oluşmalıdır?

Maddede yer alan ‘yeterli düzeyde yapay zeka okuryazarlığı’ ifadesi katı gereklilikler içermemektedir. Aksine teknolojinin gelişme hızı ve konunun son derece kapsamlı oluşu da göz önünde bulundurularak daha esnek şekilde anlaşılmalıdır.

Asgari düzeyde, aşağıda sayılan hususlar yapay zeka okuryazarlığı programına dahil edilmelidir:

a) Yapay zeka hakkında genel bir anlayış sağlamak:

• Yapay zeka nedir ve nasıl çalışır?

• Kurum/Kuruluşta hangi yapay zeka sistemleri kullanılmaktadır?

• Yapay zekanın getirdiği fırsatlar ve tehlikeler nelerdir?

b) Kurumun yapay zeka sistemleri üzerindeki rolünün anlaşılması:

Örneğin, kurum yapay zeka sağlayıcısı mı, operatörü mü veya kullanıcısı mı? Kurum, yapay zeka sistemleri mi geliştiriyor, yoksa başka bir kurum tarafından geliştirilen sistemleri mi kullanıyor?

c) Sağlanan veya kullanılan yapay zeka sistemlerinin risklerini değerlendirmek:

• Çalışanların bu tür sistemlerle çalışırken bilmeleri gerekenler, farkında olmaları gereken riskler nelerdir?

• Bu risklerin azaltılması konusunda bilgi sahibi olmaları gerekli midir?

d) Yukarıdaki analizlerin sonuçlarına dayalı olarak somut yapay zeka okuryazarlığı faaliyetleri planlanması ve bu faaliyetler planlanırken personelin teknik bilgi düzeylerinin, deneyimlerinin ve eğitimlerinin dikkate alınması:

• Çalışanlar yapay zeka hakkında ne kadar bilgiye sahip?

• Kullandıkları sistemler hakkında ne biliyorlar ve bilmedikleri neyi bilmeleri gerekiyor?

  
  

e) Yapay zeka sistemlerinin hangi bağlamda kullanılacağı ve kimler üzerinde etkili olacağı hakkında bilgi sahibi olmak:

Sistem hangi sektörde, hangi hizmet veya amaç için kullanılmaktadır?

Bu açıklamalar genel niteliktedir. Dolayısıyla Tüzüğe uyum sağlamak için ilgili kurumun sistem sağlayıcısı mı yoksa kullanıcısı mı olduğu ve yapay zeka sisteminin risk ölçütü dikkate alınarak eğitim programlarının kapsamı genişletilmelidir. Bir örnekle açıklamak gerekirse, eğer kuruluşun yapay zeka sistemleri Tüzükte sayılan yüksek riskli sistemler kapsamında değerlendiriliyorsa, çalışanların bu sisteme dair riskleri anlayıp, nasıl önleyip azaltacakları konusunda bilgi sahibi olmaları gerekmektedir.

4- Yapay zeka okuryazarlığının sağlanmasında sağlık ve finans sektörü gibi spesifik alanlara özgü gereklilikler var mı?

Yapay zeka okuryazarlığında belirli sektörler için öngörülmüş özel gereklilikler bulunmamaktadır. Ancak yukarıda da belirtildiği üzere, yapay zeka okuryazarlığı için eğitim programları geliştirilirken ilgili sistemin kullanıldığı bağlam (sektör ve amaç gibi) ve içerdiği risk seviyesi mutlaka dikkate alınmalıdır.

5- Personel, ChatGPT gibi araçları yalnızca reklam metni yazılması veya çeviri yapılması gibi basit amaçlarla kullanıyorsa, şirket yine de yapay zeka okuryazarlığını sağlamalı mıdır?

Basit amaçlarla kullanılan yapay zeka sistemleri de bir ölçüde yapay zeka okuryazarlığı gerektirmektedir. Örneğin teknik dilde halüsinasyon olarak adlandırılan, yapay zekanın yanıltıcı/uydurma içerikler üretme riski hakkında bilgi sahibi olunmalıdır.

6- Yapay Zeka geliştiriciliği ve benzeri konularda diploması veya eğitimi olan kişiler yapay zeka okuryazarı kabul edilebilir mi? Bu kişilerin daha ileri düzeyde yapay zeka okuryazarlığı konusunda bilgilendirilmesi gerekir mi?

Bu kişiler normal koşullarda yapay zeka okuryazarı kabul edilebilir. Ancak yine de teknolojik gelişmelerin hızı dikkate alınmalı ve önceki bilginin eskime olasılığı göz önünde bulundurulmalıdır. Dolayısıyla bu sorunun yanıtı, personel yapay zeka sistemleri hakkında bilinmesi gerekenleri ve bu sistemlerle nasıl çalışılması gerektiğini biliyor mu, olası bütün risklerin farkında mı ve bu riskleri nasıl önleyip azaltacağını biliyo mu gibi soruların yanıtına bağlıdır.

7- Kurumlar, çalışanlarının yapay zeka okuryazarlığını sağladıklarına dair belgelendirmeyi nasıl yapmalıdır?

Bunun için öngörülmüş özel bir şekil şartı veya sertifika benzeri bir belge bulunmamaktadır. Yapay zeka okuryazarlığına ilişkin kayıtlar kurum içi kayıt şeklinde tutulabilir.