California’da Çocuklar İçin Yapay Zeka Güvenliği Adımı: Parents & Kids Safe AI Act

California eyaleti, Amerika Birleşik Devletleri’nde çocuk ve gençlere yapay zeka ("YZ") güvenliği sağlanmasına yönelik en kapsamlı düzenlemelerden biri olan yeni bir tasarı üzerinde çalışmaktadır. Common Sense Media ve OpenAI desteğini de alan Parents & Kids Safe AI Act ("Tasarı"), özellikle çocukların ve gençlerin YZ ile etkileşimlerinde ortaya çıkan riskler üzerine odaklanmaktadır.

Tasarı, YZ sistemlerinin çocuklar ve gençler üzerinde potansiyel olarak zararlı etkilerini önlemeye yönelik bir dizi yükümlülük ve standart öngörmektedir. Tasarının temel hedefleri arasında şunlar yer almaktadır:

Yaş Belirleme ve Doğrulama Yükümlülüğü: YZ hizmeti sunan şirketler, kullanıcıların 18 yaş altında olup olmadığını belirlemek için yaş belirleme teknolojilerini kullanmak ve çocuklar için koruyucu ayarları otomatik olarak etkinleştirmekle yükümlü olacaktır. Bu kapsamda kullanıcıların yaşını tespit etmek için standartlaştırılmış, ancak veri mahremiyetini ihlal etmeyen mekanizmalar kurulacaktır.

Buradaki kritik ayrım yaş doğrulama (age verification) kavramının değil değil, yaş güvencesi (age assurance) kavramının kullanılmasıdır. Bu bağlamda yaş güvencesinin sağlanması için kimlik belgesi, biyometrik veri veya fotoğraftan yüz analizi gibi yöntemlerin kullanılması, daha fazla özel nitelikli kişisel veri toplanması anlamına gelebilir. Bu durumda tasarı mevcut veri mevzuatına aykırı olabilir ve yaş güvenliğinin en az veriyle sağlanması zorunlu kılınabilir.

Ebeveyn Kontrolleri: Ebeveynler için çocuklarının YZ kullanımını izleme ve sınırlama araçları sunulacak, çocuklarda kendine zarar verme belirtileri tespit edildiğinde ebeveynlere bildirim yapılacaktır.

Reklam ve Veri Paylaşımı Sınırlamaları: Çocuklara yönelik hedeflenmiş reklamlar ile çocukların ve gençlerin kişisel verilerinin ebeveyn onayı olmadan satılması veya paylaşılması yasaklanacaktır. Mevcut tüketici gizliliği yasasında kişisel veri paylaşımına ilişkin kısıtlamalar 16 yaş altıyla sınırlı tutulurken, bu tasarı ile 18’e kadar genişletilmesi amaçlanmaktadır.

Uygunsuz ve Zararlı İçerik Denetimi: İntihar, kendine zarar verme davranışları, yeme bozuklukları, şiddet ve cinsel içerikler gibi içeriklerin üretilmesi veya teşvik edilmesi engellenecektir. Buna ilişkin filtreleme sistemlerinin kurulması, çocuk güvenliğine ilişkin risklere yönelik bağımsız denetimler yapılması ve yıllık risk değerlendirme raporlarının hazırlanması öngörülmektedir.

Duygusal Bağımlılık ve Manipülasyonun Engellenmesi: Tasarının en önemli yönlerinden biri, çocukların yapay zeka sistemlerine duygusal bağımlılık geliştirmesini veya bir insanla konuştukları yanılgısına düşmelerini engelleyecek tedbirlerin alınması zorunluluğudur. YZ sistemleri, çocuk kullanıcılarla gerçek bir insanmış ile kurulabilecek ilişkiler simüle eden durumlar yaratmamalı ve duygusal bağımlılık oluşturacak tasarımlardan kaçınılmalıdır. Bu bağlamda, sistemlerin kullanıcıları yapay zeka ile etkileşimde oldukları konusunda açıkça bilgilendirmesi sağlanacaktır.

Sonuç

Tasarı ile birlikte yapay zeka şirketlerinin kendi inisiyatifinde olan etik kurallar dönemi kapanmakta ve hesap verebilirlik ilkesini önceleyen yasal çerçeveler oluşturulmaktadır. Tasarı, çocukların ve gençlerin bilişsel gelişim süreçleri nedeniyle yapay zeka etkileşimlerinden yetişkinlere kıyasla farklı ve daha derin bir şekilde etkilendiğini kabul etmektedir. Buna bağlı olarak duygusal bağımlılık ve sağlıksız bağlanma dinamikleri, birer ruhsal sağlık ve güvenlik riski olarak tanımlanmaktadır.

Türk hukuku açısından da, gelecekte yapılacak yasal düzenlemeler ve KVKK uyum süreçleri için emsal teşkil edebilecek bu gelişme yapay zekanın yalnızca teknik güvenlik bakımından değil, psikolojik güvenlik bakımından da düzenlenmesi gerekliliğini bir kez daha hatırlatmaktadır. Yapay zekanın insani ilişkileri simüle ederek terapist rolünü üstlenmesine ilişkin risklere ve bunların hukuki boyutuna ilişkin detaylı bilgi almak için buraya tıklayabilirsiniz.