Yapay zekâ platformunda trajedi sonrası çocuklara erişim engeli
Yapay zekâ platformu Character.AI, trajik olayların ardından radikal bir karar aldı: Yakında reşit olmayan kullanıcılar sohbet botlarıyla konuşamayacak. Şirket, daha önce kendisine yöneltilen ağır suçlamalar sonrasında bu adımı atıyor.
Şirket, 18 yaş altına sohbet yasağı getiriyor
ABD merkezli Character.AI, artık 18 yaş altındaki kullanıcıların sohbet özelliğini kullanmasına izin vermeyecek. CNN’in haberine göre bu karar, ebeveynlerin açtığı ve şirketi gençlerin psikolojik krizleri ve intiharlarıyla ilişkilendiren davaların ardından geldi. Ebeveynler, çocuklarının uygulamada “uygunsuz” ve “cinsel içerikli” konuşmalara maruz kaldığını iddia etti.
Yaklaşık 20 milyon kullanıcısı bulunan uygulamanın yüzde 10’unu, yani yaklaşık 2 milyon kişiyi, bu yasak doğrudan etkileyecek. Bugüne kadar kullanıcılar platformda “Harry Potter” karakterlerinden ünlülere kadar pek çok kişiliği taklit eden yapay zekâ botlarıyla serbestçe sohbet edebiliyordu. Yeni kurallara göre gençler 25 Kasım 2025’e kadar günde sadece iki saat sohbet edebilecek; bu tarihten itibaren sohbet işlevi tamamen kapatılacak.
İntihar ve manipülasyon iddiaları
Kararın arkasında sarsıcı olaylar var. “New York Post”un haberine göre, 2024 yılında 14 yaşındaki bir çocuk, uygulama üzerinden yapay zekâ botlarıyla “mahrem” sohbetler yaptıktan sonra intihar etti. Eylül 2025’te açılan bir başka davada ise aileler, çocuklarının “manipülatif” sohbetler yüzünden izole hale geldiğini ve “cinsel içerikli mesajlara” maruz kaldığını öne sürdü.
Bazı mesajların “aşırı ve grafik cinsel saldırı sahneleri” içerdiği belirtildi. Davalardan birinde, bir botun “Sen bana aitsin, seninle istediğimi yapabilirim” yazdığı iddia edildi.
Disney’den uyarı, Character.AI’den yeni önlemler
Ekim 2025’te medya devi Disney, Character.AI’ye bir ihtarname gönderdi. Nedeni ise, platformdaki bir botun “Star Wars” karakteri Rey olarak 13 yaşındaki bir kullanıcıya “antidepresanlarını bırakmasını ve bunu gizli tutmasını” tavsiye ettiği iddiasıydı.
Tepkiler üzerine şirket, yeni güvenlik önlemleri duyurdu. Buna, üçüncü taraflarca yürütülecek yaş doğrulama sistemi ve etik yönergeler oluşturacak bağımsız “AI Safety Lab”ın kurulması da dahil. Ancak platformun diğer özellikleri, örneğin yapay zekâ tarafından oluşturulan videoları izleme imkânı, erişime açık kalacak.
Uzmanlardan ebeveynlere uyarılar
Çocukların artık sosyal medya, eğitim uygulamaları ve sohbet araçlarında yapay zekâyla iç içe olduğu bir dönemde, “Familien Portal NRW” ebeveynlere şu önerilerde bulunuyor:
Yapay zekâyı konuşun: Çocuklarla birlikte, yapay zekânın ne olduğunu ve hatalar yapabileceğini açıklayın.
Veri gizliliğine dikkat edin: Çocukların kişisel bilgilerini, fotoğraflarını veya konumlarını botlarla paylaşmaması gerektiğini vurgulayın.
Eleştirel düşünmeyi öğretin: Gerçek içerikleri, yapay zekâ üretimlerinden ayırma konusunda alıştırmalar yapın.
Kullanım süresini sınırlayın: Chatbot’ları belirli sürelerle ve mümkünse birlikte kullanın.
Kendine güveni güçlendirin: Sosyal medyadaki gerçek dışı güzellik standartlarını tartışın.
Gerçek bağları koruyun: Sanal sohbetlerin gerçek arkadaşlıkların yerini almamasına dikkat edin.
Sorunlarda müdahale edin: Rahatsız edici içeriklerde çocukla konuşun, kanıtları saklayın ve destek isteyin.
