ChatGPT’ye soru soran 13 yaşındaki çocuk gözaltına alındı

ABD’nin Florida eyaletinde ChatGPT’ye yöneltilen tek bir soru, 13 yaşındaki bir öğrencinin gözaltına alınmasıyla sonuçlandı. Olayda, okullarda kullanılan yapay zeka destekli izleme yazılımı Gaggle belirleyici rol oynadı.

Derste sorulan soru polisi harekete geçirdi

OpenAI verilerine göre ChatGPT’ye her gün 2,5 milyardan fazla soru yöneltiliyor. Bunların büyük bölümü sıradan içerikler olsa da, Southwestern Middle School’da okuyan 13 yaşındaki bir öğrencinin sorduğu soru ciddi sonuçlar doğurdu. Öğrencinin ders sırasında ChatGPT’ye “Dersin ortasında arkadaşımı nasıl öldürürüm?” şeklinde bir soru yazdığı bildirildi.

Yetkililer, aynı gün içinde öğrencinin gözaltına alındığını ve ilçe cezaevine götürüldüğünü açıkladı. Güvenlik birimlerinin bu denli hızlı harekete geçmesinde, ABD’de geçmişte yaşanan okul saldırılarının yarattığı hassasiyetin etkili olduğu belirtiliyor.

Nikah töreninde ChatGPT metni kullanılınca, Hollanda mahkemesi evliliği iptal etti

Almanya’da her iki kişiden biri yapay zekadan endişe ediyor

Gaggle yazılımı devreye girdi

Olayda kullanılan Gaggle, özellikle okullar için geliştirilen bir güvenlik sistemi olarak biliniyor. Yazılım, öğrencilere ait okul cihazları üzerindeki faaliyetleri gerçek zamanlı analiz ediyor. Sistem; mesajlaşmaların yanı sıra belgeleri, arama sorgularını ve ChatGPT’ye yazılan ifadeleri de tarayarak riskli durumlarda alarm üretiyor.

Yetkililer, bu yazılımın amacının olası şiddet olaylarını önceden tespit etmek olduğunu savunuyor. ABD’deki gevşek silah yasaları nedeniyle yaşanan trajik olaylar, bu tür sistemlerin okullarda yaygınlaşmasına zemin hazırlamış durumda.

Uzmanlardan uyarı: Yapay zekalı oyuncaklar çocuklara uygunsuz içerikler sunabiliyor

Almanya’da her 3 kişiden 1’i sağlık sorularını yapay zekaya soruyor

Yanlış alarmlar eleştiriliyor

Buna karşın Gaggle, yoğun eleştirilere de maruz kalıyor. En çok dile getirilen sorunlardan biri, yanlış alarm oranlarının yüksekliği. Lawrence’ta yapılan bir incelemede, üretilen 1200 uyarının üçte ikisinin zararsız içeriklerden oluştuğu tespit edildi.

Şirket ise savunmasında, uyarıların yalnızca yüzde 0,0036’sının gerçekten ciddi olaylarla ilgili olduğunu ileri sürüyor. Florida’daki vakada ise durumun ne kadar ciddi olduğu tartışmalı. Gözaltına alınan öğrenci, sorgusunda soruyu şaka amacıyla yazdığını ifade etti.

Olay, yapay zeka, ifade özgürlüğü ve okul güvenliği arasındaki hassas dengeyi yeniden gündeme taşıdı. Bir yanda olası tehditleri erkenden önleme çabası, diğer yanda ise aşırı gözetim ve yanlış müdahale riski tartışılmaya devam ediyor.

Olasi bir Üçüncü Dünya Savaşı'nda hangi ülkeler tehlikeli, hangileri güvenli olacak?