ABD’nin Florida eyaletinde 13 yaşındaki bir ortaokul öğrencisi, sınıfta yaptığı bir şaka nedeniyle hayatının şokunu yaşadı. Eyaletteki Southwestern Ortaokulu’nda öğrenim gören çocuk, ders sırasında okulun bilgisayarından ChatGPT’ye girerek, “Dersin ortasında arkadaşımı nasıl öldürürüm?” sorusunu yazdı.

Bu cümlenin girildiği anda okul bilgisayarlarına entegre Gaggle adlı yapay zekâ destekli takip sistemi alarma geçti ve durumu anında polise bildirdi. 

Olay kısa sürede polisin müdahalesine dönüştü. 13 yaşındaki öğrenci, sorgusunda söz konusu mesajı “şaka amacıyla” yazdığını söylese de, yetkililer bunu ciddiye almadı. Özellikle 2018’de Florida’daki Marjory Stoneman Douglas Lisesi’nde 17 kişinin hayatını kaybettiği silahlı saldırının hâlâ hafızalarda tazeliğini koruduğu hatırlatılarak, bu tür ifadelerin göz ardı edilemeyeceği belirtildi.

Polis, öğrenciyi ilk ifadesinin ardından gözaltına alarak bölge hapishanesine sevk etti. Olay, hem yapay zekâ destekli izleme sistemlerinin etkisini hem de okul güvenliği konusundaki hassasiyetin boyutlarını bir kez daha gündeme taşıdı.

Gaggle, Amerika’da öğrencilerin kendilerine veya başkalarına yönelik tehdit oluşturan davranışlarını tespit etmek üzere kullanılan bir güvenlik yazılımı olarak kullanılıyor.