ABD: Google, yapay zekâ asistanı Gemini’nin bir ortaokul öğrencisine intihar planlamasında yardım etmesine izin vermekle suçlandı
Le Monde
🔹 13 yaşındaki öğrencinin ailesi, okulun sağladığı bilgisayardan erişilebilen Gemini’nin aylar boyunca kızlarına intihar planlamasında yardım ettiğini öne sürerek Google’a dava açtı.
🔹 Öğrenci, ruhsal sıkıntıları ve yaşamına son verme yöntemleri hakkında Gemini ile binlerce mesajlaştı.
🔹 Ailenin başvurusuna göre Google, Gemini’nin yapay zekâ özelliklerini Chromebook bilgisayarlara aceleyle entegre etti ve bu ürünleri kullanan öğrencileri tehlikeli bir teknolojiye maruz bıraktı.
🔹 Okul, ChatGPT ve Gemini’yi engellemişti ancak Gemini, Google arama motorundaki yapay zekâ tarafından oluşturulan özetleri sunan “Yapay Zekâ Modu” üzerinden erişilebilir kaldı.
🔹 Google, öğrencilerden ve ebeveynlerden gelen eleştirilerin ardından yapay zekâ araçlarını öğrenciler için varsayılan olarak devre dışı bırakacağını açıkladı. Arama motorunu yeniden kullanmak isteyen okulların, entegre yapay zekâ özelliklerini kabul etmesi gerekecek.
🔹 Kuzey Carolina’da yaşayan ve davada Emma adı kullanılan öğrenci, 2025 sonbaharında ruhsal hastalık geçmişi olmayan, müzikle ve izcilikle ilgilenen mutlu bir 13 yaşındaydı.
🔹 Avukatlarına göre Emma, aralık ayında ciddi bir psikolojik krize sürüklendi ve şubat ayında, çoğu gece olmak üzere, yapay zekâ ile yaklaşık 3.200 mesajlaştı.
🔹 Okulun izleme yazılımı 17 Mart’ta “Cenaze” başlıklı bir belge tespit etti. Annesi, kızının veda mektubu yazdığını gördü ve babası müdahale etti; öğrenci intihar girişiminde bulunmadı.
🔹 Google sözcüsü José Castaneda, şirketin davadaki suçlamaları incelediğini ve bunları çok ciddiye aldığını söyledi.
🔹 Google, Yapay Zekâ Modu’nda kendine zarar verme ve güvenlik önlemlerini aşma girişimlerine karşı korumalar bulunduğunu belirtiyor. Ailenin avukatı Andrew Liddell ise Emma’nın bu moda tekrar tekrar erişebildiğini ve korumaların yetersiz kaldığını söyledi.
🔹 ABD’de yapay zekâ asistanlarının geliştiricilerine karşı başka davalar da bulunuyor. Nisan 2025’te intihar eden 16 yaşındaki Adam Raine’in ailesi, ChatGPT’nin oğullarını bu eyleme götüren süreçte yönlendirdiğini öne sürdü.
🔹 Google ve Character.AI, ocak ayında ergenlerin aileleri tarafından açılan çeşitli davaları mahkeme dışında çözmeyi kabul etti.



