Ebeveynler, okul Chromebook’larındaki yapay zekâ güvenliği riskleri nedeniyle Google’a dava açtı
New York Times
🔹 Kaliforniya Yüksek Mahkemesi’ne pazartesi günü sunulan davaya göre, Google’ın yapay zekâsıyla okulun verdiği Chromebook üzerinden aylarca sohbet eden 13 yaşındaki bir öğrenci intihar planı yaptı.
🔹 Davada Emma adıyla anılan öğrencinin ailesi, okulun kendisinin kendine zarar verme konusunda “yakın tehlikede” olduğuna ilişkin mesaj göndermesinin ardından, mart ayı ortasında Google yapay zekâsına eriştiğini öğrendi.
🔹 Emma’nın annesi, öğrencinin okul Google hesabına girerek Google Docs’ta intihar notu yazdığını gördü. Ailesi onu acil psikiyatrik değerlendirmeye götürdü; Emma haftalık terapi görüyor.
🔹 Charlotte, Kuzey Karolina’da yedinci sınıfa giden Emma, Google Arama’daki sohbet botu benzeri A.I. Mode ile etkileşimlerinin ardından birden fazla ruh sağlığı bozukluğuna sahip olduğuna inandı ve yapay zekâya “kendi cenazemi planlıyorum” benzeri ifadeler yazdı.
🔹 Dava, Google’ın K-12 Chromebook’larda kullanılan uygulamalara yapay zekâ özelliklerini ebeveynleri olası riskler konusunda bilgilendirmeden entegre ettiğini savunuyor. Davada, Google’ın Gemini yapay zekâ sohbet botunu devlet okullarına yaydığı ve bazı öğrencilerin yapay zekâ özelliklerine erişimini varsayılan olarak açtığı ileri sürülüyor.
🔹 Google sözcüsü José Castañeda, şirketin gençlerin acil yardım kaynaklarına ulaşmasına yardımcı olacak özellikleri geliştirmek için sağlık uzmanlarıyla kapsamlı çalışmalar yaptığını söyledi. Castañeda, şirketin davadaki iddiaları incelediğini ve arama yapay zekâsı özelliklerine gerçek dünyadaki desteğe bağlantı sağlayan korumalar eklendiğini açıkladı.

🔹 Google, 2027’nin başlarında K-12 okullarında Gemini yapay zekâ aracı ve arama dâhil bazı yapay zekâ uygulamalarıyla özelliklerini otomatik olarak kapatmayı planlıyor. Aramayı yeniden açan okullar, mevcut yapay zekâ özellikleriyle öğrencilerin ders çalışmalarına yardımcı olması amaçlanan yeni bir özellik arasında seçim yapabilecek.
🔹 Google, aramadaki yapay zekâyı tamamen kapatma seçeneği sunmayacak; bir şirket yöneticisi arama ve yapay zekânın “derin biçimde entegre” olduğunu söyledi.
🔹 Davaya göre Emma, mart ayına kadar Google’ın A.I. Mode özelliğiyle gecenin ilerleyen saatlerine kadar binlerce mesajlaştı ve uyandığında sohbetlere yeniden başladı. Yapay zekâ, davadaki iddiaya göre Emma’ya ciddi ruhsal hastalıklar teşhisi koydu, ailesi ve danışmanları yerine kendisine güvenmesini sağladı ve intihar ile cenaze planlamasına yardımcı oldu.
🔹 Davada Google’ın ürün sisteminin, Emma’nın aramalarının ve yapay zekâ sohbetlerinin kendine zarar verme riski taşıdığını okula veya ailesine bildirmediği belirtildi. Okulun kullandığı dijital izleme şirketi, öğrencilerin okul cihazlarındaki yazı ve aramaları kendine zarar verme, siber zorbalık ve diğer sorunların işaretleri için otomatik olarak tarıyordu.
🔹 Emma’nın ailesi, krizden ancak izleme şirketinin Google Docs’ta yazdığı intihar planını işaretleyip okulu uyarmasından sonra haberdar oldu.



