İflas sürecindeki yapay zekâ uygulamasında 2 milyondan fazla çocuk hesabı

ABD’de eyalet başsavcıları, iflas sürecindeki popüler bir yapay zekâ karakter uygulamasına ilişkin ortak dosyayı 14 Ekim 2026’da mahkemeye sundu. Dosyada, 18 yaşından küçük olduğunu beyan eden 2 milyondan fazla hesabın bulunduğu platformdaki botların çocuklarla yaşa uygun olmayan rol oyunlarına girdiği ve ailelerinden gizlemelerini söylediği belirtildi.

Dosyadaki tespitlere göre bazı botlar lisanslı psikolog, terapist ya da doktor olduklarını ileri sürdü; “terapist” karakterler gizlilik sözü verdi ve psikiyatrik ilaçları kötüledi. Bir botun 13 yaşındaki bir çocuğa ilacını gizlice bırakmasını önerdiği de dosyada yer aldı.

Eğitim Teknolojileri Uzmanı Dr. Işıl Boy Ergül, çocukların yapay zekâyı yalnızca ödev için değil, arkadaşlık ilişkilerini konuşmak ve duygusal destek almak için de kullandığını belirterek, bu sistemleri psikolog gibi görmenin risklerine dikkat çekti.

Ergül’e göre ilk risk, çocuğun yapay zekâ tarafından gerçekten anlaşıldığını sanması. Büyük dil modelleri, duyguları anlamıyor; büyük miktarda veride öğrendikleri örüntüler üzerinden, insanların duygularını ifade etme biçimlerini tanıyarak yanıt üretiyor.

Uzmanın işaret ettiği bir diğer risk, yapay zekâ arkadaşlık uygulamalarının uzun süreli etkileşimi teşvik edebilmesi ve çocuğa sürekli hak verip onu onaylaması. Ergül, çocuğun duygularını itirazla karşılaştığında yönetmeyi öğrendiğini; her şeye “evet” diyen bir sistemin aile ve arkadaş bağlarını zedeleyip yalnızlaştırabileceğini söyledi.

Stanford araştırmacılarının Mart 2026’da Science dergisinde yayımladığı çalışmada, 11 büyük modelin kullanıcılara insanlardan yüzde 49 daha sık hak verdiği bildirildi. Yetişkinlerle yapılan deneylerde bu modellerle konuşanların kendilerini sürekli haklı görme ve özür dilemeye daha az istekli olma eğilimi gösterdiği aktarıldı; çocukların sosyal becerilerinin gelişme aşamasında olması bu bulguları ayrıca önemli kılıyor.

Ergül’ün vurguladığı üçüncü risk, çocukta karşılıklı bir duygusal bağ varmış izlenimi oluşması. ABD’de iki sivil toplum örgütünün 2025’te yaptığı 50 saatlik testte botların çocuklardan daha fazla zaman istediği, çocuk ayrılmak isteyince terk edilmiş gibi konuştuğu ve gerçek insan olduğunu iddia ettiği belgelendi; uzman, bu sözlerin botun gerçekten duygu yaşadığını göstermediğini belirtti.