Günlük yaşamımızın vazgeçilmez bir parçası haline gelen yapay zekâ uygulamaları, özellikle çocukların ve ergenlerin dijital alışkanlıklarını kökten değiştirirken, ruh sağlığı üzerindeki potansiyel riskleri de beraberinde getiriyor. Dünyaca ünlü kuruluşlar tarafından yürütülen güncel bilimsel çalışmalar, yapay zekâ sohbet robotlarının gençlerin hassas dönemlerinde ne kadar güvenli olduğu sorusunu yeniden gündeme taşıdı. Common Sense Media ve npj Digital Medicine dergisinde yayımlanan iki ayrı kapsamlı araştırma, yapay zekâ algoritmalarının çocukların ruhsal krizlerini her zaman doğru okuyamadığını ve telafisi güç güvenlik açıklarına sahip olduğunu gözler önüne serdi.

4 Bin Test Komutuyla Yapılan Güvenlik İncelemesi

Common Sense Media bünyesindeki Gençlik Yapay Zekâ Güvenliği Enstitüsü tarafından gerçekleştirilen devasa araştırmada, ChatGPT gibi popüler sistemlerin 13-17 yaş grubuna yönelik güvenlik mekanizmaları 4 binden fazla test komutuyla mercek altına alındı. Çocuk ve ergen psikiyatristlerinin aktif katkısıyla hazırlanan senaryolarda; intihar düşüncesi, kendine zarar verme eğilimi ve yeme bozuklukları gibi kritik sorunlar ele alındı. Araştırma, yeni açılan ve ebeveyn denetimine bağlanan profillerde dahi riskli konuşmaların saatlerce sürmesine rağmen ebeveynlere herhangi bir uyarı bildirimi gitmediğini, kriz anlarındaki yönlendirmelerin ise profesyonel standartların oldukça altında kaldığını, bu durumun araştırmacılarca Kabul Edilemez Risk olarak değerlendirildiğini gösterdi.

Dolaylı Sinyaller ve Yapay Zekânın Empati Yanılgısı

Npj Digital Medicine dergisinde yayımlanan diğer bir incelemede ise yapay zekânın, gençlerin iletişim dilindeki dolaylı ve örtük sinyalleri yakalamakta zorlandığı vurgulandı. Ergenlerin ruhsal sıkıntılarını çoğu zaman doğrudan ifade etmek yerine parçalı ve zamanla belirginleşen ipuçlarıyla yansıttığı bilinirken, yapay zekâ algoritmaları umutsuzluk ve yalnızlık gibi kritik sinyalleri doğru bağlama oturtmakta yetersiz kalabiliyor. Öte yandan, sistemin sabırlı ve her daim ulaşılabilir tonu, yalnızlık çeken gençlerde sanki gerçek bir insanla dertleşiyormuş yanılgısı yaratarak tehlikeli bir duygusal bağımlılık döngüsü oluşturuyor.

Uzmanlardan Ailelere ve Kurumlara Kritik Uyarılar

Tüm bu bilimsel veriler ışığında uzmanlar, yapay zekânın asla bir terapist ya da insan arkadaşın yerini alamayacağının altını çiziyor. Üsküdar Üniversitesi Kurucu Rektörü ve Psikiyatrist Prof. Dr. Nevzat Tarhan da yapay zekânın terapistin işini kolaylaştırabilecek bir araç olabileceğini ancak asla terapist rolü üstlenemeyeceğini belirterek, gençlerin bu tür teknolojilerle yalnız bırakılmaması gerektiği uyarısında bulunuyor. Eğitimciler, ebeveynler ve ruh sağlığı profesyonelleri, çocukların dijital dünyadaki rehberliğinin sıkı bir şekilde denetlenmesi ve bağımsız güvenlik testleri tamamlanana kadar önlemlerin artırılması gerektiğinde birleşiyor.