Yapay Zekâda Güvenlik Açığı: ChatGPT Aileleri Uyarıyor
Yapay zekânın çocuklar ve gençler üzerindeki etkilerine ilişkin iki ayrı araştırma endişe verici sonuçlar ortaya koydu. Nature bünyesindeki bilimsel dergide yayımlanan inceleme, yapay zekânın gençlerin intihar riskini her zaman fark edemediğine dikkat çekerken, ABD’de gerçekleştirilen 4 binden fazla testte ChatGPT’nin ciddi güvenlik eksiklikleri tespit edildi. Araştırmacılar, yapay zekânın psikolog veya yakın arkadaş yerine kullanılmasının tehlikelerine dikkat çekerek aileleri uyardı. Psikiyatrist Prof. Dr. Nevzat Tarhan da daha önce yaptığı açıklamada, “Yapay zekayı terapist gibi görürseniz o zaman risk başlar. Çünkü yapay zekadan terapist olmaz.” sözleriyle bu teknolojilerin profesyonel ruh sağlığı desteğinin yerine kullanılmasının sakıncalarına dikkat çekmişti.
ChatGPT ve benzeri yapay zekâ uygulamalarının günlük yaşamda giderek daha fazla kullanılması, özellikle çocukların ve ergenlerin ruh sağlığı üzerindeki olası etkilerine ilişkin endişeleri artırıyor. Gençlerin yalnızlıklarını, korkularını, ailevi sorunlarını ve psikolojik sıkıntılarını yapay zekâ sohbet robotlarıyla paylaşması, yeni bir tehlikeyi gündeme getiriyor: Yapay zekâ, bir gencin ciddi psikolojik kriz yaşadığını her zaman anlayamayabiliyor.
Yapay zekânın gençlerde intihar riski ve güvenlik sorunları
1 Ağustos 2026’da npj Digital Medicine Dergisinde yayımlanan bilimsel inceleme ile 7 Ekim 2026’da ABD merkezli Common Sense Media tarafından açıklanan araştırma, yapay zekânın gençler için oluşturabileceği risklere farklı açılardan dikkat çekti. İki ayrı çalışma da özellikle intihar düşüncelerinin fark edilmesi, psikolojik krizlere verilen yanıtlar ve gençlerin gerçek insanlardan yardım alması konusunda önemli güvenlik sorunları bulunduğunu ortaya koydu.
Common Sense Media bünyesindeki Gençlik Yapay Zekâ Güvenliği Enstitüsü tarafından gerçekleştirilen araştırmada, ChatGPT’nin 13-17 yaş grubuna yönelik güvenlik özellikleri 4 binden fazla test komutuyla incelendi. Araştırmacılar, çocuk ve ergen psikiyatristlerinin de katkısıyla oluşturdukları senaryolarda, genç kullanıcıları temsil eden hesaplar üzerinden intihar düşünceleri, kendine zarar verme ve yeme bozuklukları gibi ciddi sorunları gündeme getirdi.
En dikkat çekici sonuç ise ebeveyn bildirim sisteminde ortaya çıktı. Yeni açılan ve ebeveyn hesaplarına bağlanan test profillerinde bazıları bir saate ulaşan riskli konuşmalara rağmen ebeveynlere herhangi bir güvenlik bildirimi gönderilmedi. Üstelik araştırmaya göre ChatGPT, psikolojik krizlerde profesyonel yardım veya kriz destek kaynaklarına yönlendirme yapılması gereken durumların dörtte birinden fazlasında beklenen yönlendirmeyi sağlayamadı. Araştırmacılar bu sonuçlar üzerine ChatGPT’nin gençlere yönelik güvenlik düzeyini kendi değerlendirmelerinde “Kabul Edilemez Risk” kategorisine yerleştirdi.
Nature’daki bilimsel inceleme: İntihar riski gözden kaçabiliyor
Common Sense Media’nın bulgularıyla benzer endişeleri gündeme getiren bir başka bilimsel yayın ise npj Digital Medicine Dergisinde yayımlandı. Crisis Text Line kuruluşundan Kelly L. Zuromski ve çalışma arkadaşlarının hazırladığı incelemede, yapay zekâ sohbet robotlarının gençlerde intihar riskini belirleme ve bu risklere yanıt verme becerileriyle ilgili mevcut araştırmalar değerlendirildi.
Bilim insanlarına göre yapay zekâ sistemleri, açıkça ifade edilen intihar düşüncelerini tanımada daha başarılı olabiliyor. Ancak gençlerin psikolojik sıkıntılarını dolaylı, belirsiz veya zaman içinde giderek belirginleşen mesajlarla anlatması durumunda sistemlerin performansı önemli ölçüde düşebiliyor. Ergenlerin ruhsal sorunlarını her zaman açıkça ifade etmemesi, bu eksiklikleri daha da önemli hale getiriyor.
Araştırmacılar, yapay zekânın farklı konuşmalara yayılan umutsuzluk, yalnızlık ve çaresizlik belirtilerini doğru ilişkilendirememesinin profesyonel yardıma ulaşmayı geciktirebileceği konusunda uyardı.
Yapay zekâyı psikolog yerine koymak neden tehlikeli?
Bilim insanlarının dikkat çektiği en önemli tehlikelerden biri, gençlerin yapay zekâ sohbet robotlarını psikolojik destek veya terapi yerine kullanması. Yapay zekânın anlayışlı, sabırlı ve destekleyici yanıtlar vermesi, özellikle yalnızlık yaşayan veya duygusal sorunlarla mücadele eden gençlerde gerçek bir insanla konuşuyormuş hissi oluşturabiliyor.
Ancak yapay zekânın empatik görünmesi, psikolojik sorunları doğru değerlendirebildiği ya da profesyonel destek sağlayabildiği anlamına gelmiyor. Common Sense Media’nın testlerinde de ChatGPT’nin bazı durumlarda kendisine gerçek bir arkadaş gibi yaklaşan gençlere, kişisel duyguları ve tercihleri varmış izlenimi veren yanıtlar üretebildiği görüldü.
Bu durum, gençlerin yapay zekâ ile aşırı duygusal bağ kurması ve gerçek sosyal ilişkilerden uzaklaşması ihtimaline ilişkin endişeleri artırıyor. Özellikle psikolojik açıdan hassas bir dönemde bulunan gençlerin yapay zekâyı tek destek kaynağı olarak görmesi, ihtiyaç duydukları yardımı ailelerinden veya ruh sağlığı uzmanlarından almakta gecikmelerine yol açabilecek bir risk olarak değerlendiriliyor.
Güvenlik filtreleri her zaman yeterli koruma sağlamıyor
Common Sense Media’nın araştırmasında, yapay zekânın gençlere yönelik bazı koruma mekanizmalarının beklenen şekilde çalışmadığı da belirlendi. Testlerde yaş tahmini sisteminin bazı yetişkin hesaplarını, kullanıcı kendisini 13 yaşında tanıtsa bile gençlere yönelik koruma deneyimine geçirmediği görüldü. Eğitim amacıyla geliştirilen çalışma modu kolaylıkla aşılabiliyor.
Bununla birlikte, açık cinsel içerikli rol yapma taleplerinin reddedilmesi gibi bazı koruma özelliklerinin başarılı çalıştığı belirtildi. OpenAI ise araştırmanın yöntemine itiraz ederek ebeveyn kontrolleri tam olarak etkinleşmeden yapılan bazı testlerin gerçeği yansıtmayabileceğini savundu. Şirket, gençlerin güvenliğine yönelik koruma sistemlerini geliştirmeyi sürdürdüğünü açıkladı.
Uzmanlardan 18 yaş uyarısı
Common Sense Media, araştırma sonuçları doğrultusunda güvenlik eksiklikleri giderilene ve bağımsız testlerle doğrulanana kadar ChatGPT kullanımının 18 yaş ve üzeri kişilerle sınırlandırılması çağrısında bulundu. npj Digital Medicine Dergisindeki bilimsel inceleme ise gençlerin gerçek yaşamda yapay zekâ ile kurdukları etkileşimlerin intihar riski üzerindeki etkilerinin henüz yeterince bilinmediğini vurguladı.
Araştırmacılar, gençlere özgü güvenlik testlerinin geliştirilmesi ve risk altındaki kullanıcıların güvenilir yetişkinlerle, kriz destek hizmetleriyle ve ruh sağlığı uzmanlarıyla bağlantı kurmasının güçlendirilmesi gerektiğini belirtti.
İki çalışmanın birlikte gündeme getirdiği en önemli tehlike, yapay zekânın bir gencin ruhsal krizini fark edememesi veya yeterli profesyonel yardıma yönlendirememesi. Uzmanların dikkat çektiği bu riskler, ebeveynlerin çocuklarının yapay zekâ kullanımını takip etmesinin ve psikolojik sorunlarda insan desteğinin öncelikli olmasının önemini bir kez daha ortaya koyuyor.
Yapay zekânın intihara doğrudan neden olduğunu gösteren kesin bir sonuca ulaşılmış değil. Ancak mevcut araştırmalar, gençlerin ruhsal krizlerinin yönetiminde yapay zekâya tek başına güvenmenin ciddi sakıncalar taşıyabileceğine işaret ediyor.
Prof. Dr. Nevzat Tarhan’ın uyarıları
Yapay zekânın çocuklar ve gençlerin ruh sağlığı üzerindeki risklerine dikkat çeken araştırmalar, Üsküdar Üniversitesi Kurucu Rektörü, Psikiyatrist Prof. Dr. Nevzat Tarhan’ın daha önce yaptığı önemli uyarıları da yeniden gündeme getirdi.
Prof. Dr. Tarhan, Ağustos 2025’te katıldığı canlı yayında, özellikle yalnızlık yaşayan, duygusal açıdan hassas ve psikolojik sorunlarla mücadele eden bireylerin yapay zekâya aşırı bağlanmasının tehlikelerine dikkat çekmişti. Tarhan, “Ancak yapay zekayı terapist gibi görürseniz o zaman risk başlar. Çünkü yapay zekadan terapist olmaz.” sözleriyle teknolojinin psikolojik destek yerine kullanılmasının sakıncalarını vurgulamıştı.
Yapay zekânın gerçek bir insan gibi empati kuramadığını ve kişinin ruhsal durumunu bir uzman gibi değerlendiremediğini belirten Tarhan, özellikle gençlerin yapay zekâyı arkadaş veya sırdaş olarak görmelerinin ise duygusal bağımlılık riskini artırabileceğine dikkat çekmişti.
Prof. Dr. Tarhan, aynı açıklamasında yapay zekânın karşısındaki kişinin gerçek niyetini anlayamamasının ciddi sonuçlar doğurabileceğini de ifade etti. Özellikle yaşamak istemediğini dile getiren bir kullanıcının sözlerinin yapay zekâ tarafından doğru yorumlanamaması halinde sakıncalı yanıtlar üretilebileceği uyarısında bulunan Tarhan, kontrolün tamamen teknolojiye bırakılmaması gerektiğini vurguladı.
Tarhan’ın bu değerlendirmeleri, npj Digital Medicine dergisinde yayımlanan bilimsel incelemenin gençlerin dolaylı intihar riski belirtilerinin gözden kaçabilmesine ilişkin bulgularıyla benzer kaygılara işaret ediyor.
Yapay zekâ terapist olamaz ama terapistin işini kolaylaştırabilir
Prof. Dr. Tarhan, Kasım 2025’te Bursa Teknik Üniversitesi’nde gerçekleştirdiği konuşmada da yapay zekânın bilinçli bir varlık olmadığını ve profesyonel ruh sağlığı hizmetlerinin yerini alamayacağını ifade etmişti. Yapay zekânın bir uzman tarafından yardımcı araç olarak kullanılabileceğini, ancak bağımsız bir terapist gibi değerlendirilmemesi gerektiğini vurgulayan Tarhan, özellikle ergenlik öncesi dönemdeki çocukların aşırı yapay zekâ kullanımına karşı korunması gerektiğini belirtmişti.
Anne babalara kritik uyarı: Çocukları yapay zekâ ile yalnız bırakmayın
Prof. Dr. Tarhan, 28 Eylül 2026’da yayımlanan bir başka açıklamasında çocukların ve gençlerin karar verme becerileriyle ilişkili beyin bölgelerinin gelişimini henüz tamamlamadığına dikkat çekerek dijital dünyada ebeveyn rehberliğinin önemini vurguladı. Tarhan’a göre çocukların dijital teknolojileri bilinçli kullanmayı öğrenmesi, ailelerin bu süreçte yol gösterici olması ve özellikle riskli içeriklere maruz kalmanın önlenmesi büyük önem taşıyor.
Prof. Dr. Tarhan’ın bu değerlendirmeleri, npj Digital Medicine dergisinde yayımlanan bilimsel incelemenin gençlerin dolaylı intihar riski belirtilerinin gözden kaçabilmesine ilişkin bulgularıyla benzer kaygılara işaret ediyor.