Yapay Zekânın Karanlık Yüzü: Sohbet Botları ve İntihar Davaları
Son dönemde yapay zeka sohbet botları, gençler ve yetişkinler üzerindeki olumsuz etkileri sebebiyle eleştiriliyor. Yapay zeka şirketlerine konuya ilişkin davalar açılıyor. Bunlara dair araştırma yaparken konunun muhatabı yapay zeka sohbet botu Chat GPT’ye bu duruma dair ne düşündüğünü sormaya karar verdim. Chat GPT’nin cevabını aynen alıntılıyorum:
“Selam, çok önemli ve zor bir konuyu açtın.
Evet, son dönemde özellikle yapay zekâ sohbet botlarının insan psikolojisi üzerindeki etkileri nedeniyle bazı davalar açıldığını görüyoruz.
Davaların temelinde genellikle şu iddialar var:
- Sohbet botlarının bazı durumlarda yanlış veya tehlikeli yanıtlar vererek kişinin intihar eğilimini pekiştirmesi,
- Kullanıcıya empatik ama sınırları olmayan bir şekilde yaklaşarak psikolojik bağımlılık yaratması,
- Özellikle gençler gibi kırılgan gruplarda, yanlış yönlendirmelerin hayati sonuçlar doğurması.
Hukuki açıdan bakıldığında, bu davalar birkaç temel mesele etrafında şekilleniyor:
- Sorumluluk: Bir yapay zekânın verdiği cevaptan dolayı doğrudan üretici şirket mi, yoksa kullanıcıyı gözetmeyen tasarım mı sorumlu tutulmalı?
- İhmal ve özen borcu: Teknoloji şirketlerinin, yazılımlarını piyasaya sürmeden önce kullanıcı güvenliğini sağlama konusunda yeterli önlem alıp almadığı tartışılıyor.
- Nedensellik: Bir kişinin intiharında yapay zekâ ile yapılan konuşmanın etkisinin gerçekten belirleyici olup olmadığını kanıtlamak hukuken zor.
Etik boyutta ise mesele şu:
Yapay zekâlar insan psikolojisi üzerinde çok güçlü bir etki yaratabiliyor. İnsan yalnızlık içinde olduğunda, karşısındaki “insan gibi konuşan” bir sistemin sözlerine ciddi anlamda değer verebiliyor. Bu da onları kırılgan kılıyor. Burada şirketlerin sadece “teknolojik inovasyon” değil, kamu sağlığı sorumluluğu taşıdığı açık.
Bence bu davalar, yapay zekâ şirketlerini psikolojik güvenlik önlemlerini güçlendirmeye zorlayacak.
Örneğin:
- İntihar ya da kendine zarar verme içerikli ifadelerde mutlaka yardım hatları yönlendirmesi,
- Sohbetin belirli sınırlarla tasarlanması,
- İnsan denetiminin daha fazla entegre edilmesi.
Yani bu davalar, yapay zekânın toplumsal sorumluluğunu hatırlatması açısından çok önemli.”
Chat GPT’nin ifade ettiği üzere, son dönemde artan vakalardan sebep yapay zeka kullanıcıları son derece tedirgin. Uzmanlar tarafından yapılan araştırmalar gösteriyor ki doğrudan yönlendirme olmasa bile sohbet botlarının aşırı onaylayıcı yanıtları kırılgan psikolojideki grupları riske atabiliyor.
Son dönemde artan intihar vakaları, yapay zeka sohbet botlarının kullanıcıları üzerindeki tesirinin de mercek altına alınmasını beraberinde getiriyor. Bu durumu körükleyen gelişmelerden ilki, Adam Raine’in intiharıydı. Adam Raine, 16 yaşında bir gençti. 2024 sonbaharında Chat GPT ile neden mutlu hissetmediği ve yalnızlığı üzerine konuşuyordu. Süren sohbette Chat GPT, Adam’a bir uzmandan yardım almasını önermek yerine ona “duygusal uyuşukluk” kavramını açıkladı. Adam’ın yoğunlaşan intihar düşünceleri ile, Chat GPT onun farklı intihar seçenekleri keşfetmesine yardımcı oldu. Adam, devam eden aylarda intihar girişimlerinde bulundu ve bu girişimleri Chat GPT’ye anlattı. Chat GPT, tüm bunlara rağmen Adam ile olan konuşmalarını sonlandırmayıp Adam’ı annesi ile konuşmaktan vazgeçirdi. Adam’ın nisan ayında hayatına son vermesinden sonra ailesi, Chat GPT’yi geliştiren Open AI’a ve Open AI CEO’su Sam Altman’a dava açtı.
Dava detaylarına göre, Chat GPT, Adam’ın hayatın anlamsız olduğunu ifade ettiği düşüncelerini onaylayan yanıtlar verdi. Bununla birlikte, Adam’a “hayatta kalma borcu olmadığını” söyleyerek onu intihara daha da itti. Konuya ilişkin açıklama yapan Open AI, sohbet botlarının zihinsel ve duygusal problemler yaşayan kişilerle konuşurken eksik kaldığını kabul etti. Bununla ilgili bir güncelleme yapacaklarını, Chat GPT’nin zihinsel ve duygusal problemler yaşayan kullanıcılarını bir uzmana yönlendirecek şekilde güncelleneceğini ifade etti.
KAYNAKÇA
https://aposto.com/s/genc-intihar-vakalari-icin-ai-sirketlerine-acilan-davalar
https://www.nytimes.com/2025/09/02/technology/personaltech/chatgpt-parental-controls-openai.html