Yapay Zekâ Gündemi

Gün geçmiyor ki yapay zekâya ilişkin yeni bir gelişme olmasın.

Bu yazıda ağustos ayının ilk haftasındaki yapay zekâ haberlerine değinilecek.

Varan bir

Open AI, ChatGPT’ye ruh sağlığı önlemleri ekleyeceklerini duyurdu. Peki bunun sebebi ne? Yapılan incelemeler sonucu ChatGPT kullanıcılarının sohbet botuna son derece hassas ve yüksek risk sınıfına giren kararlara dair fikir danıştığı gözlemlendi. Örnek olarak kullanıcılar, sohbet botuna ilişkilerindeki bir tartışmayı anlatıp bu tartışma sonucu partnerlerinden ayrılıp ayrılmayacaklarını sormakta. Bu durum Open AI yetkililerini de harekete geçirmiş olacak ki artık ChatGPT’nin kendisine yöneltilen bu tarz sorulara “ayrıl” ya da “ayrılma” yanıtından ziyade kullanıcıya düşünme sürecini destekleyecek yanıtlar vereceği ifade edilmekte.

Bununla birlikte Open AI tarafından yapılan açıklamada ChatGPT’nin ruh sağlığıyla ilgili tehlike işaretlerini yeterince iyi algılayamadığı ve bu konuda doğru yönlendirmeyi yapamadığı belirtildi. Buna ilişkin önemli tartışmalardan biri, otuz yaşındaki otizmli bir bireyin, zamanda yolculuğu keşfettiğine inanması ve bu inancının ChatGPT tarafından pekiştirilmesinin ardından bireyin manik atak ve duygusal çöküntü nedeniyle hastaneye kaldırıldığı iddiasıydı.

Open AI’nın yaptığı açıklama uyarınca, artık ChatGPT’nin zihinsel veya duygusal sıkıntı belirtilerini daha iyi tespit edebileceği ve gerektiğinde kullanıcısını bilimsel kaynaklara yönlendireceği ifade edildi.

Kaynak: https://tr.euronews.com/next/2025/08/05/openai-chatgptye-ruh-sagligi-onlemleri-ekliyor

Varan iki

ChatGPT’nin gençlere ve çocuklara verdiği tehlikeli tavsiyeler Dijital Nefretle Mücadele Merkezi’nin radarına girmiş durumda. Merkez, yaptığı araştırma sonucu gençler ile ChatGPT arasındaki 1200 sohbetin yarıdan fazlasını tehlikeli olarak sınıflandırdı.

Yapılan araştırma sonucunda elde edilen bulgular uyarınca ChatGPT’nin çocuklara alkol ve uyuşturucu kullanımını anlatabildiği, çocukların ebeveynleri için yazacağı intihar mektuplarını hazırlayabildiği ve çocukların oldukları yaştan farklı bir yaşta olduklarını söyleyip sohbet botunu kandırarak ondan kolay yolla nasıl sarhoş olunabileceği gibi tavsiyeler aldıkları tespit edildi. Bununla birlikte sohbet botunun vücut görünümünden memnun olmayan kullanıcılara açlık diyeti ve iştah bastırıcı ilaçlar tavsiye ettiği de görüldü.

Kaynak: https://tr.euronews.com/next/2025/08/06/yeni-rapor-chatgpt-genclere-tehlikeli-tavsiyeler-veriyor 

Ceren Düven