Yapay Zekâ Halüsinasyonu Hükümet Raporuna Sızdı: Deloitte’a Sahte Alıntı Bedeli
Avustralya hükümetine Deloitte tarafından sunulan raporun, Sidney Üniversitesi’nden Dr. Chris Rudge tarafından incelenmesi sonucu yaklaşık 20 hatalı, var olmayan kaynak ve hayali yargıç alıntısı içerdiği ortaya çıktı. Hukuk çevreleri bu durumu “ciddi yanlış beyan” olarak nitelendirdi ve raporun kamu politikalarını etkileme potansiyeli nedeniyle kaygılar dile getirildi.
Peki Deloitte nedir?
Deloitte, dünya genelinde faaliyet gösteren ve “Büyük Dörtlü” (Big Four) olarak bilinen, şirketlere ve devlet kurumlarına denetim, vergi, risk, finans ve yönetim alanlarında geniş kapsamlı profesyonel danışmanlık hizmetleri sunan küresel bir ağdır.
Gelişmeler:
- Hata Kaynağı: Raporun hazırlanmasında Microsoft’un Azure OpenAI GPT-4o sisteminin kullanıldığı, güncellenmiş raporda ilk kez resmen beyan edildi. Bu durum, yapay zekânın yanlış bilgi üretmesi olarak bilinen “halüsinasyon” tehlikesini somutlaştırdı.
- Deloitte’un Kararı: Eleştiriler üzerine Bakanlık raporu inceledi ve hataları kabul etti. Deloitte, bunun üzerine sözleşmenin son ödeme taksidini iade etmeyi kabul etti.
- Daha Büyük Talep: Yeşiller Partisi Senatörü Barbara Pocock ise, hataların ciddiyeti nedeniyle Deloitte’un rapora ödenen toplam $440.000 Avustralya dolarının tamamını iade etmesi gerektiğini savundu ve durumu “birinci sınıf üniversite öğrencisinin bile ceza alacağı hatalar” olarak değerlendirdi.
- Şeffaflık ve Denetim: Bu olay, özellikle hukuk ve kamu politikaları gibi yüksek riskli alanlarda yapay zekâ kullanımında şeffaflık, insan denetimi, kaynak doğrulaması ve danışmanlık firmalarının hesap verebilirlik yükümlülükleri konusunda acil bir düzenleme ihtiyacını gündeme getirdi.
Raporun güncellenmiş ve hatalardan arındırılmış versiyonu yayımlanmış olsa da kriz; yapay zekâ teknolojilerinin profesyonel hizmet süreçlerine entegrasyonu konusunda sektörel tartışmaları derinleştirmiştir.
Kaynakça: