Yapay Zeka Skandalı: Milyonlarca Lira Ceza Yedirdi

Aralık 2024’te hazırlanan ve iş arayanların yükümlülüklerini yerine getirmemesi durumunda devreye giren otomatik ceza sistemini inceleyen rapor, beklenmedik bir yapay zeka skandalıyla gündeme geldi. Raporu hazırlayan Deloitte, belgeyi oluştururken yapay zekanın “halüsinasyonlarını” göz ardı etti.

“Halüsinasyon”, bir yapay zekanın gerçekte var olmayan bilgileri “uydurması” anlamına geliyor. Sydney Üniversitesi’nden Dr. Christopher Rudge’nin tespitlerine göre, raporda bulunmayan kaynaklar, uydurma alıntılar ve yanlış referanslar kullanılmıştı.

Yapay Zeka Üretimi Bölümler Ortaya Çıktı

Deloitte’un hazırladığı metnin bazı bölümlerinin, OpenAI’nin GPT-4o modeline dayalı bir yapay zeka aracıyla yazıldığı ortaya çıktı. Şirket, hataların kamuoyuna yansımasının ardından aldığı ücretin son taksidini hükümete iade etmeyi kabul etti.

Deloitte, bazı referans ve dipnotların yanlış olduğunu doğrulasa da “rapordaki bulguların ve önerilerin geçerliliğini koruduğunu” savundu. Ancak olay, yapay zekanın kurumsal raporlarda denetimsiz kullanımına ilişkin tartışmaları yeniden alevlendirdi.

“İnsan Zekası Sorunu”

Senatör Deborah O’Neill, yaşanan durumu sert sözlerle eleştirdi:

“Bu durum gülünç olmasa, acıklı olurdu. Ücretin bir kısmını iade etmeleri, hatalı iş için yarım ağızla özür dilemekten farksız.”

O’Neill, bundan sonra kamu kurumlarının danışmanlık şirketlerinden, projelerinde yapay zekanın nasıl ve hangi düzeyde kullanıldığına dair açık beyan talep etmesi gerektiğini vurguladı.