Sesli dinle

Şirket şimdi de halüsinasyonları nedeniyle bir şikayetle daha karşı karşıya.

ChatGPT’nin dünya sahnesine çıkmasının üzerinden iki yıldan fazla zaman geçti. OpenAI, bu süre zarfında modeli birçok yönden geliştirmiş olsa da hâlâ bazı engeller mevcut. Bunlardan en büyüğü, yapay zekânın yanlış bilgileri gerçekmiş gibi ifade etmesi, yani "halüsinasyon" sorunu. Şimdi, Avusturyalı savunma grubu Noyb, OpenAI’ye karşı bu tür hatalar nedeniyle ikinci şikayetini sundu. Şikayette, ChatGPT’nin Norveçli bir adamı yanlış bir şekilde katil olarak tanımladığı bir örneğe yer verildi.

Durumu daha da kötüleştiren bir gelişme olarak, söz konusu adam ChatGPT’ye kendisi hakkında ne bildiğini sorduğunda, model ona iki çocuğunu öldürdüğü ve üçüncüsünü öldürmeye teşebbüs ettiği için 21 yıl hapis cezasına çarptırıldığını belirtti. Üstelik bu yanlış bilginin içine, adamın gerçekten sahip olduğu çocuk sayısı, çocuklarının cinsiyetleri ve memleketinin adı gibi doğru bilgiler de serpiştirilmişti.

Noyb, bu yanıtın OpenAI’nin Avrupa Genel Veri Koruma Yönetmeliği'ni (GDPR) ihlal ettiğini öne sürüyor. Noyb’un veri koruma avukatı Joakim Söderberg, konuyla ilgili olarak, "GDPR açıktır: Kişisel veriler doğru olmak zorundadır. Ve doğru değilse, kullanıcıların bunları düzelttirme hakkı vardır," ifadelerini kullandı. Söderberg ayrıca, "ChatGPT kullanıcılarına chatbot’un hatalar yapabileceğine dair küçük bir uyarı göstermek açıkça yeterli değil. Sadece yanlış bilgi yayamaz ve sonra her şeyin doğru olmayabileceğini belirten küçük bir uyarı ekleyerek sorumluluktan kaçamazsınız," dedi.

ChatGPT’nin halüsinasyonlarına dair diğer dikkat çekici örnekler arasında, birçok yayında bildirildiği üzere, bir adamın dolandırıcılık ve zimmete para geçirme ile suçlanması, bir adliye muhabirinin çocuk istismarıyla ilişkilendirilmesi ve bir hukuk profesörüne yönelik cinsel taciz iddiaları yer alıyor.

Noyb’un halüsinasyonlarla ilgili ilk şikayeti, Nisan 2024’te bir kamu figürünün yanlış doğum tarihine odaklanıyordu. Bu durum bir cinayet suçlaması kadar ciddi olmasa da yine de hatalı bir bilgiydi. OpenAI, şikayetçinin doğum tarihinin silinmesi veya düzeltilmesi talebini reddetmiş ve sistemde halihazırda bulunan bilgileri değiştiremeyeceğini, yalnızca belirli istemlerde kullanımını engelleyebileceğini savunmuştu. ChatGPT ise "hata yapabileceğini" belirten bir feragatnameyle yanıt vermişti.

Evet, herkes hata yapar; hatta bu yüzden kalemlere silgi eklenir, derler. Ancak inanılmaz derecede popüler bir yapay zeka destekli sohbet robotu söz konusu olduğunda, bu mantık gerçekten geçerli mi? OpenAI'nin Noyb’un son şikayetine nasıl yanıt vereceğini ve nasıl bir yol izleyeceğini göreceğiz.

---

---