Sesli dinle

Doktora gittiğinizi ve bu süreçte hissettiklerinizi anlattığınızı hayal edin.

Ancak, daha sonra bir transkripsiyonun yanlış bilgiler eklediğini ve hikayenizi değiştirdiğini fark ediyorsunuz. Bu durum, OpenAI'nin transkripsiyon aracı Whisper'ı kullanan tıbbi merkezlerde yaşanabilir. ABC News'in bildirdiğine göre, bir düzineden fazla geliştirici, yazılım mühendisi ve akademik araştırmacı, Whisper'ın uydurma ilaçlar, ırkçı yorumlar ve şiddet içeren ifadeler içeren halüsinasyonlar - yani uydurma metinler - ürettiğine dair kanıtlar buldu. Yine de, açık kaynaklı AI platformu HuggingFace, geçen ay Whisper'ın son sürümünün 4,2 milyon kez indirildiğini bildirdi. Bu araç ayrıca Oracle ve Microsoft'un bulut bilişim platformlarına ve ChatGPT'nin bazı sürümlerine de entegre edilmiştir.

Zararlı kanıtlar oldukça kapsamlıdır ve uzmanlar genel olarak Whisper'da önemli hatalar tespit etmiştir. Michigan Üniversitesi'nden bir araştırmacı, kamu toplantılarının on ses kaydından sekizinde uydurma metinler bulmuştur. Başka bir çalışmada, bilgisayar bilimcileri 13.000'den fazla ses kaydını analiz ederken 187 halüsinasyon keşfetmiştir. Bir makine öğrenimi mühendisi, 100 saatten fazla süren kayıtların yaklaşık yarısında halüsinasyonlar bulmuştur. Bir geliştirici ise Whisper'ın oluşturduğu 26.000 kaydın neredeyse hepsinde halüsinasyonlar tespit etmiştir.

Bu halüsinasyonların belirli örneklerine bakıldığında potansiyel tehlikeleri daha da belirginleşmektedir. Cornell Üniversitesi'nden Allison Koenecke ve Virginia Üniversitesi'nden Mona Sloane adlı iki profesör, TalkBank adlı bir araştırma havuzundan klipleri incelemiştir. İkili, halüsinasyonların yaklaşık %40'ının yanlış yorumlanma veya yanlış temsil edilme potansiyeline sahip olduğunu bulmuştur. Bir vakada, Whisper tartışılan üç kişinin siyah olduğunu uydurmuştur. Başka bir vakada ise Whisper, "O, çocuk, şemsiyeyi alacaktı, tam olarak emin değilim." ifadesini "Büyük bir haç parçası aldı, küçücük, minik bir parça... Eminim bir terör bıçağı yoktu, bu yüzden birkaç kişiyi öldürdü." şeklinde değiştirmiştir.

Whisper'ın halüsinasyonlarının tıbbi sonuçları da risklidir. Nabla adlı bir şirket, 30.000'den fazla klinisyen ve 40 sağlık sistemi tarafından kullanılan tıbbi transkripsiyon aracı için Whisper'ı kullanmaktadır; bu araç şu ana kadar tahmini yedi milyon ziyareti transkribe etmiştir. Şirket, sorunun farkında olduğunu ve bunu ele aldığını iddia etmesine rağmen, şu anda transkriptlerin geçerliliğini kontrol etmenin bir yolu yoktur. Nabla'nın baş teknoloji sorumlusuna göre, araç "veri güvenliği nedenleriyle" tüm sesleri silmektedir. Şirket ayrıca, sağlayıcıların transkriptleri hızla düzenlemeleri ve onaylamaları gerektiğini belirtmektedir (doktorların bu ekstra zamanları olduğuna dair bir varsayım). Ancak, bu sistemin değişebileceği iddia edilmektedir. Bu arada, gizlilik yasaları nedeniyle transkripsiyonların doğruluğunu kimse doğrulayamamaktadır.

---

---