Sesli dinle

Şirket, 'Yapay Zeka İlkeleri'nde önemli bir değişikliğe gitti.

Google, 2018'de ilk kez yayımlandığından beri, AI ilkelerinde önemli değişiklikler yaptı. The Washington Post tarafından fark edilen bir değişiklikte, arama devi, silahlar veya gözetleme teknolojilerinde kullanılmak üzere AI araçları "tasarlamayacağına veya dağıtmayacağına" dair verdiği sözleri kaldırmak için belgeyi güncelledi. Önceki sürümde, "peşinden gitmeyeceğimiz uygulamalar" başlıklı bir bölüm bulunuyordu; ancak bu bölüm, güncellenmiş belgeyi artık içermiyor.

Bunun yerine, şimdi "sorumlu geliştirme ve dağıtım" başlıklı bir bölüm yer alıyor. Google, burada "kullanıcı hedefleri, sosyal sorumluluk ve uluslararası hukuk ile insan haklarının yaygın olarak kabul görmüş ilkeleriyle uyumlu olacak şekilde uygun insan denetimi, gerekli özeni gösterme ve geri bildirim mekanizmaları" uygulayacağını belirtiyor.

Bu, şirketin AI ilkelerinin önceki sürümüne kıyasla daha geniş kapsamlı bir taahhüttür. Örneğin, silahlarla ilgili olarak, şirket daha önce AI'yı "temel amacı veya uygulaması insanlara zarar vermek veya doğrudan kolaylaştırmak olan silahlar veya diğer teknolojilerde" kullanılmak üzere tasarlamayacağını ifade etmişti. AI gözetleme araçlarına ilişkin olarak ise, şirket "uluslararası kabul görmüş normları" ihlal eden teknoloji geliştirmeyeceğini belirtmişti.

Yorum istendiğinde, bir Google sözcüsü, şirketin Perşembe günü yayınladığı bir blog yazısına yönlendirdi. Bu yazıda, DeepMind CEO'su Demis Hassabis ve Google'da Araştırma, Laboratuvarlar, Teknoloji ve Toplum Kıdemli Başkan Yardımcısı James Manyika, yapay zekanın "genel amaçlı bir teknoloji" olarak ortaya çıkmasının, bir politika değişikliğini gerektirdiğini belirtiyor.

"Demokrasilerin, özgürlük, eşitlik ve insan haklarına saygı gibi temel değerler tarafından yönlendirilen AI gelişiminde liderlik etmesi gerektiğine inanıyoruz. Ve bu değerleri paylaşan şirketlerin, hükümetlerin ve kuruluşların, insanları koruyan, küresel büyümeyi teşvik eden ve ulusal güvenliği destekleyen AI yaratmak için birlikte çalışmaları gerektiğine inanıyoruz," diye yazdı ikili. "... AI İlkelerimiz tarafından yönlendirilerek, misyonumuz, bilimsel odak noktamız ve uzmanlık alanlarımızla uyumlu AI araştırmalarına ve uygulamalarına odaklanmaya devam edeceğiz ve uluslararası hukuk ile insan hakları konusunda yaygın olarak kabul görmüş ilkelerle tutarlı kalacağız – her zaman belirli çalışmaları, faydaların potansiyel risklerden önemli ölçüde daha ağır basıp basmadığını dikkatlice değerlendirerek değerlendireceğiz."

Google, AI ilkelerini ilk kez 2018'de yayınladığında, bunu Project Maven'ın ardından yapmıştı. Google yenilemeye karar vermiş olsaydı, şirketin Savunma Bakanlığı'na drone görüntülerini analiz etmek için AI yazılımı sağlayacağı tartışmalı bir hükümet sözleşmesiydi. Google çalışanlarından onlarcası sözleşmeye karşı protesto amacıyla şirketten istifa etti ve binlercesi de karşı bir dilekçe imzaladı. Google, sonunda yeni yönergelerini yayınladığında, CEO Sundar Pichai'nin çalışanlara "zaman testinden" geçmelerini umduğunu söylediği bildirildi.

Ancak 2021'de Google, Pentagon'un Ortak Savaş Bulut Yeteneği bulut sözleşmesi için bildirildiğine göre "agresif" bir teklifle askeri sözleşmeleri tekrar takip etmeye başladı. Bu yılın başında The Washington Post, Google çalışanlarının hükümetin AI araçlarını kullanımını genişletmek için İsrail Savunma Bakanlığı ile tekrar tekrar çalıştığını bildirdi.

---

---