Şeffaf ve sorumlu bir Yapay Zekaya Doğru
tarafından javier albusac (Üniversite profesörü).
Bunu inkar edemeyiz, giderek dijitalleşen bir topluma doğru gidiyoruz. Yapay Zeka (AI) sosyal ve kültürel dokumuzun ayrılmaz bir parçası olacak. Bu gerçek karşısında acilen bu teknolojinin hayatımızı nasıl etkileyeceği ve kullanımı adil ve herkes için faydalı olacaksa. Sanayi Devrimi üretme ve tüketme şeklimizi değiştirdiyse ve Dijital Devrim de iletişim kurma ve bilgiye erişme şeklimizi değiştirdiyse, Yapay Zeka Devrimi tamamen yeni yollarla çalışacağımız ve kararlar alacağımız bir çağı başlatacak.
Yapay Zeka Patlaması ve Etik Sorular Yükseltme
AI'nın bu patlaması, yaklaşmak önemli etik konular vatandaşı etkileyenler. En yaygın endişelerden bazıları şunlardır: a) AI'nın eşitsizlikleri vurgulayarak belirli insan gruplarına zarar veren kararlar alma riski veya b) AI'nın kötü amaçlarla kullanılma olasılığı.
İlk endişe ile ilgili olarak, adayların seçimi için iş tavsiye sistemleri durumundan bahsetmeye değer. Bazı çalışmalar bu sorunları çözmek için yeterli önlemler alınmazsa, bu sistemlerin toplumdaki mevcut eşitsizlikleri devam ettirebileceğini veya ağırlaştırabileceğini göstermiştir. Örneğin, sistem mevcut cinsiyet, ırk veya cinsel yönelim eşitsizliklerini yansıtan verilerle eğitilmişse, nitelikli adayları yalnızca belirli gruplara ait oldukları için reddedebilir. Bu durumlarda, olası önyargı veya ayrımcılığı en aza indirmek ve tüm insan gruplarının hak ve değerlerinin dikkate alınmasını sağlamak esastır.
Yapay zekanın genişlemesi, demokratik toplumlarda elde edilmesi yüzyıllar süren hak ve garantilerin kaybına yol açamaz.
Yapay zekanın kötü niyetli kullanımıyla ilgili olarak, demokratik ülkelerdeki ana endişelerden biri olan yanlış haberlerin hızla üretilmesi ve yayılması potansiyelini belirtmekte fayda var. Verimli bir şekilde kullanılırlarsa, ciddi sosyal çatışmalar yaratabilirler ve devletlerin ve kurumlarının istikrarını aşındırabilecek şekilde kamuoyunu manipüle etmek için bir silah olabilirler. Bazı çalışmalar seçim dönemlerinde bu tür haberlerin yoğunluğunu gösterir ve sonuçları nasıl etkilediğini keşfetmek için nedensel modeller içerir. İkinci bir örnek, uygun izin ve vatandaş kontrolü olmadan gözetleme ve kitle kontrol sistemlerinin kötü niyetli kullanımıdır. Gözetim teknolojilerinin uygun bir yasal çerçeve olmadan kullanılması mahremiyete ve bireysel haklara zarar verebilir.
Bu nedenle ortaya çıkan gerek tasarım için gerekli algoritmalar içinde var olan şeffaflık ve kararları yasalara uygun olan insan ahlakı. Yani yapay bir sistem tarafından alınan kararların ardındaki sebepleri insanların anlaması ve değerlendirebilmesi önemlidir. Bu, özellikle insanların yaşamları üzerinde önemli bir etkisi olabilecek kararlar söz konusu olduğunda önemlidir. Yapay zeka tarafından alınan kararların şeffaf ve insanlar tarafından anlaşılır olmasının önemli olmasının birkaç nedeni vardır. Birincisi, şeffaflık insanlara belirlemek AI tarafından verilen kararların adil ve adil olup olmadığı. Bir kararın arkasındaki nedenleri anlamazsak, bu kararın adil olup olmadığını belirlemek çok zordur. İkincisi, şeffaflığın sağlanması için esastır. güven AI'daki insanların sayısı. Yapay zekanın nasıl çalıştığını veya neden belirli kararlar aldığını anlamazsak, ona güvenmemiz çok zor. Son olarak, şeffaflık garanti etmek için esastır. sorumluluk AI'nın. AI'nın nasıl çalıştığını anlamazsak, kararlarından kimin veya neyin sorumlu olduğunu belirlemek çok zordur.
Şeffaflığı sağlamaya yönelik önlemler
Bu hatlar boyunca birkaç önlemler için alınabilir garanti etmek o Yapay Zeka (AI) olmak daha şeffaf ve onların kararlar vardır anlaşılır insanlar tarafından:
Daha şeffaf ve sorumlu bir yapay zeka için altı önlem- Sosyal açıdan bilinçli ve açıklanabilir algoritmalar tasarlayın: Yaratıcılar, erken tasarım aşamalarından itibaren bu amacı akıllarında tutmalıdır. Önyargıların farkında olan ve kararlarının ve eylemlerinin sosyal ve etik etkilerini dikkate alan algoritmalar tasarlayın. Bu algoritmalar, nasıl çalıştıklarını ve nasıl karar verdiklerini anlamak için gerekli olabilecek ilgili bilgilerin açıklanması da dahil olmak üzere, anlaşılır ve açıklanabilir olmalıdır.
- denetlenebilir algoritmalar: Hayatımızı etkileyen algoritmalara açık erişim, paydaşların değerlendirmesini ve doğrulamasını kolaylaştıracaktır. Bu önlem, uzmanların ve diğer paydaşların potansiyel sorunları değerlendirmesine ve tespit etmesine olanak sağladığından, bu sistemlerin sahip olabileceği herhangi bir potansiyel önyargı veya ayrımcılığı en aza indirmeye yardımcı olabilir. Algoritmanın tasarımını ve kaynak kodunu Şeffaflık Yasası'na göre vatandaş bilme hakkına sahip olmalıdır. Bu şekilde, her bir kişi, yapay sistem tarafından belirli bir amaca yönelik bir araç olarak değil, kendi başına bir amaç olarak ele alındığından da emin olabilir.
- Bilinen veri kaynakları: Algoritmaların eğitildiği verilerin kaynağını ve nasıl filtrelendiklerini bilin. Çoğu durumda, programcının kendisi önyargılarını aktarmadan, gizli önyargı zaten verilerin kendisinde bulunur. Veriler şirketlere veya hükümetlere değil, vatandaşlara ait olmalıdır. İspanya bu anlamda öncü olmuştur. Dijital Haklar Beyannamesi25 temel haktan oluşan, örneğin bir kişinin konumunun belirlenmeme ve profili çıkarılmama hakkı veya bir kişinin bir algoritma tarafından ayrımcılığa uğramama hakkı.
- vatandaşlık oluşumu: Diğer birçok durumda olduğu gibi, çözüm eğitimde yatıyor. Vatandaşlar, bir yandan, algoritmaların yalnızca matematiksel oldukları için tarafsız olmadıklarının farkına varmalıdırlar. Öte yandan, yapay zeka algoritmalarının nasıl çalıştığını ve nasıl karar verdiklerini anlamak için eğitim almanız gerekiyor. Bilgisayar ve bilgisayar dili, İlk, Orta ve Bakalorya Eğitiminde zaten zorunlu dersler olmalıdır. Bulgaristan, Yunanistan, Macaristan veya Polonya gibi bazı Avrupa ülkelerinde, Bilgisayar bilimi ayrı ve zorunlu bir ders olarak öğretilir. Ancak İspanya'da, Eğitim ve Mesleki Eğitim Bakanlığı Bakalorya'dan (eski adıyla ICT) bilgisayar bilimi konularını kaldırdı. Bu yüzden, bazı gruplar Bilişim Teknolojilerinin varlığını bir kez daha pekiştirmek için hareketler başlattı. İlköğretim, Zorunlu Ortaöğretim ve Bakalorya müfredatlarında yer almaktadır.
- Kurallar ve düzenlemeler oluşturun: AI algoritmalarının sorumlu ve etik bir şekilde kullanılmasını sağlamak için kural ve düzenlemelerin oluşturulması. Bu, AI algoritmalarının tasarımcılarının ve kullanıcılarının sorumluluklarını ve yükümlülüklerini belirleyen yasa ve düzenlemelerin oluşturulmasını içerebilir. Şu anda şeffaflık, Avrupa Birliği tarafından aşağıdakiler gibi çok sayıda belgede tanınan bir etik ilkedir: Güvenilir Yapay Zeka için Etik İlkeler. Ulusal düzeyde de bu yönde adımlar atılmıştır, örneğin Algoritmaların işyerinde kullanımına ilişkin bilgi sağlama yükümlülüğüne ilişkin pratik rehber.
- İşbirliği ve diyalogu teşvik edin: Etik ve sorumlu algoritmaların kullanıldığından emin olmak için AI algoritma tasarımcıları, etik uzmanları ve politika uzmanları ile kullanıcılar arasındaki işbirliğini ve diyaloğu teşvik etmek önemlidir.
sorumlulukların dağılımı
kime düşmeli daha şeffaf ve hesap verebilir bir yapay zeka için sorumluluk?
Cevap: TÜM TOPLUM. Buna, bu sistemlerin şeffaf ve açıklanabilir olmasını ve olası herhangi bir önyargıyı veya ayrımcılığı en aza indirmelerini sağlaması gereken yapay zeka algoritmalarının tasarımcıları ve geliştiricileri dahildir. Ayrıca, yapay zeka kullanan ve bu sistemlerin sorumlu ve karşılıklı yarar sağlayan bir şekilde kullanılmasını sağlaması gereken şirket ve kuruluşları da içerir. Buna ek olarak, yapay zekanın sorumlu ve etik kullanımını sağlamak için yeterli kural ve düzenlemeleri oluşturması gereken düzenleyicileri ve hükümetleri de içerir. Son olarak, AI algoritmalarının nasıl çalıştığı ve kararlarının nasıl alındığı hakkında bilgilendirilmesi ve eğitilmesi gereken ve AI'nın toplumda kullanımı hakkında diyaloga ve karar verme sürecine kimlerin katılması gereken genel halkı içerir.
