Yapay zeka sektörleri ve iş yapma şeklimizi sürekli değiştirdikçe ve şirketler içinde stratejik karar verme mekanizmalarına giderek daha çok dahil oldukça, sorumlu yapay zeka kullanımının önemi öncelik haline geldi. Her ne kadar yapay zeka teknolojilerinin pek çok avantajı olsa da, etik anlamda güvenilir olmayan yapay zeka araçlarının geliştirilmesi ve kullanılması riski şirketler için endişe yaratıyor. Bu etik kaygılar, şirketlerin yapay zeka yetkinliklerini kullanırken etik değerleriyle uyumlu olmasını sağlamak ve sokaktaki insanın yaşamına olumsuz etkilerini önlemek için “Sorumlu Yapay Zeka” anlayışının rehber ilke olarak kabul edilmesi ihtiyacının önemini arttırıyor.
Bu makale, Sorumlu Yapay Zeka'nın çeşitli yönlerine odaklanarak, özünü anlamayı, günümüzün teknoloji endüstrisindeki önemini ve sorumlu Yapay Zeka sistemlerinin ilkelerini ele almaktadır.
Sorumlu Yapay Zeka nedir?
Sorumlu Yapay Zeka, sistemleri tasarlarken, geliştirirken ve kullanıma sunarken etik riskleri en aza indirgemeyi hedefleyen bir şablondur. Amacı, yapay zeka sistemlerinin insanlığın yararına çalışmasını sağlamaktır. PwC, potansiyel yapay zeka risklerini altı kategoriye ayırıyor: performans, güvenlik, kontrol, ekonomik, sosyal ve etik.
Yapay zeka devrinde sorumlu Yapay Zeka rehberimiz olması neden bu kadar önemli?
Sorumlu Yapay Zeka çerçevesi olmayan bir şirket, yapay zekadan kaynaklanan potansiyel risklere karşı korumasız kalır. Şirketler için sorumlu Yapay Zeka rehberinin önemini anlamanın en iyi yolu, böyle bir rehberin olmamasının neden olabileceği sonuçları geçmiş vakalarda incelemektir:
Etik dışı yapay zeka destekli analiz kullanımının en bilinen ve kötü şöhretli örneklerinden biri, Facebook-Cambridge Analytica Skandalı'dır. Meta Şirketi, Aralık 2022'de, kullanıcı verilerini hatalı bir şekilde paylaşmaktan kaynaklanan bir toplu dava için 725 milyon ABD doları ödedi.
Amazon'un makine öğrenimi işe alım aracı, özgeçmiş tarama sürecini hızlandırmayı hedefliyordu ancak sonrasında kadın adaylara karşı önyargılı sonuçlar gösterdiği ortaya çıktı. Yapay zeka yazılımı, karar alma yeteneğini, insanların eğilimlerinin gölgesindeki tarihsel verilerden öğrenmişti. Amazon içinden gelen bilgilere göre, yapay zeka sistemi sadece deneme amaçlı kullanıldı ve Amazon'un insan kaynakları departmanında çalışanlar, adayları değerlendirmek için bu sistemi hiç kullanmadılar.
Yapay zekaya dair düzenlemeler açısından bir başka soru işareti uzaktan biyometrik kimlik tespit teknolojisi, veya yaygın şekilde bilinen adıyla yüz tanıma technolojisi. Avrupa Veri Koruma Kurulu (EDBP), bireylerin özel hayatlarına müdahale riskinin yüksek olması sebebiyle daha katı düzenleme yaklaşımını savunuyor. Ayrıca araştırmacılar, yüz tanıma teknolojisinin farklı demografilerde farklı hata oranları gösterdiğini vurguluyor. Araştırmaya göre algoritmaların en yüksek doğruluk oranı gösterdiği kişiler açık tenli erkeklerken, doğruluk oranı koyu tenli kadınlarda ekstra %34 kadar sapma gösterebiliyor.
Tüketiciler için yapay zeka hala yeni bir teknoloji sayılmakta ve yapay zeka başarısızlıklarıyla karşılaşıldığında, tüketiciler şirketlerin yapay zeka sistemlerini daha sorumlu bir şekilde geliştirmesini bekliyor. Bu nedenle, sorumlu yapay zeka çerçevesinin uygulanması, şirketlerin yapay zeka yolculuğunu hızlandırmak için kritik bir stratejik karar olarak ortaya çıkıyor.
Etik Yapay Zeka sistemi kurmanın temel ilkeleri nedir?
Etik Yapay Zeka sistem ilkeleri iki kategoride incelenebilir: epistemik ilkeler ve genel etik Yapay Zeka ilkeleri. PwC, bu ilkeleri aşağıdaki gibi tespit ediyor:
Epistemik İlkeler
Şeffaflık ve Açıklanabilirlik: Yapay zeka sistemleri, geçmiş veri setleri kullanılarak veri odaklı kararlar almak için eğitilir. Ancak, bu sistemlerin çıktıları, önyargılı sapma veya düşük kaliteli veri gibi faktörler nedeniyle güvenilirliğini kaybedebilir. Sorumlu yapay zeka, açıklanabilir yapay zeka teknolojilerini kullanarak karar verme süreçlerini anlaşılır ve güvenilir kılmak için önemlidir. Bu teknolojiler, bir kararın nasıl ve neden verildiğine dair metabilgi sağlar ve hangi özelliklerin kararı en çok etkilediğine işaret eder.
Sağlamlık ve Güvenilirlik: PwC'nin yaptığı araştırmaya göre, yapay zeka uygulamalarının performansı ve çıktılarının güvenilirliği ve sağlamlığına dair endişeler, şirketlerin karşılaştığı temel zorluklardan biridir. Sorumlu yapay zeka çerçevesi, şirketlere algoritma modellerindeki olası zayıflıkları belirleme ve uzun vadeli performansı izleme imkanı sunar.
Güvenlik: Yapay zeka sistemleri siber saldırılara karşı hassastır. Bu teknolojilerin iş kullanım senaryolarında yaygın olarak kullanılmaya başlamadan önce, bu önemli riskin detaylı bir şekilde araştırılması ve tanımlanması gereklidir. Yapay zeka sistemlerinin güvenliğinin ihlali, şirketlerin ciddi kayıplar yaşamasına neden olabilir.
Genel Etik Yapay Zeka İlkeleri
Hesap Verebilirlik: Yapay zeka sistemlerine müdahil olan, geliştirmeden pazarlamaya tüm paydaşların kamuya karşı sorumluluklarını anlaması, yapay zeka sistemi çıktılarının beklenmedik sonuçları karşısında hesap vermesi gerekir. Bu ilke özellikle beklenmeyen sonuçların insan hayatını tehdit edebileceği sağlık gibi sektörlerdeki yapay zeka kullanımında ekstra önem kazanıyor.
Taraflılık ve Adil Olma: Etik yapay zeka sistemi inşa etmenin karşısındaki en büyük teknik zorluklardan biri, sistemi kurmakta kullanılan veri setleri ve algoritmalardaki taraflılığı etkisizleştirmek ve adilliği öne çıkarmaktır. taraflılık ve adillik problemlerini çözmek kolay değil çünkü bu zorlukları ortadan kaldırmanın açık ve net bir yolu bulunmuyor. Bu taraflılık insan olmanın temelinde bulunan ve veri setleri ve algoritmalar insanlarca tasarlandığından ötürü bu önyargıların ortadan kaldırılması neredeyse imkansız. Ayrıca, adil yapay zeka sistemi inşa etmenin zor olmasının bir başka sebebi, matematiksel anlamda “adil” kavramının 20 farklı tanımı bulunmasıdır. Yani, yapay zeka sisteminizi bu tanımlardan biriyle tasarladığınızda, sisteminiz diğer tanımlarla uyumlu olmayacaktır.
Veri Güvenliği / Yasalara Uygunluk / Uyumluluk: Yapay zeka sistemleri devasa boyutta kişisel veri işlediği için bu sistemlerin Genel Veri Koruma Tüzüğü (GDPR) ya da Kaliforniya Tüketici Gizliliği Yasası (CCPA) gibi düzenlemelere uyum göstermesi gerekir. Gizliliğin korunması ve çeşitli sektörlere özel gizlilik düzenlemelerine uyum sağlanması hayati önem kazanıyor. Bu nedenle yapay zeka sistemleri sektör düzenlemelerine kusursuz uyum sağlamalıdır.
- Yapay Zeka Güvenliği / Faydalı Yapay Zeka: Yapay zeka sistemleri potansiyel suistimal, zararlı sonuçlar ve ekosistemleri tehlikeye atabilecek kazalara dair endişeleri önceliklendirmelidir. Herkesin iyiliğine yönelik çalışmak, yapay zeka araştırmacıları ve geliştiricilerinin ana motivasyonu olmalı. Kısacası, şirketler yapay zeka sistemlerini etik ve yararlı yapmayı hedeflemeli. Yukarıdaki tabloda görülebileceği gibi, şirketler doğru şekilde çalışmayan yapay zeka sistemlerini tespit edip doğru zamanda kapatma becerilerine güvenmiyor; yani sorumlu yapay zeka çerçevesi gibi önlem almaya yönelik çözümler, korunma çözümlerine nazaran daha çok tercih edilmesi gerekiyor.
- İnsanın Öncülüğü: Yapay zeka sistemleri insan özerkliğini göz ardı etmemeli veya özel kullanım senaryolarıyla ilgili risk faktörleri bazında zararlı etkilerde bulunmamalı. İnsan kontrolü, insan destekli sistem (human in the loop - HITL), insan geri bildirimli sistem (human on the loop - HOTL) veya insan kontrollü sistem (HIC) yaklaşımları gibi yapay zeka yönetişim metanizmalarıyla sağlanabilir.
