Bir cümlelik özet
Yapay zekâ öğrendiği veriden ne kadar iyiyse o kadar iyidir; veri yanlış veya yanlıysa sonuç da yanlış ve haksız olur.
Neden önemli?
Önceki derslerde yapay zekânın örneklerden, yani veriden öğrendiğini gördük. Bu derste basit ama çok önemli bir soruyu soruyoruz: Peki ya veri kötüyse?
Bunu şöyle düşünebilirsin. Bir aşçı en güzel tarifi bilse bile bozuk yumurta ve küflü unla iyi bir kek yapamaz. Malzeme bozuksa sonuç da bozuk olur. Yapay zekâda da durum aynıdır. Bilgisayarcılar buna İngilizce "garbage in, garbage out" der; yani "çöp girerse çöp çıkar".
Bu konu önemlidir, çünkü yapay zekâ artık gerçek kararlarda kullanılıyor: bir videonun sana önerilmesi, bir yazının çevrilmesi, hatta bazı ülkelerde işe alım veya kredi başvurusu değerlendirmesi. Veri hatalı ya da yanlı olduğunda bu kararlar insanları haksız biçimde etkileyebilir. Veriyi sorgulamayı öğrenmek, teknolojiyi daha güvenli ve adil kullanmanın ilk adımıdır.
Hatalı veri: yanlış veya eksik bilgi
Hatalı veri, içinde yanlış, eksik veya bozuk bilgi bulunan veridir. Bilgisayar bu bilgilerin doğru olup olmadığını kendiliğinden bilmez; ona ne verirsek onu öğrenir.
Hatalı veri birçok şekilde ortaya çıkabilir:
- Yanlış bilgi: Bir hava durumu tablosunda 25 derece yerine yanlışlıkla 250 yazılması.
- Eksik bilgi: Bazı öğrencilerin boy bilgisinin hiç girilmemiş olması.
- Kopya veya bozuk kayıt: Aynı ölçümün iki kez, farklı değerlerle girilmesi.
Günlük örnek: Sınıf boy ortalaması
Diyelim ki sınıfının ortalama boyunu hesaplamak istiyorsun. Beş arkadaşının boyunu santimetre olarak topluyorsun ama birini yanlışlıkla metre cinsinden yazıyorsun.
# Boylar santimetre cinsinden olmalı
boylar = [150, 148, 152, 1, 149] # "1" hatalı: 1 metre yazılmış
toplam = sum(boylar)
ortalama = toplam / len(boylar)
print("Ortalama boy:", round(ortalama, 1), "cm")Bu program 120.0 cm gibi bir ortalama yazar. Oysa gerçek ortalama 150 cm civarındadır. Tek bir hatalı sayı bütün sonucu bozdu. Bilgisayar hata yapmadı; ona verdiğimiz veri hatalıydı.
Yanlı veri: dengesiz veya haksız veri
Yanlı veri (İngilizcesi *biased data*) farklı bir sorundur. Buradaki sayılar tek tek doğru olabilir, ama veri bir tarafı fazla, başka bir tarafı eksik temsil eder. Yani veri dengeli değildir.
Yapay zekâ yalnızca gördüğü örneklerden genelleme yapar. Eğer bir grubu hiç görmediyse, o grup hakkında iyi karar veremez. Bu yüzden yanlı veri, yapay zekânın bazı insanlara karşı haksız davranmasına yol açabilir.
Günlük örnek 1: Yalnızca elmayı tanıyan model
Bir arkadaşına yalnızca kırmızı elma fotoğrafları gösterip "meyve" nedir öğretiyorsun. Sonra ona bir muz gösterip "bu meyve mi?" diye soruyorsun. Muzu hiç görmediği için "hayır" diyebilir. Yanlış değildir aslında; sadece eksik veriyle öğrenmiştir. Onun dünyasında meyve demek kırmızı ve yuvarlak demektir.
Günlük örnek 2: Sadece bir takımı bilen tahmin
Bir yapay zekânın maç sonucu tahmin ettiğini düşün. Ama ona verilen maçların çoğu tek bir takımın kazandığı maçlar. Model, "genelde bu takım kazanır" diye öğrenir ve başka takımlara karşı sürekli haksız tahmin yapar. Veri dengesiz olduğu için tahmin de yanlı olur.
Gerçek hayatta da benzer şeyler yaşanmıştır. Örneğin bazı sesli asistanlar, eğitildikleri seslerin çoğu belli bir aksanda olduğu için farklı aksanları daha zor anlamıştır. Sorun insanların konuşmasında değil, verinin dengesizliğindeydi.
Yanlı verinin neden olduğu adaletsizlik
Yanlı veri şu soruyla yakından ilgilidir: Veri herkesi adil biçimde temsil ediyor mu?
- Bir yüz tanıma sistemi çoğunlukla tek tip yüzle eğitildiyse, diğer insanları daha çok karıştırır.
- Bir çeviri aracı bir meslek için hep "erkek", başka biri için hep "kadın" derse, veriden gelen bir önyargıyı tekrarlıyor olabilir.
Burada önemli bir nokta var: Yapay zekâ kötü niyetli değildir. O sadece verideki örüntüyü kopyalar. Önyargı veride varsa, sonuçta da çıkar.
Veriyi sorgulamak
İyi haber şu: Bu sorunların çoğu, doğru soruları sorarak fark edilebilir. Bir veriyi ya da yapay zekâ sonucunu gördüğünde şu soruları sorabilirsin:
- Bu veri nereden geldi? Kim topladı, nasıl toplandı?
- Eksik veya garip değerler var mı? Çok büyük ya da çok küçük sayılar dikkat çeker mi?
- Herkes temsil ediliyor mu? Bir grup fazla, başka bir grup eksik mi?
- Sonuç mantıklı mı? Çıkan cevap gerçek dünyaya uyuyor mu?
- Önemli bir karar için tek başına yeterli mi? Yoksa bir insanın kontrol etmesi mi gerekir?
Bu sorular, bir dedektifin ipuçlarını sorgulaması gibidir. Amaç yapay zekâdan korkmak değil, ona körü körüne güvenmemektir.
Mini uygulama
Aşağıdaki basit program, bir veri listesindeki açıkça hatalı değerleri işaretleyen bir kural yazar. Model eğitmiyoruz; yalnızca mantıklı bir eşik (sınır) koyuyoruz.
# Sınıf boyları (cm). Bazıları hatalı olabilir.
boylar = [150, 148, 152, 1, 149, 300, 151]
# Makul boy aralığı için basit bir kural koyuyoruz
alt_sinir = 120
ust_sinir = 210
temiz = []
supheli = []
for boy in boylar:
if alt_sinir <= boy <= ust_sinir:
temiz.append(boy)
else:
supheli.append(boy)
print("Temiz veriler:", temiz)
print("Şüpheli veriler:", supheli)
print("Temiz ortalama:", round(sum(temiz) / len(temiz), 1), "cm")Bu program 1 ve 300 değerlerini şüpheli olarak ayırır ve ortalamayı yalnızca makul değerlerle hesaplar. Bu bir "hata yakalama kuralıdır", kesin bir doğru değildir: eşiği yanlış seçersek gerçek veriyi de yanlışlıkla atabiliriz. Bu yüzden eşiği neden 120 ve 210 seçtiğimizi düşünmek önemlidir.
Sıra sende: Listeye kendi verilerini ekle. Sonra alt ve üst sınırı değiştirip hangi değerlerin şüpheli sayıldığını gözlemle. Sınırı çok dar seçersen ne olur?
Sık yapılan hatalar
Bilgisayarı suçlamak
Yapay zekâ yanlış sonuç verdiğinde çoğu kişi "bilgisayar hata yaptı" der. Oysa çoğu zaman sorun veridedir. Veriyi soran kişi çözümü de bulur.
Verinin "tarafsız" olduğunu sanmak
Sayılar nesnel görünür ama veriyi insanlar toplar ve seçer. Bu yüzden veri, onu toplayanların eksiklerini de taşıyabilir.
Çok az veriyle genelleme yapmak
Beş örneğe bakıp "hepsi böyledir" demek risklidir. Küçük ve dengesiz veri, güçlü ama yanlış izlenimler yaratır.
Sonucu hiç kontrol etmemek
Yapay zekânın çıktısını doğru kabul edip hiç sorgulamamak. Özellikle önemli kararlarda sonucu bir insanın kontrol etmesi gerekir.
Güvenlik notu
- Kişisel bilgini paylaşma. Adını, adresini, telefonunu, okulunu veya başkalarının bilgilerini çevrimiçi yapay zekâ araçlarına ya da veri kümelerine girme. Bir kez paylaşılan veri kolayca geri alınamaz.
- Yetişkin rehberliği. Yapay zekâ araçlarını bir yetişkinle birlikte ve platformun yaş kurallarına uyarak kullan.
- Sorumluluk insandadır. Yapay zekâ bir araçtır; bilinçli değildir, sihirli değildir ve yanılabilir. Onu nasıl kullandığımızdan biz sorumluyuz.
- Önemli sonuçları doğrula. Bir yapay zekâ çıktısını ödev, sağlık ya da para gibi önemli bir konuda kullanacaksan, güvenilir bir kaynaktan veya bir yetişkinden kontrol et.
- Adaleti düşün. Bir veri veya sonuç bir grubu haksız biçimde etkiliyor mu diye sormak, teknolojiyi daha adil kullanmanın parçasıdır.
Ders özeti
- Hatalı veri yanlış, eksik veya bozuk bilgi içerir ve tek bir hata bile sonucu bozabilir.
- Yanlı (biased) veri dengesizdir; bazı grupları fazla, bazılarını eksik temsil eder.
- "Çöp girerse çöp çıkar": Yapay zekâ, öğrendiği veriden daha iyi olamaz.
- Yapay zekâ kötü niyetli değildir; verideki örüntüyü ve önyargıyı kopyalar.
- Veriyi sorgulamak (nereden geldi, kimi temsil ediyor, sonuç mantıklı mı) daha adil ve güvenli kullanımın anahtarıdır.
Kontrol soruları
- "Garbage in, garbage out" ifadesi ne anlama gelir?
- Hatalı veri ile yanlı veri arasındaki fark nedir?
- Yalnızca kırmızı elma fotoğraflarıyla eğitilen bir model neden muzu tanıyamaz?
- Bir yapay zekâ sonucu bir grubu haksız etkiliyorsa, sorun büyük olasılıkla nerededir?
- Kişisel bilgilerini çevrimiçi bir yapay zekâ aracına girmemen neden önemlidir?
Cevaplar
- Yapay zekâya verilen veri kötüyse (yanlış veya yanlı), çıkan sonucun da kötü olacağı anlamına gelir. Sonuç girdiden daha iyi olamaz.
- Hatalı veride bilgiler yanlış, eksik veya bozuktur. Yanlı veride bilgiler doğru olabilir ama veri dengesizdir; bir tarafı fazla, başka tarafı eksik temsil eder.
- Çünkü model yalnızca gördüğü örneklerden öğrenir. Muzu hiç görmediği için onu tanıyamaz; eğitim verisi eksik ve dengesizdir.
- Sorun büyük olasılıkla veridedir: veri o grubu eksik ya da dengesiz temsil etmiştir. Yapay zekâ verideki önyargıyı kopyalar.
- Çünkü bir kez paylaşılan veri geri alınamayabilir ve başkalarının eline geçebilir. Bu yüzden kişisel bilgiyi yetişkin rehberliği olmadan paylaşmamak gerekir.
Kaynak ve doğrulama notu
“Hatalı ve Yanlı Veri” dersi için doğrulama odağı Hatalı veri: yanlış veya eksik bilgi ile Yanlı veri: dengesiz veya haksız veri arasındaki ilişkinin örnekler üzerinde tutarlı çalışmasıdır. Bu modüldeki veri kümeleri eğitim amaçlı ve küçüktür; gerçek kişisel veri kullanılmamalıdır. Bir yapay zekâ sonucunun doğruluğu kadar, verinin dengesi, hataların dağılımı ve açıklanabilirliği de değerlendirilmelidir.
Sonraki ders
Görüntü Tanımaya Giriş: Bir bilgisayarın bir fotoğraftaki nesneyi nasıl "gördüğünü" ve tanıdığını, bunun neden yine veriye bağlı olduğunu inceliyoruz.