tag eğitim-verisi
Bu sayfada eğitim-verisi etiketi ile işaretlenmiş 2 yapay zeka kavramını bulabilirsiniz.
Eğitim verisi (training data), bir makine öğrenmesi modelinin öğrenme sürecinde kullandığı, girdi-çıktı çiftlerinden ya da ham örneklerden oluşan veri kümesidir. Model, bu veri üzerinden parametrelerini ayarlar ve gerçek dünya dağılımına ilişkin örüntüleri çıkarır. Bir modelin kalitesi büyük ölçüde eğitim verisinin kalitesine, miktarına ve çeşitliliğine bağlıdır; 'çöp girer, çöp çıkar' ilkesi makine öğrenmesinde her zaman geçerlidir. Eğitim verisi türleri birkaç eksen boyunca sınıflandırılır. Etiketli veri (labeled data), insan etiketleyicilerin her örneğe doğru çıktıyı atadığı; denetimli öğrenme görevlerinin temelidir. Etiketsiz veri (unlabeled data), ham metin, görüntü veya ses olup öz-denetimli öğrenme ile büyük ön-eğitim modellerinde (GPT, BERT vb.) kullanılır. Sentetik veri, gerçek veriyi taklit eden yapay örneklerdir; nadir senaryoları temsil etmek ve gizlilik kısıtlamalarını aşmak için idealdir. Yarı otomatik etiketleme ise mevcut model çıktıları veya kural tabanlı sistemlerle üretilen etiketlerle insan emeği maliyetini önemli ölçüde düşürür ve büyük ölçekli veri kümelerinin hızla hazırlanmasını mümkün kılar. Veri hazırlama aşamaları projenin başarısını doğrudan etkiler: temizleme (duplikat, aykırı değer ve hatalı etiket kaldırma), veri artırma (görüntüde kırpma/döndürme, metinde parafraz), eğitim/doğrulama/test bölümlemesi ve dengesiz sınıfların yeniden örneklenmesi (SMOTE, undersampling). Modern ML projelerinde mühendislik zamanının büyük bölümü bu veri mühendisliği adımlarına ayrılmaktadır. Veri önyargısı (data bias) kritik bir risktir: eğitim seti belirli grupları yeterince temsil etmiyorsa model bu eksikliği öğrenir ve gerçek dünya dağıtımında adaletsiz çıktılar üretir. Transfer öğrenme ve az örnekli öğrenme teknikleri gereken etiketli veri miktarını önemli ölçüde azaltır. Veri kalitesini izlemek için DVC ve MLflow gibi sürümleme araçları ile Label Studio ve Scale AI gibi etiketleme platformları yaygın biçimde kullanılmaktadır. Veri kalitesi, model performansının belirleyici bir bileşeni olmaya devam etmektedir.
Eğitim Verisi (Eğitim Verisi)
Eğitim verisi (training data), bir makine öğrenmesi modelinin öğrenme sürecinde kullandığı, girdi-çıktı çiftlerinden ya da ham örneklerden oluşan veri kümesidir. Model, bu veri üzerinden parametrelerini ayarlar ve gerçek dünya dağılımına ilişkin örüntüleri çıkarır. Bir modelin kalitesi büyük ölçüde eğitim verisinin kalitesine, miktarına ve çeşitliliğine bağlıdır; 'çöp girer, çöp çıkar' ilkesi makine öğrenmesinde her zaman geçerlidir. Eğitim verisi türleri birkaç eksen boyunca sınıflandırılır. Etiketli veri (labeled data), insan etiketleyicilerin her örneğe doğru çıktıyı atadığı; denetimli öğrenme görevlerinin temelidir. Etiketsiz veri (unlabeled data), ham metin, görüntü veya ses olup öz-denetimli öğrenme ile büyük ön-eğitim modellerinde (GPT, BERT vb.) kullanılır. Sentetik veri, gerçek veriyi taklit eden yapay örneklerdir; nadir senaryoları temsil etmek ve gizlilik kısıtlamalarını aşmak için idealdir. Yarı otomatik etiketleme ise mevcut model çıktıları veya kural tabanlı sistemlerle üretilen etiketlerle insan emeği maliyetini önemli ölçüde düşürür ve büyük ölçekli veri kümelerinin hızla hazırlanmasını mümkün kılar. Veri hazırlama aşamaları projenin başarısını doğrudan etkiler: temizleme (duplikat, aykırı değer ve hatalı etiket kaldırma), veri artırma (görüntüde kırpma/döndürme, metinde parafraz), eğitim/doğrulama/test bölümlemesi ve dengesiz sınıfların yeniden örneklenmesi (SMOTE, undersampling). Modern ML projelerinde mühendislik zamanının büyük bölümü bu veri mühendisliği adımlarına ayrılmaktadır. Veri önyargısı (data bias) kritik bir risktir: eğitim seti belirli grupları yeterince temsil etmiyorsa model bu eksikliği öğrenir ve gerçek dünya dağıtımında adaletsiz çıktılar üretir. Transfer öğrenme ve az örnekli öğrenme teknikleri gereken etiketli veri miktarını önemli ölçüde azaltır. Veri kalitesini izlemek için DVC ve MLflow gibi sürümleme araçları ile Label Studio ve Scale AI gibi etiketleme platformları yaygın biçimde kullanılmaktadır. Veri kalitesi, model performansının belirleyici bir bileşeni olmaya devam etmektedir.
Model Zehirleme (Poisoning) (Model Zehirleme)
Model zehirleme (model poisoning veya data poisoning), bir saldırganın yapay zeka modelinin eğitim sürecini manipüle ederek modelin davranışını kasıtlı olarak bozmayı hedeflediği bir siber saldırı türüdür. Saldırgan, eğitim verisine kötü niyetli örnekler enjekte eder veya model ağırlıklarını doğrudan değiştirerek hedeflenen hataları yerleştirir. Başlıca saldırı türleri üç kategoride incelenir. Label-flip saldırısında gerçek etiketler yanlış etiketlerle değiştirilir; örneğin zararlı yazılım örneklerine 'temiz' etiketi atanır. Backdoor (arka kapı) saldırısında model, belirli bir tetikleyici deseni (trigger pattern) içeren girdileri her zaman belirli bir çıktıya yönlendirecek biçimde eğitilir; diğer girdilerde normal davranır. Clean-label saldırısında etiketler doğru kalır; ancak örnekler algılanamaz pertürbasyonlarla bozularak modelin karar sınırını kaydırır. Gerçek dünya örnekleri arasında ImageNet gibi büyük veri kümelerinin web'den otomatik toplanması sırasında zehirli veri karışması, federated learning sistemlerinde kötü niyetli istemci güncellemeleri ve dil modellerinde bias enjeksiyonu sayılabilir. Federated learning özellikle savunmasızdır: merkezi koordinatör bireysel istemcilerin gönderdiği gradyanların güvenilirliğini doğrulayamaz. Savunma yöntemleri arasında veri sanitizasyonu (eğitim verisi filtreleme), STRIP ve Activation Clustering gibi backdoor tespit teknikleri, diferansiyel gizlilik (differential privacy) ile eğitim ve Byzantine-robust toplama yöntemleri (Krum, Median toplama) bulunur. Model sertleştirme ve düzenli yeniden eğitim de savunma repertuvarının parçasıdır. NIST AI Risk Management Framework, model poisoning'i kritik AI güvenlik tehditleri arasında sınıflandırmaktadır. Model zehirleme saldırıları tespit etmek son derece güçtür çünkü zehirli model, testlerde normal performans gösterir; tetikleyici olmadan backdoor aktive olmaz. Bu gizlilik, özellikle kritik altyapı (otonom araçlar, tıbbi tanı) ve güvenlik sistemlerinde (kötü amaçlı yazılım tespiti, sahte içerik filtreleme) model bütünlüğünü sağlamayı zorunlu kılar. Tedarik zinciri saldırıları (supply chain attacks) bağlamında, açık kaynak model ağırlıklarının zehirlenmiş hâlde dağıtılması da giderek artan bir risk olarak değerlendirilmektedir. Araştırmacılar model fingerprinting ve watermarking tekniklerini bu tehdide karşı savunma olarak geliştirmektedir; kriptografik kanıt zinciriyle model provenance'ı doğrulayan yaklaşımlar endüstri standardı olmaya aday gösterilmektedir.