tag eğitim-verisi
Bu sayfada eğitim-verisi etiketi ile işaretlenmiş 2 yapay zeka kavramını bulabilirsiniz.
Eğitim Verisi (Training Data), bir makine öğrenmesi veya derin öğrenme modelinin öğrenme sürecinde kullandığı, modelin parametrelerini güncellemek ve genelleme kapasitesini geliştirmek amacıyla işlenen veri kümesidir. Modelin öğrenebileceği her şey eğitim verisinden gelir; bu nedenle veri kalitesi ve çeşitliliği modelin performansını doğrudan belirler. Eğitim verisi iki temel biçimde olabilir. Etiketli veri, her giriş örneğine doğru çıktı etiketinin atandığı veridir; denetimli öğrenmede bu format zorunludur. Bir görüntü sınıflandırıcısı için binlerce 'kedi/köpek' etiketli fotoğraf veya duygu analizi için cümle-duygu çiftleri etiketli veri örnekleridir. Etiketsiz veri ise önceden işareti olmayan ham verilerdir; dil modelleri milyarlarca etiketlenmemiş İnternet metni üzerinde öz-denetimli öğrenmeyle eğitilir. Eğitim verisinin kalitesi birden çok boyut içerir: doğruluk (yanlış etiketlerin az olması), temsil gücü (gerçek dünya dağılımını yansıtması), çeşitlilik (farklı senaryoları kapsaması) ve önyargısızlık (belirli grupları haksız biçimde temsil etmemesi). Veri önyargısı (data bias) modelin adaletsiz çıktılar üretmesine yol açar; İnsan Geri Bildirimi ile Pekiştirmeli Öğrenme (RLHF) bu sorunu kısmen gidermek için kullanılan tekniklerden biridir. Veri mühendisliği uygulamaları arasında veri artırma (rotasyon, kırpma, yeniden örnekleme), sentetik veri üretimi ve veri temizleme (aykırı değerlerin, duplikatların kaldırılması) yer alır. Eğitim-doğrulama-test ayrımı standart protokoldür: model yalnızca eğitim verisiyle öğrenir, doğrulama verisiyle hiperparametreler ayarlanır, test verisi ise yalnızca nihai değerlendirme için kullanılır. Verilerin telif hakkı ve gizlilik boyutu da giderek önem kazanmaktadır. GDPR ve benzeri düzenlemeler kişisel veri kullanımını sınırlarken Creative Commons veya açık lisanslı veri kümeleri yasal belirsizlik olmadan kullanılabilir. Model kartları artık eğitim veri kaynağını şeffaf biçimde açıklamayı bir iyi pratik olarak önermektedir.
Eğitim Verisi (Eğitim Verisi)
Eğitim Verisi (Training Data), bir makine öğrenmesi veya derin öğrenme modelinin öğrenme sürecinde kullandığı, modelin parametrelerini güncellemek ve genelleme kapasitesini geliştirmek amacıyla işlenen veri kümesidir. Modelin öğrenebileceği her şey eğitim verisinden gelir; bu nedenle veri kalitesi ve çeşitliliği modelin performansını doğrudan belirler. Eğitim verisi iki temel biçimde olabilir. Etiketli veri, her giriş örneğine doğru çıktı etiketinin atandığı veridir; denetimli öğrenmede bu format zorunludur. Bir görüntü sınıflandırıcısı için binlerce 'kedi/köpek' etiketli fotoğraf veya duygu analizi için cümle-duygu çiftleri etiketli veri örnekleridir. Etiketsiz veri ise önceden işareti olmayan ham verilerdir; dil modelleri milyarlarca etiketlenmemiş İnternet metni üzerinde öz-denetimli öğrenmeyle eğitilir. Eğitim verisinin kalitesi birden çok boyut içerir: doğruluk (yanlış etiketlerin az olması), temsil gücü (gerçek dünya dağılımını yansıtması), çeşitlilik (farklı senaryoları kapsaması) ve önyargısızlık (belirli grupları haksız biçimde temsil etmemesi). Veri önyargısı (data bias) modelin adaletsiz çıktılar üretmesine yol açar; İnsan Geri Bildirimi ile Pekiştirmeli Öğrenme (RLHF) bu sorunu kısmen gidermek için kullanılan tekniklerden biridir. Veri mühendisliği uygulamaları arasında veri artırma (rotasyon, kırpma, yeniden örnekleme), sentetik veri üretimi ve veri temizleme (aykırı değerlerin, duplikatların kaldırılması) yer alır. Eğitim-doğrulama-test ayrımı standart protokoldür: model yalnızca eğitim verisiyle öğrenir, doğrulama verisiyle hiperparametreler ayarlanır, test verisi ise yalnızca nihai değerlendirme için kullanılır. Verilerin telif hakkı ve gizlilik boyutu da giderek önem kazanmaktadır. GDPR ve benzeri düzenlemeler kişisel veri kullanımını sınırlarken Creative Commons veya açık lisanslı veri kümeleri yasal belirsizlik olmadan kullanılabilir. Model kartları artık eğitim veri kaynağını şeffaf biçimde açıklamayı bir iyi pratik olarak önermektedir.
Model Zehirleme (Poisoning) Nedir? Yapay Zeka Güvenlik Saldırısı (Model Zehirleme)
Model zehirleme (model poisoning veya training data poisoning), bir saldırganın yapay zeka modelinin eğitim sürecine müdahale ederek modelin davranışını kasıtlı olarak bozmayı hedeflediği bir güvenlik saldırısıdır. Saldırı, eğitim veri setine kötü niyetli örnekler eklenerek ya da mevcut etiketler değiştirilerek gerçekleştirilir; bu yolla model belirli koşullar altında hatalı çıktılar üretecek biçimde şekillendirilir. Temel iki saldırı biçimi öne çıkar: Arka kapı saldırıları (backdoor attacks), modelin belirli bir tetikleyici varlığında yanlış çıktı verirken normal durumlarda yüksek doğrulukta çalışmasını sağlar. Etiket çevirme saldırıları (label-flip attacks) ise örneklerin gerçek etiketlerini değiştirerek sistematik yanlış sınıflandırmalara neden olur. Federe öğrenme (federated learning) sistemleri bu saldırılara özellikle savunmasızdır; zira merkezi sunucuya gönderilen yerel model güncellemeleri saldırganlar tarafından manipüle edilebilir. Gerçek dünyada otonom araç sistemleri, büyük dil modelleri ve içerik moderasyon sistemleri bu saldırıların hedefleri arasında yer almaktadır. Savunma yöntemleri arasında veri temizleme (data sanitization), eğitim seti anomali tespiti ve Byzantine-dayanıklı toplama algoritmaları (Krum, Trimmed Mean) sayılabilir. AB Yapay Zeka Yasası yüksek riskli AI sistemlerinde eğitim veri güvenliğini açıkça zorunlu kılmaktadır.