tag AI Güvenliği

Emergent Ability (Ortaya Çıkan Yetenek)

Bu sayfada AI Güvenliği (Emergent Ability (Ortaya Çıkan Yetenek)) etiketi ile işaretlenmiş 6 yapay zeka kavramını bulabilirsiniz.

Ortaya Çıkan Yetenek (Emergent Ability), büyük dil modellerinin belirli bir parametre eşiğini aşınca beklenmedik biçimde ortaya koyduğu yeteneklerdir. Küçük modellerde hiç gözlemlenmeyen bu yetenekler, model ölçeği kritik bir noktaya ulaştığında aniden ve keskin biçimde belirginleşir. Termi 2022 yılında Jason Wei ve ekibinin "Emergent Abilities of Large Language Models" makalesiyle popülerleştirdi. Makale, yüzlerce görevi analiz ederek GPT-3 ve PaLM gibi modellerde ani sıçramaların gerçekleştiğini ortaya koydu. Örneğin üç basamaklı toplama işleminde 6 milyar parametreli bir model yüzde 1 doğruluk gösterirken, 175 milyar parametreli GPT-3 yüzde 80'e fırladı. Ortaya çıkan yeteneklere tipik örnekler şunlardır: az örnekle öğrenme (few-shot learning), adım adım akıl yürütme (chain-of-thought), aritmetik muhakeme, kod üretimi ve talimat takibi. Bu yetenekler doğrusal değil, eşiksel bir davranış sergiler; bu da onları tahmin etmeyi ve güvenli biçimde yönetmeyi güçleştirir. Bilimsel tartışma sürmektedir. 2023'te Schaeffer ve ekibi bu sıçramaların kısmen ölçüm metriği seçiminden kaynaklandığını öne sürdü; doğrusal metrik kullanıldığında keskin geçişlerin yumuşadığı gözlemlendi. 2025-2026 araştırmaları ise bu yeteneklerin faz geçişi olmaktan çok rastgele tohumlar boyunca bimodal bir dağılım olduğunu gösterdi. Yapay zeka güvenliği açısından ortaya çıkan yetenekler kritik bir risk unsurudur: Daha büyük modeller eğitilirken beklenmedik yetenekler —potansiyel olarak zararlılar da dahil— kendiliğinden gelişebilir. Bu durum, güçlü izleme ve değerlendirme protokollerine olan ihtiyacı pekiştirmektedir.