Knowledge Editing (Bilgi Düzenleme)

#dil-modeli #fine-tuning #gizlilik #arastirma #bilgi-tabanı

Büyük dil modellerinde depolanmış belirli bilgi parçalarını tam yeniden eğitime gerek kalmaksızın hedefli olarak güncelleyen, ekleyen veya silen teknikler bütünü.

Bilgi Düzenleme (Knowledge Editing), büyük dil modellerinin ağırlıklarında depolanan belirli olgusal bilgi parçalarını, modeli baştan eğitmeden ya da tam ince ayar yapmadan hedefli biçimde güncelleme, ekleme veya silme tekniklerinin genel adıdır. Literatürde model düzenleme (model editing) adıyla da anılır. Amaç, modelin örneğin 'Eyfel Kulesi Roma'dadır' gibi yanlış ya da güncelliğini yitirmiş bir ilişki üretmesi durumunda yalnızca bu ilişkiden sorumlu parametrelere müdahale ederek doğru yanıtı öğretmek ve modelin geri kalan davranışını olabildiğince korumaktır. Alan, 2022 yılında Meng ve arkadaşlarının ROME (Rank-One Model Editing) çalışmasıyla geniş ilgi gördü. ROME, nedensel izleme (causal tracing) adı verilen bir analizle olgusal ilişkilerin GPT tarzı modellerde ağırlıklı olarak orta katmanlardaki MLP bloklarında saklandığını gösterdi ve tek bir katmanın ağırlık matrisine rank-1 güncelleme uygulayarak bilgiyi değiştirdi. Aynı ekibin MEMIT (Mass-Editing Memory in a Transformer) yöntemi bu fikri birden fazla katmana yayarak binlerce olgunun tek seferde düzenlenmesine olanak verdi. Bunların yanında MEND gibi hiper-ağ tabanlı yaklaşımlar, SERAC ve GRACE gibi harici bellek kullanan yöntemler ve bağlam içi düzenleme (in-context editing) gibi ağırlıklara hiç dokunmayan seçenekler de geliştirildi. Bilgi düzenleme, iki yaygın alternatifle karşılaştırılarak daha iyi anlaşılır. RAG bilgiyi harici bir kaynaktan çağırır ve modeli değiştirmez; tam ince ayar ise tüm parametreleri günceller, pahalıdır ve yıkıcı unutma (catastrophic forgetting) riski taşır. Bilgi düzenleme bu ikisinin arasında yer alır: değişiklik kalıcıdır ancak müdahale küçük ve yereldir. Yöntemler genellikle üç ölçütle değerlendirilir: güvenilirlik (düzenlenen olgu doğru üretiliyor mu), genelleme (aynı olgunun farklı ifadeleri de doğru yanıtlanıyor mu) ve yerellik (ilgisiz sorulardaki davranış bozulmuyor mu). CounterFact, ZsRE ve çok adımlı çıkarımı ölçen MQuAKE bu amaçla kullanılan başlıca kıyaslama kümeleridir. Pratik kullanım alanları arasında güncelliğini yitirmiş bilgilerin yenilenmesi, yanlış bilgilerin düzeltilmesi ve KVKK ya da GDPR kapsamındaki silme taleplerine yanıt verilmesi sayılır. Alan hâlâ olgunlaşmaktadır; çok sayıda ardışık düzenleme, çok adımlı çıkarım ve bir düzenlemenin dolaylı sonuçlarının (ripple effects) modele tutarlı biçimde yansıtılması açık araştırma sorunları olmaya devam etmektedir.

edit_note Bilgi Düzenleme Nedir?

Bilgi düzenleme (knowledge editing ya da model editing), büyük dil modellerinde depolanmış belirli bir olgunun tam yeniden eğitim gerekmeksizin hedefli biçimde güncellenmesini, eklenmesini veya silinmesini mümkün kılan tekniklerin bütünüdür. Model belleğinden belirli bir yanlış olguyu çıkarıp yerine doğrusunu yerleştirmek olarak düşünülebilir. Bu yaklaşım, bir modelin güncelliğini yitirmiş bilgi ürettiği ya da belirli bir olguyu tutarlı biçimde yanlış hatırladığı durumlarda masraflı tam fine-tuning yerine küçük ve yerel bir müdahale imkânı sunar. ROME ve MEMIT gibi yöntemler, hangi transformer katmanının ilgili bilgiyi depoladığını tespit edip yalnızca o bölgedeki ağırlıkları değiştirerek geri kalanı korumayı amaçlar. GRACE ve SERAC gibi yöntemler ise ağırlıklara dokunmadan harici bir bellek üzerinden düzenlemeyi uygular. Her iki ailede de temel zorluk, hedef olguyu değiştirirken modelin diğer bilgilerini ve genel yeteneklerini bozmamaktır.

construction Temel Yöntemler

  • check_circle ROME (Rank-One Model Editing): Nedensel izleme (causal tracing) analiziyle olgusal bilginin ağırlıklı olarak hangi orta katman MLP bloğunda depolandığını tespit eder; ardından o katmanın ağırlık matrisine rank-1 güncelleme uygular. Tek olgu düzenlemelerinde yüksek başarı sunar, ancak çok sayıda ardışık düzenlemede model bozulmaya başlar.
  • check_circle MEMIT (Mass-Editing Memory in a Transformer): ROME'u toplu düzenlemeye genişletir; güncellemeyi birden fazla kritik MLP katmanına dağıtarak binlerce olgunun tek geçişte düzenlenmesini mümkün kılar. Büyük ölçekli ağırlık tabanlı bilgi düzenlemesinde referans yöntem olarak kabul edilir.
  • check_circle MEND (Model Editor Networks with Gradient Decomposition): Tek bir örnekten gelen ince ayar gradyanını düşük rank bileşenlere ayırıp küçük bir hiper-ağ ile dönüştürerek ağırlık güncellemesi üretir. Eğitilmiş bir düzenleyici ağ gerektirir; düzenleme süresi kısadır ancak her model için ayrı editör eğitimi ister.
  • check_circle SERAC ve GRACE (harici bellekli yöntemler): SERAC, düzenlemeleri harici bir bellekte tutar ve bir kapsam sınıflandırıcısıyla ilgili sorguları küçük bir karşı-olgusal modele yönlendirir. GRACE (General Retrieval Adaptors for Continual Editing) ise seçilen bir katmana ayrık anahtar-değer kod defteri ekler; ana ağırlıklar bozulmadığı için uzun süreli, ardışık düzenlemelere daha dayanıklıdır.
  • check_circle Bağlam içi düzenleme (IKE) ve yeni nesil yöntemler: IKE, düzenlenecek olguyu gösterim örnekleriyle birlikte isteme (prompt) ekleyerek ağırlıklara hiç dokunmadan davranışı değiştirir. WISE ve AlphaEdit gibi 2024 sonrası yöntemler ise ardışık düzenlemelerde ortaya çıkan bozulmayı azaltmak için yan bellek katmanları ve sıfır uzayı (null-space) projeksiyonu gibi teknikler kullanır.

analytics Değerlendirme Metrikleri

Bilgi düzenleme yöntemleri genellikle üç temel ölçütle değerlendirilir. Güvenilirlik (reliability ya da efficacy): düzenlenen olgu, hedef soruya doğru biçimde üretiliyor mu? Genelleme (generalization): aynı olgunun farklı ifadeleri de doğru yanıtlanıyor mu? Örneğin 'Fransa'nın başkenti neresidir?' sorusu düzenlendiyse 'Fransa hangi şehirden yönetilir?' sorusuna da tutarlı yanıt gelmeli. Yerellik (locality ya da specificity): düzenleme, ilgisiz sorulara verilen yanıtları bozmuyor mu? EasyEdit ekibinin KnowEdit kıyaslaması buna taşınabilirlik (portability) ölçütünü ekler; bu ölçüt düzenlenen olgunun çıkarım zincirlerine ve dolaylı sonuçlara yansıyıp yansımadığını ölçer. CounterFact ve ZsRE en yaygın veri kümeleridir; MQuAKE ise çok adımlı (multi-hop) soruları test eder. 2023 sonrası çalışmalar, mevcut yöntemlerin yerellik ve güvenilirlikte güçlü, ancak çok adımlı çıkarım ve ardışık binlerce düzenleme sonrasında tutarlılığı korumada hâlâ zayıf olduğunu göstermektedir.

balance Kullanım Alanları ve Etik Boyut

Bilgi düzenlemenin en pratik kullanım alanları şunlardır: haber, hukuk ve finans gibi bilginin sık değiştiği alanlarda güncelliğini yitirmiş olguların (eski unvanlar, değişen düzenlemeler, güncellenen ürün bilgileri) yenilenmesi; modelin tutarlı biçimde yanlış hatırladığı olguların düzeltilmesi; KVKK ve GDPR kapsamındaki unutulma hakkı taleplerine yanıt olarak kişisel verinin modelden çıkarılması. Bu son senaryo makine unutturma (machine unlearning) alanıyla kesişir. Ancak teknik çift yönlü bir risk barındırır: aynı araçlar, modele kasıtlı yanlış bilgi yerleştirmek, belirli konularda arka kapı oluşturmak ya da rahatsız edici gerçekleri silmek için de kullanılabilir. Bu nedenle araştırmacılar, düzenleme kayıtlarının tutulmasını, düzenlemelerin yetkili kişilerce onaylanmasını ve dağıtılan modellerin bağımsız denetimini kritik güvenlik gereksinimleri olarak öne çıkarmaktadır.

compare_arrows RAG ve Fine-Tuning ile Karşılaştırma

  • check_circle RAG (Retrieval-Augmented Generation): Harici bir veri kaynağından alınan güncel bilgiyi bağlam olarak modele sunar; model ağırlıkları değişmez. Sık değişen ve kaynağı gösterilmesi gereken bilgi için idealdir, ancak geri getirim altyapısı gerektirir ve bağlam penceresini tüketir.
  • check_circle Tam ince ayar (Fine-Tuning): Parametreleri yeni veriyle yeniden optimize eder; geniş kapsamlı bilgi ve davranış güncellemesi için güçlüdür, ancak GPU maliyeti yüksektir ve yıkıcı unutma riski taşır. Binlerce olgunun ya da bir alanın bütünüyle öğretilmesi gerektiğinde tercih edilir.
  • check_circle Bilgi düzenleme (Knowledge Editing): Ağırlıkların küçük bir alt kümesini ya da eklenen bir belleği hedefli biçimde değiştirir; dakikalar içinde çalışır ve maliyeti düşüktür. Az sayıda belirli olgunun kalıcı olarak düzeltilmesinde idealdir; çok sayıda ardışık düzenleme tutarlılığı bozabilir.

help Sık Sorulan Sorular

  • check_circle Bilgi düzenleme fine-tuning'in yerini alabilir mi? Az sayıda belirli olguyu düzeltmek için evet, iyi bir alternatiftir. Ancak modelin genel yeteneklerini geliştirmek ya da bütün bir alanı öğretmek için tam ince ayar hâlâ daha güvenilirdir. Bilgi düzenleme, ince ayarın tamamlayıcısı olarak düşünülmelidir.
  • check_circle ROME'u nasıl kullanabilirim? Açık kaynaklı EasyEdit kütüphanesi (github.com/zjunlp/EasyEdit) ROME, MEMIT, MEND, GRACE ve diğer yöntemleri tek bir API altında sunar. GPT-2, GPT-J, LLaMA ve Qwen gibi birçok modeli destekler; depo kaynak kodundan kurulup birkaç satır kodla düzenleme yapılabilir. Orijinal ROME kodu ise kmeng01/rome deposunda yer alır.
  • check_circle Düzenleme yan etki bırakır mı? Evet, bu alanın temel sorunu olmaya devam etmektedir. İlgisiz bilgilerin etkilenmesi (yerellik kaybı), çok adımlı çıkarımın bozulması ve ardışık düzenlemelerde birikimli model bozulması en sık görülen yan etkilerdir. Üretim ortamına almadan önce kıyaslama araçlarıyla test etmek gerekir.
  • check_circle LLM'lerin unutulma hakkına (KVKK) yanıt vermesi mümkün mü? Henüz sınırlı biçimde. Bilgi düzenleme ve makine unutturma yöntemleri belirli kişisel verileri modelden çıkarmak için denenmektedir; ancak dil modelleri bilgiyi dağıtık ağırlıklarda sakladığından bir bilginin tamamen silindiğini garanti etmek güçtür. Araştırma alanı aktiftir.
  • check_circle Büyük modellerde (70B ve üzeri) bilgi düzenleme çalışır mı? Teknik olarak evet; ROME ve MEMIT tarzı yöntemler LLaMA ailesi gibi açık modellere uygulanmıştır. Ancak ölçek büyüdükçe nedensel izleme ve katman seçimi daha maliyetli hale gelir; güncellemeleri birden fazla katmana yaymak ve harici bellekli yöntemleri tercih etmek daha kararlı sonuç verir.
  • check_circle Bilgi düzenleme ile makine unutturma aynı şey mi? Yakın ama farklı kavramlardır. Makine unutturma, belirli eğitim verisinin model üzerindeki etkisini tamamen kaldırmayı hedefler ve çoğunlukla gizlilik odaklıdır. Bilgi düzenleme ise belirli bir olguyu değiştirmeyi ya da eklemeyi hedefler; silme yalnızca kullanım senaryolarından biridir.