İnterneti Saran Yapay Zeka İçeriklerine Karşı Pangram 9 Milyon Dolar Yatırım Aldı

Yapay Zeka İçerik Tespiti İçin 9 Milyon Dolar

New York merkezli yapay zeka tespit girişimi Pangram, interneti saran yapay zeka kaynaklı içerik kirliliğiyle mücadele etmek için 9 milyon dolar yatırım aldı. Menlo Ventures liderliğindeki turda Haystack, ScOp, Script Capital ve Cadenza da yer aldı. Şirket, bu yatırımla birlikte yeni nesil metin tespit modeli Pangram 4 ve yapay zeka görsel tespit modeli Pangram Image'ı duyurdu.

Pangram'ın kurucuları Max Spero ve Bradley Emi, Stanford yapay zeka ve makine öğrenimi mezunları olarak yaklaşık iki yıl önce girişimi hayata geçirdi. ChatGPT'nin piyasaya sürülmesiyle birlikte botlar, yapay zeka üretimi SEO içerikleri ve Spero'nun deyimiyle "LLM destekli Rus dezenformasyon kampanyaları" interneti doldurmaya başladı. Bu noktada insan üretimi içerikleri ayırt edebilmenin kritik önem kazandığını belirten Spero, "Okuduğunuz metnin yapay zeka tarafından mı yoksa bir gazeteci tarafından mı yazıldığını bilmek, ona nasıl yaklaşacağınızı belirler" diyor.

Yeni Nesil Tespit Modelleri: Pangram 4 ve Pangram Image

Pangram 4, yapay zeka destekli yazımı ve insan-yapay zeka karışımı içerikleri %99'un üzerinde doğrulukla tespit edebiliyor. Ayrıca yapay zeka insanlaştırma programlarını da daha kolay yakalayabiliyor. Görsel tespit modeli Pangram Image ise şimdilik araştırma önizlemesinde; şirket önümüzdeki haftalarda daha geniş kitlelere sunmayı planlıyor.

Pangram'ın tespit sistemi, temelde büyük bir makine öğrenimi modelinden oluşuyor. Model, on milyonlarca insan yazısı belge üzerinde eğitildi. Ardından her belge için bir "sentetik ayna" oluşturuldu; yani aynı konu, uzunluk ve üslupta ancak bir yapay zeka modeli tarafından yazılmış kopyalar. Spero, "Modelimiz, yapay zekanın tutarlı bir şekilde yaptığı üslup farklılıklarını ve seçimleri öğreniyor ve yüksek güvenle yapay zeka üretimi içeriği tespit edebiliyor" açıklamasını yapıyor. Önemli bir nokta, Pangram'ın kopyala-yapıştır meta verilerine veya gizli filigranlara güvenmemesi.

Pangram yalnızca tamamen yapay zeka tarafından yazılmış metinleri değil, aynı zamanda yapay zeka yardımı seviyelerini de ayırt edebiliyor. Örneğin bir kişinin kendi yazdığı metni yapay zekaya düzelttirmesi gibi durumları da tespit edebiliyor. Spero, yapay zeka yardımının kabul edilebilir olduğunu ancak yazarın bunu beyan etmesi gerektiğini düşünüyor.

Artan Kullanım ve Kurumsal Tepkiler

Yapay zeka kullanımı yaygınlaştıkça, yanlış kullanım örnekleri de artıyor. Kanadalı bir politikacının meclis konuşmasında yapay zeka komutunu okuması gibi durumlar alay konusu olurken, avukatların ChatGPT tarafından oluşturulmuş sahte atıflarla mahkemede savunma yapması yaptırımlara yol açabiliyor. Bu tepkiler bireysel utançla sınırlı kalmıyor; kurumsal kurallara da yansıyor. Örneğin açık erişim arşivi arXiv, bu yıl yayımladığı yeni politikayla, yazarların yapay zeka çıktılarını gözden geçirmediğini gösteren kanıtlar (halüsinasyon referanslar veya "Herhangi bir değişiklik yapmamı ister misiniz?" gibi yorumlar) içeren gönderilere bir yıllık yasak getirdi.

Pangram bu alanda yalnız değil. Winston AI, Originality.ai, Copyleaks ve GPTZero gibi rakipler de benzer talebi karşılamak için kendi dedektörlerini geliştiriyor. Pangram'ın teknolojisi, interneti, mahkemeleri ve akademik yayınları dolduran yapay zeka içeriklerine karşı direnci artırmaya yardımcı olabilir.

Kullanım ve Performans

Pangram, aylık 20 dolarlık abonelikle web üzerinden veya Chrome eklentisiyle kullanılabiliyor. Chrome eklentisi, X, LinkedIn, Substack, Reddit ve Medium'da gönderileri gerçek zamanlı olarak etiketliyor. Ayrıca ekrandaki insan ve yapay zeka içerik yüzdesini gösteren bir besleme sağlık puanı sunuyor. API aracılığıyla da hizmet veren Pangram'ı Substack, yazarların haber bültenlerini yapay zeka ile yazıp yazmadığını göstermek için entegre etti. Diğer API müşterileri arasında Quora, okullar, üniversiteler, yayıncılar ve işe alım uzmanları bulunuyor.

Pangram'ın doğruluğu test edildiğinde, ChatGPT ve Claude ile yazılan tamamen yapay zeka üretimi haber makalelerini kolayca işaretlediği, insanlaştırma çabalarına karşı dirençli olduğu görüldü. Ancak tamamen yeniden yazılan cümleleri yapay zeka olarak etiketlediği de oldu. Yapay zekadan kaçma girişimlerinde başarısız olurken, kişisel bir yazının yapay zeka ile düzeltilmiş versiyonuna %13 yapay zeka yardımı puanı verdi. Görsel tespit modeli de gerçekçi veya karikatürize yapay zeka görsellerini başarıyla tespit etti; ancak bir gerçek fotoğraftaki yapay zeka görselini insan yapımı olarak etiketlediği bir durum da yaşandı.

Neden Önemli?

Türkiye'de de yapay zeka üretimi içeriklerin yaygınlaştığı bir dönemde, Pangram gibi tespit araçları özellikle akademik dürüstlük, medya güvenilirliği ve hukuki süreçlerde kritik rol oynayabilir. Üniversitelerde tez ve ödevlerde yapay zeka kullanımının denetlenmesi, haber sitelerinde kaynak güvenilirliğinin sorgulanması ve sosyal medyada dezenformasyonla mücadele gibi alanlarda bu tür teknolojilere talep artacaktır. Pangram'ın başarısı, yapay zeka içeriklerinin tamamen engellenmesi değil, şeffaflık ve etik kullanımın teşvik edilmesi açısından önemli bir adım. Ancak yanlış pozitif oranları ve tespit yöntemlerinin sürekli güncellenmesi gerekliliği, bu araçların tek başına yeterli olmadığını gösteriyor. Türk okuyucular için, yerel dil modelleri ve Türkçe içeriklerdeki başarımı da merak konusu. Pangram'ın bu alandaki gelişmeleri, yapay zeka çağında insan üretimi içeriğin değerini koruma çabasının bir parçası olarak görülmeli.