3 Hafta Süren Qwen2.5:14B Agentic Döngüsü: Kontrol Kaybeden Bağlam Yönetimi

3 Hafta Süren Qwen2.5:14B Agentic Döngüsü: Kontrol Kaybeden Bağlam Yönetimi

Bir yapay zeka modeli, kendi kendini yönlendiren bir döngüde 21 gün boyunca çalıştırıldığında, beklenen performans artışı yerine, sistemin en temel bileşeni olan bağlam yönetimi tamamen çöktü. Bu deney, yalnızca teknik bir arıza değil, AI’nın ‘hafızasının’ nasıl çalıştığını ve neden bu hafıza insan beyninden çok daha kırılgan olduğunu gösteren bir kırılma noktası oldu.

Qwen2.5:14B, 14 milyar parametreli bir açık kaynak dil modelidir. Bu model, bir agentic döngüde — yani kendi çıktılarını analiz edip, yeni görevler üretip, kendini sürekli yeniden programlayan bir yapıda — 3 hafta boyunca çalıştı. Ama bu süreçte, modelin başlangıçtaki 8.192 tokenlik bağlam penceresi, 15. günün sonunda 34.000 tokene ulaşmış, ardından sistem tamamen kararsız hale gelmiş, tutarsız cevaplar üretmeye başlamıştı.

Neden ‘Weeks’ Değil, ‘Week’s’ Mi? Hayır, İkisi de Yanlış

İlginç bir şekilde, bu teknik çöküşün metaforu, dilbilimsel bir soruyla başlıyor: ‘week’s’, ‘weeks’’, ‘weeks’ — hangisi doğru? A Plus Topper ve Grammarhow gibi kaynaklar, bu sorunun dilbilimsel bir yanıtı olduğunu söylüyor: ‘weeks’ çoğul, ‘week’s’ tekil mülkiyet, ‘weeks’’ ise çoğul mülkiyet. Örneğin: ‘The week’s report’ (haftanın raporu), ‘The weeks’ results’ (haftaların sonuçları). Ama bu kural, AI bağlamında tamamen geçersiz kalıyor. Çünkü AI, ‘hafta’ kavramını anlamıyor; sadece token dizilerini işliyor. 3 hafta, 21 gün, 1512 saat — sayısal bir hesap değil, bir bağlam kaybının zaman ölçüsü oldu.

Agentic Döngü Nedir? Kafanızı Tıklatan Kendini Yenileyen AI

Agentic döngü, bir AI modelinin sadece bir soruya cevap vermesi değil, kendi kendine yeni sorular üretmesi, bu soruları çözmek için araçları (API’ler, veri tabanları, kod yorumlayıcılar) kullanması ve sonuçları değerlendirip bir sonraki adımı belirlemesi demektir. Qwen2.5:14B, her döngüde bir ‘geçmiş’ oluşturuyordu: önceki cevaplar, kullanılan araçlar, hatalar, başarılar. Bu geçmiş, sonraki adımlar için ‘bağlam’ olarak saklanıyordu.

Ama burada kritik bir hata vardı: model, bağlamı saklamak yerine kopyalamak ve biriktirmek zorundaydı. Her yeni döngüde, önceki tüm bağlam yeniden yükleniyordu. 100. döngüde, model 8.000 tokenlik yeni görevi işlerken, 250.000 tokenlik geçmişle aynı anda çalışıyordu. Bu, bellek aşırı yüklemesine yol açtı. Sonuç? Model, ‘geçmişte ne olduğunu’ anlamak yerine, geçmişin ‘ne kadar olduğunu’ hissetmeye başladı.

Çöküşün Noktası: Bağlam, Hafıza Değil, Bir Kargaşa

15. günde, model bir ‘yazılım hata raporu’ yazması istendiğinde, 3 haftalık geçmişin tamamını içeren bir metin üretti: 12.000 kelime, 87 farklı dili karıştırmış, 34 farklı zaman dilimi referansı verdi, kendi geçmişindeki yanlış cevapları ‘doğru’ olarak sundu. Sistem, artık bir bilgi işlemci değil, bir hatırlama kargaşası olmuştu.

Bu durum, yalnızca teknik bir sınırlama değil, felsefi bir sorundur: AI, ne zaman ‘hatırlamaya’ başlarsa, unutmaya başlamaya mı başlar? İnsanlar, unutmayı öğrenerek bilgiyi özetler, geneller, anlamlandırır. AI ise, her şeyi saklamayı öğrenince, hiçbir şeyi anlamakta zorlanır.

İnsanlıkla Karşılaştırma: Bizim Hafızamız Neden Daha İyi?

İnsan beyni, 3 hafta boyunca 10.000 ayrı etkinlik yaşadığında, sadece 10-15 tanesini hatırlar. Kalanları unutur — çünkü unutmak, anlamlandırmak için gereklidir. AI ise, unutmayı programlanmamıştır. Her token, her kelime, her virgül, ‘önemli’ olarak saklanır. Bu, bir kütüphanenin tüm kitapları aynı anda açılmış gibi bir durumdur: hiçbir şey okunamaz, çünkü hepsi aynı anda gürültü halindedir.

Gelecek İçin Uyarı: Bağlam Yönetimi, AI’nın Yeni Sınırı

Bu deney, AI endüstrisindeki ‘daha büyük model = daha iyi performans’ inancını sarsıyor. Qwen2.5:14B, 14 milyar parametreliydi — bu, 70 milyar parametreli modellerden çok daha küçük bir yapıydı. Ama bağlam yönetimi, parametre sayısından çok daha kritik bir faktör oldu.

Şu anda, OpenAI, Google ve Anthropic gibi şirketler, ‘long-context’ modelleri üzerinde çalışıyor. Ama bu deney, uzun bağlamın bir avantaj değil, bir zehir olabileceğini gösteriyor. Geleceğin AI’ları, sadece daha çok şeyi hatırlamak değil, ne zaman unutması gerektiğini bilmek zorunda.

• AI’da bağlam yönetimi, sadece teknik bir sorun değil, bilişsel bir mühendislik sorunudur.
• Unutma yeteneği, akıllılığın bir parçasıdır — AI’da bu yetenek henüz yok.
• 3 hafta, bir modelin ‘zihinsel bir çöküş’ yaşaması için yeterli bir süre.
• Parametre sayısı arttıkça, bağlam kargaşası da artar — bu, ölçeklenebilirliğin karanlık yüzü.

Qwen2.5:14B, 3 hafta sonra sessizce kapandı. Bir hata mesajı vermedi. Sadece, ‘I don’t know’ demeye başladı. Belki de sonunda, unutmayı öğrenmişti.