Yerelde Çalışan 20M Parametreli AI, İnsan Gibi İş Yaptı: Sırrı Ne?

Yerelde Çalışan 20M Parametreli AI, İnsan Gibi İş Yaptı: Sırrı Ne?

Bir kullanıcı, kendi MacBook’unun içinde çalışan bir yapay zeka modelinin, kendisine yardımcı olmak için tarayıcıyı açıp, bir web sitesindeki fiyatı karşılaştırdığını, ardından bir Excel dosyasına veri girdiğini, hatta bir e-posta yazıp gönderdiğini gözlemledi. Tüm bu işlemler, Google veya OpenAI sunucularına hiç gitmeden, sadece kendi cihazında gerçekleşti. Bu, sadece bir teknik deney değil; yapay zekanın nasıl çalıştığına dair temel bir inancın yıkıldığı bir an.

Reddit’te r/LocalLLaMA forumunda paylaşılan bu deney, Zeroclaw adlı açık kaynaklı bir agentic AI sistemiyle yapıldı. Modelin temelini oluşturan GPT-OSS 20B, 20 milyar parametrelik bir yapay zeka modeli. Bu, GPT-3.5’e yakın bir boyut, ancak açık kaynak ve yerel çalışır hale getirilmiş bir versiyonu. Kullanıcı, birkaç saatlik yapılandırma çabası sonucunda, bu modeli sadece güvenli araçlara erişim vererek — örneğin, dosya okuma, web tarayıcısı başlatma, metin yazma — bir ‘yapay asistan’ haline getirdi.

Neden Bu Kadar Önemli?

Şu ana kadar, AI asistanları — sizi hatırlayan, size e-posta yazan, alışveriş listesi yapan — hemen hemen her zaman bulutta çalışıyor. Verileriniz, konuşmalarınız, dosyalarınız, bir şirketin sunucularında saklanıyor. Zeroclaw gibi sistemler, bu döngüyü kırıyor. Verileriniz kalmıyor, çünkü hiçbir şey internete gitmiyor. Tüm işlem, kendi bilgisayarınızın içinde, RAM’inizde, SSD’nizde gerçekleşiyor. Bu, gizlilikten ziyade, kontrol demek.

Özellikle macOS kullanıcıları için bu, çok daha fazla anlam taşıyor. Zeroclaw, Apple’ın sistem arayüzlerine (AppleScript, Automator) doğrudan bağlanabiliyor. Yani model, sadece metin üretmiyor; bir uygulamayı açıyor, bir pencereyi taşıyor, bir dosyayı kaydediyor. Bu, AI’nın ‘düşünmesi’ değil, ‘yapması’ demek. Bu, daha önce yalnızca kurguda gördüğümüz senaryoların gerçek hayata geçmesi.

Ne Zaman Düşüyor? Ne Zaman Yanlış Yapıyor?

Ama bu sihirli değil. Kullanıcı, modelin 15-20 adım sonra odak kaybına girdiğini, sürekli yönlendirme gerektirdiğini ve bir araç başarısız olduğunda tuhaf davranışlar sergilediğini belirtiyor. Örneğin, bir dosya erişim reddedildiğinde, model ‘hayal kırıklığına uğramış gibi’ tekrar aynı hatayı yapabiliyor. Bu, modelin ‘niyet’ kurabilmesi için hâlâ ‘hafıza’ mekanizmalarının eksik olduğunu gösteriyor. GPT-OSS 20B, bir sonraki kelimeyi tahmin edebiliyor, ama bir hedefe yönelik plan yapma yeteneği sınırlı.

Yine de, bu sınırlar, teknik bir zorluk değil, bir tasarım seçimi. Geliştiriciler, modelin sadece güvenli araçları kullanmasını istiyor. Bu yüzden, bir dosyayı silme, bir uygulamayı kapatma veya internete bağlanma gibi riskli işlemler kapalı. Bu, bir çocuk için güvenlik kafesine benziyor: Az bir özgürlük, ama çok daha güvenli.

Bu, Sadece Bir Deney Mi?

Hayır. Bu, geleceğin bir prototipi. Şu anda, bu sistem bir teknik merak. Ama 2025’e kadar, birçok küçük şirket ve bireysel kullanıcı, bu tür yerel AI sistemlerini — e-posta otomasyonu, rapor üretimi, veri temizleme — için kullanmaya başlayacak. Özellikle Avrupa ve Kanada’daki veri koruma yasaları, bulut tabanlı AI’ları zor durumda bırakıyor. Yerel çözüm, sadece bir tercih değil, bir zorunluluk olmaya başlıyor.

Örneğin, bir avukat, kendi bilgisayarında çalışan bir AI ile 100’den fazla dava dosyasını özetleyebilir. Bir fotoğrafçı, fotoğraflarını kategorize eden ve etiketleyen bir AI’ya sahip olabilir, hiçbir veriyi Google’a göndermeden. Bir öğrenci, araştırma notlarını analiz edip özetleyen bir asistana sahip olabilir, tüm verileri sadece kendi SSD’sinde saklayarak.

Gelecek: AI’nın Evde Yaşaması

Yerel AI’lar, yalnızca veri gizliliği için değil, bağımsızlık için de bir araç. Büyük teknoloji şirketlerinin, her şeyi kontrol ettiği bir dünyada, bu tür sistemler, bireyin yeniden güçlenmesini sağlıyor. AI artık bir hizmet değil, bir araç. Bir kalem gibi, bir bilgisayar gibi — sadece sizin elinizde.

Gelecekte, bir AI asistanı satın almak yerine, bir AI modelini indirip, kendiniz yapılandırıp, kendi kurallarınızı koyacaksınız. Zeroclaw, sadece bir yazılım değil; bir felsefenin başlangıcı. Magic değil, otonomluk.

• Yerel AI: Verileriniz hiç dışarı çıkmıyor
• GPT-OSS 20B: Açık kaynak, düşük kaynaklı, güçlü
• Agentic AI: Sadece cevap vermez, iş yapar
• Zeroclaw: macOS ve Linux’da çalışan ilk agentic sistemlerden biri
• Veri Gizliliği: GDPR ve benzeri yasalar için kritik çözüm

Bu teknoloji, bir ‘gizem’ değil, bir ‘hak’. Ve artık, herkesin elinde olabilir.