AI’yi Telefonunda Çalıştırıyor: İnternet Gerekmeyen, Ücretsiz ve Açık Kaynaklı Bir Devrim

İnternetsiz AI: Düşüncelerinizin Gizliliği İçin Yeni Bir Çağ

Bir zamanlar yapay zeka, sadece büyük şirketlerin elindeki, veri merkezlerinde çalışan, milyonlarca dolarlık altyapıya sahip bir teknolojiydi. Bugün ise, bir geliştiricinin telefonunda, internet bağlantısı olmadan, tamamen kendi cihazında çalışan bir AI sistemi var. Bu, sadece bir uygulama değil; bir felsefi devrim. İnsanlar artık sadece daha hızlı, daha akıllı araçlar istemiyor. Daha özgür, daha gizli, daha insani bir AI istiyorlar.

Bu devrimin mimarı, 32 yaşında bir yazılımcı olan Ali Chherawalla. Reddit’te paylaştığı bir gönderide, "ChatGPT veya Claude kullanırken, journal entries’lerim, iş fikirlerim, hatta tıbbi sorularım gibi en hassas düşüncelerimin, kontrol edemediğim sunucularda saklandığını hissediyordum," diyor. Bu his, onu sadece bir kullanıcıdan, bir mucit haline getirdi. Sonuç: Off-Grid Mobile — tamamen offline çalışan, açık kaynaklı, ücretsiz ve MIT lisanslı bir mobil yapay zeka platformu.

Nasıl Çalışıyor? Bulut Değil, Cihaz

Tradisyonel AI sistemleri, kullanıcı girdilerini sunuculara gönderir, orada işlenir, cevap döner. Bu süreçte, her bir kelimeniz, her bir sorunuz, her bir notunuz bir veri setine katılır. Hatta şirketler bunu "öğrenme amacıyla" kullanır. Chherawalla, bu modelin bir tür dijital izlenme olduğunu düşünüyor. "Bir hesap makinesi gibi çalışmalıydı AI," diyor. "Düşünceyi yazdın, cevabı aldın, hiçbir şey kalmadı. Hiçbir şey dışarı çıkmadı."

Off-Grid Mobile, bu felsefeyi teknik olarak gerçekleştirdi. Uygulama, cihazda çalışan küçük ama güçlü modelleri kullanıyor: LLM’ler (Large Language Models), Stable Diffusion (görsel üretimi), Whisper (ses transkripsiyonu) ve görsel anlama sistemleri. Tüm bu modeller, telefonun işlemcisi üzerinde doğrudan çalışır. Kullanıcı verileri hiçbir zaman internete çıkmaz. Hatta cihazda veri saklanmaz — her şey RAM’de geçici olarak işlenir ve silinir.

Neden Bu Kadar Önemli? Gizlilik, Sadece Bir Özellik Değil, Bir Hak

Bu teknolojinin gerçek gücü, kullanım senaryolarında gizleniyor:

• Journaling: Günlük yazarken, "Bugün annemle tartıştım, korkuyorum onu kaybedeceğim" gibi duygusal notları, bir AI’ya söyleyip, bunun bir gün eğitim verisi haline gelmesini istemeyenler için ideal.
• Tıbbi ve Hukuki Danışmanlık: "Belirli bir ilacın etkileri ne?" veya "Bu sözleşmede hangi madde bana zarar verebilir?" gibi sorular, klasik AI’larda sorgulanmak istenmez — çünkü veri toplama riski taşır. Burada, sadece siz ve cihazınız bilir.
• İş İçi Gizlilik: Bir startup sahibi, bir ürün fikrini AI’ya anlatırken, bu fikrin bir gün rakibine ulaşmasını istemez. Off-Grid Mobile, bu tür hassas bilgileri tamamen kendi içinde tutar.
• Dijital Özgürlük: Sadece bir uygulama değil; bir duruş. "Düşüncelerim benim. Onları kimse kontrol etmesin." Bu, 2024’te bir teknoloji trendi değil, bir insan hakkı.

Çalışıyor mu? Gerçek Performans

Chherawalla, uygulamayı hem iOS hem Android için App Store ve Google Play’e yayınladı. Test edenler, 10-15 saniyede bir resim üretmenin mümkün olduğunu, 500 kelimelik bir metni 30 saniyede tamamlayabildiğini, ve hatta bir ses kaydını anında metne dönüştürebildiğini doğruladı. Performans, özellikle son nesil Snapdragon 8 Gen 3 ve A17 Pro işlemcilerde çok etkileyici. Modeller, 7B ila 13B parametre aralığında optimize edilmiş — yeterince güçlü, ama cihazda çalışabilecek boyutta.

Internet bağlantısı sadece ilk kurulumda ve model güncellemeleri için gerekiyor. Sonrasında, uçak modunda bile, AI’yla sohbet edebilir, resim çizebilir, not alabilirsiniz. Bu, kritik durumlarda — örneğin, bir acil durumda, bir savaş bölgesi veya sivil bir çatışma bölgesinde — hayati önem taşıyor.

Gelecek İçin Bir İpucu

Bu proje, sadece bir kişisel çözüm değil. Bir işaret. Büyük şirketlerin kontrolünden kurtulmak isteyen milyonlarca insan var. Veri toplama, artık "ücretsiz hizmet" olarak pazarlanıyor ama aslında bir fiyat. Bu fiyat, özgür düşünce, gizlilik ve insanlık. Off-Grid Mobile, bu fiyata karşı bir direniş.

Open source olması, bu projenin gücünü katlıyor. Geliştiriciler, modelleri optimize ediyor, yeni diller ekliyor, daha küçük cihazlara uyarlıyor. Hatta bir grup öğrenci, bu sistemi bir hastane için özel bir acil durum AI’sine dönüştürmek üzere çalışıyor.

2024’te, ChatGPT Plus’un en iyi alternatifi, daha ucuz değil. Daha özgür. Daha gizli. Daha insani. Ve tamamen sizin cihazınızda.

Chherawalla’nın GitHub sayfasında, projenin kodunu inceleyebilir, kendi modellerinizi entegre edebilir, hatta katkıda bulunabilirsiniz. Çünkü bu, artık bir tek kişinin projesi değil. Bu, herkesin hak olduğu bir geleceğin ilk adımı.