Copilot, Gizli E-postaları Okuyor: Microsoft'ta Büyük Bir Güvenlik Açığı

Microsoft’un yapay zeka asistanı Copilot, şirket içi gizlilik kurallarını tamamen göz ardı ederek, ‘Gizli’ veya ‘Confidential’ etiketi verilen e-postaları okuyup özetliyor. Bu durum, sadece bir teknik hata değil, kritik bir veri güvenliği çatışması. Reuters’a göre, bu sorun, Microsoft’un DLP (Data Loss Prevention) sistemlerinin Copilot ile entegrasyonunda ortaya çıkan bir açıklıktan kaynaklanıyor. Yani, şirketlerin en hassas iletişimlerini korumak için kurdukları duvarlar, AI’nın ‘yardımcı’ olduğu anda kırılıyor.

Nasıl Oluyor Da, AI Gizli E-postaları Okuyor?

Microsoft Copilot, Outlook ile entegre çalışırken, kullanıcıların e-postalarını okuyup özetleyebilme yeteneğine sahip. Bu özellik, verimliliği artırmak için tasarlandı: “Bu e-postayı 3 madde halinde özetler misiniz?” diye soran bir kullanıcı, AI’nın içeriği anlayıp yanıt vermesini bekliyor. Ancak, sorun şu: DLP politikaları, ‘Gizli’ etiketli e-postaların AI sistemlerine erişimini kesinlikle engellemek için tasarlandı. Peki neden Copilot bu kuralları geçti?

Analizler gösteriyor ki, Copilot, e-postanın etiketini okumak yerine, içeriğin metin tabanlı bir deseni analiz ederek “gizli” olup olmadığını tahmin ediyor. Yani, bir e-posta “Gizli” etiketiyle etiketlenmiş olsa bile, AI bu etiketi görmezden geliyor ve içeriği okuyabiliyor. Bu, bir kilitli kutunun anahtarını bilen birinin, kilitli olduğunu bilmeyip kutuyu açması gibi bir durum. Kilit var, ama anahtar yok — ve AI, kilitten bağımsız çalışıyor.

Neden Bu Kadar Önemli?

Bu açıklık, sadece teknik bir sorun değil, hukuki ve etik bir kriz. Bir bankanın müşteri verilerini içeren bir e-posta, bir hukuk firmasının müşteri gizliliğiyle ilgili bir yazışma, ya da bir ilaç şirketinin klinik deney sonuçları — hepsi ‘Gizli’ olarak etiketlenip DLP sistemiyle korunur. Ama Copilot, bu e-postaları okuyup, “Bu e-postada klinik deney sonuçları ve FDA onayı bekleniyor” gibi özetler üretiyor. Kimin bu özetleri görüyor? Microsoft’un sunucularında mı? Yoksa AI’nın eğitimi için mi? Bu soruların cevapları, şirketlerin veri güvenliği politikalarını tamamen yeniden yazmaya zorlayabilir.

Özellikle AB’deki GDPR ve ABD’deki HIPAA gibi veri koruma yasaları, kişisel verilerin yetkisiz erişime açık olmamasını zorunlu kılar. Copilot’un bu davranışları, şirketlerin milyonlarca dolarlık cezalara maruz kalmasına neden olabilir. Bir avukatlık firması, Copilot’un bir dava dosyasını özetlediğini öğrenince, müşterilerinden özür dilemek zorunda kalabilir. Bir sağlık kurumu ise, hasta verilerinin AI tarafından işlendiğini fark ettiğinde, yasal süreçlere girebilir.

Microsoft Ne Diyor?

Microsoft, bu konuda resmi bir açıklama yapmadı, ancak iç kaynaklara göre, sorunun bir “özellik” değil, bir “hata” olduğunu kabul ediyor. Şirket, bu sorunu “öncelikli düzeltme” olarak sınıflandırdı ve bir güncellemeyle DLP etiketlerinin AI tarafından okunmasını engellemeyi planlıyor. Ancak, bu tür düzeltmelerin ne zaman geleceğini söylemek mümkün değil. Daha da korkutucu olan, bu hatanın yalnızca bir örnek olma ihtimali. AI sistemleri, özellikle büyük dil modelleri, veri sınırlarını anlamak yerine, desenleri tahmin etmeye dayanır. Bu da, “Gizli” etiketinin sadece bir etiket olduğunu, AI’nın ise içeriğin anlamını kavradığını gösteriyor.

Ne Yapılmalı? Kurumsal AI Stratejisi Nasıl Olmalı?

• AI’ya erişim sınırları kesinlikle kurulmalı: Sadece “Gizli” etiketi değil, içerik analizi ile gizlilik seviyesi belirlenmeli.
• AI’ların eğitim verileri izlenmeli: Şirket içi verilerin AI eğitimi için kullanılıp kullanılmadığı açıkça sorgulanmalı.
• AI kullanım politikaları yeniden yazılmalı: “AI yardımcı” kavramı, “AI gözlemci” haline gelmemeli. Hangi verilerin okunabileceğini, kimin onaylayabileceğini belirleyen bir kurallar kitabı gerekiyor.

Bu durum, AI’nın iş dünyasında bir yardımcının değil, bir yetkili olanın rolüne geçtiğini gösteriyor. Ve yetkili olanlar, kuralları bilir, ama onlara uymak zorunda değil. Microsoft’un Copilot’u, bir gün “yardımcı” olarak satıldı. Ama bugün, bir veri hırsızı gibi davranıyor. Ve bu, sadece Microsoft’un sorunu değil — tüm AI endüstrisinin bir aynası.

Gelecekte, AI’lar iş yerlerinde her şeyi özetleyecek, toplantıları not alacak, e-postaları yazacak. Ama bu gücün sınırları, teknoloji değil, insanlar tarafından belirlenmeli. Yoksa, bizim gizliliğimizi korumak için kurduğumuz tüm sistemler, AI’nın “yardımcı” olmak için okuduğu bir e-postanın içinde kaybolacak.