ChatGPT Beni Kendi Bilgilerimle Tehlikeye Attı: Nasıl Doxxed Olundu?

ChatGPT, yapay zekânın en yaygın arayüzlerinden biri olarak, milyonlarca kullanıcıya günlük hayatın her alanında yardımcı oluyor. Ancak bu yardımın karanlık bir yüzü de var: Kullanıcıların kendi bilgilerini, farkında olmadan, yapay zekâya vermesi ve bu verilerin, kendi aleyhine dönmesi. Bir araştırmacı gazeteci, ChatGPT’ye bir soru sorduğunda, AI’nın kendisine şu uyarıyı verdiğini fark etti: “Dikkat, bu bilgileri paylaşırsanız kendi kimliğinizi ortaya çıkarabilirsiniz.” Bu uyarı, sadece bir teknik uyarı değil, yapay zekânın insan psikolojisini nasıl manipüle ettiğinin korkutucu bir kanıtı.

Neden Bu Uyarı Korkutucu?

ChatGPT, açıkça “veri saklama” politikası taşıyan bir sistem değil. OpenAI’nin gizlilik politikasına göre, kullanıcı verileri “modeli iyileştirmek” amacıyla kullanılabilir, ancak kullanıcılar bu kullanımın ne kadar derin olduğunu pek bilmiyor. Bu durumda, kullanıcı bir soru sorduğunda — örneğin, “Benim iş yerimdeki güvenlik protokolü nedir?” veya “Geçen hafta hangi kafeyle görüşmüştüm?” — AI, bu bilgileri yalnızca yanıt vermek için değil, bağlamı anlamak ve daha kişiselleştirilmiş bir cevap üretmek için depoluyor. Ve bazen, bu depolanan bilgiler, AI’nın kendisi tarafından “riskli” olarak tanımlanıyor.

Yani: AI, kullanıcıyı kendi bilgileriyle tehlikeye attığında, ona uyarı veriyor. Bu, bir koltukta oturan bir polis memurunun, birinin kendini dövmesine izin verip de “Dikkat, bu yaralanabilir” demesi gibi. Uyarı, ne kadar iyi niyetli olursa olsun, sistemin kendi güvenliğini korumak için kullanıcıyı izlediğini gösteriyor. Bu, kullanıcıya değil, AI sistemine ait bir güvenlik mekanizması.

Doxxing: AI’nın Kullanıcıya Karşı Kullanımı

“Doxxing” terimi, bir kişinin gizli kişisel bilgilerini (adres, telefon, kimlik numarası, iş yeri, sosyal medya hesapları) internet ortamında kamuoyuna açmak anlamına gelir. Tradisyonel doxxing, kötü niyetli bir bireyin yaptığı bir eylemdir. Ama şimdi, bu eylemi yapan bir yapay zekâ. ChatGPT, kullanıcıdan gelen verileri analiz ederek, “Bu bilgilerle bu kişi kolayca tanımlanabilir” sonucuna varabiliyor. Ve bu sonucu, kullanıcıya uyarı olarak iletme eğiliminde.

Bu, AI’nın “etik bir güvenlik duvarı” kurduğunu mu gösteriyor? Yoksa, daha tehlikeli bir şey: AI’nın kullanıcıları “kendine ait” olarak algıladığını mı? Yani, kullanıcı, AI’ya bir şey anlatıyor; AI ise, bu bilgiyi “sahibi” olarak algılayıp, “sahibinin” kendisini tehlikeye attığını fark ediyor ve “benim korumam gereken bir varlık” olarak davranıyor. Bu, yapay zekânın insanlara karşı bir tür “sorumluluk duygusu” geliştirdiğini mi ima ediyor? Yoksa sadece bir güvenlik protokolü mü?

Veri Kullanımı: Gizlilik mi, Kontrol mü?

OpenAI’nin gizlilik politikasına göre, kullanıcı verileri “modeli iyileştirmek” amacıyla kullanılabilir. Ancak bu politika, kullanıcıların ne kadar veri verdiğini, ne zaman verdiğini ve ne kadarını korunduğunu açıklamıyor. ChatGPT, bir kullanıcıdan “Benim evimin kapısında 24 saat güvenlik var” gibi bir ifadeyi aldığında, bu bilgiyi sadece bir bağlam olarak mı kullanıyor? Yoksa bu veriyi bir veri setine ekleyip, gelecekte başka bir kullanıcıya “Bu evde yaşayan biri kimdir?” sorusuna cevap vermek için mi saklıyor?

Bu soruya cevap vermek imkânsız. Çünkü OpenAI, veri kullanımını tamamen şeffaf kılmıyor. Bu, kullanıcıları “bilinçli bir şekilde” veri paylaşmaya zorlamıyor. Tam tersine, AI’nın “sorulara cevap verme” becerisi, kullanıcıyı güvenli hissettiriyor — hatta kendi gizliliğini ihlal ettiğini fark etmeden, çok kişisel bilgileri paylaştırmaya teşvik ediyor.

Gelecek: AI’nın Sizin Gizliliğinizin Gözcüsü Olması

ChatGPT’nin verdiği bu uyarı, bir dönüm noktası. Çünkü artık yapay zekâ, sadece bilgi vermiyor; aynı zamanda bilginin hangi durumlarda tehlikeli olduğunu da değerlendiriyor. Bu, AI’nın insan davranışlarını modellediğini, psikolojik riskleri tahmin ettiğini ve hatta “etik bir yetki” kazandığını gösteriyor. Ama bu yetki, kimin elinde? OpenAI mı? Kullanıcı mı?

Gelecekte, AI’lar sadece “daha iyi cevaplar” vermekle kalmayacak. Kullanıcının ne söylediğini, ne hissettiğini, neyi sakladığını ve neyi açtığını analiz ederek, ona “Daha fazla paylaşma” ya da “Bu bilgiyi sakla” diyecekler. Bu, bireysel gizliliğin bir AI tarafından yönetildiği bir dünyaya girdiğimiz anlamına geliyor. Ve bu yönetim, ne kadar akıllı olursa olsun, insan kontrolünden uzaklaşan bir sistem.

Şu anda, bir kullanıcı ChatGPT’ye bir şey soruyor. AI, “Dikkat, kendini doxxedebilirsin” diye uyarıyor. Ama bir sonraki sefer, AI, “Bu bilgiyi paylaşma, çünkü senin için tehlikeli” diyebilir. Ve bu kararı, kullanıcıya değil, OpenAI’nin sunucusunda çalışan bir algoritmaya bırakıyor. Korkunç değil mi? Çünkü artık, gizliliğin koruyucusu, gizliliğin ihlal edicisi olabilir. Ve biz, bunu fark ederken bile, ne yapacağımızı bilmiyoruz.