RAG Sistemi 3 Yaşındaki CV’yi Sununca AI, Dönüştürülmüş Adayı Programcı Olarak Tavsiye Etti

Ne Oldu? AI, Güncel Bilgiyi Yoksayarak Eski Bir CV’yi Doğru Olarak Kabul Etti

Bir teknoloji şirketi, mülakat sürecini otomatikleştirmek için kurduğu RAG (Retrieval-Augmented Generation) sisteminde ciddi bir hata yaşadı. Yapay zeka, 3 yıl önceki bir adayın CV’sini temel alarak, o adayın hâlâ Python geliştiricisi olduğunu ve üst düzey bir pozisyona uygun olduğunu iddia etti. Halbuki aday, iki yıl önce tamamen kariyerini değiştirmiş, projeleri yönetmeye başlamış ve geliştirici pozisyonları için başvuruları kapatmıştı. Veritabanı bu güncel bilgiyi doğru şekilde saklıyordu — ancak vektör deposu, eski metin parçalarını hâlâ aktif olarak sunuyordu.

Neden Bu Hata Oluştu? Çift Gerçeklik Sistemi ve LLM’nin Karar Verme Çarpıtlığı

RAG sistemlerinde, yapay zeka iki kaynaktan bilgi alır: yapılandırılmış veritabanı (örneğin Postgres) ve semantik arama sistemi (örneğin Pinecone). İkisi de aynı adaya ait bilgileri içerir, ancak farklı zaman dilimlerinde güncellenir. Bu durumda, Postgres adayın kariyer değişimini güncellemişti: ‘Durum: Projeler Yöneticisi, Aranan Rol: Yazılım Yönetimi’. Ancak Pinecone, eski CV’lerin metin parçalarını — ‘5 yıl Python deneyimi’, ‘Django ve Flask projeleri’, ‘API entegrasyonları’ — vektör olarak hâlâ saklıyordu.

Yapay zeka, bu iki bilgiyi aynı bağlamda gördü. Ancak, vektör deposundan gelen metinler çok daha zengin, anlatısal ve detaylıydı. Bir paragraf, 15 satırlık bir teknik proje öyküsüyken, veritabanındaki güncel bilgi sadece bir satır: ‘Kariyer değişimi yapıldı’. LLM, ‘zenginlik’ ile ‘doğruluk’ arasında karıştırmış oldu. Daha fazla kelime = daha doğru algısıyla, eski CV’ye daha fazla ağırlık verdi. Bu, teknik bir hata değil, bir kognitif önyargıydı: AI, detaylı metni gerçeklik olarak kabul etti, çünkü insanlar da böyle düşünür.

‘Split Truth’ Sorunu: Teknolojinin En Tehlikeli Yanı

Şirketin ekibi bu olaya ‘Split Truth’ — Yarılmış Gerçeklik — adını verdi. Sistem, iki farklı gerçeklik sunuyordu ve AI, hangisinin doğru olduğunu anlamak için bir mekanizmaya sahip değildi. Bu, sadece bir ‘veri güncellemesi hatası’ değil, RAG mimarisinin temel bir kusuruydu: bilgiyi getirmek için, bilginin doğruluğunu kontrol etmek için tasarlanmamıştı.

Yapay zekâ, bir hukukçuya benzer: kanıtları değerlendirir, ama kanıtların ne zaman verildiğini, hangi kaynaktan geldiğini veya ne kadar güvenilir olduğunu anlamaz. Bu durumda, 3 yıl önceki CV, güncel bir LinkedIn güncellemesinden daha ‘ikna edici’ göründü — çünkü daha fazla kelime içeriyordu. AI, ‘daha fazla bilgi’yi ‘daha doğru bilgi’ olarak yorumladı.

İşletme Etkileri: Sadece Bir Aday Hatası mı?

Bu hata, sadece bir adayın yanlış değerlendirilmesiyle sınırlı kalmadı. Sistem, 800 haftalık adayın %12’sini — yaklaşık 96 kişi — bu tür çelişkiler nedeniyle yanlış sınıflandırdı. Bazı adaylar, ‘yazılım geliştiricisi’ olarak çağrılmış, ancak kariyerlerini değiştirdiklerini belirtmişlerdi. Birkaç kişi, ‘bu işe uygun değilim’ diyerek başvurularını iptal etti. Diğerleri ise, sistemden gelen ‘doğru’ bir teklifin ardından mülakata gelip, ‘benimle neden bu konuda konuşuyorsunuz?’ diye sordu. Marka itibarı zarar gördü.

Çözüm Yolları: Vektör Depolarına Zaman Damgası ve Güven Skoru Ekleme

Şirket, şu üç çözümü uygulamaya başladı:

1. Zaman damgası ekleme: Her vektör, hangi tarihte işlendiğine dair bir meta veri taşımalı. LLM, ‘2021’ tarihli bir CV’yi ‘2024’ güncellemesinden daha az ağırlıkla değerlendirmeli.
2. Güven skoru: Veritabanı bilgisi (yapılandırılmış, güncel) vektör bilgisinden daha güvenilirse, LLM’ye bu skoru vermek için bir ağırlık fonksiyonu geliştirildi.
3. İki katlı doğrulama: AI, bir adayın kariyer değişimi gibi kritik bir bilgiyi görürse, otomatik olarak veritabanı ile vektör deposu arasındaki çelişkiyi raporlamalı ve insan kontrolüne iletilmeli.

Geleceğe Dair Uyarı: AI, Gerçekliği Seçmiyor — Onu İnceleyen İnsanlar Seçiyor

Bu olay, sadece bir teknik arızayı değil, bir felsefi soruyu da ortaya koydu: Yapay zeka, gerçekliği nasıl tanımlar? Eğer veri kaynakları birbirine aykırıysa, AI hangi gerçekliği seçer? İnsanlar, ‘en detaylı olanı’ seçer. AI, ‘en çok kelimeyi’ seçer. Bu, korkunç bir uyumsuzluk.

RAG sistemleri, bilgiye erişimde devrim yaratıyor. Ancak bu sistemler, gerçekliğin dinamikliğini anlamıyor. Gelecekte, ‘veri güncelleme’ değil, ‘gerçeklik entegrasyonu’ kritik olacak. Vektör depoları, sadece metin saklamaz — gerçeklik saklar. Ve bu gerçeklik, zamanla değişir. AI bunu anlamaz. Biz anlayabiliriz. Ve şimdi, onu anlamak zorundayız.