Meta, gençlere yönelik AI sohbet özelliklerini yeni sürümle tamamen durduruyor

Meta, genç kullanıcıların dijital güvenliğini korumak amacıyla yapay zeka tabanlı sohbet özelliklerini tamamen yeniden yapılandırıyor. Şirket, son aylarda artan endişeler doğrultusunda, 13-17 yaş arası kullanıcılar için AI sohbet botlarının bazı fonksiyonlarını geçici olarak askıya aldı. Bu adım, gençlerin psikolojik sağlığını korumak ve yapay zekânın olumsuz etkilerini azaltmak amacıyla atıldı. Yeni sürüm, 2025 sonunda piyasaya sürülecek ve kullanıcıların AI ile etkileşimlerini daha kontrollü hale getirmeyi hedefliyor.

Yeni AI Sürümü: Konuşma Sınırları ve Ebeveyn Kontrolü

Meta'nın geliştirdiği yeni yapay zeka sistemi, intihar, self-harm, yeme bozuklukları ve cinsel içerik gibi hassas konulara ilişkin konuşmaları tamamen engelleyecek. AI botları, bu tür sorulara cevap vermek yerine, kullanıcıları profesyonel yardım kaynaklarına yönlendirecek şekilde programlanacak. Ayrıca, ebeveynlerin çocuklarının AI ile etkileşimlerini sınırlama yetkisi de eklenecek. Ebeveynler, AI sohbetlerinin ne zaman, ne sıklıkta ve hangi konularda yapılacağını ayarlayabilecek. Bu özellik, özellikle gençlerin zayıf psikolojik durumlarda yanlış yönlendirilmelerini önlemeyi amaçlıyor.

Toplumsal Basın ve Bilim Dairelerinin Tepkisi

Psikologlar ve çocuk hakları örgütleri, Meta'nın bu adımını olumlu karşıladı. American Psychological Association (APA), bu değişikliğin "çok genç kullanıcıların zihinsel sağlığını korumada kritik bir adım" olduğunu belirtti. Aynı zamanda, 2023'te yayınlanan bir Stanford Üniversitesi araştırması, yapay zekânın gençlerde anksiyete ve yalnızlık hissini artırabileceğini gösteriyor. Meta, bu bulgulara dayanarak, AI sistemlerini daha etik ve sorumlu hale getirmek için 2025 yılına kadar kapsamlı bir test süreci başlatıyor.

Yeni sürüm, yalnızca içerik engellemeyle kalmayacak; aynı zamanda kullanıcı davranışlarını analiz ederek riskli etkileşimleri önceden tespit edecek yapay zeka algoritmalarını da içerecek. Bu sistem, kullanıcıların dilini, tonunu ve tekrar eden konularını izleyerek, potansiyel kriz durumlarını otomatik olarak algılayacak ve yardım isteği göndermeye zorlayacak. Meta, bu teknolojinin sadece bir güvenlik önlemi olmadığını, aynı zamanda gençlerin dijital deneyimini daha insani hale getirmek için bir dönüm noktası olarak tanımlıyor.

Meta'nın bu hamlesi, teknoloji şirketleri arasında bir trend oluşturabilir. Diğer sosyal medya platformları da benzer güvenlik önlemlerini değerlendirmeye başlamış durumda. 2024 itibarıyla, TikTok ve Snapchat gibi platformlar, genç kullanıcılar için AI etkileşimlerinde ebeveyn kontrolü ve içerik filtreleme araçlarını test etmeye başladı. Gelecek yıl, gençlerin yapay zeka ile etkileşiminde ebeveyn kontrolü, içerik filtreleme ve psikolojik koruma mekanizmaları standart hale gelebilir. Bu, sadece bir şirketin kararından çok, dijital neslin sağlığı için küresel bir sorumluluk haline gelmeye başlıyor.