Signal Teknoloji Vakfı Başkanı Meredith Whittaker, SXSW 2025 Konferansı’nda yaptığı açıklamada, agentic yapay zekâ sistemlerinin kullanıcı gizliliğine yönelik tehditlerini vurguladı. Agentic yapay zekâ, insan müdahalesine ihtiyaç duymadan karar verebilen ve görevleri yerine getirebilen yapay zekâ modellerini ifade ediyor. Whittaker, bu sistemlerin kullanıcıların kişisel verilerine büyük ölçüde erişim gerektirdiğini belirterek, bu durumun güvenlik ve mahremiyet açısından ciddi sorunlar yaratabileceğini söyledi.
Agentic Yapay Zeka ve Verilere Erişim Signal İçin Tehdit Oluşturuyor
Whittaker, agentic yapay zekânın, insanların görevlerini kolaylaştırmak için tasarlandığını ancak bunun önemli bir bedeli olduğunu belirtti. Örnek olarak, bir yapay zekâ botunun bir konser bileti satın alma sürecini ele alan Whittaker, bu süreçte botun tarayıcıya, kredi kartı bilgilerine, takvim verilerine ve hatta Signal gibi bir mesajlaşma uygulamasına erişmesi gerektiğini ifade etti.
Whittaker, “Bu sistemler, tüm verilerinize erişim sağlamak için adeta kök yetkilere ihtiyaç duyuyor. Tüm bu veriler bir araya geliyor ve çoğu zaman şeffaf olmayan bir şekilde işleniyor. Bu, kullanıcı gizliliğini ciddi anlamda tehdit eden bir durum,” dedi. Ayrıca, bu tür yapay zekâların verileri genellikle cihaz dışına çıkararak bulut sunucularında işlediğini ve bunun güvenlik açıklarını artırdığını belirtti.
Meredith Whittaker, agentic yapay zekânın, farklı uygulamalar ve hizmetler arasında bir köprü oluşturduğunu ve bu durumun, Signal gibi mesajlaşma uygulamalarının mahremiyetini bile riske atabileceğini dile getirdi. Whittaker, bu tür sistemlerin, uygulama katmanı ile işletim sistemi katmanı arasındaki sınırı bulanıklaştırarak kullanıcı verilerinin bütünlüğünü zedelediğini savundu.
Whittaker’ın bu uyarıları, yapay zekâ dünyasında yalnız değil. Yapay zekâ araştırmalarının öncülerinden Yoshua Bengio da benzer endişelerini dile getirmişti. Bengio, agentic yapay zekânın kontrol altına alınmazsa, insanlık için büyük riskler yaratabileceğini ifade etmişti. Signal Başkanı Meredith Whittaker, bu teknolojilerin geniş çapta benimsenmeden önce gizlilik ve güvenlik sorunlarının daha detaylı incelenmesi gerektiğini vurguladı. Agentic yapay zekâların getirdiği kolaylıkların, kullanıcıların kişisel verileri üzerindeki kontrolünü tehlikeye atmaması gerektiğini belirtti.
Yorum Yap