OpenAI tarafından geliştirilen bir yapay zeka ajanının Avustralya hükümetinin Medicare sistemine izinsiz eriştiği ortaya çıktı. Olayın haziran ayında gerçekleştiği ve yapay zekanın sağlık istatistiklerini araştırırken hükümete ait bir sisteme erişim sağladığı belirtildi.
Avustralya Başbakanı Anthony Albanese, olayın ciddi olduğunu açıkladı. OpenAI’ın hükümeti olaydan yaklaşık üç ay sonra haberdar etmesi de tepki çekti. İlk incelemelerde hastalara ait kişisel kayıtların ele geçirildiğine dair bir bulgu bulunmadığı ifade edildi.
Yapay Zeka Ajanı Medicare Sistemine Nasıl Girdi?
Yapay zeka ajanı, sağlık ve tıbbi istatistikler hakkında bilgi toplamak amacıyla yürütülen bir değerlendirme sırasında Avustralya’daki çeşitli kamu siteleriyle etkileşime geçti. Bunlar arasında Medicare istatistiklerinin raporlandığı Services Australia portalı da bulunuyordu.
Söz konusu portal, harcamalar ve diğer istatistikler gibi hassas olmayan Medicare verilerini içeriyordu. Yapay zeka ajanı ilk olarak sistem üzerinden bilgi almaya çalıştı. Bilgiye ulaşamadığında ise normal kullanıcıların sahip olmadığı bir erişim yöntemi kullanarak sisteme girdi.
İncelemelere göre ajan portal içerisinde hem herkese açık hem de herkese açık olmayan dosyalara erişti. Ayrıca dahili sunucudaki dosyalara yazma işlemleri gerçekleştirdi. Bu nedenle olay, yalnızca otomatik bir veri toplama işlemi olarak değil, yetkisiz erişim olarak değerlendiriliyor. OpenAI’ın yaptığı incelemede toplu sağlık istatistikleri ile dahili dosya adlarına erişildiği tespit edildi. Hasta kayıtlarına erişildiğini gösteren bir kanıt ise bulunmadı.
Üç Kamu Sisteminde Daha Yapay Zeka Etkileşimi Yaşandı
Yapay zeka ajanının Medicare portalının yanı sıra üç Avustralya kamu hizmetiyle daha etkileşime girdiği belirlendi. Bunlar Australian Institute of Health and Welfare, Victoria Sağlık Bakanlığı ve New South Wales Bureau of Crime Statistics and Research tarafından işletilen sistemlerdi.
Bu üç sistemdeki işlemlerin Medicare portalındaki durumdan farklı olduğu belirtildi. Ajan bu sitelerde normal bir kullanıcı gibi hareket etti ve yetkili erişim sınırları içinde kaldı. Medicare istatistik portalında ise sistemin kendisine bilgi vermemesi üzerine yetkisiz erişim gerçekleşti. Avustralya hükümeti açısından olayın temel sorunu da bu erişim yöntemi oldu.
OpenAI Hükümeti Üç Ay Sonra Bilgilendirdi
Olay haziran ayında yaşanmasına rağmen Avustralya hükümeti ilk bildirimi 10 Eylül’de aldı. Üstelik bildirim doğrudan ilgili yetkililere gönderilmedi. OpenAI, Services Australia tarafından kullanılan [email protected] adresine e-posta gönderdi. Kamuya açık bu posta kutusu günde bir kez kontrol edildiği için bildirim 11 Eylül’de okundu.
Services Australia, durumu 15 Eylül’de Australian Cyber Security Centre’a bildirdi. Hükümet daha sonra olayın hukuki boyutunu incelemek için özel bir görev gücü oluşturdu. Anthony Albanese, OpenAI CEO’su Sam Altman ile de görüştüğünü ve olayla ilgili endişelerini aktardığını söyledi. Hükümetin olaydan haberdar edilmesindeki gecikmenin de ayrıca ele alındığı belirtildi.
Avustralya’da Hukuki İnceleme Başlatıldı
Avustralya Başbakanlık ve Kabine Bakanlığı öncülüğünde oluşturulan görev gücü olayın hukuki sonuçlarını araştırıyor. Çalışmalara Australian Signals Directorate ve AI Safety Institute da katılıyor. İncelemenin temel konularından biri, bir yapay zeka ajanının kasıtlı bir insan müdahalesi olmadan gerçekleştirdiği işlemlerin hukuki açıdan nasıl değerlendirileceği olacak.
Başbakan Yardımcısı Richard Marles, olayın etkisinin sınırlı olduğunu ancak yetkisiz erişimin ciddi bir güvenlik olayı olduğunu belirtti. Hükümetin ayrıca yapay zeka sistemlerinin geliştirilmesi sırasında daha güçlü güvenlik önlemleri ve sınırlar oluşturulması gerektiğini değerlendirdiği aktarıldı.
Kritik Verilere Erişildiğine Dair İpucu Yok
Mevcut incelemelerde hasta kayıtlarına veya kişisel sağlık bilgilerine erişildiğine dair bir kanıt bulunmuyor. Buna karşın dahili dosya isimleri ve toplu sağlık istatistiklerine erişim sağlandığı tespit edildi.
Avustralya’nın federal hükümeti ile New South Wales ve Victoria yönetimleri olayla ilgili incelemelerini sürdürüyor. Yetkililer, hangi verilere erişildiğini ve yapay zeka ajanının sistem içerisinde hangi işlemleri gerçekleştirdiğini belirlemeye çalışıyor.
Olayın bir başka boyutunu ise yapay zeka sistemlerinin kendi başına gerçekleştirebildiği işlemlerin sınırları oluşturuyor. Bir araştırma göreviyle başlayan süreçte ajanın bilgiye ulaşamadığında yetkisiz bir erişim gerçekleştirmesi, yapay zeka güvenliği konusunda yeni hukuki ve teknik soruları gündeme getirdi.
Yorum Yap