Yapay zeka araştırmacıları bazen makine öğrenimi teknolojisini “kırılgan” olarak tanımlar. Bu, yapay zekanın bir insanın gerçek dünyadaki karmaşıklıklara dair anlayışından yoksun olduğu anlamına geliyor. Bu örnekte de gördüğümüz gibi bu durum yapay zeka sistemlerinin bazen hızlı ve beklenmedik şekillerde bozulmasına yol açabiliyor.
Bununla birlikte, “kırılganlığın” ne anlama geldiğinin daha gözle görülür bir açıklaması için, İskoç futbol takımı Inverness Caledonian Thistle FC tarafından konuşlandırılan yapay zeka kamera operatörünün durumunu ele alabiliriz. Pandemi, taraftarların maçlara katılmasını durdurduğunda kulüp, insanların her zaman aksiyonu en iyi şekilde görmelerini sağlamak için “yerleşik, yapay zeka, top izleme teknolojisine sahip” otomatik bir kamera sistemi kullanarak oyunlarını canlı yayınlayacağını duyurmuştu.
Ancak yakın zamandaki bir canlı maç akışı sırasında, yapay zeka kamera operatörü defalarca yan hakemlerin kel kafasını futbol topuyla karıştırdı. Mükemmel bir film müziği ile aşağıdaki derleme videosunda sonucu görebilirsiniz. Sanki kameraman, çizgi hakemine aşık olmuş ve onun göz kamaştıran, kel ve pırıl pırıl güzelliğine zoom yapamadan duramıyor gibi görünüyor.
https://youtu.be/9zoJP2FkpgU
Buradaki temel sorun oldukça açık şekilde görünüyor. Bir futbol topu, bir insan kafası büyüklüğünde ve biçiminde. Her ikisinden de parıldayan güneş ışığı ile onları birbirleriyle karıştırmak çok kolay.
Ölümcül kazalara neden olan bazı hatalara benzer bir durum
Yine, bu yeni teknolojinin “kırılgan” olarak adlandırılmasının nedeni budur. Bir insan asla böyle bir hatayı yapmaz, ancak hem futbol topları hem de insan anatomisi konusunda sınırlı anlayışa sahip bir makine öğrenme sistemi bunu yapabiliyor. Bu özel örnek çok komik olsa da, bu tür hatalar herhangi bir yapay zeka sisteminde olabilir. Bu hata aslında tuhaf bir şekilde, kendi kendine giden arabaların ölümcül kazalara neden olan bazı hatalarına benzer. Bir keresinde, Tesla‘nın “otopilot” yazılımı, bir kamyonun beyaz tarafı ile gökyüzü arasında ayrım yapamamıştı.
https://twitter.com/skayr100/status/1320861821243371522
Maçın kendisinden görülen Tweet’lere göre, durum o kadar kötüydü ki, oyun yorumcusu bir noktada arızalı kamera için özür dilemek zorunda kaldı. Hatta bir taraftar, kameranın odak eksikliği nedeniyle takımının golünü izlemeyi özlediğini söyledi.