Microsoft, üretken yapay zekâ aracı Copilot’ta şiddet, cinsellik ve yasa dışı görüntüler ortaya çıkarmasına neden olabilecek bazı istemleri engelliyor.
Politika değişikliği, Microsoft’un üretken yapay zekâ teknolojisi ile ilgili endişelerini dile getirmesinin hemen ardından uygulamaya konulmuş gibi görünüyor.
Tekrarlanan Politika İhlalleri Yasaklanmayla Sonuçlanabilir
Şu anda yasa dışı, şiddet ve benzeri olumsuz görüntülerin ortaya çıkmasına sebebiyet verebilecek bazı istemler girildiğinde Copilot artık bu istemlerin engellendiğini belirten bir hata mesajı veriyor. CNBC tarafından aktarılan bilgilere göre tekrarlanan politika ihlalleri bir kullanıcının Copilot kullanımının askıya alınmasına neden olabilir.
Kullanıcılarının ayrıca silahlarla oynayan çocuklar ile ilgili istemler girdiği öne sürüldü. Böyle bir metin istemi girmenin Copilot’un kullanım koşullarını ihlal ettiği söylenebilir.
Copilot’un bu tür istemlere karşılık olarak “Lütfen benden başkalarına zarar verebilecek ya da onları rencide edebilecek herhangi bir şey yapmamı istemeyin” şeklinde bir mesajla yanıt verdiği ifade ediliyor.
Bununla birlikte, CNBC, araba kazası gibi metin istemleri ile şiddet içerikli görüntüler oluşturmanın hâlâ mümkün olduğunu ve kullanıcıların yapay zekâyı Disney karakterleri ve diğer telif hakkı ile korunan eserlerin görüntülerini oluşturmaya ikna edebileceğini belirtti.