Amerika Birleşik Devletleri’nde yaşayan bir avukat, araştırma yapmak için yapay zekâ destekli sohbet botu ChatGPT’yi kullandı ama ChatGPT sahte alıntı yaptı ve avukatı şimdi yasal bir süreç bekliyor.
The New York Times tarafından aktarılan bilgilere göre Levidow, Levidow & Oberman’den Steven Schwartz isimli bir avukat, kısa bir süre önce bir araştırma için özet yazarken yardımcı olması için OpenAI tarafından geliştirilen sohbet botuna yöneldi.
ChatGPT Sahte Alıntı Yapabiliyor
Schwartz’ın firması, New York’taki John F. Kennedy Uluslararası Havalimanı’na bir uçuşta yaralandığını iddia eden Roberto Mata adına Kolombiyalı havayolu şirketi Avianca’ya dava açtı. Havayolu şirketi davanın reddedilmesini istediğinde Mata’nın avukatları davanın neden devam etmesi gerektiğini açıklayan 10 sayfalık bir belge sundu.
Bu belgede birçok mahkeme kararına atıfta bulunuldu. Belgeyi inceleyen kimse atıfta bulunan mahkeme kararlarına ulaşamadı. Bunun nedeni ise ChatGPT’nin hepsini uydurmasıydı. Belgede yer alan kararlar aslında hiç alınmamıştı, bunlar gerçek değildi.
A lawyer used ChatGPT to do “legal research” and cited a number of nonexistent cases in a filing, and is now in a lot of trouble with the judge 🤣 pic.twitter.com/AJSE7Ts7W7
— Daniel Feldman (@d_feldman) May 27, 2023
NY Times’a göre Schwartz, sunulan bir beyannamede sohbet botunu dava için araştırmasını tamamlamak amacı ile kullandığını söyledi. Schwartz, sohbet botu tarafından yazılan içeriğin yanlış olabileceği ihtimalinin farkında olmadığına işaret etti.
Avukat, ChatGPT’yi kullanmaktanbüyük pişmanlık duyduğunu ve sohbet botu tarafından yazılanlar doğrulanmadan gelecekte asla bunu yapmayacağını belirtti. Schwartz’ın bu eyleminin benzeri görülmemiş olması dolayısıyla olası yaptırımlar tartışılmak üzere 8 Haziran’da duruşma yapılmasına karar verildi.