Yeni bir araştırma, ChatGPT adlı Yapay Zeka (AI) sohbet robotunun, bilim adamlarının fark edemediği ikna edici sahte araştırma makalesi özetleri yazdığını ortaya çıkardı.
Chicago’daki Northwestern Üniversitesi’nden Catherine Gao liderliğindeki bir araştırma ekibi, bilim adamlarının bunları tespit edip edemediğini test etmek için yapay araştırma makalesi özetleri oluşturmak için ChatGPT’yi kullandı.
Prestijli Nature dergisinde yer alan bir habere göre, araştırmacılar sohbet robotundan JAMA, The New England Journal of Medicine, The BMJ, The Lancet ve Nature Medicine’de yayınlanan bir seçkiye dayalı olarak 50 tıbbi araştırma özeti yazmasını istedi.
Daha sonra bunları bir intihal detektörü ve bir yapay zeka çıktı detektöründen geçirerek orijinal özetlerle karşılaştırdılar ve bir grup tıbbi araştırmacıdan uydurma özetleri tespit etmelerini istediler.
ChatGPT tarafından oluşturulan özetler, intihal denetleyicisinden geçti: medyan özgünlük puanı yüzde 100’dü, bu da hiçbir intihal tespit edilmediğini gösteriyor.
AI-çıktı detektörü, oluşturulan özetlerin yüzde 66’sını tespit etti. Ancak insan eleştirmenler daha iyisini yapmadılar – oluşturulan özetlerin yalnızca yüzde 68’ini ve gerçek özetlerin yüzde 86’sını doğru bir şekilde tanımladılar.
Nature makalesine göre, oluşturulan özetlerin yüzde 32’sini gerçek olarak ve gerçek özetlerin yüzde 14’ünü yanlış bir şekilde tanımladılar.
Araştırmaya dahil olmayan Oxford Üniversitesi’nden Sandra Wachter, “Çok endişeliyim” dedi.
“Artık uzmanların neyin doğru olup olmadığını belirleyemediği bir durumdaysak, karmaşık konularda bize umutsuzca rehberlik etmesi gereken aracıyı kaybederiz.”
Microsoft’un sahip olduğu yazılım şirketi OpenAI, aracı Kasım ayında halka açık hale getirdi ve kullanımı ücretsiz.
Raporda, “Yayınlandığından beri araştırmacılar, kullanımıyla ilgili etik sorunlarla boğuşuyor, çünkü çıktılarının çoğunu insan yazısı metinden ayırt etmek zor olabilir” dedi.
Tüm Son Teknoloji Haberlerini buradan okuyun
(Bu hikaye News18 personeli tarafından düzenlenmemiştir ve sendikasyon haber ajansı beslemesinden yayınlanmıştır)