Bunlar erken günler. ChatGPT, bir kullanıcıya adı aynı harfle başlayıp aynı harfle biten tek ülkenin Çad olduğunu söylemek gibi hatalar yapmaya devam ediyor. Ama çok hızlı gelişiyor. Bazı şüpheciler bile, genel amaçlı yapay zekanın on yıllar içinde insan zekası seviyelerine ulaşabileceğine inanıyor.
bilinmeyen riskler
Potansiyel faydalara rağmen, uzmanlar AI ile neyin yanlış gidebileceği konusunda endişeli
Birincisi, böyle bir otomasyon seviyesi insanların işlerini alabilir. Bu endişe daha önce otomatik teknoloji ile ortaya çıkmıştı. Ancak araba parçalarını bir araya getirmeye yardımcı olabilecek bir makine ile insanlardan daha iyi düşünebilen bir robot arasında bir fark vardır. AI, bazı araştırmacıların umduğu zirvelere ulaşırsa, insanların yapabileceği hemen hemen her şeyi yapabilecek, hem de daha iyi.
Bazı uzmanlar varoluşsal risklere işaret ediyor. Bir anket, makine öğrenimi araştırmacılarına yapay zekanın potansiyel etkileri hakkında sorular sordu. Neredeyse yarısı, sonucun “son derece kötü (örneğin, insan neslinin tükenmesi)” olma ihtimalinin yüzde 10 veya daha yüksek olduğunu söyledi. Bunlar, hayatları boyunca yaptıkları işin insanlığı yok edebileceğini söyleyen insanlar.
Bu kulağa bilim kurgu gibi gelebilir. Ancak risk gerçek, uzmanlar uyarıyor. Open Philanthropy’de bir AI araştırma analisti olan Ajeya Cotra, “Yapay zeka sistemlerini istediğimizi yapmak için eğitmekte başarısız olabiliriz” dedi. “Onları yanlışlıkla insanlarla çelişen amaçların peşinden gitmeleri için eğitebiliriz.”
Vox’ta Kelsey Piper’dan varsayımsal bir örnek alın: Bir programdan bir sayı tahmin etmesi istenir. Bunu yapmanın en iyi yolunun, dünyanın bilgi işlem gücünün daha fazlasını kullanmak olduğunu anlıyor. Program daha sonra insanların zaten bu bilgi işlem gücünü kullandığını fark eder. Bu yüzden, sayısını engellenmeden tahmin edebilmek için tüm insanları yok eder.
Bu kulağa mantıksız geliyorsa, mevcut botların zaten yaratıcılarının niyetinde olmadığı şekillerde davrandığını düşünün. ChatGPT kullanıcıları, OpenAI’nin bu tür tepkileri engelleme çabalarına rağmen, ırkçı ve cinsiyetçi şeyler söylemesi için geçici çözümler buldular.
AI araştırmacılarının da kabul ettiği gibi sorun, hiç kimsenin bu teknolojinin nasıl çalıştığını tam olarak anlamaması ve olası tüm davranış ve riskleri kontrol etmeyi zorlaştırmasıdır. Ancak zaten halkın kullanımına açık.