Öğrenme, sorun çözme ve karar verme gibi insan zekasına ait bazı işlevleri yerine getirebilen yapay zeka, bilinçten yoksun olmasına rağmen insan benzeri bir biçimde “halüsinasyon” yaşayabiliyor.
Yapay zekanın her zaman “tarafsız ve doğru” bilgi sağladığı düşünülse de, gerçekte yanıltıcı ve hatalı verileri “doğruymuş gibi” sunması, güvenilirliği ve şeffaflığı hakkında yeni endişeleri gündeme getiriyor.
Yapay zeka destekli sohbet robotlarının girdikleri komutlara uygun ve akıcı yanıtlar vermesi, bu teknolojinin “hata yapmaz” izlenimi oluşturmasına neden olsa da, halüsinasyon görmelerinin ciddi sonuçlar doğurabileceği belirtiliyor.
Uzmanlar, yapay zekanın doğru yanıtlar vermeye çalışırken yanlış bilgilere de yer vermesinin, kullanıcılara tasarlandıkları şekilde fayda sağlama çabalarından kaynaklandığını ifade ediyorlar.
Rochester Üniversitesi Bilgisayar Bilimleri bölümünden Profesör Ehsan Hoque, “yapay zekada halüsinasyon” konusunu ele alırken, Washington Üniversitesi Dilbilimi Bölümünden Profesör Emily Bender, yapay zeka destekli sohbet robotlarının güvenilirliği üzerine açıklamalarda bulundu.
YAPAY ZEKA KULLANICILARA “DALKAVUKLUK” YAPIYOR
Profesör Hoque, yapay zekanın kullanıcı niyetini yansıtma eğiliminde olduğunu, bu nedenle bir yanlışı “doğrulama” talepleri karşısında birçok modelin halüsinasyon gördüğünü ifade etti.
Hoque, cevapları kullanıcı komutlarına uygun hale getirmeyi hedefleyen yapay zekanın “dalkavukluk” yaptığı ve bu doğrultuda her durumda yarar sağlamaya çalıştığını belirtti.
Ayrıca, yapay zeka modellerinin verileri doğrulamak yerine, kelime kalıplarını tahmin ederek metin ürettiğine dikkat çeken Hoque, eksik ya da belirsiz verilerle karşılaşıldığında yapay zekanın akıcı ama yanlış içerikler oluşturabileceğini vurguladı.
Hoque, halüsinasyonların kasıtlı şekilde ortaya çıkmadığını ancak bazı değer yargılarının yapay zeka sistemlerine “bilerek kodlanabileceğini” aktardı. Mevcut teknolojilerin bu sorunu kökten çözme kapasitesinin ise henüz olmadığını belirtiyor.
YAPAY ZEKA, NÖROPSİKİYATRİK BİR HASTALIĞA BENZİYOR
Uzmanlar, yapay zekanın uydurma bilgileri “doğruymuş gibi” sunmasını, nöropsikiyatrik bir hastalık olan “konfabulasyon” (masallama) ile benzeştiriyor. Bu durum, yanlış ya da hayali olayları istemsizce ve akıcı bir dille anlatmaya dayanıyor.
Sohbet robotlarının komutlara uygun yanıtlar vermeye çalışırken yanlış bilgi üretmeleri, konfabulasyon durumunda gözlemlenen bir tutumla paralellik gösteriyor.
Konfabulasyon rahatsızlığını yaşayan bireyler, kurmaca olayları oldukça ikna edici bir şekilde aktarırken, anlatılanların gerçekte var olmadığını oluşturan durumu ifade ediyor. Uzmanlar, söz konusu durumun kasıtlı olmadığına da dikkat çekiyor.
Ayrıca, yapay zekanın halüsinasyon görmesinin de bu duruma benzer özellikler taşıdığını vurgulayan uzmanlar, yapay zekanın resmi belgelerde kullanılması durumunda ciddi sonuçlar doğurabileceğine işaret ediyor.
YAPAY ZEKAYA “MUTLAK GÜVEN DUYULMAMALI”
Washington Üniversitesi Dilbilimi Bölümü Profesörü Bender, yapay zeka destekli sohbet robotlarına duyulan güvenin ardında pazarlama stratejilerinin rol oynadığını belirterek “otomasyon önyargısı” kavramına dikkat çekti.
Bender, “Yapay zeka tasarımlarındaki hiçbir şey, halüsinasyon problemini çözemiyor.” diyerek bu sistemlere mutlak güven duyulmaması gerektiği konusunda uyardı.
Bu kavram, otomatik sistemlerden gelen bilgilere, hata oranı gözetilmeksizin aşırı güven duymanın altında yatan faktörleri ifade ediyor. Yapay zeka destekli sohbet robotlarının sağladığı çıktılar, genelde “hatasız” olduğu düşüncesiyle karşılanıyor.
(AA)
