İçeriğe geç

Yapay zekâ halüsinasyonu nedir?

Yapay zekâ halüsinasyonlarının ne olduğu, büyük dil modellerinin bunları neden ürettiği ve araştırmada ve akademik yazıda nasıl fark edilip önleneceği.

Paylaşım

Yapay zekâ halüsinasyonu nedir?

Yapay zekâ halüsinasyonu, bir yapay zekâ modelinin kendinden emin ve akla yatkın görünen ama yanlış ya da uydurma olan çıktısıdır: yanlış bir bilgi, kimsenin söylemediği bir alıntı ya da var olmayan bir kaynak. Halüsinasyonlar, büyük dil modellerinin bilinen bir sınırlılığıdır; ChatGPT gibi araçların arkasında da bu sistemler vardır.

Neden olur?

  • Bir dil modeli, eğitim verisindeki örüntülerden olası sonraki sözcükleri tahmin ederek metin üretir; bir aramaya ya da belgeye bağlı değilse bilgileri gidip kontrol etmez.
  • Eğitim verisi zayıf ya da güncelliğini yitirmişse model boşluğu örüntüye uyan bir şeyle doldurur.
  • Modeller bir yanıt vermeye göre ayarlanmıştır; bu yüzden istenmedikçe nadiren “bilmiyorum” derler.

Yapay zekâ halüsinasyonu örnekleri

  • Uydurma kaynaklar: gerçekçi görünen yazarları, dergileri ve DOI'leri olan ama hiçbir yere çıkmayan kaynaklar; akademik çalışmalarda en yaygın sorun budur.
  • Sahte davalar: 2023'te ABD'deki Mata v. Avianca davasında avukatlar, ChatGPT'nin uydurduğu mahkeme kararlarına atıf yapan bir dilekçe sundukları için yaptırımla karşılaştı.
  • Bir ürün tanıtımında yanlış bilgi: Şubat 2023'te Google'ın Bard'ı bir lansman gösterisinde, Güneş Sistemi dışındaki bir gezegenin ilk fotoğraflarını James Webb Uzay Teleskobu'nun çektiğini söyledi; oysa durum böyle değildi.
  • Yanlış aktarılmış ya da yanlış kişiye atfedilmiş alıntılar ve kaynağı olmayan istatistikler.

Yanılmamak için ne yapmalı?

  • Açıp bakmadığınız bir kaynağa asla atıf yapmayın: aracın verdiği her başlığı ya da DOI'yi kontrol edin.
  • Kaynak isteyin, sonra her birinin gerçekten aracın iddia ettiği şeyi söyleyip söylemediğini kontrol edin.
  • Sağladığınız belgelerden ya da canlı bir aramadan yanıt veren ve her iddianın nereden geldiğini gösteren araçları tercih edin.
  • “Emin değilim” yanıtına izin veren istemler yazın ve kesin sayıları ve tarihleri en olası hatalar olarak görün.

Ana fikir

Yapay zekâ araçları taslak yazmada ve doğru sözcükleri bulmada yardımcı olabilir, ama bilgileri ve kaynakları kontrol etmek yazarın işi olarak kalır. Üniversiteler uydurma bir kaynağı, onu kim ya da ne üretmiş olursa olsun, bir akademik dürüstlük sorunu olarak görür.

Kullanım alanı: Yazarken her iddia için kaynak bulun

Bir sonraki makaleniz, gerçek atıflarla.

Makalenizi anlatın, bir dakikada ana hattınızı alın. Ücretsiz plan için kart gerekmez.