Yanlışı ayırt etmek · Yapay zekâyla tanışmak

Bir sohbet modeli sana var olmayan bir kitabı, yanlış bir tarihi ya da yanlış bir ilaç bilgisini, doğru bir bilgiyi söylediği güvenle söyleyebilir. Buna halüsinasyon ya da daha basit adıyla uydurma denir.

Bu bir arıza değil, modelin çalışma biçiminin bir yan etkisi. Model bilgi aramaz, kulağa en doğal gelen devamı üretir. Neden böyle olduğunu Yapay zekâ neden bazen uydurur? sayfasında kendi gözünle görebilirsin.

Ne zaman daha dikkatli olmalısın?

Model özellikle şu durumlarda yanılmaya yatkındır:

Kesin bilgi istediğinde: tarihler, sayılar, fiyatlar, alıntılar, yasa maddeleri.
Kaynak istediğinde: var olmayan kitap, makale ve internet adresleri sık görülür.
Az bilinen konularda: küçük bir yerin tarihi, tanınmayan bir kişi, yerel bir kural.
Güncel olaylarda: model, eğitildiği tarihten sonra olanları bilemez. Arama özelliği yoksa eski bilgiyle cevap verir.
Hesaplarda: uzun hesaplamalarda küçük hatalar yapabilir.

Bir de şunu bil: Model senin fikrine katılmaya yatkındır. “Bu doğru, değil mi?” diye sorarsan “evet” deme ihtimali artar. Tarafsız bir cevap istiyorsan soruyu tarafsız sor: “Bunun doğru olup olmadığını, iki tarafın gerekçeleriyle anlat.”

Kontrol etmenin dört yolu

1. Kaynak iste ve aç. “Bu bilginin kaynağı ne?” diye sor. Verdiği bağlantıya gerçekten tıkla. Bağlantı açılmıyorsa ya da sayfa başka bir şey anlatıyorsa, bilgiye güvenme.

2. Başka bir yerden doğrula. Önemli bir bilgiyi resmî bir kurumun sitesinde, güvenilir bir haber kaynağında ya da bir ansiklopedide ara. İki bağımsız kaynak aynı şeyi söylüyorsa daha güvenebilirsin.

3. Yeniden sor. Aynı soruyu yeni bir sohbette, farklı kelimelerle sor. Cevap her seferinde değişiyorsa, model muhtemelen bilmiyor.

4. Hayatını etkileyecekse uzmana sor. Sağlık, hukuk ve para konularında model bir başlangıç noktası olabilir. Son karar için doktoruna, avukatına ya da bir uzmana danış.

Sahte fotoğraf, ses ve video

Yapay zekâ artık gerçeğinden ayırt edilmesi zor fotoğraf, ses ve video üretebiliyor. Bunlara deepfake denir. Ünlü birinin hiç söylemediği bir sözü söylediği bir video ya da hiç yaşanmamış bir olayın fotoğrafı olabilir.

Şüphelenmen gereken işaretler:

Çok şaşırtıcı ya da çok öfkelendirici. Sahte içerik genellikle güçlü bir duygu uyandırmak için yapılır. İlk tepkin “Bu nasıl olur!” ise bir dur.
Kaynağı belirsiz. Kim paylaşmış? Bilinen bir haber kuruluşu da bunu veriyor mu?
Ayrıntılarda tuhaflık. Fazla ya da eksik parmaklar, anlamsız yazılar, garip gölgeler, dudakla uyuşmayan ses. Ama dikkat: Yeni araçlar bu hataları giderek daha az yapıyor. Ayrıntı düzgün diye içerik gerçek değildir.
Ters görsel arama. Fotoğrafı bir arama motorunun görsel arama özelliğine yükle. Daha önce başka bir bağlamda yayımlanmış mı, bak.

En sağlam kural: Paylaşmadan önce kontrol et. Emin değilsen paylaşma.

Akılda kalsın: Model en olası cevabı üretir, en doğru cevabı değil. Önemli bir bilgiyi her zaman başka bir kaynaktan kontrol et. Şaşırtıcı bir fotoğraf ya da video gördüğünde, paylaşmadan önce kaynağına bak.

Kendini dene

Quiz · Kendini dene0/3

1. Model sana bir makale önerdi ve bağlantısını verdi. Ne yaparsın?
2. “Bu bilgi doğru, değil mi?” diye sormanın sorunu ne?
3. Sosyal medyada çok öfkelendirici bir video gördün. İlk ne yapmalısın?