Bir sohbet asistanına bir soru sorduğunuzda size güvenli bir sesle yanıt verir. Ama bu yanıtın hangi kaynaktan geldiğini, ne zaman yazıldığını ve kim tarafından doğrulandığını öğrenemezsiniz. AI kaynak gösterme eksikliği, bu sistemlerin epistemolojik zayıf noktasıdır. Bilginin güvenilirliği, büyük ölçüde kaynağının izlenebilirliğine dayanır. Akademik yazımda, gazetecilik pratiğinde, hukukta ve tıpta kaynak göstermek yalnızca nezaket kuralı değil; bilgiyi doğrulanabilir kılan temel bir mekanizmadır. AI kaynak gösterme eksikliği bu mekanizmayı devre dışı bırakır. Sistematik bir kusur olarak bu durumu anlamak için şunu düşünmek yeterli: Model, milyarlarca metin parçasından öğrenir. Bu metinlerin kim tarafından, ne zaman ve hangi bağlamda yazıldığı, eğitim sürecinde silinir. Geriye kalan yalnızca istatistiksel örüntüler. Dolayısıyla modelin bir bilgiyi "bilmesi", o bilginin nerede olduğunu hatırlamasıyla eşdeğer değildir. Pratik sonuçları ağırdır: Sağlık bilgisi arayanlar, hatalı bir yanıtı güvenilir sayabilir. Hukuki süreç takip edenler, geçersiz bir emsal duydukları bir cümleden öğrenmiş olabilir. Akademik çalışma yürütenler, var olmayan bir makaleye atıfta bulundurulabilir (halüsinasyon sorunu bu konunun ayrı bir kolu). AI kaynak gösterme eksikliği için çeşitli teknik yaklaşımlar denenmiştir: Retrieval Augmented Generation (RAG) mimarileri, modeli gerçek belgeler üzerinden çalıştırarak kaynakları gösterilebilir kılar. Ancak bu da mükemmel değil; gösterilen kaynak, gerçek bilginin kaynağı olmayabilir, sadece görüntülenen içerikle benzer bir belge olabilir. Epistemolojik kusurun özü şudur: "Bilmek" kavramı, bu sistemlerde köklü biçimde farklı işler. İnsan zihninde bilgi; deneyim, doğrulama ve bağlamla birleşir. Dil modellerinde ise bilgi, örüntü eşleştirmesidir. İkisi aynı çıktıyı üretse bile süreç tamamen farklıdır. Bu farkı görünür kılmak, hem bu araçları geliştirenlerin hem de kullanıcıların üstlenmesi gereken bir sorumluluktur. Kaynak göstermeden yanıt üreten sistemleri, bilgi üretimi değil bilgi benzetimi olarak konumlandırmak daha dürüst bir çerçeve olurdu.