ChatGPT ile yaptığım sohbetlerde neden bazen tuhaf cevaplar alıyorum?

Arkadaşlar merhaba, uzun zamandır ChatGPT ile çeşitli konularda sohbet ediyorum. Genelde işe yarar cevaplar alıyorum ama bazen öyle tuhaf şeyler oluyor ki insan ister istemez "Bu yapay zeka gerçekten ne kadar güvenilir?" diye düşünüyor. Mesela geçen gün basit bir yemek tarifi sordum, o bana Shakespeare'in bir oyunundan alıntı yaparak cevap vermeye başladı. Ya da bir başka seferde, "Bugün hava nasıl?" diye sordum, bana uzun uzun felsefi bir yazı yazdı. Bunları komik buluyorum ama bazen de işimi yaparken can sıkıcı olabiliyor.

Sizce bu tuhaf cevapların sebebi ne? Ben genelde İngilizce kullanıyorum, belki dil modelinin eğitim verisindeki bazı rastgele ilişkilendirmelerden kaynaklanıyordur. Ama bazen sorduğum soru çok spesifik olunca, chat sanki başka bir konuya atlıyor gibi hissediyorum. Mesela bir teknik sorunu sorarken, bana birden kişisel gelişim önerileri vermeye başlaması da cabası. Sizde de böyle deneyimler oldu mu? Yoksa ben mi yanlış bir şekilde soru soruyorum?

Bir de şu var: Bazen aldığım cevaplar o kadar insansı oluyor ki, karşımda gerçekten bir insan varmış gibi hissediyorum. Ama sonra aniden saçma bir cevap gelince bu illüzyon bozuluyor. Bu durum yapay zekanın hâlâ ne kadar "kırılgan" olduğunu gösteriyor olabilir mi? Yoksa bu tuhaf cevaplar aslında modelin yaratıcılığının bir parçası mı? Sizin bu konuda düşünceleriniz neler, benzer şeyler yaşadıysanız nasıl başa çıkıyorsunuz? Belki de bu cevapları minimize etmek için belirli bir prompt stili geliştirmek gerekiyordur.