Arama motoru indeksleme problemini rasyonel olarak çözün; bu sefer bunun arkasında ne var?
Son birkaç gün içinde endişe verici bir şey fark ettim: En son makalelerim artık Google Haberler'de dizine eklenmiyordu ve Google Keşfet'ten gelen trafik giderek azalıyordu. Elbette bu tür gelişmeler sizi kayıtsız bırakmıyor. Aklımdan çeşitli çılgın varsayımlar geçti ama bunları bir kenara bırakıp soruna mantıklı bir şekilde yaklaşmaya karar verdim.
Sayfalarımı Google'a manuel olarak gönderdiğimde hemen dizine eklendi ve görüntülendi. Ancak beklesem de hiçbir şey olmadı. Bu fenomeni iki gün boyunca gözlemledim. Bu yüzden sebebini kapsamlı bir şekilde araştırma zamanı gelmişti.
1. Adım: Son değişiklikleri inceleyin
İlk önce kendime şu soruyu sordum: Sitede en son düzenlenen şey neydi? Olası hata kaynaklarını daraltmak için son değişiklikleri belirlemek önemlidir. Benim durumumda, yakın zamanda önbellek sistemini elden geçirdim.
Adım 2: Düşünmedeki gizli hataları veya hataları belirleyin
Önbelleğe alma revizyonunun istenmeyen yan etkileri olabilir. Düşünmede gizli hatalar ya da hatalar var mı? Yeni ayarları kontrol etmeye ve olası çakışmaları aramaya başladım.
3. Adım: Sebebini bulun
Ayrıntılı analizin ardından suçluyu keşfettim: Güvenlik yapılandırmamdaki yeni bir bot tanımı harika bir iş çıkardı - ne yazık ki çok iyi. Günümüzde internette sayısız bot dolaşıyor ve sunucu yükünü azaltmak için gereksiz botlar sıklıkla engelleniyor. Ancak Googlebot, yanlışlıkla "gereksiz botlar" kategorisine yerleştirildi. Büyük sonuçları olan küçük bir ihmal.
Microsoft Bing Web Yöneticisi Araçlarından Notlar
Şüphelerim Bing Web Yöneticisi Araçları'ndan gelen raporlarla doğrulandı:
- “Yakın zamanda yayınladığınız önemli sayfalarınızdan bazıları IndexNow aracılığıyla gönderilmedi. IndexNow aracılığıyla gönderim yapmanın neden önemli olduğunu öğrenin."
- Önemli yeni sayfalarınızdan bazıları site haritalarınıza dahil edilmiyor."**
Google Arama Konsolu bana içeriği olmayan sayfaların dizine eklendiğini de belirtti. Bu ipuçları, arama motorlarının içeriğime erişimde sorun yaşadığını açıkça gösteriyordu.
çözüm
Gerçek şu ki, ayıltıcıydı: Google'ın görmediği sayfaları görüyorum. Arama motorlarının sayfalarımı yakalayabilmesi için botlarının engelsiz erişime sahip olması gerekir. Googlebot engellenirse içeriğim görünmez kalacak.
Googlebot'un ne gördüğünü nasıl kontrol edersiniz?
Googlebot'un web sitemi doğru bir şekilde tarayabilmesi için sayfaları onun perspektifinden görüntülemek istedim. Googlebot'un yaptığı gibi bir web sitesini ziyaret etmenin birkaç yöntemi vardır.
1. Google Chrome Geliştirici Araçları nasıl kullanılır?
Basit bir yöntem, Google Chrome'un geliştirici araçlarını kullanmaktır:
- Geliştirici araçlarını açın: 'Ctrl + Shift + I' (Windows) veya 'Cmd + Shift + I' (Mac) tuşlarına basın.
- Ağ sekmesine geçin: Tüm ağ etkinliği burada görüntülenir.
- Kullanıcı aracısı özelleştirmesi: Sağ üstteki üç noktaya tıklayın, “Diğer araçlar”ı ve ardından “Ağ koşulları”nı seçin. “Kullanıcı aracısını otomatik olarak seç” seçeneğinin işaretini kaldırın ve listeden “Googlebot”u seçin.
- Sayfayı yeniden yükle: Yeniden yükleme, sayfayı Googlebot'un gördüğü şekilde görüntüler.
Bu yöntem potansiyel oluşturma sorunlarını veya engellenen kaynakları tanımlamayı mümkün kılar.
2. Kullanıcı aracısı değiştiricinin kullanılması
Alternatif olarak “Kullanıcı Aracısı Değiştirici” gibi bir tarayıcı uzantısı da kullanılabilir:
- Uzantıyı yükleme: Chrome Web Mağazası'nda User-Agent Switcher'ı arayın ve yükleyin.
- Googlebot'u kullanıcı aracısı olarak seçme: Kurulumdan sonra istediğiniz kullanıcı aracısını seçebilirsiniz.
- Web sitesini ziyaret etme: Sayfa artık Googlebot'un bakış açısından görüntüleniyor.
Bu özellikle hızlı test için ve farklı kullanıcı aracıları arasında sık sık geçiş yapmak istiyorsanız kullanışlıdır.
3. Screaming Frog SEO Spider’ı Kullanmak
“Screaming Frog SEO Spider” daha derinlemesine analiz için uygundur:
- Kullanıcı Aracısı Özelleştirmesi: Yapılandırma > Kullanıcı Aracısı'na gidin ve Googlebot'u seçin.
- Tarama sürecini başlatma: Araç, web sitesini tarar ve Googlebot'un onu nasıl gördüğünü görüntüler.
- Sonuçları analiz edin: Olası tarama sorunlarını veya engellenen kaynakları belirleyin.
Bu araç, büyük web siteleri ve ayrıntılı SEO denetimleri için idealdir.
4. Google Arama Konsolunu Kullanma
Google Search Console ayrıca değerli bilgiler sağlar:
- URL kontrolü: İstediğiniz URL'yi girin ve canlı testi başlatın.
- Sonuçları analiz edin: Sayfanın indekslenip indekslenmediğini ve taramada sorun olup olmadığını görebilirsiniz.
- Google Gibi Getir: Bu özellik, Googlebot'un sayfayı nasıl oluşturduğunu görmenize olanak tanır.
Bu, botun sayfayı doğru şekilde yakalamasını engelleyebilecek belirli sorunların belirlenmesine yardımcı olur.
soruna çözüm
Bu araçları kullanarak Googlebot'un gerçekten engellendiğini doğrulayabildim. Sorunu çözmek için aşağıdaki adımları attım:
1. Bot tanımlarının ayarlanması
Güvenlik yapılandırmasını artık Googlebot'u ve diğer büyük arama motoru botlarını engellemeyecek şekilde güncelledim.
2. robots.txt'yi kontrol etme
Dosyanın erişimi kısıtlayan herhangi bir talimat içermediğinden emin oldum.
3. Site Haritası güncellemeleri
Site haritaları yenilenerek Web Yöneticisi Araçları'na gönderildi.
4. İzleme
Sonraki birkaç gün boyunca her şeyin tekrar sorunsuz çalıştığından emin olmak için indekslemeyi ve trafiği izledim.
Geleceğe yönelik önleyici tedbirler
Gelecekte bu tür sorunları önlemek için birkaç karar aldım:
- Güvenlik yapılandırmalarını düzenli olarak gözden geçirin: Her değişiklikten sonra web sitesinin işlevselliği üzerindeki etkisi kontrol edilmelidir.
- Sürekli izleme: Google Arama Konsolu gibi araçları kullanmak sorunların erken tespit edilmesine yardımcı olur.
- Değişikliklerin net bir şekilde belgelenmesi: Bir hata durumunda daha hızlı tepki verebilmek için web sitesinde yapılan tüm ayarlamalar belgelenmelidir.
- Eğitim: Arama motorlarının ve botlarının nasıl çalıştığının daha iyi anlaşılması, yanlış yapılandırmaların önlenmesine yardımcı olur.
Ondan gelen bilgi
Daha iyisini bilmeliydim ve önbelleği düzenlerken dikkatli olmayı hatırlamalıydım. Ancak operasyonel körlük burayı çok etkiledi. Sorun belirlendi, çözüldü, düzeltildi ve daha dikkatli devam edildi.
Teknik hataların bir web sitesinin görünürlüğü üzerinde önemli bir etkisi olabilir. Benim durumumda, yanlış yapılandırılmış bir bot tanımı Googlebot'un engellenmesine neden oldu ve bu da içeriğimin dizine eklenmesini durdurdu.
Gerçek: Küçük değişikliklerin bile büyük sonuçları olabilir.
Sistematik sorun giderme ve uygun araçların kullanımı sayesinde sorunu tanımlayıp çözebildim. Arama motorlarının web sitenizi nasıl algıladığını düzenli olarak kontrol etmek önemlidir.
Deneyimlerimin diğer web yöneticilerinin benzer sorunlardan kaçınmasına veya bunları daha hızlı çözmesine yardımcı olacağını umuyorum. Arama motorlarında görünürlük bir web sitesinin başarısı için çok önemlidir ve bu nedenle teknik durum her zaman akılda tutulmalıdır.
İçin uygun: