Bot Trafik Nedir ve Trafik Raporlama Dolandırmak İçin Nasıl Kullanılır?
Yayınlanan: 2023-05-16Site ziyaretlerindeki artış, site yavaşlamalarına, performansın düşmesine, kaynakların aşırı yüklenmesine, bozuk ziyaretlere, tıklama istatistiklerine, SEO üzerinde olumsuz etkiye ve DDoS ve kimlik avı saldırılarına karşı artan güvenlik açığına neden olabilir.
Sitenize gelen trafiği analiz etmek istiyorsanız, belirli sayfaların görüntülenmesindeki sıçrama, yüksek hemen çıkma oranı, sayfada alışılmadık derecede uzun veya kısa süre, geçersiz veya eksik dönüşümler ve sizin yapmadığınız bölgelerdeki toplu yönlendirmeler için sayaca bakın. reklam ver.
İnternet trafiğinin ne kadarı botlar tarafından oluşturuluyor? Tahminler değişir. Bununla birlikte, bot yönlendirmelerinin tüm küresel web trafiğinin yaklaşık %42'sini oluşturduğunu ve bunun yarısından fazlasının "kötü" botlara ait olduğunu varsayabiliriz.
Bot Trafiği Nedir?
Robotlar her zaman siteyi ziyaret eder — bu, modern İnternet'in yalnızca bir parçasıdır ve arama motorları bile kaynakları bu şekilde dizine ekler. Ancak botların (veya otomatik tarayıcıların) yardımıyla verileri ayrıştırabilir, yani web kaynaklarından bilgi çıkarabilirsiniz. Buna dahil olan bot, sitede basit otomatik eylemler gerçekleştiren bir program veya komut dosyasıdır:
- Sayfa kodu kaldırılıyor.
- Onu oluşturan unsurlara bölmek.
- Veriler ayıklanıyor.
- Veritabanına kaydediyor.
Böyle bir koleksiyonun amaçları farklı olabilir. Çoğu durumda, web siteleri rakiplerin sayfalarından belirli verileri almak için kazınır ve bu veriler daha sonra kaynaklarında kullanılabilir ve kötü niyetli saldırılar gerçekleştirebilir. Yine de ayrıştırma, kendi içinde korkunç bir şey ifade etmeyen analitik veya araştırma amaçları için yararlıdır.
İyi, Kötü ve Çirkin Botlar
Bot trafiğinin nasıl belirleneceği konusuna girmeden önce, sınıflandırmayı öğrenmeliyiz. Botları yararlı (iyi) ve kötü amaçlı (kötü) olarak ikiye ayırabiliriz.
Yararlı botlar
Bunlar ihtiyacımız olan robotlar. İnternette gerekli işlemleri yaparlar. Değerli ve karmaşık işleri mümkün olan en kısa sürede gerçekleştirmeye yardımcı olurlar. Ayrıca, bir kişinin aksine, çok büyük miktarda veriyi işleyebildikleri için rutin işlemleri otomatik hale getirirler.
Arama Robotları
- Bunları "web örümcekleri" veya "arama tarayıcıları" olarak da biliyor olabilirsiniz. İnternetteki en yaygın ve en kullanışlı botlardan biridir. Tüm arama sonuçları ve arama ile kullanıcı etkileşimi, arama robotlarının esasıdır. Yeni bir site sayfası yayınlandığında, bir bot onu birkaç hafta içinde tarar. SEMRush, Screaming Frog, SE Ranking, Moz vb. SEO araçlarında ayrıca arama sonuçlarını analiz eden robotlar ve bunları daha etkili bir şekilde optimize edecek kaynaklar bulunur.
Site Nitelikli Botlar
- Siteleri küresel düzeyde dizine ekleyen arama robotlarının aksine, bu tür botlar belirli bir kaynağın performansını değerlendirmek için bir araçtır. Yardım çok sayfalı veya büyükse, bu tür kontroller gereklidir. Site sahibinin, siteyi kullanıcıların ihtiyaçlarına göre geliştirmesine olanak tanır. Örneğin, sayfa yükleme süresini, performans sorunlarını, bozuk bağlantıları ve yetersiz optimize edilmiş resimleri hızlı bir şekilde belirleyip düzeltebilirler.
Telif Hakkı İhlalini Kontrol Eden Botlar
- Bu botlar, önde gelen video barındırma ve YouTube ve TikTok gibi sosyal ağlarda telif hakkı uygulamasını kontrol eder. Özel yazılımların yardımıyla bu robotlar, korunan telif hakkı malzemeleriyle eşleşen ve barındırma veritabanında bulunan belirli formların ve kalıpların varlığı için büyük miktarda ses ve video verisini analiz eder. Bu robotların yadsınamaz etkinliğine rağmen, birçok uzman ve sıradan kullanıcı, botların kabul edilemeyecek kadar yüksek düzeyde yanlış pozitifler ürettiği ve içeriği telif hakkıyla korunan materyallere çok az benzerlik gösteren yazarları haksız yere cezalandırdığı konusunda hemfikirdir.
Kötü amaçlı botlar
Ne yazık ki, İnterneti iyileştirmeye yönelik her "iyi" bot için, daha az değerli bir şey yapmak için kötü niyetli bir bot olacaktır. Örneğin, botlar tarafından reklam trafiğini aldatmak için. Bakalım "kötü" robotlar nelermiş.
Reklam Tıklama Botları
- Dijital reklamcılık için önemli bir zorluğu temsil ediyorlar. Aramada içeriğe dayalı reklamları tıklarlar. Reklam bütçelerini boşa harcıyorlar ve pazarlama kampanyalarını mahvediyorlar. Giderek artan bir şekilde, gerçek kullanıcıların davranışlarını taklit edebilen ve böylece onların kötü niyetli faaliyetlerini gizleyebilen botlar bulabilirsiniz. Örneğin, sitenin sayfaları arasında gezinebilir, rastgele takip edebilir, sayfada bir saniyeden fazla kalabilir vb.
DDoS Saldırıları için Botlar
- Hizmet Reddi (DoS), amacı bir kaynağı yavaşlatmak veya belirli bir süre için devre dışı bırakmak olan bir hizmet reddi saldırısıdır. Yönlendirilmiş akışlı bot trafiği, sunucuyu aşırı yükler ve gerçek kullanıcılardan gelen isteklere yanıt vermeyi durdurur. Sonuç olarak, site kullanılamaz hale gelir. Dağıtılmış Hizmet Reddi (DDoS), birden çok cihaz ve ağdan dağıtılmış bir hizmet reddi saldırısıdır. Bu özellik, web sitesindeki bot saldırılarını engellemeyi çok daha zorlaştırır. DDoS botları genellikle kötü amaçlı yazılım bulaşmış kullanıcı cihazlarından oluşan bir ağ olan bir botnet aracılığıyla yayılır. Kullanıcı yanlışlıkla kötü amaçlı yazılım yükleyebilir veya sahte bir siteyi ziyaret edebilir. Böylece cihazı botnet'in bir parçası olur ve otomatik olarak operatöre yönelik saldırılar gerçekleştirir.
Alıcı Botları
- Çevrimiçi mağazalarda stokta olmayan saldırılar için tasarlanmıştır. Konsept basit: botlar belirli yüksek talep gören ürünleri sepete ekler ve ödeme yapmadan orada tutar. Buna göre stoktaki ürün sayısı otomatik olarak azaltılır. Bunu ürün "bitene" kadar yaparlar. Ardından gerçek alıcılar ürünün tükendiğini görür ve siteden ayrılır. Katalogdaki bir ürün, yalnızca kısa bir süre için (genellikle 10-15 dakika) belirli bir sepete bağlanır. Ancak bir katalog uzun bir otomatik saldırıya maruz kaldığında, botların ürünü alıcılar için kullanılamaz hale getirmesi kolaydır.
Bunlar, Botfaqtor gibi bot engelleme hizmetlerinin her gün karşılaştığı bazı kötü amaçlı etkinliklerdir.
Organik Bot Trafiğine Kim İhtiyacı Var?
Pazarlamacıların ve SEO'ların ek trafiğe ihtiyaç duyduğu birçok seçenek vardır. Ancak bunların neredeyse tamamı affiliate marketing düzleminde yer almaktadır.
Alım Satım Siteleri
Web siteleri satmak büyük bir iştir. Gerçek hayatta olduğu gibi, ticari dijital emlak da tüm şekil, boyut ve koşullarda gelir. Daha fazla satış veya para kazanma için bir kaynağı veya çevrimiçi işletmeyi "düzenlemeye" zaman ve para harcamak isteyenler büyük para içindedir.
Sitenin çok sayıda ziyaretçisi varsa, potansiyel bir alıcıya siteye reklam içeriği yerleştirerek ne gibi avantajlar sağlayabileceğini gösterebilirsiniz. Bu nedenle, satıcının bakış açısından, botların yardımıyla trafik rakamlarını yapay olarak şişirme cazibesi güçlüdür.
Siyah Şapka Satıcıları
Google gibi arama motorlarının "web sitesi trafiği bir sıralama faktörü değildir" şeklindeki kategorik iddialarına rağmen, birçok uzman yanlışlıkla yüksek trafiği arama sonuçlarındaki yüksek konumlarla ilişkilendirir.
Sonuç olarak, birçok promosyon "uzmanı" (ve müşterisi) organik bot trafiği için hala büyük paralar ödemeye hazır. Arama motoru bombardımanı teknolojisi, aranan anahtar kelimelerin bulunmadığı, istek üzerine ilgisiz bir sitenin arama sonuçlarında görüntülendiği bir teknolojidir. Yanlışlıkla sıralamalarının ve konumlarının bu şekilde büyüyeceğine inanacaklar.
Dürüst Olmayan Pazarlamacılar ve Ajanslar
Ne yazık ki, web sitesi ziyaretçilerini bot trafiğiyle şişirme şeklindeki haksız uygulama 2023'te hala canlı ve iyi.
Reklamı tıklayan ziyaretçilerin hiçbiri hedeflenen eylemi tamamlamasaydı, ziyaretçi artışı işletmeye fayda sağlamayacaktı. Bununla birlikte, birçok işletme sahibinin pazarlamanın tüm ayrıntılarını öğrenmek için zamanı yoktur.
Şişirilmiş trafik hakkındaki gerçek ortaya çıksa bile, dürüst olmayan bir pazarlamacı veya ajans, düşük dönüşüm oranlarını diğer faktörlere (sunulan ürün veya hizmet, yetersiz optimize edilmiş sayfa vb.) bağlamaya çalışacaktır. Ayrıca, müşteriyi ek hizmetler için tanıtmalarına da olanak tanır.
Gördüğünüz gibi, organik bot trafiği, bazı dürüst olmayan pazarlama ve SEO hizmetleriyle ilişkilendirilmedikçe çok az işe yarar.
Kural olarak, botlar birçok ziyaretin görünümünü oluşturur. Ancak gerçekte sadece maddi kazanç için kullanılırlar.
Ücretli Bot Trafiği Kazananı Olmayan Bir Oyundur
Reklam tıklamalarını artırmak için trafik botlarını kullanmak yalnızca iki grup insana fayda sağlar: reklamı yerleştiren yayıncı/web yöneticisi veya reklamverenin rakibi.
Gizli bot trafiği yoluyla geliri artırmak, zaten Google Adsense aracılığıyla sitelerinden para kazanan yayıncılar için cazip görünebilir. Örneğin, web'de bot satın almanın en iyi yolları hakkında birçok makale var.
Bununla birlikte, reklam platformları, katılım kurallarını giderek daha sıkı hale getiriyor ve trafiği artırma konusunda tetikte. Bu nedenle, geliri artırmak için bu seçeneği kullanmamalısınız.
Yayıncılar tarafından yapılan reklam dolandırıcılığı, kolay para ve cezasızlıkla ilgili değildir. Büyük ödemeler yerine yasaklanabilir ve sitenizden elde ettiğiniz geliri kaybedebilirsiniz.
Tespit Yöntemleri
Tek tek robotlara karşı koruma veya hatta bot ağlarına karşı tam teşekküllü koruma tek bir prensibe dayanmaktadır: önce bot trafiğini tespit etmeniz gerekir.
Trafik akışının bir bot saldırısı sonucu olup olmadığını öğrenmek için aşağıdaki yöntemlere başvurabilirsiniz:
- Access.log dosyasını kullanarak sunucu günlüklerine erişerek erişim istatistiklerini izleyebilirsiniz. Bu metin dosyası, sunucudaki trafik hakkında eksiksiz bilgi içerir. İçinde, isteğin yapıldığı IP adresini, saatini, türünü ve içeriğini görüntüleyebilirsiniz. % {User-Agent} parametresine — istek, uygulama ve isteğin yapıldığı dil hakkında bilgi içeren bir başlık — özellikle dikkat etmelisiniz. Aynı IP ve User-Agent'tan düzenli aralıklarla birden fazla istek göndermek sizi uyarmalıdır.
- JavaScript kullanmak, siteyi ziyaret eden kullanıcılar hakkında önemli bilgilerin (ekran çözünürlüğü, saat dilimi, tıklanabilir düğmeler) toplanmasına yardımcı olabilir. İsteklerle ilgili bilgileri basitçe eşleştirerek hangi kullanıcıların ayrıştırıcı olma olasılığının yüksek olduğunu belirlemek mümkündür.
- Aynı istek, bölge, saat dilimi ve aynı IP'den ekran boyutuna sahip aracılardan gelen istenmeyen istekler, aşağıda anlatacağımız yöntemlerden biri kullanılarak güvenli bir şekilde engellenebilir.
Botlardan gelen tüm isteklerin aynı IP adresinden gelemeyeceğine dikkat edin. Bunun nedeni, botların genellikle bir proxy ağı kullanması ve dolayısıyla dağıtılmış ayrıştırma gerçekleştirmesidir. Ancak farklı sunuculardan aynı istekler alınsa dahi bu durum büyük bir ihtimalle engelleme sebebidir.
DDoS
Kötü amaçlı botlardan bahsetmişken, DDoS saldırılarına karşı koruma gibi bir konu da göz ardı edilemez. Şu anda, bu sorun özellikle bazı belirli faaliyet alanları ile ilgilidir. Bunlar, çevrimiçi mağazaların sitelerini, çok oyunculu çevrimiçi oyunları, borsaları, yatırım platformlarını ve diğer ticari kaynakları içerir. Bazen bir siteye yönelik bir DDoS saldırısı, kaynağınızı devre dışı bırakmak isteyen saldırgan rakipler tarafından tetiklenebilir. Yine de site bazen fidye yazılımı bilgisayar korsanları tarafından da saldırıya uğrar ve bazen de kötü bir amaç olmaksızın sadece eğlence için saldırıya uğrayabilir. Durum ne olursa olsun, herhangi bir ciddi projenin bu saldırılardan korunmaya ihtiyacı olacaktır. Web sitesindeki bot trafiğini nasıl durduracağınızı bilmelisiniz.
Tipik olarak, DDoS saldırıları yedi katmanlı OSI modelinde tanımlanır. Ağın ilk seviyesi fizikseldir. İkincisi kanaldır (ağları kanal düzeyinde anahtarlar aracılığıyla bağlar); ne kadar yüksek, o kadar soyut. DDoS saldırıları düşük ve yüksek seviyeli olabilir. En düşük seviyeli saldırılar, ağın üçüncü-beşinci seviyelerindedir: kanalı ping veya TCP bağlantı talepleriyle (SYN talepleri olarak adlandırılır) “tıkamak”. Başa çıkmaları kolaydır. Ancak saldırı seviyesi ne kadar yüksek olursa, savunma o kadar karmaşık hale gelir.
En yüksek seviye olan 7. seviyedeki yüksek seviyeli saldırılar daha tehlikelidir. Sitenin en zor sayfalarına yönlendirilirler veya maksimum ürün seçimini görüntülemek için bir katalog filtresi ayarlamak gibi karmaşık eylemler gerçekleştirirler. Saldırıyı yüzlerce hatta binlerce bot gerçekleştirir ve web sunucusundan, arka uçtan veya veritabanı sunucusundan hizmet reddi meydana gelebilir.
Bu tür saldırılarla başa çıkmak için, bir web uygulamasındaki ağ saldırılarını tespit etmek ve engellemek için tasarlanmış özel bir monitör ve filtre sistemi olan WAF (Web Uygulaması Güvenlik Duvarı) kullanıyoruz. Bununla birlikte, bu nispeten yüksek bir saldırı düzeyidir ve WAF'ı yalnızca en ciddi durumlarda etkinleştiririz - kural olarak, tüm sunucularımızda varsayılan olarak etkinleştirilen temel koruma yeterlidir.
Siteniz, sunucu odanızdaki donanımınızda barındırılıyorsa, saldırıyla büyük ihtimalle kendi başınıza başa çıkmak zorunda kalacaksınız. Sitenizi korumak için ek bir IP adresi veya özel bir hizmet bağlamanız gerekir. Bazı durumlarda, bu tür hizmetlerin zaten bağlı olduğu bir VDS'ye veya özel bir sunucuya geçmek mükemmel bir seçenek olabilir. Sonunda, büyük bir saldırı beklenebilir! Ancak en iyisi, site korumasını DDoS'tan devredebileceğiniz güvenilir bir barındırma sağlayıcınız varsa.
Çözüm
Web kaynaklarının sahipleri genellikle veri ayrıştırma ve kötü niyetli saldırılar sorunuyla karşı karşıya kalır, ancak koruma yöntemlerinin geliştirilmesi hala durmuyor. Site verilerinin kopyalanmasına ve çalınmasına karşı koruma sağlamak için, birkaç yoldan gidebilirsiniz, örneğin, sayfaya bir captcha yükleyebilir, koda bir tuzak girebilir veya User-Agent verilerine göre botları takip ederek daha sonra engelleyebilirsiniz. Analitiklere ve koruma araçlarının kurulumuna özen gösterilmesi, kodla en az düzeyde çalışılsa bile sitede ayrıştırma, spam ve yükleme sorununun çözülmesine yardımcı olacaktır.