Voor een Tweaker is de weg naar het resultaat net zo belangrijk als het resultaat.
Vraag
Alle reacties
Ben met de robots.txt aan de gang gegaan maar het lijkt alsof die lijst steeds verder groeit. Persoonlijk zie ik de toegevoegde waarde er niet van, krijg ook het gevoel dat ze vooral informatie ook weer verkopen.
Voor een Tweaker is de weg naar het resultaat net zo belangrijk als het resultaat.
Ja, robots.txt is een aanwijzing voor partijen die respectvol willen zijn. Voor ai bots die maar gewoon hammeren heeft dat weinig zin. Beste is iets ervoor te zetten (Cloudflare bijvoorbeeld)Frogmen schreef op dinsdag 11 augustus 2026 @ 13:55:
Ben met de robots.txt aan de gang gegaan maar het lijkt alsof die lijst steeds verder groeit. Persoonlijk zie ik de toegevoegde waarde er niet van, krijg ook het gevoel dat ze vooral informatie ook weer verkopen.
Heb dit opgelost door de website zelf achter Cloudflare te zetten, de WAF goed in te regelen en gebruik te maken van Crowdsec.
Ryzen 7 7800X3D ,MSI PRO X670-P WIFI, 2x16GB DDR5 6000Mhz, Nvidia RTX2070 Super
418O2 schreef op dinsdag 11 augustus 2026 @ 12:47:
Bots zorgen voor trage of niet bereikbare website
in dit topic staan wel goede tips
Pagina: 1
Dit topic is gesloten.
![]()