﻿{"id":6690,"date":"2022-07-13T14:55:00","date_gmt":"2022-07-13T12:55:00","guid":{"rendered":"https:\/\/www.sortlist.de\/blog\/?p=6690"},"modified":"2025-01-29T09:23:12","modified_gmt":"2025-01-29T08:23:12","slug":"crawler","status":"publish","type":"post","link":"https:\/\/www.sortlist.de\/blog\/crawler\/","title":{"rendered":"Crawler: Was bei der Indexierung einer Seite zu beachten ist"},"content":{"rendered":"<p>Eine Website zu haben ist heute eine Notwendigkeit, aber nicht genug. Wenn Sie erfolgreich sein wollen, m\u00fcssen Sie <strong>Crawler<\/strong> auf Ihre Seite bringen, um Traffic zu generieren.<\/p>\n<p>Konkret bedeutet Crawling, dass Sie Ihre Website in <strong>Suchmaschinen indexieren<\/strong>, um mehr Sichtbarkeit zu erlangen.<\/p>\n<p>In diesem Artikel erkl\u00e4ren wir den gesamten Crawling-Prozess, den Google verwendet.<\/p>\n<p>Wenn Sie das <strong>Crawling<\/strong> verstehen, d. h. den Prozess, den Suchmaschinen nutzen, um W\u00f6rter aus Webseiten zu extrahieren und zu bewerten, wird Ihnen das helfen, Ihre Website zu optimieren und sich in den Suchmaschinenergebnissen gut zu positionieren.<\/p>\n<h2 class=\"wp-block-heading\">Was ist ein Crawler bzw. was ist Crawling?<\/h2>\n<p>Wenn Sie eine Suche in Google durchf\u00fchren, hat die Suchmaschine das Ziel, Ihnen die relevantesten Ergebnisse zu liefern.&nbsp;<\/p>\n<p>Um dies zu erreichen, muss die Suchmaschine den<strong> Inhalt von Websites analysieren<\/strong>, die wichtigsten Informationen herausfiltern und entscheiden, wie sie diese auf den Ergebnisseiten platzieren will. Dies wird als Google Crawl, Web Crawling, Suchmaschinen-Crawling oder allgemeiner als Crawling bezeichnet.&nbsp;<\/p>\n<p>Crawling ist also ein Prozess, bei dem Websites gecrawlt werden, um sie nach ihrer Relevanz zu klassifizieren.<\/p>\n<p>Daf\u00fcr sind die Google-Crawler oder Indexroboter zust\u00e4ndig. Sie extrahieren und bewerten die W\u00f6rter auf den Webseiten, um ihre <strong>Relevanz<\/strong> f\u00fcr Ihre Suchanfrage zu bestimmen.<\/p>\n<p>Es gibt <strong>zwei Phasen<\/strong> im Crawling-Prozess, die Ihre Webseite betreffen werden:<\/p>\n<ol class=\"wp-block-list\">\n<li>Die <strong>Crawl-Phase<\/strong>, wenn die Crawler Daten von Ihren Webseiten sammeln.<\/li>\n<li>Die <strong>Indexierungsphase<\/strong>, wenn die Google-Crawler die Ergebnisse nach den von ihnen gesammelten Daten organisieren.<\/li>\n<\/ol>\n<p>Ihr Ziel ist es, die W\u00f6rter aus den Websites <strong>zu extrahieren und zu bewerten<\/strong>, um die Suchanfragen der Internetnutzer beantworten zu k\u00f6nnen.<\/p>\n<p>Erst wenn diese Indexierungsphase abgeschlossen ist, k\u00f6nnen die Suchmaschinen Ihre Website <strong>in ihren Ergebnissen anzeigen<\/strong>. Nat\u00fcrlich wird Ihre Website f\u00fcr die Suchanfragen angezeigt, die mit den Daten \u00fcbereinstimmen, die die <a href=\"https:\/\/www.octoparse.de\/blog\/top-20-web-crawling-tools-zum-scrapen-der-daten-von-websites\">Crawler<\/a> auf Ihren Seiten gesammelt haben.<\/p>\n<p>F\u00fcr das Crawling in Suchmaschinen sind also zwei Dinge wichtig:<\/p>\n<ol class=\"wp-block-list\">\n<li>Sorgen Sie daf\u00fcr, dass die Webcrawler die Seiten Ihrer Website <strong>regelm\u00e4\u00dfig besuchen<\/strong>, um Ihr Ranking aufrechtzuerhalten.<\/li>\n<li><strong>Optimieren<\/strong> Sie Ihren Inhalt f\u00fcr die Keywords, die Sie anstreben.<\/li>\n<\/ol>\n<p>Um dies zu erreichen, sollten Sie mit einer <a href=\"https:\/\/www.sortlist.de\/seo\/deutschland-de\" target=\"_blank\" rel=\"noreferrer noopener\">SEO-Agentur<\/a> zusammenarbeiten.<\/p>\n<p>Sie kann Ihnen bei der <a href=\"https:\/\/www.sortlist.de\/blog\/keyword-recherche\/\" target=\"_blank\" rel=\"noreferrer noopener\">Recherche nach Keywords<\/a>, bei Ihrer Content-Strategie und bei der Optimierung Ihrer Website helfen, um den Crawling-Prozess zu Ihrem Vorteil zu nutzen.<\/p>\n<h2 class=\"wp-block-heading\">Wie laden Sie Crawler auf Ihre Website ein?<\/h2>\n<p>Wie bereits erl\u00e4utert, analysieren Crawler Ihre Website, um die Keywords zu ermitteln, f\u00fcr die Ihr Inhalt relevant ist.<\/p>\n<div class=\"wp-block-image\">\n<figure class=\"alignright is-resized\"><img decoding=\"async\" src=\"https:\/\/cdn.pixabay.com\/photo\/2017\/10\/24\/00\/39\/bot-icon-2883144_960_720.png\" alt=\"web-crawler, crawling bot\" style=\"width:181px;height:181px\"\/><\/figure>\n<\/div>\n<p>Um also in den Suchergebnissen <strong>gut positioniert<\/strong> zu sein und die Vorteile des Webcrawlings zu nutzen, muss Ihre Website viel Inhalt haben, der f\u00fcr die Suchbegriffe optimiert ist, die mit Ihrem Unternehmen in Verbindung stehen.<\/p>\n<p>Das ist logisch, da Crawler W\u00f6rter aus Websites extrahieren und bewerten, um auf die Suchanfragen von Internetnutzern antworten zu k\u00f6nnen.<\/p>\n<p>Sorgen Sie also daf\u00fcr, dass Sie Inhalte haben, die<strong> mit Ihrem Unternehmen in Verbindung<\/strong> stehen. Damit k\u00f6nnen Sie Traffic generieren und neue Kunden gewinnen.<\/p>\n<p><strong>Achtung<\/strong>: Crawling darf nicht mit <a href=\"https:\/\/www.sortlist.de\/blog\/web-scraping\/\" target=\"_blank\" rel=\"noreferrer noopener\">Scraping<\/a> verwechselt werden. Letzteres ist eine <a href=\"https:\/\/www.sortlist.de\/blog\/black-hat-seo\/\" target=\"_blank\" rel=\"noreferrer noopener\">Black-Hat-SEO-Taktik<\/a>, die zur Anwendung kommt, um Ihnen zu schaden.<\/p>\n<h2 class=\"wp-block-heading\">Der Zweck des Crawlings f\u00fcr Google<\/h2>\n<p>Wie bei jedem Produkt oder jeder Dienstleistung wird es Ihr Ziel sein, sich von der Masse abzuheben, indem Sie <strong>einzigartige, qualitative und optimierte Webseiten<\/strong> anbieten. Genau dieses Ziel verfolgt auch Google.<\/p>\n<p>Um Internetnutzer dazu zu bewegen, weiterhin diese Suchmaschine und nicht eine andere zu verwenden, muss sich der Dienst durch <strong>relevante Ergebnisse<\/strong> von der Masse abheben. Um es anders auszudr\u00fccken: Die Suchmaschine mit den besten Ergebnissen zieht die meisten Internetnutzer an.<\/p>\n<p>Wenn Sie also <strong>sehr gute Inhalte<\/strong> anbieten, ist es wahrscheinlicher, dass Sie in den Suchergebnissen gut platziert sind.&nbsp;Die Webcrawler werden Ihre Webseiten also regelm\u00e4\u00dfiger besuchen, wenn diese aktuell sind und neue Inhalte bieten, die leicht zu indexieren sind.<\/p>\n<h3 class=\"wp-block-heading\">Achten Sie auf das Crawl-Budget!<\/h3>\n<p>F\u00fcr den Fall, dass eine Website mehrere hundert oder sogar tausend Seiten anbietet, legt die Suchmaschine ein &#8222;<strong>Crawl-Budget<\/strong>&#8220; fest.&nbsp;<\/p>\n<p>Das Crawl-Budget entspricht der <strong>Anzahl der Seiten einer Website<\/strong>, die die Crawler besuchen und indexieren werden. Da Crawler Hunderte von Milliarden Seiten indexieren m\u00fcssen, ist es logisch, dass ihre Zeit f\u00fcr den Besuch jeder einzelnen Webseite begrenzt ist.<\/p>\n<p>Wenn Ihre Website also sehr viele Seiten hat, nehmen Sie sich die Zeit, um zu <strong>sortieren<\/strong>. K\u00f6nnen Seiten gel\u00f6scht oder zusammengelegt werden?<\/p>\n<p>Bestimmen Sie, welche Webseiten <strong>vorrangig analysiert<\/strong> werden sollen. Wohin sollen die Crawler kommen, um die W\u00f6rter aus den Webseiten Ihrer Website zu extrahieren und zu bewerten?<\/p>\n<h3 class=\"wp-block-heading\">Beantragen Sie eine Indexierung bei Google<\/h3>\n<p>Schlie\u00dflich k\u00f6nnen Sie eine Webindexierung bei Google auch <strong>manuell<\/strong> beantragen.<\/p>\n<p>Um eine Google-Indexierung zu beantragen, gehen Sie in die <strong>Google Search Console<\/strong> und tun Folgendes:<\/p>\n<ul>\n<li>Gehen Sie auf den Tab \u201eURL Inspection\u201c,<\/li>\n<li>Geben Sie Ihre URL in die Suchleiste der Google Search Console ein,<\/li>\n<li>Klicken Sie auf die Schaltfl\u00e4che \u201eRequest Indexing\u201c  <\/li>\n<\/ul>\n<p><img decoding=\"async\" src=\"https:\/\/images.surferseo.art\/1d1f8c0c-446d-45d1-9585-beeced9088f2.png\" alt=\"crawling durch die search console\" \/><\/p>\n<p>Nehmen Sie sich die Zeit, diesen Vorgang jedes Mal zu wiederholen, wenn Sie Ihre <strong>Inhalte aktualisieren<\/strong>. So gehen Sie sicher, dass Ihre Seiten stets von Google ber\u00fccksichtigt werden. Wenn Sie dabei Unterst\u00fctzung ben\u00f6tigen, k\u00f6nnte eine erfahrene <a href=\"https:\/\/www.sortlist.de\/webdesign\/deutschland-de\">Webdesign Agentur<\/a> Ihnen helfen.<\/p>\n<p><img decoding=\"async\" src=\"https:\/\/images.surferseo.art\/1d1f8c0c-446d-45d1-9585-beeced9088f2.png\" alt=\"crawling durch die search console\" style=\"width:704px;height:378px\"\/><\/p>\n<h2 class=\"wp-block-heading\">Wie k\u00f6nnen Sie Ihre Webseiten f\u00fcr Crawler optimieren?<\/h2>\n<h3 class=\"wp-block-heading\">Verstehen Sie die Crawler und den Suchindex<\/h3>\n<p>Um in den Suchmaschinen gut positioniert zu sein, m\u00fcssen die Crawler Ihre Website regelm\u00e4\u00dfig besuchen. Dazu m\u00fcssen Sie einzigartige Inhalte anbieten, die sich auf Keywords konzentrieren, die mit Ihrem Unternehmen in Verbindung stehen, und die <strong>leicht indexiert <\/strong>werden k\u00f6nnen.<\/p>\n<p>Was das bedeutet, ist, dass Crawler die <strong>Struktur Ihrer Webseiten<\/strong> und worum es auf ihnen geht, leicht verstehen m\u00fcssen.<\/p>\n<p>Bitte verstehen Sie, dass Crawler Informationen <strong>nicht wie Menschen lesen<\/strong>. Wenn ein Crawler eine Webseite analysiert, analysiert er das &#8222;Skelett&#8220; der Seite, d. h. ihren <a href=\"https:\/\/www.sortlist.de\/blog\/html-lernen\/\" target=\"_blank\" rel=\"noreferrer noopener\">HTML<\/a>-Code. Daher ist es unerl\u00e4sslich, jede Seite Ihrer Website mithilfe von <strong>Tags<\/strong> zu strukturieren. Diese Tags, die zwischen Chevrons (&lt;&gt;) stehen, nehmen die Form von Metadaten (), \u00dcberschriften (h1, h2, h3, h4&#8230;), Bildern () usw. an.<\/p>\n<p>All diese Informationen sammeln die Crawler, um Ihre Website in den Suchergebnissen zu positionieren. Wenn Ihre Seiten <strong>nicht angemessen strukturiert<\/strong> sind oder diese Tags fehlen, k\u00f6nnen die Crawler Ihre Website nicht lesen und sie nicht indexieren!<\/p>\n<p>Es ist daher von entscheidender Bedeutung, dass Sie bei der Erstellung von Inhalten die <strong>Funktionsweise der Crawler<\/strong> ber\u00fccksichtigen.<\/p>\n<h3 class=\"wp-block-heading\">Die Bedeutung von Keywords zur Maximierung des Crawlings<\/h3>\n<p>Abgesehen davon, dass Sie Ihre Seiten mit Tags strukturieren, m\u00fcssen Sie auch Ihre Keywords <strong>in diese Tags integrieren<\/strong>. Daher sollten Sie sich vor der Gestaltung einer Website fragen, zu welchen Suchbegriffen Sie sich positionieren m\u00f6chten.<\/p>\n<p>Ein Beispiel: Stellen wir uns einen Konditor in Stuttgart vor. In diesem Fall m\u00fcssten die Seiten seiner Website in den Ergebnissen der Suchmaschinen f\u00fcr Suchanfragen wie die folgenden optimiert sein:&nbsp;<\/p>\n<ul class=\"wp-block-list\">\n<li>&#8222;Konditorei in Stuttgart&#8220;<\/li>\n<li>&#8220; Konditorei Stuttgart&#8220;<\/li>\n<li>&#8222;Konditor Stuttgart&#8220;<\/li>\n<li>&#8220; Kuchen&#8220;, &#8222;Croissants&#8220;, etc.<\/li>\n<\/ul>\n<p>Um dies zu erreichen, muss die Suchmaschine die <strong>Relevanz der einzelnen Seiten<\/strong> f\u00fcr diese Suchbegriffe verstehen, indem sie diese in den Tags und im Inhalt angibt.<\/p>\n<p>Anders ausgedr\u00fcckt: Ihre Tags erm\u00f6glichen es den Crawlern, die W\u00f6rter aus den Webseiten zu extrahieren und zu bewerten, damit sie die Suchanfragen der Internetnutzer auf die relevanteste Weise beantworten k\u00f6nnen.<\/p>\n<p>Auch hier kann Ihnen eine SEO-Agentur oder eine <a href=\"https:\/\/www.sortlist.de\/content-marketing\/deutschland-de\" target=\"_blank\" rel=\"noreferrer noopener\">Content-Agentur<\/a> helfen.<\/p>\n<h3 class=\"wp-block-heading\">Die interne und externe Verlinkung<\/h3>\n<p>Ein weiteres <strong>grundlegendes Element<\/strong> bei der Optimierung einer Webseite ist die interne und externe Verlinkung. Darunter versteht man Links, die Verbindungen zwischen den Seiten einer Website (intern) oder zu anderen Webseiten (extern) herstellen.<\/p>\n<p>Um eine i<strong>nterne Verlinkung<\/strong> herzustellen, m\u00fcssen Sie nur mehrere Seiten Ihrer Webseiten miteinander verlinken. F\u00fcr die <strong>externe Verlinkung<\/strong> k\u00f6nnen Sie URLs einf\u00fcgen, die mit Artikeln zum selben Thema auf anderen Webseiten \u00fcbereinstimmen. Auf diese Weise \u00f6ffnen Sie Ihre Seite f\u00fcr den Rest des Internets und er\u00f6ffnen neue Wege, die von den Crawlern erkundet werden k\u00f6nnen.&nbsp;<\/p>\n<p>Nehmen Sie sich die Zeit, Links zwischen den verschiedenen Inhalten Ihrer Website zu erstellen. Verlinken Sie sie auch mit anderen Inhalten, um Ihre Indexierung in den Suchmaschinen zu verbessern.<\/p>\n<h2 class=\"wp-block-heading\">Analysieren Sie Ihre Indexabdeckung<\/h2>\n<p>Schlie\u00dflich k\u00f6nnen Sie einen <strong>Bericht<\/strong> \u00fcber die Indexabdeckung Ihrer Website erstellen. Mit der Search Console von Google k\u00f6nnen Sie n\u00e4mlich :<\/p>\n<ul>\n<li>Wissen, wann die Crawler zum letzten Mal auf Ihrer Website waren.<\/li>\n<li>Sehen, welche Crawls sie durchgef\u00fchrt haben.<\/li>\n<\/ul>\n<p>Sie k\u00f6nnen die Google-Crawler aber auch bitten, Ihre Website noch einmal zu besuchen.<\/p>\n<p>Abschlie\u00dfend sollten Sie wissen, dass das Crawling ein <strong>kontinuierlicher und erneuerbarer Prozess<\/strong> ist. Es ist also nie zu sp\u00e4t, um sich durch Crawling in den Suchmaschinen besser zu positionieren!<\/p>\n<p>Machen Sie sich den Crawling-Prozess zunutze. Um dies zu erreichen, ist die Zusammenarbeit mit einer <a href=\"https:\/\/www.sortlist.de\/webdesign\/berlin-de\">Webdesign Agentur<\/a> f\u00fcr Suchmaschinenoptimierung eine erfolgreiche Strategie.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Eine Website zu haben ist heute eine Notwendigkeit, aber nicht genug. Wenn Sie erfolgreich sein wollen, m\u00fcssen Sie Crawler auf Ihre Seite bringen, um Traffic zu generieren. Konkret bedeutet Crawling, dass Sie Ihre Website in Suchmaschinen indexieren, um mehr Sichtbarkeit zu erlangen. In diesem Artikel erkl\u00e4ren wir den gesamten Crawling-Prozess, den Google verwendet. Wenn Sie [&hellip;]<\/p>\n","protected":false},"author":17,"featured_media":6691,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"_sb_show_comment_boards":false,"content-type":"","om_disable_all_campaigns":false,"footnotes":""},"categories":[50],"class_list":["post-6690","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-seo"],"acf":[],"yoast_head":"<!-- This site is optimized with the Yoast SEO plugin v28.0 - https:\/\/yoast.com\/product\/yoast-seo-wordpress\/ -->\n<title>Crawler: Was bei der Indexierung einer Seite zu beachten ist<\/title>\n<meta name=\"description\" content=\"Was machen Crawler auf meiner Website und warum ist Crawling so wichtig? Das zu verstehen ist entscheidend f\u00fcr Ihre SEO.\" \/>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/www.sortlist.de\/blog\/crawler\/\" \/>\n<meta property=\"og:locale\" content=\"de_DE\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Crawler: Was bei der Indexierung einer Seite zu beachten ist\" \/>\n<meta property=\"og:description\" content=\"Was machen Crawler auf meiner Website und warum ist Crawling so wichtig? Das zu verstehen ist entscheidend f\u00fcr Ihre SEO.\" \/>\n<meta property=\"og:url\" content=\"https:\/\/www.sortlist.de\/blog\/crawler\/\" \/>\n<meta property=\"og:site_name\" content=\"Sortlist Blog\" \/>\n<meta property=\"article:published_time\" content=\"2022-07-13T12:55:00+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2025-01-29T08:23:12+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/cdn.blog.production.sortlist.cloud\/wp-content\/uploads\/sites\/4\/2022\/05\/crawling-cove.png\" \/>\n\t<meta property=\"og:image:width\" content=\"1748\" \/>\n\t<meta property=\"og:image:height\" content=\"1240\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/png\" \/>\n<meta name=\"author\" content=\"Tancr\u00e8de d&#039;Aspremont Lynden\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:label1\" content=\"Verfasst von\" \/>\n\t<meta name=\"twitter:data1\" content=\"Tancr\u00e8de d&#039;Aspremont Lynden\" \/>\n\t<meta name=\"twitter:label2\" content=\"Gesch\u00e4tzte Lesezeit\" \/>\n\t<meta name=\"twitter:data2\" content=\"9\u00a0Minuten\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\\\/\\\/schema.org\",\"@graph\":[{\"@type\":\"Article\",\"@id\":\"https:\\\/\\\/www.sortlist.de\\\/blog\\\/crawler\\\/#article\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/www.sortlist.de\\\/blog\\\/crawler\\\/\"},\"author\":{\"name\":\"Tancr\u00e8de d'Aspremont Lynden\",\"@id\":\"https:\\\/\\\/www.sortlist.de\\\/blog\\\/#\\\/schema\\\/person\\\/3a09cba0494828940c49b550349b464b\"},\"headline\":\"Crawler: Was bei der Indexierung einer Seite zu beachten ist\",\"datePublished\":\"2022-07-13T12:55:00+00:00\",\"dateModified\":\"2025-01-29T08:23:12+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\\\/\\\/www.sortlist.de\\\/blog\\\/crawler\\\/\"},\"wordCount\":1463,\"commentCount\":0,\"image\":{\"@id\":\"https:\\\/\\\/www.sortlist.de\\\/blog\\\/crawler\\\/#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/cdn.blog.production.sortlist.cloud\\\/wp-content\\\/uploads\\\/sites\\\/4\\\/2022\\\/05\\\/crawling-cove.png\",\"articleSection\":[\"SEO\"],\"inLanguage\":\"de\",\"potentialAction\":[{\"@type\":\"CommentAction\",\"name\":\"Comment\",\"target\":[\"https:\\\/\\\/www.sortlist.de\\\/blog\\\/crawler\\\/#respond\"]}]},{\"@type\":\"WebPage\",\"@id\":\"https:\\\/\\\/www.sortlist.de\\\/blog\\\/crawler\\\/\",\"url\":\"https:\\\/\\\/www.sortlist.de\\\/blog\\\/crawler\\\/\",\"name\":\"Crawler: Was bei der Indexierung einer Seite zu beachten ist\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/www.sortlist.de\\\/blog\\\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\\\/\\\/www.sortlist.de\\\/blog\\\/crawler\\\/#primaryimage\"},\"image\":{\"@id\":\"https:\\\/\\\/www.sortlist.de\\\/blog\\\/crawler\\\/#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/cdn.blog.production.sortlist.cloud\\\/wp-content\\\/uploads\\\/sites\\\/4\\\/2022\\\/05\\\/crawling-cove.png\",\"datePublished\":\"2022-07-13T12:55:00+00:00\",\"dateModified\":\"2025-01-29T08:23:12+00:00\",\"author\":{\"@id\":\"https:\\\/\\\/www.sortlist.de\\\/blog\\\/#\\\/schema\\\/person\\\/3a09cba0494828940c49b550349b464b\"},\"description\":\"Was machen Crawler auf meiner Website und warum ist Crawling so wichtig? Das zu verstehen ist entscheidend f\u00fcr Ihre SEO.\",\"breadcrumb\":{\"@id\":\"https:\\\/\\\/www.sortlist.de\\\/blog\\\/crawler\\\/#breadcrumb\"},\"inLanguage\":\"de\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\\\/\\\/www.sortlist.de\\\/blog\\\/crawler\\\/\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\\\/\\\/www.sortlist.de\\\/blog\\\/crawler\\\/#primaryimage\",\"url\":\"https:\\\/\\\/cdn.blog.production.sortlist.cloud\\\/wp-content\\\/uploads\\\/sites\\\/4\\\/2022\\\/05\\\/crawling-cove.png\",\"contentUrl\":\"https:\\\/\\\/cdn.blog.production.sortlist.cloud\\\/wp-content\\\/uploads\\\/sites\\\/4\\\/2022\\\/05\\\/crawling-cove.png\",\"width\":1748,\"height\":1240},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\\\/\\\/www.sortlist.de\\\/blog\\\/crawler\\\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Home\",\"item\":\"https:\\\/\\\/www.sortlist.de\\\/blog\\\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Crawler: Was bei der Indexierung einer Seite zu beachten ist\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\\\/\\\/www.sortlist.de\\\/blog\\\/#website\",\"url\":\"https:\\\/\\\/www.sortlist.de\\\/blog\\\/\",\"name\":\"Sortlist Blog\",\"description\":\"Sortlist Blog\",\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\\\/\\\/www.sortlist.de\\\/blog\\\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"de\"},{\"@type\":\"Person\",\"@id\":\"https:\\\/\\\/www.sortlist.de\\\/blog\\\/#\\\/schema\\\/person\\\/3a09cba0494828940c49b550349b464b\",\"name\":\"Tancr\u00e8de d'Aspremont Lynden\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\\\/\\\/www.sortlist.fr\\\/blog\\\/wp-content\\\/uploads\\\/sites\\\/3\\\/2022\\\/08\\\/avatar_user_17_1660044810-96x96.jpeg\",\"url\":\"https:\\\/\\\/www.sortlist.fr\\\/blog\\\/wp-content\\\/uploads\\\/sites\\\/3\\\/2022\\\/08\\\/avatar_user_17_1660044810-96x96.jpeg\",\"contentUrl\":\"https:\\\/\\\/www.sortlist.fr\\\/blog\\\/wp-content\\\/uploads\\\/sites\\\/3\\\/2022\\\/08\\\/avatar_user_17_1660044810-96x96.jpeg\",\"caption\":\"Tancr\u00e8de d'Aspremont Lynden\"},\"description\":\"Content Manager chez Sortlist. Son travail lui donne l'occasion de combiner ses deux passions : la cr\u00e9ation de contenu et le marketing. Lorsqu'il n'\u00e9crit pas d'articles pour notre blog, il anime le podcast \\\"Beyond Marketing\\\".\",\"url\":\"https:\\\/\\\/www.sortlist.de\\\/blog\\\/author\\\/tancrede\\\/\"}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"Crawler: Was bei der Indexierung einer Seite zu beachten ist","description":"Was machen Crawler auf meiner Website und warum ist Crawling so wichtig? Das zu verstehen ist entscheidend f\u00fcr Ihre SEO.","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/www.sortlist.de\/blog\/crawler\/","og_locale":"de_DE","og_type":"article","og_title":"Crawler: Was bei der Indexierung einer Seite zu beachten ist","og_description":"Was machen Crawler auf meiner Website und warum ist Crawling so wichtig? Das zu verstehen ist entscheidend f\u00fcr Ihre SEO.","og_url":"https:\/\/www.sortlist.de\/blog\/crawler\/","og_site_name":"Sortlist Blog","article_published_time":"2022-07-13T12:55:00+00:00","article_modified_time":"2025-01-29T08:23:12+00:00","og_image":[{"width":1748,"height":1240,"url":"https:\/\/cdn.blog.production.sortlist.cloud\/wp-content\/uploads\/sites\/4\/2022\/05\/crawling-cove.png","type":"image\/png"}],"author":"Tancr\u00e8de d'Aspremont Lynden","twitter_card":"summary_large_image","twitter_misc":{"Verfasst von":"Tancr\u00e8de d'Aspremont Lynden","Gesch\u00e4tzte Lesezeit":"9\u00a0Minuten"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"Article","@id":"https:\/\/www.sortlist.de\/blog\/crawler\/#article","isPartOf":{"@id":"https:\/\/www.sortlist.de\/blog\/crawler\/"},"author":{"name":"Tancr\u00e8de d'Aspremont Lynden","@id":"https:\/\/www.sortlist.de\/blog\/#\/schema\/person\/3a09cba0494828940c49b550349b464b"},"headline":"Crawler: Was bei der Indexierung einer Seite zu beachten ist","datePublished":"2022-07-13T12:55:00+00:00","dateModified":"2025-01-29T08:23:12+00:00","mainEntityOfPage":{"@id":"https:\/\/www.sortlist.de\/blog\/crawler\/"},"wordCount":1463,"commentCount":0,"image":{"@id":"https:\/\/www.sortlist.de\/blog\/crawler\/#primaryimage"},"thumbnailUrl":"https:\/\/cdn.blog.production.sortlist.cloud\/wp-content\/uploads\/sites\/4\/2022\/05\/crawling-cove.png","articleSection":["SEO"],"inLanguage":"de","potentialAction":[{"@type":"CommentAction","name":"Comment","target":["https:\/\/www.sortlist.de\/blog\/crawler\/#respond"]}]},{"@type":"WebPage","@id":"https:\/\/www.sortlist.de\/blog\/crawler\/","url":"https:\/\/www.sortlist.de\/blog\/crawler\/","name":"Crawler: Was bei der Indexierung einer Seite zu beachten ist","isPartOf":{"@id":"https:\/\/www.sortlist.de\/blog\/#website"},"primaryImageOfPage":{"@id":"https:\/\/www.sortlist.de\/blog\/crawler\/#primaryimage"},"image":{"@id":"https:\/\/www.sortlist.de\/blog\/crawler\/#primaryimage"},"thumbnailUrl":"https:\/\/cdn.blog.production.sortlist.cloud\/wp-content\/uploads\/sites\/4\/2022\/05\/crawling-cove.png","datePublished":"2022-07-13T12:55:00+00:00","dateModified":"2025-01-29T08:23:12+00:00","author":{"@id":"https:\/\/www.sortlist.de\/blog\/#\/schema\/person\/3a09cba0494828940c49b550349b464b"},"description":"Was machen Crawler auf meiner Website und warum ist Crawling so wichtig? Das zu verstehen ist entscheidend f\u00fcr Ihre SEO.","breadcrumb":{"@id":"https:\/\/www.sortlist.de\/blog\/crawler\/#breadcrumb"},"inLanguage":"de","potentialAction":[{"@type":"ReadAction","target":["https:\/\/www.sortlist.de\/blog\/crawler\/"]}]},{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/www.sortlist.de\/blog\/crawler\/#primaryimage","url":"https:\/\/cdn.blog.production.sortlist.cloud\/wp-content\/uploads\/sites\/4\/2022\/05\/crawling-cove.png","contentUrl":"https:\/\/cdn.blog.production.sortlist.cloud\/wp-content\/uploads\/sites\/4\/2022\/05\/crawling-cove.png","width":1748,"height":1240},{"@type":"BreadcrumbList","@id":"https:\/\/www.sortlist.de\/blog\/crawler\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Home","item":"https:\/\/www.sortlist.de\/blog\/"},{"@type":"ListItem","position":2,"name":"Crawler: Was bei der Indexierung einer Seite zu beachten ist"}]},{"@type":"WebSite","@id":"https:\/\/www.sortlist.de\/blog\/#website","url":"https:\/\/www.sortlist.de\/blog\/","name":"Sortlist Blog","description":"Sortlist Blog","potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/www.sortlist.de\/blog\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"de"},{"@type":"Person","@id":"https:\/\/www.sortlist.de\/blog\/#\/schema\/person\/3a09cba0494828940c49b550349b464b","name":"Tancr\u00e8de d'Aspremont Lynden","image":{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/www.sortlist.fr\/blog\/wp-content\/uploads\/sites\/3\/2022\/08\/avatar_user_17_1660044810-96x96.jpeg","url":"https:\/\/www.sortlist.fr\/blog\/wp-content\/uploads\/sites\/3\/2022\/08\/avatar_user_17_1660044810-96x96.jpeg","contentUrl":"https:\/\/www.sortlist.fr\/blog\/wp-content\/uploads\/sites\/3\/2022\/08\/avatar_user_17_1660044810-96x96.jpeg","caption":"Tancr\u00e8de d'Aspremont Lynden"},"description":"Content Manager chez Sortlist. Son travail lui donne l'occasion de combiner ses deux passions : la cr\u00e9ation de contenu et le marketing. Lorsqu'il n'\u00e9crit pas d'articles pour notre blog, il anime le podcast \"Beyond Marketing\".","url":"https:\/\/www.sortlist.de\/blog\/author\/tancrede\/"}]}},"_links":{"self":[{"href":"https:\/\/www.sortlist.de\/blog\/wp-json\/wp\/v2\/posts\/6690","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.sortlist.de\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.sortlist.de\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.sortlist.de\/blog\/wp-json\/wp\/v2\/users\/17"}],"replies":[{"embeddable":true,"href":"https:\/\/www.sortlist.de\/blog\/wp-json\/wp\/v2\/comments?post=6690"}],"version-history":[{"count":7,"href":"https:\/\/www.sortlist.de\/blog\/wp-json\/wp\/v2\/posts\/6690\/revisions"}],"predecessor-version":[{"id":11508,"href":"https:\/\/www.sortlist.de\/blog\/wp-json\/wp\/v2\/posts\/6690\/revisions\/11508"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.sortlist.de\/blog\/wp-json\/wp\/v2\/media\/6691"}],"wp:attachment":[{"href":"https:\/\/www.sortlist.de\/blog\/wp-json\/wp\/v2\/media?parent=6690"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.sortlist.de\/blog\/wp-json\/wp\/v2\/categories?post=6690"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}