Индексация сайта в Google: проверка и ускорение
Из этой статьи вы узнаете:
- Для чего служит индексация сайта в Google
- Можно ли обойтись без индексации сайта в Google
- Каковы инструменты проверки индексации сайта в Google
- Можно ли ускорить индексацию сайта в Google
- Какие ошибки могут привести к отказу в индексации в Google
Если вы уже завершили работу над созданием корпоративного сайта, блога, интернет-магазина или другой онлайн-площадки, нужно позаботиться о том, чтобы ваш проект могли найти его потенциальные пользователи. Для этого необходимо добавить новый ресурс в поисковые системы. Эта процедура называется индексация сайта в Google, «Яндексе» или других поисковиках. После этого ваша онлайн-площадка будет доступной для пользователей, которые вводят в строку поиска соответствующий запрос.
Почему так важна индексация сайта в Google
Недавно появилась информация о покупке корпорацией Google совместно с NASA особой системы, которую условно можно назвать «квантовый компьютер». На базе устройства, приобретенного у компании из Канады D-Wave Systems, планируется запуск лаборатории по исследованию искусственного интеллекта.
Квантовый компьютер можно представить в виде высокопроизводительной машины, в оперативной памяти которой будет содержаться вся информация, присутствующая в Интернете. После реализации такой идеи необходимость в индексации сайтов отпадет. Все новые ресурсы сразу после публикации будут попадать в память квантовой машины, а следовательно, их можно будет найти в поиске.
Все описанное выше является долгосрочной перспективой, а сейчас без индексации в Google не сможет эффективно работать ни один интернет-ресурс, кроме тех, которые рассчитаны на пользователей закрытых информационных пространств (Китай и Северная Корея).
Сложно представить, какой огромный объем данных находится сегодня во Всемирной паутине. Чтобы поисковые системы могли быстро находить нужные сведения, всю информацию необходимо четко структурировать и разместить в определенных ячейках. В каталогах поисковиков хранятся данные о каждой онлайн-странице всех сайтов, поэтому пользователи могут легко находить то, что их интересует.
Всемирная сеть непрерывно наполняется огромными объемами новой информации. Даже передовые поисковые системы не в состоянии сразу же индексировать все поступающие данные. На интернет-площадках с высоким уровнем посещаемости роботы «Гугла» ежедневно проверяют обновление контента, а на других ресурсах индексация проводится каждую неделю.
Примечательно, что «Гугл» осуществляет проверку новых ресурсов гораздо быстрее других систем. Этот поисковик может вносить в свои каталоги сведения об изменениях информации на онлайн-площадках буквально через несколько часов. Индексация сайта в Google предполагает также внесение такой важной информации, как ссылки, ключевые фразы и т. д.
Рекомендуем
«Индексация сайта: как ускорить и проанализировать ее результаты» ПодробнееКак происходит индексация сайта в Google
Скорость индексации разных онлайн-площадок в Google различается. Существует ряд факторов, от которых зависит, как быстро роботы поисковой системы посетят веб-площадку и сколько времени понадобится для внесения в информационную базу обнаруженных изменений. К примеру, новостные ресурсы индексируются быстроботами с интервалом в несколько часов. Есть несколько вариантов добавления онлайн-ресурса в «Гугл». Один из таких способов связан с размещением ссылок на проиндексированных страницах.
После посещения интернет-площадки роботы поисковой системы анализируют всю необходимую информацию и вносят ее в базу данных. Затем происходит ранжирование и определение авторитетности сайта (сортировка по установленным критериям – PageRank). Эти показатели рассчитываются исходя из количества и качества ссылок, которые ведут на него с других веб-страниц. Чем больше ссылочной массы, тем выше PageRank.
Рассмотрим основные факторы, влияющие на индексацию сайта в Google:
- посещаемость;
- релевантность контента (соответствие информации, представленной на сайте, запросам, которые интернет-пользователи вносят в поисковик) обеспечивается с помощью определенного количества ключевых слов в контенте и метатегах;
- внутренняя оптимизация страниц сайта.
Показатели авторитетности интернет-страниц могут находиться в пределах от 0 до 10. У лучших ресурсов PageRank составляет 4–5 пунктов. По шкале авторитетности сам «Гугл» имеет показатель в 10 пунктов. В настоящее время отключен тулбарный показатель PR.
Нужно учитывать, что страницы блогов, сайтов и других ресурсов, имеющие более высокие индексы авторитетности, в выдаче «Гугла» располагаются выше своих конкурентов. При этом каждая из них имеет свой собственный показатель PageRank, поэтому у всех страниц место в выдаче может быть разным.
Индексация осуществляется с помощью Googlebot, который и осуществляет сканирование.
Что такое «Гуглбот»? В чем отличие сканирования от индексирования веб-страниц? Как эти процессы могут ускорить попадание страниц сайта в выдачу «Гугла»? Ответы на эти вопросы приведены ниже:
- Googlebot – специальная программа поисковой системы «Гугл», осуществляющая сбор информации в сети Интернет и сканирование веб-страниц с последующим их размещением в поисковой выдаче.
- Сканирование старых и новых страниц сайтов, которое осуществляется программой Googlebot, необходимо для поиска новой и измененной информации, передаваемой поисковой системе «Гугл». На этот процесс значительное влияние оказывают ссылки.
- После обработки информации, собранной гугл-ботами во время сканирования интернет-страниц, происходит их индексация. При условии, что размещенный контент соответствует качественным требованиям, он добавляется в индекс. В процессе индексации информации, размещенной на страницах, обязательно проводится рассмотрение ключевых слов, анализ alt-тегов и «тайтлов».
Остается только уточнить, как же программа Googlebot обнаруживает новый контент или обновление данных. Этот процесс включает анализ собранной информации об интернет-страницах, проиндексированных «Гуглом», и данных карты сайта, которая размещена его администратором. Далее рассмотрим, что нужно сделать, чтобы пройти индексацию.
Рекомендуем
«Проверка индексации сайта: 4 варианта» ПодробнееРазличия индексации сайта в Google и «Яндексе»
Основное различие поисковых систем «Гугл» и «Яндекс» заключается в региональной принадлежности. Если Yandex работает только в русскоязычной части Интернета, то Google является международным поисковиком. Свои системы поиска есть практически в каждой стране. В некоторых случаях региональные сервисы могут составлять серьезную конкуренцию «Гуглу» («Яндекс» в РФ, Seznam – в Чехии, Baidu – в КНР и т. д.). Подтверждением этого факта могут служить переговоры по вопросам выкупа сервиса Yandex компанией «Гугл», которые имели место в 2003 году. Пока такое поглощение не состоялось.
У каждой поисковой системы есть свои программы ботов, осуществляющие проверку сайтов на предмет релевантности и качества представленного на них контента. При этом стандарты работы таких роботов постоянно совершенствуются. Нужно отметить, что разработчики не открывают полностью суть алгоритмов индексации, поэтому специалисты постоянно анализируют поисковые программы и на основании имеющихся практических данных формируют определенные выводы.
Рекомендуемые статьи по данной теме:
Требования, которые предъявляют «Гугл» и «Яндекс» к индексации сайтов, имеют много общего. Поэтому можно сформулировать некоторые универсальные рекомендации:
- Нужно уделять больше внимание качеству контента (уникальность, полезность и грамотность). Программные и орфографические ошибки четко отслеживаются ботами и снижают индекс авторитетности сайта.
- Интернет-площадки должны иметь понятную структуру. Важно, чтобы они были удобными для пользователей и содержали важную и ценную информацию.
- Следует качественно проработать страницы контактов и обратной связи, разместить портфолио и отзывы, а также описать имеющиеся достижения.
- На сайте нужно разместить работающие исходящие ссылки.
- Контент на интернет-площадках должен постоянно обновляться, а их функционал следует дорабатывать с учетом различных нововведений и инноваций. Все это учитывается поисковиками при ранжировании сайтов.
Поисковая система «Яндекса» имеет два робота – основной и быстрый (Orange). Первый осуществляет индексацию Сети в целом, а второй обеспечивает возможность быстрого поиска наиболее свежей и актуальной информации по запросу пользователя. Каждый робот имеет перечень данных, которые необходимо проиндексировать.
По мнению экспертов, «Яндекс» работает медленнее, чем «Гугл». Но при этом поисковая система Рунета индексирует полезные материалы и исключает из выдачи «лишние» результаты.
Преимущество «Гугла» заключается в его универсальности. «Яндекс» же развивается исключительно в русскоязычном Интернете (попытки выйти на другие рынки имели место, но пока не увенчались успехом).
Система Yandex ориентирована на поиск по запросам из ограниченного перечня регионов. Но именно региональный характер во многом определяет его успешность. В настоящее время «Гугл» и «Яндекс» занимают в русскоязычном Интернете примерно одинаковые ниши.
Yandex указывает сайты, для которых необходима привязка по региону:
- Информационные ресурсы, которые имеют региональную направленность. В «Вебмастере» «Яндекса» необходимо прописать предпочтительный регион.
- Площадки, которые предлагают продажу товаров или услуг. В эту категорию попадает широкий перечень сайтов, начиная интернет-магазинами и заканчивая порталами знакомств.
В интернет-пространстве других стран поисковая система Yandex не получила распространение, так как наиболее значимыми факторами поиска там выступают язык и местонахождение пользователя. На основании этих критериев и строится поисковая выдача «Гугла». В системе «Яндекс» индексация по языковым признакам не происходит. Несмотря на то, что этот поисковик определяет место нахождения пользователя, он не учитывает этот фактор при обработке запроса. Классифицировать сайты Рунета по регионам в зависимости от языка запроса не получается. «Яндекс» может настраивать поисковую выдачу исключительно по территориальному признаку, в чем и заключается уникальность этой системы.
Не так давно Yandex запустил новый инструмент – поиск «Андромеда». После этого поисковик предлагает определенные места в городах, дает возможность собирать коллекции пользователя, информирует о событиях из мира спорта, отмечает статус интернет-ресурсов особыми значками в зависимости от их благонадежности и популярности. Каким образом новый инструмент может влиять на индексацию, еще не совсем ясно.
Важным нововведением 2018 года является замена показателя ТИЦ (индекс цитирования) на ИКС (индекс качества сайта). Новый показатель необходимо учитывать при продвижении ресурса.
Рекомендуем
«Как ускорить индексацию сайта: 18 простых способов» ПодробнееКак проиндексировать сайт в Google
Индексация сайта в Google требует терпения, так как поисковые системы достаточно медлительны. Этот процесс занимает несколько недель, поэтому не затягивайте с добавлением ресурса в поисковик. Даже если на страницах вашего сайта еще не появились записи, его уже можно добавлять в систему выдачи «Гугла».
Для начала нужно создать свой аккаунт в Google (если у вас есть почта Gmail, то можно считать, что аккаунт уже зарегистрирован) и через него получить доступ ко всем инструментам этой системы.
Этапы регистрации сайта в Google:
- Нужно перейти в раздел «Инструменты веб-мастера» и выбрать «Добавить ресурс». Затем необходимо внести адрес вашего ресурса и нажать «Продолжить».
- После того как вы будете переадресованы на следующую страницу, следует дать подтверждение своих прав на сайт. Сделать это можно несколькими способами, но наиболее простой – вариант с использованием HTML-файла. В этом случае, согласно п. 1 инструкции «Гугла», нужно закачать такой файл в «корень» сайта. Если операция выполнена без ошибок, то кликнув на ссылку, которая находится в 3 пункте инструкции, вы сможете увидеть содержание ресурса. Если же была допущена неточность, то вы перейдете на страницу 404. Если все нормально, то нужно выбрать пункт «Подтвердить».
- Для добавления сайта в поисковую систему «Гугл» и ускорения его индексации нужно указать ботам поисковика местонахождение XML-карты ресурса. Сделать это можно в панели управления сайтом, расположенной в инструментах веб-мастера. Здесь следует нажать кнопку «Сканирование» и выбрать подпункт «Файлы Sitemap». После этого переходите по ссылке «Добавление/проверка файла Sitemap» и вносите в строку адрес до карты (к примеру, «ru/sitemap.xml»). Нужно учесть, что доменное имя в этой строке уже будет прописано, поэтому вводить адрес необходимо без него («sitemap.xml»). Затем нужно нажать кнопку «Отправить файл Sitemap». Предварительно этот файл можно проверить на наличие ошибок, нажав кнопку «Проверить Sitemap».
Если все описанные выше шаги выполнены правильно, то ресурс уже будет добавлен в поисковик. Происходит индексация сайта в Google бесплатно, но этот процесс занимает от 7 дней до 3 недель.
Как проверить индексацию сайта в Google
- Применяйте поисковые операторы (специальные символы, добавляемые к запросам).
Поисковые символы обеспечивают уточнение результатов выдачи. К примеру, оператор «site:» позволяет получить данные об ориентировочном числе страниц сайта, прошедших индексацию в Google. Чтобы выполнить такую проверку, следует ввести в строку поиска следующую комбинацию: «site:[url вашего сайта]». В некоторых случаях значительное расхождение результатов выдачи Google и «Яндекса» может быть показателем существующих проблем с сайтом. С помощью дополнительных поисковых инструментов можно получить информацию относительно индексации страниц сайта за необходимый промежуток времени.
- Применяйте плагины и JavaScript-программы, сохраняемые как закладки браузера (букмарклеты).
С помощью таких инструментов можно выполнять проверку индексации в автоматическом режиме. Вам не придется открывать отдельно поисковую систему и вводить запросы в строку поиска.
- Устанавливайте специальные сервисы, проверяющие индексацию.
Такие инструменты значительно облегчают работу SEO-специалистов. Подобных сервисов достаточно много, к примеру связка Netpeak Spider и Netpeak Checker.
С помощью первого инструмента выполняется сканирование. При этом можно получить не только сведения о количестве страниц, прошедших индексацию в Google, но и другие полезные сведения: каноникал, код ответа, название, заголовки, метаописания, мета robots, robots.txt, переходы, ссылки и т. д. Кроме того, Netpeak Spider уведомляет о наличии ошибок в таких данных.
Топ-5 статей, которые будут полезны каждому руководителю:
После получение перечня всех URL его можно ввести в Netpeak Checker и выполнить проверку индексации поисковиками.
Проверка индексации сайта в Google может выполняться с помощью следующих инструментов:
- Оператор «cache:» и индексация страниц.
- Оператор «related:» и поиск ресурсов, подобных сайту.
Данный оператор используется для получения информации по архивированной копии страницы, которая была проиндексирована сервисом Google. Чтобы увидеть последнюю версию главной страницы вашего ресурса и получить сведения по дате формирования кеша, нужно ввести в поиск запрос cache:google.ru. Вы сможете увидеть последнюю версию страницы с обычным текстом. Это очень удобно, так как можно увидеть сайт таким, каким его видит гугл-бот.
Запрос «мета тег noarchive» ограничивает доступ других лиц к результатам поиска кеш-версии, но это не скажется на процессе индексации сайта в Google.
Оператор «related:» позволяет быстро находить сайты-конкуренты. Этот инструмент используется для ресурсов, которые пересекаются по различным признакам.
Рекомендуем
«Сайт закрыт от индексации: это не повод для паники» ПодробнееКак ускорить индексацию сайта в Google
Индексация сайта в Google, проверить которую позволяют инструменты, описанные в предыдущем разделе, может быть ускорена разными способами:
1. Создание Sitemap.
Файл Sitemap XML – перечень страниц ресурса, размещенных на сервере хостинга. При добавлении новых страниц сайта этот документ предоставляет соответствующую информацию «Гуглу» и дает инструкции по необходимому режиму проверки изменений. Частота посещения ресурса может быть выбрана веб-мастером. В случае необходимости можно дать команду поисковым роботам выполнять анализ сайта на наличие обновленных данных (товары, записи и т. д.). При отсутствии такой необходимости можно указать другую периодичность проверок. Если сайт работает на платформе «Вордпресс», то для автоматизации процессов формирования и обновления файла Sitemap необходимо установить плагины Google XML Sitemaps или Yoast SEO.
2. Предоставьте Google Indexing Tool свою карту сайта.
После того как вы создали карту сайта, необходимо перейти в Google Webmaster Tools в аккаунт своей площадки. Если такого аккаунта еще нет, то можно создать бесплатную учетную запись в Google и выполнить регистрацию в сервисе Webmaster Tools. Затем добавляете сайт в «Веб-мастер» и переходите к папке «Сканирование». Здесь необходимо выбрать «Sitemaps» и вставить туда ссылку на свой файл карты сайта. Такое действие позволяет сообщить поисковой системе о новых страницах. Для более эффективного информирования поисковика дополнительно используется консоль Bing. Здесь можно создать еще один аккаунт и включить карту своего ресурса, используя Webmaster Tools. Поисковый робот получает задачу на сканирование с помощью ссылок, поэтому необходимо выполнить проверку файла robots.txt и убедиться, что нужные страницы сайта открыты для индексации.
3. Используйте Google Analytics.
Сервис Google Analytics применяется для анализа источников трафика и поведения посетителей сайта. Но после добавления кода этого ресурса на страницы вашего интернет-ресурса и настройки аккаунта в аналитической системе «Гугла» происходит уведомление поисковика о появлении новой площадки, которую нужно сканировать.
4. Зарегистрируйте сайт в поисковых системах.
Раньше эксперты считали, что для индексации сайта системой «Гугл» веб-мастер должен зарегистрировать свой проект и подать заявку. Сейчас же есть некоторые примеры, когда специалисты по SEO-оптимизации выводят сайты на первые страницы поиска без предварительной регистрации. Но для этого нужны специальные знания и навыки. Если у вас их нет, то стоит потратить время на регистрацию своего ресурса в наиболее популярных поисковиках. Для регистрации сайта в Google используйте инструмент Google Search Console.
5. Сделайте внутреннюю перелинковку.
Чтобы индексация сайта прошла быстрее, стоит провести внутреннюю перелинковку страниц ресурса. Как было отмечено ранее, поисковые боты для перемещения в Интернете используют ссылки. Таким образом, если страницы связаны ссылками, то робот посетит их автоматически. Веб-мастер должен убедиться, что все наиболее важные страницы сайта перелинкованы друг с другом. При правильно организованной структуре ресурса внутренняя перелинковка происходит естественным путем. Для получения более высоких результатов по индексации сайта нужно связать друг с другом как можно больше страниц, поэтому, как только происходит публикация нового контента, не забывайте добавить в него несколько ссылок на другие записи.
6. Своевременно публикуйте качественный и уникальный контент на сайте.
Важно также уделять внимание регулярному появлению на сайте нового материала. Чем чаще это происходит, тем чаще поисковые боты будут посещать ваш ресурс, а значит, увеличится скорость индексации. Стоит создать план появления новых публикаций (1 раз в 3 дня или 2 раза в неделю) и строго придерживаться его. Соблюдение такого графика может увеличить скорость индексации в несколько раз. Поисковые боты будут строго по расписанию посещать сайт для поиска нового контента.
Именно по этой причине новостные площадки ежедневно публикуют десятки страниц. Такой режим публикаций обеспечивает ежедневное посещение сайта поисковыми роботами «Гугла». Такая же ситуация способствует тому, что в поисковой выдаче очень быстро появляются записи в социальных сетях.
В погоне за количеством публикаций не стоит забывать о качестве. Низкокачественный контент отрицательно отражается на индексации страниц сайта. Наиболее негативно влияют на этот процесс такие факторы, как:
- копирование статей с других ресурсов;
- публикация материалов с большим количеством орфографических и других ошибок;
- добавление текстов, перенасыщенных ключевыми словами.
На скорость индексации сайта в Google оказывает влияние и размер публикуемых статей. Их объем должен быть не менее 1,5 тыс. знаков при уникальности от 80–90 %. В каждой статье должна быть хоть одна картинка.
7. Добавьте URL страницы вручную.
В вопросах ускорения индексации сайта многие администраторы интернет-ресурсов забывают о специальных инструментах «Гугла». Их использование точно не принесет никакого вреда ресурсу и не создаст никаких сложностей веб-мастеру. Нужно только лишь зайти в Google-аккаунт и нажать «Отправить URL» в настройках Webmaster Tools.
8. Создавайте и обновляйте свои социальные профили.
Ранее уже отмечалась роль ссылок в вопросах привлечения роботов «Гугла» на сайт, поэтому становится очевидной и полезная роль, которую могут сыграть в вопросах индексации соцсети. Зарегистрируете свои профили LinkedIn, Твиттер, Pinterest, «Фейсбук», YouTube и Google+. Задействуйте для продвижения своего ресурса максимальное количество соцсетей. После появления на сайте нового контента обязательно публикуйте ссылку на него в своих социальных сетях.
9. Использование «правила трех кликов».
Чтобы ускорить индексацию сайта в Google и улучшить поведенческие факторы интернет-ресурса, для посещения любой страницы нужно сделать не больше трех переходов от главной.
10. Добавьте кнопки социальных сетей на сайт.
Для упрощения публикации ссылок на новые материалы в соцсетях следует установить на сайте кнопки таких сетей. Кроме того, посетители ресурса будут пользоваться такими кнопками, что увеличит посещаемость интернет-площадки.
11. Разместите ссылки на новую страницу на внешних ресурсах.
Процесс индексации сайта в Google можно ускорить с помощью наполнения блога, публикации статей, пресс-релизов, постов пользователей и других видов линкбилдинга.
12. Создайте RSS-канал.
RSS-канал не является обязательным элементом, но он не помешает индексации сайта в Google. RSS (с английского Rich Site Summary – «обогащенная сводка сайта») – семейство XML-форматов, которые используются для описания новостных лент, анонсов публикаций, изменений в блогах и др.
Это еще один простой способ уведомления поисковиков об обновлениях сайта, но сегодня этот инструмент считается устаревшим. Тем не менее RSS-канал помогает передать поисковым системам сведения о новом материале сразу же после его появления на сайте.
13. Отслеживайте ошибки индексации (о них будет рассказано ниже).
Достаточно сложно избежать ошибок, мешающих индексации сайта в Google. Часто они связаны с внесением значительных изменений в структуру сайта – с добавлением/удалением и перемещением различных страниц.
Для отслеживания ошибок используется Google Search Console.
Теперь вы знаете о многих методах ускорения индексации сайта в Google. Стоит отметить, что некоторые способы помогут привлечь целевую аудиторию на вашу площадку.
Рекомендуем
«RSS на сайте: насколько актуален этот инструмент и как правильно им пользоваться» ПодробнееПочему не индексируется сайт в Google
Причины могут быть разными. Рассмотрим наиболее часто встречающиеся:
- Новый сайт. В этом случае нужно только терпение и время. Не все страницы нового ресурса сразу попадают в индекс «Гугла». Иногда процесс индексации может растянуться на несколько месяцев.
- Отсутствие карты сайта (файл Sitemap). Профессионально составленная карта сайта помогает поисковым ботам быстрее сканировать страницы сайта. Ссылка на файл «Сайтмеп» должна быть добавлена в панель веб-мастеров.
- Ошибки на страницах сайта. В панели для веб-мастеров «Гугл» постоянно уведомляет собственников интернет-ресурсов о появляющихся ошибках. Если есть проблема с индексацией сайта в Google, посмотрите, какие ошибки находит поисковый бот, и исправьте их.
- Ошибка с метатегом robots. Она может появиться из-за неправильного изменения настроек CMS или хостинга. В коде интернет-страниц в этом случае появится строка: <meta name=»robots» content=»noindex, follow» />
- Ошибка с robots.txt. Такая ошибка является следствием рекомендаций закрывать в robots.txt все ненужное. Но всего лишь один лишний символ способен закрыть страницу или даже сайт от индексации. При неправильном закрывании от поисковой системы части сайта можно случайно прихватить и другие разделы ресурса. Если ресурс закрыт для индексации, в файле robots.txt можно обнаружить тег: User-agent: * Disallow: /
Проблемы с индексаций сайта в Google могут возникнуть также под влиянием следующих факторов:
- дубли страниц;
- недостаточный процент уникальности контента;
- затрудненный доступ к страницам и длительное время их загрузки.
Часто проблема заключается не в самой индексации, а в методах оптимизации сайта. Чтобы ваш ресурс быстро индексировался в Google, нужно лучше конкурентов удовлетворять запросы пользователей. При таком подходе все, что описано в этом материале, понадобится только для фиксации качественного результата.
Рекомендуем
«Как закрыть сайт от индексации: несколько простых способов» ПодробнееКак отключить индексацию сайта в Google
Нужно отметить, что посещение и сканирование станиц ресурса роботами не может быть гарантией их попадания в индекс. В некоторых случаях стоит закрывать определенные страницы от индексации (к примеру, URL с техническими GET-параметрами, служебные файлы и материалы посетителей).
Каждый интернет-ресурс должен иметь:
- Sitemap.xml – файл, упрощающий сканирование страниц гугл-ботами с учетом приоритетов, заданных веб-мастером. Этот файл располагается в «корне» сайта.
- Robots.txt – файл, который задает ботам поисковиков правила и характеристики обхода страниц:
- команда Disallow позволяет закрывать от индексации отдельные URL или разделы сайта;
- Crawl delay – указывает ботам минимальное время обращения к серверу, что предотвращает возникновение чрезмерных нагрузок на онлайн-площадку.
sales-generator.ru
Как добавить сайт на индексацию поисковикам
В этой инструкции мы рассмотрим вопрос добавления нашего нового сайта на индексацию к различным поисковым системам.
Я решил упомянуть как популярные поисковики, так и те, про которые вы возможно и не слышали.
Индексация сайта в Яндексе
Что бы добавить сайт для индексации в Яндекс (Yandex.ru) достаточно вести его адрес в специальную форму addurl (англ. addurl — добавить URL). Вебмастера прозвали ее адурилкой. Находится она тут: webmaster.yandex.ru/addurl.xml
Для добавления сайта на индексацию достаточно ввести url главной страницы и капчу. Капча — это несколько цифр, которые защищают от автоматических регистраций. После того как вы нажмете кнопку «добавить» возможно несколько вариантов развития событий.
1) Сообщение «ваш сайт добавлен» сигнализирует об успешном добавлении ресурса в очередь на индексацию в Яндекс.
2) Если появилась надпись «Ваш хостинг не отвечает» — значит, ваш сервер лежит в этот момент. Можно попробовать добавить сайт позже или найти более качественный хостинг.
3) А вот если появилось сообщение, что «указанный URL запрещен к индексации» то дела плохи. Это говорит о том, что на ваш ресурс наложены санкции в виде бана сайта. Вполне возможно, что на купленном вами домене уже когда-то был сайт, который и получил санкции. При помощи addurl вебмастера часто проверяют сайты на бан в Яндексе.
Индексация сайта в Google (Гугле)
Следующая по значимости для нашего сайта идет поисковая система Google (Гугл). Процесс добавления на индексацию сайта в Google точно такой-же как на Yandex. В Гугле тоже есть своя адурилка, которая расположена по адресу: https://www.google.com/webmasters/tools/submit-url.
Так же надо ввести капчу при добавлении. Но есть два отличия. Если в Яндексе можно просто добавить урл без лишних телодвижений, то в Google надо быть залогиненым в своем аккаунте. Иначе не получится. Соответственно если аккаунта у вас там еще нет, его придется завести. Второе отличие Google от Яндекса это скорость индексации. Google очень быстро индексирует сайты.
Индексация сайта в Рамблере (Rambler.ru)
Конечно, Рамблер уже не тот, что раньше, как скажут многие, и дает совсем немного трафика. И все равно, зачем им пренебрегать? Процесс индексации сайта в Rambler самый затяжной, среди других отечественных поисковых систем. Да и его адурилка уже давно не работает, она была по адресу: robot.rambler.ru/cgi-bin/addsite.cgi
Он уже давно использует поисковую базу Яндекса. Поэтому, что бы попасть в индекс Rambler.ru достаточно добавиться в Яндекс.
Индексация сайта в Mail.ru (Майл)
Поисковая система Mail.ru тоже имеет кабинет вебмастера. Добавление сайта на индексацию в Mail.ru происходит через форму addurl, которая расположена по адресу: go.mail.ru/addurl
Причем как и у гугла, что бы сделать заявку на индексирование, нужно завести свой аккаунт и войти в него. Иначе не выйдет. Майл в последнее время старается развивать свои собственные инструменты для вебмастеров.
Выше мы рассмотрели основные отечественные поисковики, в которых нам желательно проиндексировать свой сайт. Идущие далее ПС приведу скорее для вашей общей SEO-эрудиции, чем для конкретных действий.
Поисковая система Aport.ru (Апорт)
Aport.ru когда-то был поисковой системой, со своей индексной базой и адурилкой. Сейчас из него сделали товарный поисковик, в котором можно сравнивать цены на товары и услуги.
Поисковая система Nigma.ru (Нигма)
Nigma.ru это наша русская интеллектуальная поисковая машина. Суммарный объем ее трафика порядка трех миллионов запросов в сутки. Очевидно, что не надо пренебрегать трафиком из Нигмы. Добавить свой сайт на индексацию в Нигму можно на странице nigma.ru/index_menu.php?menu_element=add_site.
Медиа навигатор Tagoo.ru
Система Tagoo.ru представляет собой медийный поисковик, который ищет медиа данные. Это музыкальный контент, видеоролики и программы. Что бы ваш сайт был проиндексирован системой Tagoo, нужно воспользоваться формой добавления: tagoo.ru/ru/webmaster.php?mode=add_site.
Поисковая система Turtle.ru (Черепаха)
Международный поисковик Turtle (Черепаха) осуществляет поиск по странам СНГ на любом языке. Для индексации принимаются ресурсы расположенные на таких доменных зонах как: ru, su, ua, am, az, ge, by, kz, kg, uz, md. Что бы добавить сайт на индексацию в черепахе нужно воспользоваться адурилкой: http://www.turtle.ru/add.html. Желательно дождаться вывода сообщения о принятии вашего сайта. Может не добавить, а вы и знать не будете.
Зарубежные поисковые системы
Если выше были отечественные поисковые системы, то ниже будет список зарубежных поисковых систем.
Поисковая система Yahoo.com (Яху)
Yahoo это один из первых поисковиков, появившихся в Интернет. Про нее слышали наверно все люди, так или иначе связанные с Интернетом. Добавить сайт в Яху можно тут search.yahoo.com/info/submit.html.
Поисковая система Bing.com (Бинг)
Поисковая система Bing принадлежит корпорации Microsoft и была создана на замену Live Search. Майкрософ надеется, что новое детище окажется намного популярнее предшественника. Если вы хотите индексации своего сайта ПС Bing.com, это это можно сделать на странице http://www.bing.com/toolbox/submit-site-url.
Украинские поисковые системы
И в заключении моего обзора приведу две популярных поисковых системы на Украине.
Украинская поисковая система Meta.ua (Мета)
Что бы добавить свой сайт на индексацию в поисковую систему Meta там сначала надо пройти регистрацию. После того как вы войдете в свой аккаунт, добавить сайт можно будет на странице web.meta.ua/?action=add. Правда поисковиком принимаются только украинские web-сайты.
Поисковая система Uaport.net
В индексную базу украинского поисковика Uaport.net тоже можно добавить только украинские ресурсы. На сайте написано, что перед добавлением они смотрят сайты вручную. Как бы намекая, что некачественные сайты не пропустят. При регистрации сайта в ПС придется заполнить около десяти полей. Страница с адурилкой находится по адресу http://uaport.net/cat/register.
Как добавить сайт в тот или иной поисковик мы разобрались. Теперь переходим к следующей теме как ускорить индексацию сайта в поисковых системах.
Оглавление
Статьи по теме:
Загрузка…seob.info
Мгновенно проиндексировать страницу в Google
Не так давно компания Google на пару с NASA (да-да, с аэрокосмическим агентством США) купила у канадской компании D-Wave Systems квантовый компьютер (ну или то, что на сегодня называется квантовым компьютером). Сообщалось, что на его базе планировали (с этой осени) запустить лабораторию по изучению искусственного интеллекта с применением достижений квантовой физики.
Что такое квантовый компьютер — долго объяснять. Но представьте себе в перспективе — некий огромный суперкомпьютер, у которого весь интернет будет находится в оперативной памяти. Необходимости индексировать новый контент и новую информацию, размещаемую в интернете — уже не будет. Информация сразу будет в поиске! В момент ее публикации в интернете! Как вам такая скорость… хотел сказать «индексации», но по-сути «индексации» в привычном значении этого слова уже не будет!
Но пока это в перспективе, и, кажется, не совсем уж такой далекой! Мгновенная индексация информации не за горами. И это хорошо иллюстрирует новшество от компании Google. Теперь по запросу вебмастера, Google сканирует мгновенно предложенный ему адрес странички и также мгновенно размещает его в поиске. Да, такой сервис есть и называется он не аддурилка Google, куда надо сообщать о новом сайте. Инструмент находится в кабинете вебмастеров от Google и доступен всем желающим вебмастерам, подтвердившим права управления на свой сайт.
Как мгновенно проиндексировать страничку в Google?
Быстрая индексация материалов сайтов — головная боль вебмастеров (каких тем только не создано на веб-форумах: «Как быстро вогнать сайт в индекс Google«, «Как ускорить индексацию сайта?«, «Как мгновенно проиндексировать содержимое сайта?» и т.д.). Поскольку преимущественно публикуются уникальные материалы, то существует вероятность кражи контента и публикации его на быстроиндексируемом сайте. Однако, с нововведением Google, это уже в прошлом. Сейчас возможно отправлять странички в Google не только на индексацию, но и прямо в результаты поиска. Делается это очень и очень просто.
- Заходим в кабинет вебмастера Google — http://www.google.com/webmasters/
- На главной странице Инструментов для веб-мастеров выберите нужный сайт (страницы которого нужно вогнать в индекс)
- На левой панели находим функцию Просмотреть как Googlebot
- В появившемся текстовом поле указываем путь к новой страничке в интернете
- В раскрывающемся списке не трогаем (установленный по умолчанию) Веб
- Нажимаем Получить содержание (Google получит содержание указанного URL, несколько раз перезагрузив страницу; не спешите ничего нажимать, этот процесс может занять до 10–15 минут).
- Когда получим сообщение об успешном получении содержимого, нам станет доступна кнопочка Добавить в индекс — нажимаем на нее.
- Нам предложат выбрать одно из двух:
— чтобы добавить отдельный URL в индекс Google, выберите URL и нажмите Отправить (используя этот способ, можно добавлять до 500 URL в неделю)
— чтобы добавить URL и все страницы, на которые он ссылается, выберите URL и все связанные страницы (можно отправлять до 10 таких запросов в месяц)
Непосредственно в кабинете вебмастеров Google это выглядит примерно так:
На официальной страничке документации — https://support.google.com/webmasters/answer/1352276?hl=ru#1352276 нового метода, где подчеркнуты его главные приимущества:
Попасть в результаты поиска Google просто. Не нужно ничего платить, не нужно даже отправлять свой сайт в Google
ясно указано, что
Google не может гарантировать, что все просканированные URL будут включены в индекс.
это подразумевает, что гарантии индексации новой странички в интернете такие же, как и при обычном сканировании поисковыми роботами. Никаких гарантий, что бредовые тексты, машинные и не несущие никакой полезной нагрузки будут попадать в индекс поисковой системы.
Как быстро индексируется страничка в Google?
Нигде не указано, сколько именно времени должно пройти, прежде чем страничка, указанная поисковым паукам, будет проиндексирована и доступна в поиске. Однако, собственные эксперименты показывают, что это происходит сразу. Что именно я вкладываю в слово «сразу«?
По неизвестным причинам, страница, добавленная на индексацию через Googlebot попадает в индекс от мгновенно (пару секунд) до нескольких минут (5-10). В целях эксперимента добавлялись в индекс такие страницы на редкообновляемых сайтах, которые самостоятельно не индексировались в Google по 4-6 дней (и успешно появлялись в индексе сразу же). Лишь в некоторых случаях, единичных, страничка вообще не появлялась в индексе. Впоследствии, она появлялась сама по себе, видимо во время очередного визита другого паука на сайт.
Такой вот подарок от Google любителям мгновенной индексации! Надеюсь, мои советы станут вам полезными!
Вконтакте
seo-zona.ru
Сайт не индексируется в Google – что делать?
Прежде чем пойдут посетители на сайт с поиска, Google должен узнать про ваш сайт. Более того, он добавить сайт со всеми страницами в свою базу. Но это не всегда происходит. Почему?
Чаще всего, вы вполне можете положится на Гугл, чтобы он сам правильно проиндексировал ваш сайт. В конце концов, это одна из самых базовых его задач, которую поисковик делает ежедневно в с миллионами а то и с сотнями миллионов сайтов.
Однако иногда, бывают сбои. В результате чего, страницы сайта не попадают даже в индекс поисковика, не говоря уже о первых страницах в поисковой выдаче.
Не попадание в индекс Google может произойти по разным причинам: технические проблемы, некачественный контент, санкции к сайту в целом.
Как определить количество проиндексированных страниц.
Для начала, можно посмотреть, а сколько всего страниц сайта попало в индекс. Сделать это можно с помощью с различных, как правило бесплатных сервисов. Например, с помощью pr-cy.ru. Вводите адрес своего сайта и нажимаете кнопку «Анализировать». В результате вы получите ряд данных, включая данные о том, сколько страниц проиндексировано в Гугл и в Яндекс.
Таким образом мы можем узнать, сколько страниц уже попало в индекс Гугл и если это количество заметно меньше чем у Яндекс или заметно меньше, чем количество страниц у сайта, значит есть определенные проблемы.
Как узнать, какие страницы проиндексированы?
1.Спросить у Гугла)) Вбиваете в поиск слово site, ставите двоеточие и название своего сайта. Все это, без пробелов. В результате, Гугл сам выдаст проиндексированные страницы.
2.Если вы просто хотите узнать о конкретной странице, тогда вбейте в поиск адрес интересующей вас страницы.
3.Если сайт ваш, то о проиндексированных страницах вы можете узнать из Google Search Console. Для этого, перейдите на вкладку «Покрытие» и откройте отчет.
После чего, кликните по вкладке «Страницы без ошибок» и в ниже появившейся табличке, кликните по проиндексированным страницам.
В результате, вы получите список проиндексированных страниц.
Подробнее о работе с Google Search Console, вы можете прочитать здесь.
4.С использованием SEO программ, таких как Netpeak Spider. Если говорить про Netpeak Spider, то это программа платная, однако, имеет триал версию на четырнадцать дней с полным функционалом. И с ее помощью можно проверить индексацию страниц.
Как исправить непроидексированные страницы?
1.Гугл пока что еще не проиндексировал ваш сайт.
Иногда поисковику может потребоваться неделя или больше, чтобы обновить результаты поиска. Это потому, что ваш сайт новый и не имеет никаких входящих ссылок.
Сначала добавьте свой сайт в Google Search Console , затем добавьте свой URL sitemap.xml, после чего, вы сможете запросить повторное сканирование вашего сайта. Однако таких запросов так много, что эта функция не всегда работает сразу (особенно если у вас новый или большой сайт).
Если вы не хотите создавать аккаунт в Google Search Console, то можно сайт добавить в поиск, отправив адрес карты своего сайта следующим образом:
http://www.google.com/ping?sitemap=https://example.com/sitemap.xml
Где вместо example.com, вставьте свой сайт.
2.На вашем сайте стоит запрет на индексирование сайта.
Обычно новый сайт специально закрывают от индексирования в поисковых системах, а потом зачастую, просто забывают про запрет, в результате, сайт остается не проиндексированным. Проверить это можно в двух местах, в файле robots.txt или запрет может стоять в админ панели управления сайтом.
Вот каким образом будет выглядеть запрет в файле robots.txt
User-agent: Googlebot
Disallow: /
Это запрет на индексацию в Гугл
User-agent: *
Disallow: /
А это запрет на индексацию сайта во всех поисковиках.
Что касается админки сайта, то в WordPress запрет будет выглядеть так.
И наконец, закрытым от индексации может как весь сайт, так и отдельно взятая страница. Откройте код страницы сайта, и проверьте, нет ли на страницы такого тега
meta name=»robots» content=»noindex,nofollow»
Этот тег просит поисковики не индексировать сайт. Соответственно, такая страница не попадет в индекс.
3.Ваш сайт был удален из Гугл.
Это самая сложная ситуация. По вашей вине, или по вине прежнего владельца, Гугл мог принять решение об удалении сайта из индекса Гугл. В этом случае, вышеперечисленные методы вам не помогут.
Об удалении сайта из индекса, гугл сообщает через Google Search Console. Если у вас такая ситуация, то вам придется переделывать весь сайт, после чего, подавать заявку на повторное индексирование сайта. И если на сайте проблемы устранены, то сайт будет проиндексирован.
Подробнее об этом, вы можете узнать из справки самого Гугл.
Как ускорить индексацию сайта.
Если же с сайтом у вас все в порядке, но вы хотите, чтобы Гугл побыстрее проиндексировал сайт, то вы можно сделать следующие шаги:
- Добавить сайт в Google Search Console.
- Создать карту сайта — sitemap.xml.
- Создать карту сайта для людей.
- Правильно настроить файл robots.txt.
- Добавить ссылки с трастовых форумов.
- Правильно перелинковать сайт.
- Добавить сайт в социальные сети, такие как Facebook, Вконтакте, Twitter
Подробнее об этих способах ускорения индексации сайта, читайте здесь.
Загрузка…Подпишитесь на обновления блога Life-Webmaster.ru и получайте в числе первых новые статьи про создание блога, раскрутку и заработок на нем!
life-webmaster.ru
Добавляем сайт в поиск Google в 2018
После того, как вы создали новый сайт или блог и готовы поделиться им с миром, следующее, что вам нужно сделать, это обеспечить, чтобы люди могли его найти. Процесс добавления или предоставления вашего сайта в Google или другие поисковые системы называется индексацией сайта.
В этой статье мы расскажем о том, как добавить свой сайт в Google. В рассматриваемом примере мы пошагово покажем, как проиндексировать WordPress –сайт в гугле (Google), используя плагин Yoast SEO и сервис Google Search Console.
В то же время для тех, кто не использует WordPress, процесс будет таким же, с той лишь разницей, что необходимо будет использовать альтернативный подход для создания карты сайта и обеспечения условий для того, чтобы поисковый робот Google мог просканировать ваш сайт.
Вот краткое описание того, что мы рассмотрим в этой статье:
- Три этапа добавления любого сайта в поиск Google.
- Как добавить свой WordPress-сайт в поиск Google:
- Как обеспечить, чтобы поисковый робот Google мог сканировать сайт (robots.txt).
- Как установить и настроить плагин Yoast SEO.
- Как использовать Google Search Console для индексации сайта.
Мы рассмотрим весь процесс шаг за шагом для пользователей WordPress, однако почти все те же действия нужно выполнить, независимо от того, какую платформу вы используете:
1. Убедитесь, что поисковый робот Googlebot может получить доступ к страницам сайта, которые вы хотите проиндексировать. Это относится к файлу robots.txt. Если вы — пользователь WordPress, это очень просто, и мы покажем, как это сделать.
2. Настройте Google Search Console для домена, который вы хотите добавить в поиск Google.
3. Отправьте файл Sitemap через Google Search Console и попросите Google выполнить сканирование вашего сайта.
Чтобы проиндексировать WordPress-сайт, необходимо включить возможность сканирования вашего сайта для поискового робота Googlebot, затем создать карту сайта и, наконец, отправить файл Sitemap через Google Search Console. Вот, как это делается.
Включить возможность сканирования вашего WordPress-сайта для поискового робота Google очень просто. Когда вы будете готовы к тому, чтобы ваш сайт стал видимым через поисковые системы, выполните следующие действия:
1. В панели администрирования WordPress наведите указатель мыши на пункт главного меню «Настройки» и выберите раздел «Чтение».
2. Прокрутите открывшуюся страницу вниз до раздела «Видимость в поисковых системах» и снимите флажок для опции «Попросить поисковые системы не индексировать этот сайт». Если данный флажок не будет снят это станет причиной того почему гугл не индексирует сайт и его страницы или делает это плохо.
3. Затем сохраните внесенные изменения
И это все, что вам нужно сделать на данном этапе, чтобы Google мог сканировать ваш сайт. Перейдем к следующему шагу.
Yoast SEO — это бесплатный WordPress-плагин, который мы рекомендуем всем пользователям. В данном случае мы будем использовать его для создания карты сайта. В дополнение к этому Yoast SEO является одним из лучших и наиболее доступных WordPress-плагинов для SEO, он регулярно обновляется, чтобы всегда идти в ногу с последними тенденциями.
Вот этапы установки плагина Yoast SEO и создания карты сайта:
1. В панели администрирования WordPress наведите указатель мыши на пункт главного меню «Плагины» и выберите раздел «Добавить новый«.
2. Вы будете перенаправлены в репозиторий плагинов WordPress. Чтобы найти плагин Yoast SEO, введите в панели поиска «Yoast SEO». Плагин Yoast SEO будет одним из первых результатов.
3. При установке любых плагинов рекомендуется проверять их рейтинг, количество установок, а также когда состоялось последнее по времени обновление, и совместим ли он с используемой вами версией WordPress. В нашем случае все хорошо.
4. Затем нажмите кнопку «Установить», чтобы установить плагин.
5. Когда плагин будет установлен, нажмите кнопку «Активировать», чтобы активировать плагин.
6. После активации плагина, вы увидите новую вкладку «SEO» с логотипом Yoast в главном меню WordPress.
7. Наведите указатель мыши на эту вкладку и выберите раздел «Панель мониторинга».
8. Оттуда перейдите на вкладку «Функции», затем прокрутите панель вниз и включите опцию «Дополнительные параметры». Сохраните внесенные изменения, нажав соответствующую кнопку, расположенную в нижней части экрана.
9. На вкладке Yoast SEO должны появиться дополнительные вкладки. Перейдите на вкладку «Тайтлы и мета«.
10. Далее перейдите на вкладку «Типы записей». Здесь можно выбрать элементы сайта, которые вы хотите индексировать. В большинстве случаев необходимо индексировать только страницы и записи. Если этот вариант подходит и вам, установите для параметра «meta robots» значение «no-index» для всего, что вы не хотите индексировать. Если вам нужна дополнительная информация о различных настройках, кликните по ссылке «Справка», и вы получите доступ к видео руководству, относящемуся к странице, на которой вы находитесь, а также к другой справочной информации.
11. После того, как вы закрыли от индексации все типы записей, которые не хотите индексировать, сделайте то же самое на вкладках «Таксономии», «Архивы» и «Другие».
12. Затем нажмите на кнопку «Сохранить изменения».
13. Далее перейдите в раздел «XML Sitemaps«.
14. Просмотрите вкладки «Типы записей» и «Таксономии» и включите объекты, которые вы хотите индексировать, и отключите те, которые хотите исключить из процесса индексации. Для большинства сайтов здесь также подходит индексация страниц и записей, однако дополнительную информацию вы всегда можете получить в разделе «Справка».
15. Затем сохраните внесенные изменения.
16. Перейдите на вкладку «Основные» и кликните по ссылке «XML карта сайта». Скопируйте ссылку из адресной строки браузера и сохраните ее для дальнейшего использования в Google Search Console.
Это все, что касается установки и настройки плагина Yoast SEO и создания URL-адреса Sitemap. Теперь мы можем перейти к настройке бесплатной учетной записи Google Search Console и индексированию сайта.
Google Search Console — это бесплатный инструмент Google, и мы будем использовать его для сканирования сайта или блога. Этот инструмент также поможет управлять любыми ошибками сканирования, связанными с вашим сайтом. Давайте рассмотрим этапы настройки вашей учетной записи:
1. Перейдите в Google Search Console. Сначала нужно войти в свою учетную запись Google. Здесь не должно быть много информации, если вы не работали с ней раньше.
2. Скопируйте ссылку на свой домен прямо из адресной строки браузера и вставьте ее в текстовое поле, расположенное в середине экрана. Затем нажмите кнопку «Добавить ресурс».
3. Затем вас попросят подтвердить право собственности на домен. Выберите вкладку «Альтернативные методы» и нажмите кнопку «HTML-тег». На экране появится мета тег name. Выделите весь тег и скопируйте его.
4. Вернитесь на панель администрирования WordPress и перейдите в раздел инструментов плагина Yoast SEO.
5. Перейдите на вкладку «Инструменты для веб-мастеров». Здесь вы увидите три текстовых поля. Вставьте мета тег, который вы скопировали из Google Search Console в текстовое поле «Google Search Console«. В качестве дополнительной опции можно проиндексировать свой сайт не только в Google (гугл), но и в других поисковых системах. Сохраните внесенные изменения.
6. После этого можно вернуться в Google Search Console и нажать кнопку «Проверить». После этого вы должны увидеть сообщение о том, что Google нашел тег, и все хорошо.
7. Теперь нажмите кнопку «Добавить / Проверить Sitemap». Надеюсь, вы сохранили URL-адрес Sitemap, который скопировали ранее. Вставьте его во всплывающем окне и нажмите кнопку «Отправить».
8. Вам следует перезагрузить страницу, и после этого у вас должна появиться новая запись о файле Sitemap. Если на данном этапе у вас возникла ошибка, скорее всего, это связано с тем, что ваш сайт блокирует поисковых роботов. Не беспокойтесь об этом.
9. В разделе меню «Сканирование» перейдите в раздел «Просмотреть как Google». Затем нажмите кнопку «Извлечь и отобразить». Это может занять некоторое время.
10. После этого вы должны увидеть статус «Частично». Нажмите кнопку «Отправить в индекс» рядом с ним. Должно появиться окно с просьбой подтвердить, что вы не робот. Установите галочку и выберите параметр «Сканировать этот URL и все его прямые ссылки». Нажмите «Отправить».
11. Рядом со статусом «Частично» теперь должно появиться сообщение, которое гласит о том, что «URL-адрес и его связанные страницы, представленные на индексацию».
Есть два других способа, с помощью которых добавить метатег на свой сайт (шаг 5), они подходят для немного более продвинутых пользователей:
- Вы можете скопировать его непосредственно в разметку файла header.php темы оформления, которую вы сейчас используете.
- Вы можете добавить его в код заголовка темы оформления с помощью инструментов настройки темы.
Вы должны контролировать, чтобы скрипт или тег отслеживания Google не изменялся и не удалялся, а также, чтобы на сайт не был добавлен другой метатег, иначе это может негативно повлиять на ваш сайт.
Вот и все! Вы успешно отправили свой сайт на индексацию в Google. С помощью Google Search Console и плагина Yoast SEO вы стали на один шаг ближе к привлечению поискового трафика на свой сайт.
Данная публикация представляет собой перевод статьи «How to Add Your Website to Google Search (2018) Submit or Index Your Website» , подготовленной дружной командой проекта Интернет-технологии.ру
www.internet-technologies.ru
Как быстро проиндексировать сайт или страницу в Google?
Googlebot, сканирование и индексирование
Для начала нужно понять, что такое Googlebot, чем отличаются сканирование и индексирование, и каким образом оба процесса могут способствовать быстрому попаданию страниц в поисковую выдачу.
- Googlebot или инструмент Google для индексации страниц – это название поисковой программы (бота), обязанность которого – сбор данных о документации в Интернете для дальнейшего её включения в поисковый индекс Google.
- Процедура посещений ботами веб-сайтов (как новых, так и старых) в поисках нового и обновленного контента для дальнейшей передачи информации Google называется сканированием. Откуда бот знает, что сканировать? Этот процесс обуславливается ссылками!
- Индексация – это следующий шаг, совершающийся при обработке документов, собранных на этапе сканирования. Если контент идентифицируется как качественный, то как только обработка завершена, информация добавляется в индекс поиска Google. Рассмотрение слов на определенной странице в ходе индексации является обязательным. Кроме того, на этом этапе также происходит анализ alt тегов и тайтлов.
Но как же ботам удается обнаружить новый материал, будь то обновленное содержание страницы, блога или какого-либо абсолютно нового сайта? Это происходит благодаря ранее собранной в Интернете информации о страницах, проиндексированных Google, и информацией с карты сайта, предлагаемой веб-мастером. Ключевой вопрос – как проиндексировать страницы быстрее?
Методы ускорения индексации сайта
- Создание Sitemap. Документ Sitemap XML представляет список страниц на сайте, хранящийся на сервере сайта. Когда вы добавляете новые страницы на сайт, он информирует поисковую систему об этом и дает инструкции относительно желаемого графика проверки изменений на определенных страницах. Вы вправе выбирать частоту. Если необходимо, можете заставить поисковую систему проверять ваши страницы на наличие обновленной информации (новые товары, посты или любой другой контент) каждый день. Если же нет, выберите другую частоту проверок. В случае с WordPress, установка плагина Google XML Sitemaps позволяет автоматизировать создание и обновление карты сайта, передавая необходимые данные поисковым системам. Еще один вариант – плагин Yoast SEO.
- Предоставьте Google Indexing Tool свою карту сайта. Итак, у вас есть карта сайта. Как только она будет создана, перейдите в Google Webmaster Tools в аккаунт сайта. Если у вас его нет, создайте бесплатную учетную запись в Google и зарегистрируйтесь в Webmaster Tools. Далее, добавьте свой сайт в Webmaster, откройте папку «Сканирование», выберите «Sitemaps» и вставьте ссылку на свой файл Sitemap. Таким образом вы сообщаете поисковой системе Google о новых страницах. Чтобы получить еще лучший результат, дополнительно используйте консоль Bing. Там есть возможность создать другую учетную запись, войти в систему и включить свою карту сайта с помощью Webmaster Tools. Как поисковый бот знает, что сканировать? Это благодаря ссылкам! Не забудьте запустить проверку robots.txt файла, чтобы убедиться, что все необходимые страницы разрешены для индексации.
- Используйте Google Analytics. Установка Google Analytics используется в основном для отслеживания источников трафика и анализа поведения пользователей. Но само добавление кода на новый сайт и настройка аккаунта в системе аналитики уже уведомляет Google о появлении нового сайта, который необходимо просканировать.
- Добавьте URL страницы вручную. Это один из подходов, которым большинство людей пренебрегают, когда ищут возможности заставить поисковые системы просканировать страницы быстрее. Инструменты Google для индексирования не требуют дополнительных усилий или ресурсов и, безусловно, не наносят никакого вреда! Что необходимо сделать, так это, лишь войти в свой Google аккаунт и выбрать «Отправить URL» в Webmaster Tools.
- Создавайте и обновляйте свои социальные профили. Теперь, когда вы знаете, что ссылки служат для привлечения ботов на сайт, вы понимаете еще одну полезную функцию социальных сетей. Создайте профили в LinkedIn, Twitter, Pinterest, Facebook, YouTube и Google+. Используйте как можно больше соцсетей. После публикации страницы сразу публикуйте ссылку на неё в ваших соцсетях.
- Разместите ссылки на новую страницу на внешних ресурсах. Блоги, статьи, пресс-релизы, посты посетителей и другие варианты линкбилдинга значительно ускоряют индексирование страницы.
sitechecker.pro
Как быстро проверить индексацию сайта в Google и Яндекс — Netpeak Blog
Как оперативно узнать, попала ли важная для вас страница в индекс поисковых систем? Да и вообще, сколько страниц сайта «видят» поисковики? Я описал в этом посте способы, которые чаще всего используют SEO-специалисты, и приготовил бонус для читателей.
При индексировании страницы робот поисковой системы добавляет сведения о сайте в базу данных. Дальнейший поиск происходит по проиндексированным страницам. Не стоит путать индексацию и сканирование.
Робот может просканировать весь сайт быстро. А добавлять в индекс медленно, не добавлять часть страниц или удалять страницы из индекса.
Хотите, чтобы все страницы вашего сайта заходили в индекс быстро? Мы проконсультируем по поводу оптимальной стратегии SEO-продвижения:
Отправить заявку
1. Проверьте индексацию в панели вебмастеров
Это базовый способ проверки для вебмастера или владельца сайта.
Google. Необходимо зайти в Search Console и на вкладке «Индекс Google» выбрать «Статус индексирования».
Yandex. Проходим авторизацию в Яндекс.Паспорт, заходим в Яндекс.Вебмастер и переходим по пути «Индексирование сайта» — «Страницы в поиске». Еще один вариант: «Индексирование сайта» — «История» — «Страницы в поиске». Здесь можно посмотреть динамику изменения количества страниц в поиске.
Чтобы использовать этот метод, у вас должен быть определенный уровень доступа в панель вебмастера. Пример хорошего индексирования сайта. Количество качественных страниц растет, и они добавляются в индекс. Проблемы с индексацией выглядят так:
На скриншоте — сайт, закрытый от индексации в файле robots.txt
Хотите узнать больше о поисковом продвижении? Подписывайтесь на рассылку:
Наши подписчики всегда получают больше.
2. Используйте операторы в поисковых запросах
Поисковые операторы позволяют уточнять результаты поиска. Оператор «site:» выдает информацию о приблизительном количестве проиндексированных страниц. Для проверки в строке поиска Google или Яндекс введите «site:[url вашего сайта]».
Иногда большая разница между результатами в Google и Яндекс свидетельствует о наличии проблем с сайтом.
Например, сайт cubing.com.ua находится под фильтром АГС.
Используя дополнительные инструменты поиска, можно узнать данные об индексации за определенный период времени. Так, за последний час в индексе Google появились 49 страниц русскоязычной Википедии:
3. Используйте плагины и букмарклеты
Плагины и букмарклеты (небольшие javascript-программы, сохраняемые как браузерные закладки) — автоматизированный вариант проверки. В данном случае не надо открывать поисковик отдельно и вводить что-либо в поиск.
Это делают плагины и скрипты:
На скриншоте — плагин RDS bar для Google Chrome. Возможности RDS bar для Mozilla Firefox еще круче. С помощью плагина можно проверить индексацию текущей страницы и общий индекс всего сайта. Но в бесплатных вариантах капча не даст спокойно работать 🙂
Букмарклет «Проверка индексации». Перетащите ссылку из открытого файла на панель закладок. Дальше просто откройте нужный сайт и нажмите на эту закладку. Откроется новая вкладка с Google или Яндекс и нужными данными в выдаче.
4. Установите сервисы для проверки индексации
Это маленькие помощники SEO-специалистов. Их множество. Например, связка Netpeak Spider и Netpeak Checker.
Netpeak Spider позволяет просканировать весь сайт. Плюс в том, что вы получаете не только информацию о количестве страниц в индексе, но и список этих страниц, а также много дополнительных данных: каноникал, код ответа, название, заголовки, метаописания, мета роботс, robots.txt, редиректы, внутренние и внешние ссылки и другие. Также программа предупреждает об ошибках в этих данных.
Как только список всех URL сайта был получен, его можно загрузить в Netpeak Checker и уже проверить непосредственно на факт индексации поисковыми системами.
Почему не индексируется сайт?
1. Новый сайт. Иногда нужно просто подождать. Страницы в индекс не попадают все и сразу. Часто этот процесс растягивается на несколько месяцев.
2. Нет карты сайта (sitemap). Качественная карта сайта поможет поисковым роботам быстрее просканировать и проиндексировать ваш сайт. Ссылку на карту нужно добавить в панель вебмастеров.
3. Ошибки на сайте. Панели вебмастеров регулярно оповещают владельцев сайтов об ошибках. Заметили проблему в индексации? Смотрите, какие ошибки находит робот, и исправляйте их.
4. Ошибка с метатегом robots. Частая ошибка при несознательном изменении настроек CMS или хостинга. В коде страниц сайта появляется следующая строка:
5. Ошибка с robots.txt. Часто советуют закрывать в robots.txt всё ненужное. Особенность файла robots.txt в том, что один лишний символ может открытый для индексации сайт превратить в закрытый. Даже если вы правильно закрыли часть сайта, ненароком можно было зацепить нужные вещи, которые находятся глубже. Ваш сайт закрыт от индексации, если вы видите у себя в robots.txt эту конструкцию:
User-agent: * Disallow: /
Что еще может стать поводом для проблем с индексацией сайта?- дубли страниц;
- неуникальный контент;
- проблемы с доступностью и скоростью загрузки.
Читайте подробнее, как ускорить загрузку сайта с помощью сервиса CDN.
Выводы
Цель владельца сайта — чтобы все страницы, открытые для индексации, были в индексе поисковой системы. Достичь этого сложно. К тому же важно следить за процессом занесения страниц в индекс: резкие изменения в положительную или отрицательную сторону — сигнал о проблеме. Мы описали четыре способа проверки индексации страниц сайта:
- В панелях вебмастеров Google и Яндекс.
- С помощью поискового оператора «site:».
- С помощью плагинов, вроде RDS bar, и буркмарклетов.
- В специальных сервисах, например, Netpeak Spider.
Часто дело не в индексации, а в подходе к оптимизации. Хотите индексироваться и ранжироваться — отвечайте на запрос пользователя лучше всех. В таком случае все описанное выше понадобится только для фиксации хорошего результата.
P.S. Бонус для тех, кто дочитал 🙂
Держите таблицу, с помощью которой я работаю с индексацией сайтов. Как работать с таблицей?
- Сделать копию.
- Выбрать доменную зону.
- Загрузить в столбец А список URL-адресов.
- Подождать результатов (чем больше адресов, тем дольше надо ждать).
В итоге получаем приблизительно такую картину:
Затем можно выделить столбцы B, C и скопировать данные на соседние два столбца. Так вы сохраните результаты на текущую дату для сравнения с результатами индексации через определенное время. А вот еще одна таблица для фиксации результатов выдачи по оператору «site:» для Yandex. Инструкция проста:
- Выбрать доменную зону.
- Выбрать регион.
- Ввести запрос (адрес сайта).
- Поставить «1», если хотите получить адрес и заголовок.
- Ввести количество страниц выдачи, которые вы хотите сохранить (от 1 до 100).
С помощью этой таблички я не раз находил проблемные Title или лишние страницы в индексе.
netpeak.net