Cache это: что это простыми словами, что значит очистка памяти и как её сделать / Skillbox Media

Если вы покупали компьютер, то слышали слово «кэш». Современные компьютеры имеют кэши L1 и L2, а многие теперь также имеют кэш L3. Возможно, вы также получили совет по этой теме от благонамеренных друзей, возможно, что-то вроде «Не покупайте этот чип Celeron, в нем нет кэша!»

Реклама

Оказывается, кэширование — важный процесс компьютерных наук, который присутствует на каждом компьютере в различных формах. Существуют кэши памяти, аппаратные и программные дисковые кэши, кэши страниц и многое другое. Виртуальная память — это даже форма кэширования. В этой статье мы рассмотрим кэширование, чтобы вы поняли, почему оно так важно.

1. Простой пример: до кэширования
2. Простой пример: после кеша
3. Компьютерные кэши
4. Подсистемы кэширования
5. Технология кэширования
6. Место ссылки

htm»> Простой пример: до кэширования

Кэширование — это технология, основанная на подсистеме памяти вашего компьютера. Основная цель кэш-памяти — ускорить работу вашего компьютера, сохраняя при этом низкую цену компьютера. Кэширование позволяет быстрее выполнять задачи на компьютере.

Чтобы понять основную идею системы кэширования, давайте начнем с очень простого примера, в котором используется библиотекарь для демонстрации концепции кэширования. Давайте представим библиотекаря за своим столом. Он здесь, чтобы дать вам книги, которые вы просите. Для простоты предположим, что вы не можете получить книги сами — вам нужно попросить у библиотекаря любую книгу, которую вы хотите прочитать, и он принесет ее для вас из набора стопок в кладовой (библиотека конгресс в Вашингтоне, округ Колумбия, устроен таким образом). Во-первых, начнем с библиотекаря без кеша.

Реклама

Приходит первый покупатель. Он просит книгу Моби Дик . Библиотекарь идет в кладовую, берет книгу, возвращается к прилавку и отдает книгу покупателю. Позже клиент возвращается, чтобы вернуть книгу. Библиотекарь берет книгу и возвращает ее в кладовую. Затем он возвращается к своему прилавку, ожидая другого покупателя. Скажем, следующий клиент просит Моби Дик (вы предвидели…). Затем библиотекарь должен вернуться в кладовую, чтобы взять книгу, с которой он недавно работал, и отдать ее клиенту. В соответствии с этой моделью библиотекарь должен совершить полный обход, чтобы получить каждую книгу, даже очень популярную, которую часто запрашивают. Есть ли способ улучшить работу библиотекаря?

Да, есть способ — мы можем поставить кэш на библиотекарь. В следующем разделе мы рассмотрим тот же пример, но на этот раз библиотекарь будет использовать систему кэширования.

Реклама

Простой пример: после кеша

Дадим библиотекарю рюкзак, в котором он сможет хранить 10 книг (с точки зрения компьютера у библиотекаря теперь есть тайник на 10 книг). В этот рюкзак он будет складывать книги, которые возвращают ему клиенты, максимум до 10. Давайте воспользуемся предыдущим примером, но теперь с нашим новым и улучшенным кэширующим библиотекарем.

День начинается. Рюкзак библиотекаря пуст. Приходит наш первый клиент и просит Моби Дик . Никакого волшебства здесь нет — библиотекарь должен пойти в кладовую, чтобы взять книгу. Он отдает клиенту. Позже клиент возвращается и возвращает книгу библиотекарю. Вместо того, чтобы вернуться в кладовую, чтобы вернуть книгу, библиотекарь кладет книгу в свой рюкзак и стоит там (сначала он проверяет, не полон ли мешок — об этом позже). Приходит другой клиент и просит Моби Дик . Прежде чем отправиться в кладовую, библиотекарь проверяет, нет ли этого названия в его рюкзаке. Он находит! Все, что ему нужно сделать, это взять книгу из рюкзака и отдать клиенту. Нет необходимости заходить на склад, поэтому клиент обслуживается более эффективно.

Реклама

Что делать, если клиент попросил название не в кеше (рюкзаке)? В этом случае библиотекарь менее эффективен с тайником, чем без него, потому что сначала библиотекарь тратит время на поиск книги в своем рюкзаке. Одной из задач проектирования кэша является минимизация влияния поиска в кэше, и современное оборудование свело эту задержку практически к нулю. Даже в нашем простом примере с библиотекарем время задержки (время ожидания) поиска в кэше настолько мало по сравнению со временем, которое требуется для возвращения в хранилище, что оно не имеет значения. Тайник небольшой (10 книг), и время, необходимое для того, чтобы заметить промах, составляет лишь ничтожную долю времени, которое занимает путешествие в кладовую.

Из этого примера вы можете увидеть несколько важных фактов о кэшировании:

• Технология кэширования — это использование более быстрого, но меньшего типа памяти для ускорения более медленного, но большего типа памяти.
• При использовании кэша вы должны проверить кэш, чтобы увидеть, есть ли там элемент. Если он есть, это называется попаданием в кэш . В противном случае это называется промахом кеша , и компьютер должен ждать прохождения туда и обратно из большей и более медленной области памяти.
• Кэш имеет некоторый максимальный размер, который намного меньше большей области хранения.
• Можно иметь несколько уровней кэша. В нашем примере с библиотекарем меньший, но более быстрый тип памяти — это рюкзак, а кладовая представляет собой более крупный и медленный тип памяти. Это одноуровневый кеш. Там может быть еще один уровень тайника, состоящий из полки, которая может вместить 100 книг за прилавком. Библиотекарь может проверить рюкзак, затем полку и затем кладовую. Это будет двухуровневый кеш.

Реклама

Компьютерные кэши

Компьютер — это машина, в которой мы измеряем время очень маленькими шагами. Когда микропроцессор обращается к основной памяти (ОЗУ), он делает это примерно за 60 наносекунд (60 миллиардных долей секунды). Это довольно быстро, но намного медленнее, чем обычный микропроцессор. Микропроцессоры могут иметь время цикла всего 2 наносекунды, поэтому для микропроцессора 60 наносекунд кажутся вечностью.

Что, если мы встроим в материнскую плату специальный банк памяти, небольшой, но очень быстрый (около 30 наносекунд)? Это уже в два раза быстрее, чем доступ к основной памяти. Это называется кэшем 2-го уровня или 9-го уровня.0251 Кэш второго уровня . Что, если мы встроим еще меньшую, но более быструю систему памяти прямо в микросхему микропроцессора? Таким образом, доступ к этой памяти будет осуществляться со скоростью микропроцессора, а не со скоростью шины памяти. Это кэш L1 , который на 233-мегагерцовом (МГц) Pentium в 3,5 раза быстрее, чем кэш L2, который в два раза быстрее, чем доступ к основной памяти.

Некоторые микропроцессоры имеют два уровня кэш-памяти, встроенные прямо в чип. В этом случае кэш материнской платы — кэш, который существует между микропроцессором и основной системной памятью — становится уровнем 3 или 9.0251 Кэш L3 .

В компьютере много подсистем; вы можете поместить кеш между многими из них, чтобы улучшить производительность. Вот пример. У нас есть микропроцессор (самая быстрая вещь в компьютере). Кроме того, есть кэш L1, который кэширует кэш L2, который кэширует основную память, которая может использоваться (и часто используется) в качестве кэша для еще более медленных периферийных устройств, таких как жесткие диски и компакт-диски. Жесткие диски также используются для кэширования еще более медленного носителя — вашего интернет-соединения.

Реклама

Подсистемы кэширования

Ваше подключение к Интернету является самым медленным каналом на вашем компьютере. Итак, ваш браузер (Internet Explorer, Netscape, Opera и т. д.) использует жесткий диск для хранения HTML-страниц, помещая их в специальную папку на вашем диске. Когда вы впервые запрашиваете HTML-страницу, ваш браузер отображает ее, и ее копия также сохраняется на вашем диске. В следующий раз, когда вы запросите доступ к этой странице, ваш браузер проверит, является ли дата файла в Интернете более новой, чем дата, сохраненная в кэше. Если дата совпадает, ваш браузер использует дату на жестком диске, а не загружает ее из Интернета. В этом случае меньшая, но более быстрая система памяти — это ваш жесткий диск, а большая и медленная — это Интернет.

Кэш также может быть построен непосредственно на периферийных устройствах . Современные жесткие диски поставляются с быстрой памятью, около 512 килобайт, жестко подключенной к жесткому диску. Компьютер не использует эту память напрямую — ее использует контроллер жесткого диска. Для компьютера эти микросхемы памяти являются самим диском. Когда компьютер запрашивает данные с жесткого диска, контроллер жесткого диска проверяет эту память, прежде чем перемещать механические части жесткого диска (что очень медленно по сравнению с памятью). Если он находит данные, запрошенные компьютером в кеше, он возвращает данные, хранящиеся в кеше, без фактического доступа к данным на самом диске, что экономит много времени.

Реклама

Вот эксперимент, который вы можете провести. Ваш компьютер кэширует дисковод гибких дисков вместе с основной памятью, и вы действительно можете видеть, как это происходит. Получите доступ к большому файлу с дискеты — например, откройте 300-килобайтный текстовый файл в текстовом редакторе. В первый раз вы увидите, как загорается свет на вашей дискете, и вы будете ждать. Дискета работает очень медленно, поэтому загрузка файла займет 20 секунд. Теперь закройте редактор и снова откройте тот же файл. Во второй раз (не ждите 30 минут и не выполняйте большой доступ к диску между двумя попытками) вы не увидите, как загорается индикатор, и вы не будете ждать. Операционная система проверила в кэше своей памяти дискету и нашла то, что искала. Таким образом, вместо того, чтобы ждать 20 секунд, данные были найдены в подсистеме памяти намного быстрее, чем при первой попытке (один доступ к гибкому диску занимает 120 миллисекунд, а один доступ к основной памяти занимает около 60 наносекунд — это много). Быстрее). Вы могли бы запустить тот же тест на жестком диске, но он более заметен на дисководе, потому что он очень медленный.

Чтобы дать вам общую картину, вот список обычных систем кэширования:

• Кэш L1 — Доступ к памяти на полной скорости микропроцессора (10 наносекунд, размер от 4 до 16 килобайт)
• Кэш L2 — доступ к памяти типа SRAM (около 20–30 наносекунд, размер от 128 до 512 килобайт)
• Основная память — доступ к памяти типа RAM (около 60 наносекунд, размер от 32 до 128 мегабайт)
• жесткий диск — Механический, медленный (около 12 миллисекунд, от 1 гигабайта до 10 гигабайтов)
• Интернет — Невероятно медленное (между 1 секунды и 3 дня, неограниченный размер)

Как вы видите, кэш L1 кэширует кэш L2, в котором кэшируется основная память, которую можно использовать для кэширования дисковых подсистем и так далее.

Реклама

Технология кэширования

На этом этапе часто задают вопрос: «Почему бы не сделать так, чтобы вся память компьютера работала с той же скоростью, что и кэш L1, чтобы кэширование не требовалось?» Это сработает, но будет невероятно дорого. Идея кэширования состоит в том, чтобы использовать небольшой объем дорогой памяти для ускорения большого объема более медленной и менее дорогой памяти.

При проектировании компьютера цель состоит в том, чтобы позволить микропроцессору работать на полной скорости с минимальными затратами. Чип с частотой 500 МГц выполняет 500 миллионов циклов за одну секунду (один цикл каждые две наносекунды). Без кэшей L1 и L2 доступ к основной памяти занимает 60 наносекунд, или около 30 потерянных циклов доступа к памяти.

Реклама

Когда вы думаете об этом, кажется невероятным, что такие относительно небольшие объемы памяти могут максимально эффективно использовать гораздо большие объемы памяти. Подумайте о 256-килобайтном кэше L2, который кэширует 64 мегабайта оперативной памяти. В этом случае 256 000 байт эффективно кэшируют 64 000 000 байт. Почему это работает?

В информатике у нас есть теоретическое понятие, называемое местоположением ссылки . Это означает, что в довольно большой программе одновременно используются только небольшие части. Как ни странно, локальность ссылок работает для подавляющего большинства программ. Даже если размер исполняемого файла составляет 10 мегабайт, в любой момент времени используется только несколько байтов этой программы, и скорость их повторения очень высока. На следующей странице вы узнаете больше о локальности ссылок.

Реклама

Место ссылки

Давайте посмотрим на следующий псевдокод, чтобы понять, почему локальность ссылок работает (см. Как работает программирование на C, чтобы разобраться в этом):

 Вывод на экран «Введите число от 1 до 100»
Чтение ввода от пользователя
Поместить значение от пользователя в переменную X
Поместите значение 100 в переменную Y
Поместите значение 1 в переменную Z
Цикл Y количество раз
   Разделить Z на X
   Если остаток от деления = 0
      затем выведите « Z кратно X »
   Добавить 1 к Z
Вернуться к циклу
Конец 

Эта небольшая программа просит пользователя ввести число от 1 до 100. Она считывает значение, введенное пользователем. Затем программа делит каждое число от 1 до 100 на число, введенное пользователем. Он проверяет, равен ли остаток 0 (деление по модулю). Если это так, программа выводит «Z кратно X» (например, 12 кратно 6) для каждого числа от 1 до 100. Затем программа завершается.

Реклама

Даже если вы немного разбираетесь в компьютерном программировании, легко понять, что в 11 строках этой программы 9Часть 0251 цикла (строки с 7 по 9) выполняется 100 раз. Все остальные строки выполняются только один раз. Строки с 7 по 9 будут выполняться значительно быстрее из-за кэширования.

Эта программа очень маленькая и легко может полностью поместиться в наименьший из кэшей L1, но, допустим, эта программа огромна. Результат остается прежним. Когда вы программируете, многие действия происходят внутри циклов. Текстовый процессор тратит 95 процентов времени на ожидание вашего ввода и отображение его на экране. Эта часть программы текстового процессора находится в кэше.

Это соотношение 95% к 5% (приблизительно) и есть то, что мы называем локальностью ссылки, и именно поэтому кэш работает так эффективно. По этой же причине такой маленький кэш может эффективно кэшировать такую ​​большую систему памяти. Вы можете понять, почему не стоит создавать компьютер с самой быстрой памятью во всем мире. Мы можем обеспечить 95 процентов этой эффективности за небольшую часть стоимости.

Для получения дополнительной информации о кэшировании и смежных темах перейдите по ссылкам на следующей странице.

Реклама

Часто задаваемые вопросы

Для чего используется кэширование?

Кэширование используется для повышения производительности системы за счет хранения данных во временном расположении, чтобы их можно было быстрее извлечь.

Что такое кэширование в памяти?

Кэширование памяти — это процесс, при котором данные сохраняются в памяти компьютера, чтобы к ним можно было получить более быстрый доступ. Когда данные кэшируются в памяти, они сохраняются в резервном месте, чтобы к ним можно было получить доступ быстрее, чем если бы они хранились на диске или другом более медленном устройстве хранения.

Что такое кэширование и как оно работает?

Кэширование — это метод, используемый для хранения данных во временном месте, чтобы к ним можно было получить быстрый и эффективный доступ. Когда данные кэшируются, они хранятся в легкодоступном месте, и их извлечение не требует много времени или усилий.

Много дополнительной информации

Статьи по теме

Другие полезные ссылки

• Руководство для ПК: «Слои» кэша
• Webopedia: Cache
• Основы кэширования
• Создание собственного кэша данных в памяти — PDF
• Модель кэширования функций ядра операционной системы

Процитируйте это!

Пожалуйста, скопируйте/вставьте следующий текст, чтобы правильно цитировать эту статью HowStuffWorks.