Сотрудники Лаборатории искусственного интеллекта МТИ создали программную систему, которая в зависимости от особенностей работы с данными выполняемого в конкретный момент приложения оперативно выстраивает виртуальную иерархию кэш-памяти процессора таким образом, чтобы кэширование происходило максимально эффективно. При этом учитывается скорость доступа в зависимости от уровня кэша и близости индивидуальных банков памяти к процессорному ядру, выполняющему обработку. Система, получившая название Jenga, тестировалась на компьютерной модели процессора с 36 ядрами. Моделирование показало, что в сравнении с лучшими на сегодня чипами оптимизатор обеспечивает ускорение обработки на 20–30% и уменьшение расхода энергии на 30–85%. Среди характеристик, учитываемых Jenga, — размер обрабатываемых данных, потребность в многократном использовании системы буферов разного размера, наличие необходимости последовательного считывания данных из структуры, частота доступа и т. д. Система перестраивает общую иерархию кэш-памяти процессора каждые 100 мс, а внутри этого интервала корректирует приоритеты, назначаемые разными ядрами различным банкам памяти. Jenga развивает идею Jigsaw — предыдущего оптимизатора, разработанного той же группой, который отличается тем, что использует только один уровень кэша.

Поделитесь материалом с коллегами и друзьями

Купить номер с этой статьей в PDF