Архитектуры с распараллеливанием

Требования к программному обеспечению экзафлопсных систем сегодня выводятся из предположения, что они будут обладать сложной системой межпроцессорных коммуникаций и иерархией памяти. Какие сегодня имеются способы ускорения программ, выполняемых на многопоточных суперкомпьютерах со сложной иерархией памяти?

Современные представления о параллельном программировании столь же далеки от реального параллельного программирования, как зима от лета: и то и другое — времена года, но не может их различать лишь тот, кто зиму от лета отличает только по дате в календаре.

Разработка программ, использующих весь потенциал современных многоядерных и многопроцессорных систем, требует много ресурсов, а перенос готовых приложений в новую среду обычно возможен только в рамках семейств схожих архитектур. Решение проблемы быстрой и недорогой разработки эффективного программного обеспечения для параллельных архитектур невозможно без оптимизирующих распараллеливающих компиляторов.