Распределенная память
-
Основы распределенной памяти
- Распределенная память используется в многопроцессорных системах с частной памятью для каждого процессора.
- Вычислительные задачи работают с локальными данными и взаимодействуют с удаленными процессорами для доступа к удаленным данным.
- Мультипроцессор с общей памятью имеет единое пространство памяти для всех процессоров.
-
Организация и масштабирование
- Процессоры взаимодействуют через связи, которые могут быть организованы через соединения «точка-точка» или специализированное оборудование.
- Топология сети влияет на масштабируемость многопроцессорной машины.
- Связь между узлами может осуществляться через стандартные сетевые протоколы или специальные соединения.
-
Программирование распределенных систем
- Распределение данных по памяти является ключевым вопросом программирования.
- Данные могут быть статически распределены или перемещаться по узлам по запросу или заранее.
- Пример конвейера с распределенной памятью иллюстрирует передачу данных между узлами для выполнения вычислений.
-
Распределенная общая память
- В кластерах каждый узел имеет доступ к общей памяти, что обеспечивает единое адресное пространство.
- Распределенная общая память исключает условия гонки и упрощает проектирование масштабируемых машин.
- Однако распределенная общая память не скрывает задержку взаимодействия между узлами.
-
Дополнительные ресурсы
- Статья также упоминает виртуализацию памяти и распределенный кэш.
Полный текст статьи: