Группа компьютеров Mac M4 Mac mini – Изображение предоставлено: Алекс Зискинд/YouTube
Существует способ использовать коллекцию Mac mini M4 в кластере, но преимущества действительно проявляются только тогда, когда вы используете компьютеры Mac высокого класса.
Хотя большинство людей думают, что более мощный компьютер означает покупку одного дорогого устройства, существуют и другие способы выполнения больших объемов вычислений. Согласно одной концепции, которая существует уже несколько десятилетий, вы можете использовать несколько компьютеров для обработки проекта.
Концепция кластерных вычислений вращается вокруг задачи, в которой множество вычислений распределяется между двумя или более процессорами. Совместная работа над параллельным выполнением задач приводит к значительному сокращению времени на обработку.
В видео, опубликованном на YouTube в воскресенье, Алекс Зискинд демонстрирует настройку кластерных вычислений с использованием M4 Mac mini. Используя коллекцию из пяти компьютеров Mac mini, сложенных в пластиковую рамку, он ставит задачу, которая затем распределяется между ними для обработки.
В то время как типичные домашние кластерные вычислительные установки полагаются на сеть Ethernet для связи между узлами, Ziskind вместо этого использует преимущества скорости Thunderbolt, используя Thunderbolt Bridge. Это значительно ускоряет связь между узлами, а также позволяет отправлять большие пакеты данных, экономя на производительности обработки.
Обычно Ethernet может работать со скоростью 1 Гбит/с или до 10 Гбит/с, если вы заплатили за обновление Ethernet в некоторых моделях Mac. Вместо этого метод Thunderbolt Bridge может работать со скоростью 40 Гбит/с для портов Thunderbolt 4 или 80 Гбит/с для Thunderbolt 5 в моделях M4 Pro и M4 Max при двунаправленном запуске.
Лучше, чем обработка графическим процессором
Зискинд отмечает, что использование Apple Silicon вместо ПК с мощной видеокартой для кластерных вычислений может дать определенные преимущества.
Начнем с того, что обработка с использованием графического процессора зависит от наличия значительного объема доступной видеопамяти. Например, на видеокарте это может быть 8 ГБ на самой карте.
Использование Apple унифицированной памяти в Apple Silicon означает, что память Mac используется центральным и графическим процессорами. Таким образом, графический процессор Apple Silicon имеет доступ к гораздо большему объему памяти, особенно когда речь идет о конфигурациях Mac с 32 ГБ или более.
Кроме того, есть энергопотребление, которое для видеокарты может быть значительным. Высокое энергопотребление может быть приравнено к более высоким текущим эксплуатационным расходам.
Напротив, было обнаружено, что Mac mini потребляют очень мало энергии, а кластер из пяти Mac mini, работающих на полную мощность, потребляет меньше энергии, чем одна высокопроизводительная видеокарта.
MLX, а не Xgrid
Чтобы запустить кластер, Зискинд использует проект, о котором мы уже говорили. Он использует MLX, проект Apple с открытым исходным кодом, описываемый как «инфраструктура массивов, предназначенная для эффективных и гибких исследований машинного обучения в Apple Silicon».
Это отдаленно напоминает Xgrid, давно умершее решение для распределенных вычислений Apple, которое могло управлять несколькими компьютерами Mac для кластерных вычислений. Эта система также позволяла серверу Mac OS X использовать преимущества компьютеров Mac рабочей группы в сети для выполнения обработки, когда они не используются ни для чего другого.
Однако, хотя Xgrid работал для крупномасштабных операций, которые очень хорошо финансировались на корпоративном или федеральном уровне, как может подтвердить Майк Вюртеле из AppleInsider, он не очень хорошо работал на небольших проектах. В идеальных и специфических ситуациях и при наличии конкретного кода он работал фантастически, но самодельные кластеры, как правило, работали не очень хорошо, а иногда и медленнее, чем одиночный компьютер, выполняющий работу.
MLX немного меняет ситуацию, поскольку использует для работы стандартную методологию распределенных вычислений MPI. Также можно запустить несколько компьютеров Mac с разной производительностью, не обязательно раскошелившись на сотни или тысячи из них.
В отличие от Xgrid, MLX, похоже, больше ориентирован на меньшие кластеры, то есть на группу людей, которые хотели использовать Xgrid, но продолжали сталкиваться с проблемами.
Полезный кластер по правильным причинам
Хотя объединение производительности нескольких Mac mini в кластере кажется привлекательным, это не то, от чего может получить выгоду каждый.
Начнем с того, что вы не увидите преимуществ для типичного использования Mac, например запуска приложения или игры. Он предназначен для обработки больших наборов данных или для задач высокой интенсивности, требующих параллельной обработки.
Это делает его идеальным, например, для создания программ LLM для исследований в области машинного обучения.
Обычному пользователю Mac его не так-то просто использовать.
Кроме того, прирост производительности не обязательно будет таким выгодным для обычного владельца Mac. В ходе испытаний Зискинд обнаружил, что простая покупка модели M4 Pro обеспечивает большую производительность, чем два устройства M4, работающие вместе при использовании LLM.
Кластеры могут оказаться действительно полезными при совместном использовании нескольких высокопроизводительных компьютеров Mac.
Подобный кластер вступает в игру, когда вам нужно больше производительности, чем вы можете получить от одного мощного Mac. Если модель слишком велика для работы на одном Mac (например, из-за ограничений на память), кластер может предложить больший общий объем памяти для использования модели.
Зискинд полагает, что на данном этапе высокопроизводительный Mac M4 Max с огромным объемом памяти лучше, чем кластер машин с более низкой производительностью. Но даже в этом случае, если ваши требования каким-то образом выходят за рамки самой высокой конфигурации одного Mac, здесь может помочь кластер.
Однако есть еще некоторые ограничения, которые следует учитывать. Хотя Thunderbolt работает быстро, Зискинду пришлось прибегнуть к использованию концентратора Thunderbolt для подключения узлов к хост-Mac, что уменьшило доступную пропускную способность.
Непосредственное соединение компьютеров Mac решило эту проблему, но затем возникли такие проблемы, как количество доступных портов Thunderbolt для соединения нескольких компьютеров Mac вместе. Это может затруднить масштабирование кластера.
Он также столкнулся с температурными странностями: хост-Mac mini работал особенно жарко, в то время как узлы работали на более приемлемом уровне.
В конечном итоге Зискинд нашел эксперимент с кластерной башней Mac mini интересным, но он не намерен использовать его в долгосрочной перспективе. Тем не менее, эта технология еще находится на относительно ранней стадии развития, и в тех случаях, когда вы используете несколько высокопроизводительных компьютеров Mac для достаточно надежной модели, она все равно может работать очень хорошо.
