Опишите, что должно работать вместе
Карта GPU — отправная точка выбора, но приложение зависит также от своего окружения. Обработка может готовить входные данные на процессоре, загружать их в системную память, а затем отправлять операции на GPU. Перечислите эти этапы в своей заявке, чтобы не приписывать любое замедление самой карте.
В каталоге указаны модель и объём памяти GPU. Если нужны особые требования к процессору, RAM, дискам или сетевому подключению, укажите обоснованное требование в вашем техническом задании. Это позволит обсудить необходимый объём, не додумывая характеристики, которых нет в конфигурации.
Распределите задачи, прежде чем увеличивать число карт
Для очереди независимых задач обозначьте входы и выходы каждой задачи. Для одной распределённой обработки определите механизм, который использует ваше программное обеспечение. Число карт, память на карту и обмен между GPU отвечают на разные вопросы; сравнение должно сохранять все три измерения.
Сохраняйте контроль над своей средой
Ваша команда выбирает программное обеспечение и задачи для выполнения. Capordia не проверяет содержимое файлов, промптов или вычислений. Организуйте права доступа, обновления и копии результатов вокруг людей, которые фактически работают с нагрузкой. Такое распределение упрощает вмешательство, когда нужно изменить параметр или перезапустить задачу.
Чтобы подготовиться к продолжению
Объясните ожидания, прежде чем искать более мощный GPU.
Сопоставить ожидания, входные данные и показатели GPU, прежде чем менять карту.
Выберите, что продвигается вместе, прежде чем считать карты.
Выбрать между независимыми задачами и распределённой обработкой, прежде чем увеличивать число GPU.