В этом материале
Не переустанавливайте рабочую машину заранее. Зафиксируйте конфигурацию, сохраните нужные данные и согласуйте отдельную тестовую среду с понятным возвратом к исходному состоянию.
Подготовка к пилоту начинается с описания текущего состояния. Цель — проверить пригодность сервера для инференса, сохранив возможность продолжить прежнюю работу. Особенно это важно для лабораторий, где на одной машине могут находиться зависимости нескольких проектов.
Сделайте инвентаризацию
Запишите GPU, CPU, RAM, диски, операционную систему и версию драйвера. Отметьте, какие службы уже работают и кому они нужны. Договоритесь о тестовом окне: неизвестная фоновая нагрузка делает результаты трудными для сравнения.
Для NVIDIA можно использовать средства диагностики из официального руководства nvidia-smi. Не публикуйте полный диагностический вывод без просмотра: в нём могут быть сведения, которые не нужны внешнему оператору.
Сохраните данные и путь восстановления
Определите, какие файлы требуется сохранить и кто проверяет резервную копию. Одного сообщения «копия есть» недостаточно: нужно понимать, где она находится и как вернуть рабочее окружение.
Не удаляйте исследовательские данные, не меняйте драйверы и не форматируйте диски только потому, что началось обсуждение подключения. Сначала согласуйте необходимость каждого изменения. Полезно составить список исходных версий и параметров запуска.
Выделите среду для теста
Обсудите отдельного пользователя, каталог, ресурсы и способ запуска. Контейнер может упростить воспроизводимость, но сам по себе не решает все вопросы изоляции и доступа к хосту.
Для пилота не нужны секреты от других систем. Предоставляемые права должны соответствовать конкретным действиям, иметь владельца и отзываться после завершения. Подробный порядок рассмотрен в материале о безопасности.
Проверьте инфраструктуру до бенчмарка
Убедитесь, что есть место для модели, возможность загрузки файлов, стабильное питание и доступ к охлаждению. Зафиксируйте ограничения сети. Если предстоит плановое обслуживание, лучше перенести измерения, чем смешивать технические ошибки и внешние перерывы.
После теста проверьте не только скорость, но и восстановление: перезапуск процесса, загрузку модели и возвращение API к работе. Результат должен воспроизводиться по сохранённой конфигурации.
Завершите пилот явно
Подготовьте краткий отчёт: что изменили, что измерили, какие проблемы нашли и какие доступы остаются открытыми. Если подключение не продолжается, выполните согласованный возврат и отзыв прав.
Перед изменениями сверьтесь с планом пилота.