Инструмент оптимизации для машинного обучения (ML), который автоматизирует многие утомительные части процесса построения модели, был выпущен LG в версии с открытым исходным кодом. Auptimizer предназначен для запуска и записи сложных экспериментов по оптимизации гиперпараметров (HPO), чтобы помочь с точной настройкой моделей машинного обучения.
Разработчики Auptimizer говорят, что они создали его, потому что сложно настроить модели машинного обучения в масштабе, особенно задача поиска правильных значений гиперпараметров.
Текущую версию Auptimzer можно использовать очень просто, и она предоставляет вам способы запускать и записывать сложные эксперименты по оптимизации гиперпараметров (HPO). Это может помочь использовать имеющиеся в вашем распоряжении вычислительные ресурсы, будь то пара графических процессоров или AWS. Auptimizer предоставляет единую точку доступа к алгоритмам HPO, включая байесовскую оптимизацию и многорукий бандит.
В будущих версиях Auptimizer будет поддерживаться сквозное построение моделей для периферийных устройств, включая сжатие моделей и поиск нейронной архитектуры. В настоящее время поддерживаемые методы включают случайную, сетку, гипердиапазон, гиперопт, мяту, EAS (экспериментальную) и пассивную.
Принцип работы Auptimizer заключается в том, что исследователи вызывают его, используя несколько строк кода и определяя гиперпараметры, которые необходимо исследовать. Auptimzer может преобразовать это в обучающий сценарий для модели, а затем его можно использовать для опробования различных алгоритмов гиперпараметров, чтобы увидеть, какой из них работает лучше всего. Auptimizer также можно использовать для управления доступными вычислительными ресурсами. После запуска тестов Auptimizer записывает результаты эксперимента, а также может отображать и сохранять значения гиперпараметров.
Хотя Auptimizer будет обрабатывать ресурсы автоматически, пользователи также могут напрямую управлять ресурсами. Его также можно использовать с инструментами управления ресурсами, такими как Boto.
Разработчики говорят, что они создали Auptimizer, чтобы иметь удобный интерфейс, который помогает пользователям легко использовать Auptimizer в своих рабочих процессах, а исследователям — быстро внедрять новые алгоритмы HPO. Все реализованные алгоритмы HPO используют один и тот же интерфейс, поэтому пользователи могут переключаться между разными алгоритмами, не меняя свой код. Auptimizer также предназначен для масштабирования, так как вы можете развернуть его в пуле вычислительных ресурсов для автоматического масштабирования эксперимента. Он разработан таким образом, чтобы новые алгоритмы HPO можно было легко интегрировать в структуру Auptimizer. По словам исследователей, это означает, что Auptimizer предоставляет универсальную платформу для эффективной разработки новых алгоритмов.