Я уже упоминал библиотеку для распределенной асинхронной оптимизации гиперпараметров hyperopt. Также речь заходила и об использовании MongoDB для хранения данных.
MongoDB для повышения производительности тюнинга. По ссылке в документации hyperopt описано использование MongoDB в качестве персистентной базы для организации параллелизма.
Есть предположение, что это может радикально повысить производительность настройки гиперпараметров. Непременно надо попробовать.
Источник: VK.com