Американская компания Microsoft создала облачный суперкомпьютер эксклюзивно для некоммерческой исследовательской организации OpenAI, одним из основателей которой является глава Tesla и SpaceX Илон Маск. Об этом Microsoft заявила на своей технологической конференции Microsoft Build 2020.
Как рассказали в компании, новый суперкомпьютер, разработанный на базе облачных решений Azure в сотрудничестве с OpenAI, занимающейся разработками в сфере искусственного интеллекта, стал одним из пяти самых мощных суперкомпьютеров в мире. "Суперкомпьютер создан специально для тренировки следующего поколения массивных ИИ-моделей, способных выполнять более широкий спектр функций и, соответственно, требующих больших вычислительных ресурсов", - отметили в Microsoft.
Если раньше эксперты по машинному обучению разрабатывали небольшие модели, которые использовали наборы данных, чтобы научиться выполнять какую-то одну задачу (распознать объект, перевести текст и т.д.), то со временем стало понятно, что некоторые из этих задач лучше выполняются одной большой моделью, обученной, к примеру, на миллиардах страниц публично доступных текстов. Такая модель, считают в Microsoft, настолько тонко понимает нюансы речи, грамматику, концепции и контекст, что способна отлично выполнять несколько задач: подводить итоги длинных выступлений, моделировать чат в онлайн-играх и даже генерировать программный код по результатам поиска на крупнейшей открытой платформе для программистов GitHub.
Но создание и тренировка таких массивных моделей требует наличия прогрессивной супервычислительной инфраструктуры. "Суперкомпьютер, разработанный для OpenAI, - это единая система с более чем 285 тыс. процессорных (CPU) ядер, 10 тыс. графических процессоров (GPU) и скоростью сетевого подключения 400 Гбит/с для каждого сервера. Благодаря размещению в облаке Azure суперкомпьютер обладает преимуществами современной облачной инфраструктуры, включая быстрое развертывание, надежность дата-центров и доступ к сервисам Azure", - пояснили в компании.
В Microsoft убеждены, что разработка нового суперкомпьютера для OpenAI - первый шаг на пути к тому, чтобы сделать следующее поколение массивных ИИ-моделей и инфраструктуру, необходимую для их обучения, доступными широкому кругу организаций и разработчиков во всем мире, сообщает Belta.