Разработчики: | Microsoft |
Дата премьеры системы: | сентябрь 2020 г |
Технологии: | Средства разработки приложений |
2020: Анонс Microsoft DeepSpeed - инструмента для глубокого обучения моделей ИИ
В середине сентября 2020 года Microsoft представила на GitHub обновленную открытую версию библиотеки DeepSpeed. Она предназначена для оптимизации глубокого обучения моделей искусственного интеллекта (ИИ).
Как сообщает издание SiliconANGLE, уникальность решения DeepSpeed заключается в том, что она способна обучать модели ИИ на основе триллиона различных параметров. В Microsoft отмечают, что используемый разработчиками DeepSpeed метод, который получил название 3D-параллелизм, адаптируется к различным требованиям пользовательских решений, включая взаимодействие с огромными моделями, сохраняя при этом баланс и эффективность в масштабировании.
Проблема, для решения которой был создан продукт DeepSpeed, заключается в том, что разработчики могут оснастить свои нейронные сети только таким количеством параметров, которое может обрабатывать их инфраструктура обучения ИИ. Другими словами, аппаратные ограничения являются препятствием для создания более масштабных и лучших моделей. DeepSpeed делает процесс обучения ИИ более эффективным на аппаратном уровне. Разработчики могут повысить уровень сложности создаваемого ими программного обеспечения ИИ без необходимости покупать дополнительную инфраструктуру.
Microsoft заявляет, что этот инструмент может обучать языковую модель с триллионом параметров с использованием 100 видеокарт Nvidia предыдущего поколения V100. Обычно, по заявлению компании, на выполнение этой задачи у 4000 видеокарт Nvidia A100 текущего поколения требуется 100 дней. И это при том, что A100 в 20 раз быстрее, чем V100.Российский рынок облачных ИБ-сервисов только формируется
Microsoft заявляет, что даже если используемое оборудование будет сокращено до одного чипа V100, DeepSpeed все равно сможет обучить языковую модель с 13 миллиардами параметров. Для сравнения: самая большая языковая модель в мире имеет около 17 миллиардов параметров, а самая большая нейронная сеть в целом насчитывает около 175 миллиардов.[1]
Примечания
Подрядчики-лидеры по количеству проектов
Солар (ранее Ростелеком-Солар) (46)
Финансовые Информационные Системы (ФИС, FIS, Финсофт) (15)
Форсайт (11)
Бипиум (Bpium) (10)
Axiom JDK (БеллСофт) ранее Bellsoft (10)
Другие (392)
Солар (ранее Ростелеком-Солар) (8)
Финансовые Информационные Системы (ФИС, FIS, Финсофт) (4)
Консом групп, Konsom Group (КонсОМ СКС) (2)
ЛАНИТ - Би Пи Эм (Lanit BPM) (2)
IFellow (АйФэлл) (2)
Другие (30)
Солар (ранее Ростелеком-Солар) (10)
Форсайт (3)
Banks Soft Systems, BSS (Бэнкс Софт Системс, БСС) (3)
Cloud.ru (Облачные технологии) ранее SberCloud (2)
КРИТ (KRIT) (2)
Другие (13)
Распределение вендоров по количеству проектов внедрений (систем, проектов) с учётом партнёров
Солар (ранее Ростелеком-Солар) (2, 48)
Microsoft (41, 47)
Oracle (49, 26)
Hyperledger (Open Ledger Project) (1, 23)
IBM (33, 18)
Другие (599, 307)
Солар (ранее Ростелеком-Солар) (1, 8)
Финансовые Информационные Системы (ФИС, FIS, Финсофт) (1, 4)
Microsoft (4, 3)
Oracle (2, 3)
SAP SE (2, 2)
Другие (16, 19)
Солар (ранее Ростелеком-Солар) (1, 11)
Banks Soft Systems, BSS (Бэнкс Софт Системс, БСС) (1, 3)
Форсайт (1, 3)
Cloud.ru (Облачные технологии) ранее SberCloud (1, 2)
Сбербанк (1, 2)
Другие (9, 9)
Солар (ранее Ростелеком-Солар) (1, 6)
Unlimited Production (Анлимитед Продакшен, eXpress) (1, 6)
МТС Exolve (Межрегиональный ТранзитТелеком, МТТ) (1, 4)
Мобильные ТелеСистемы (МТС) (1, 4)
РЖД-Технологии (1, 3)
Другие (14, 24)
Unlimited Production (Анлимитед Продакшен, eXpress) (1, 4)
Мобильные ТелеСистемы (МТС) (2, 3)
Солар (ранее Ростелеком-Солар) (1, 3)
МТС Exolve (Межрегиональный ТранзитТелеком, МТТ) (1, 2)
Сбербанк-Технологии (СберТех) (1, 1)
Другие (14, 14)
Распределение систем по количеству проектов, не включая партнерские решения
Solar appScreener (ранее Solar inCode) - 48
Hyperledger Fabric - 23
Windows Azure - 20
FIS Platform - 15
EXpress Защищенный корпоративный мессенджер - 12
Другие 327
Solar appScreener (ранее Solar inCode) - 8
FIS Platform - 4
Турбо X - 2
Siemens Xcelerator - 2
Java - 2
Другие 22
Solar appScreener (ранее Solar inCode) - 11
Форсайт. Мобильная платформа (ранее HyperHive) - 3
BSS Digital2Go - 3
Cloud ML Space - 2
Kubernetes - 1
Другие 8