Christofari (Кристофари) Суперкомпьютер

Основная статья: Суперкомпьютеры

«Кристофари» — суперкомпьютер, созданный специально для работы с алгоритмами искусственного интеллекта. Входит в состав продуктовой линейки AI Cloud.

2021: Представление Christofari Neo

Сбер 11 ноября 2021 года сообщил TAdviser о том, что совместно со своей дочерней компанией SberCloud, провайдером облачных технологий, представили высокопроизводительный российский суперкомпьютер Christofari Neo. Его презентовал СТО «Сбербанк Груп,» исполнительный вице-президент Давид Рафаловский.

Новый суперкомпьютер Сбера Christofari Neo почти вдвое мощнее предшественника

Эффективная производительность Christofari Neo в двойной точности составляет почти 12 петафлопс (11.95 PFLOPs). Christofari Neo создан на базе технологий Nvidia, мирового представителя в области ИИ. Вычислительным сердцем системы стали графические процессоры Nvidia A100 с 80 Гб памяти. Тензорные ядра A100 обеспечивают высокую производительность в задачах ИИ, а 80 Гб памяти позволят работать с большими ИИ-моделями и массивами данных.

Christofari Neo отлично подходит для обучения и инференса моделей-трансформеров с самой актуальной архитектурой, которые обучают на больших датасетах. Первыми тестовый доступ к Christofari Neo получили команды SberDevices и Sber AI. Благодаря ML Space команда SberDevices смогла бесшовно переключаться между суперкомпьютерами и оптимизировать стоимость и скорость обучения моделей-трансформеров ruGPT-3 & family, доступных для дообучения и теста в SberCloud.

Суперкомпьютер Christofari Neo позволит Сберу вывести скорость обучения моделей на новый уровень, что откроет нам возможности в реализации прорывных сервисов и продуктов, использующих самые последние технологии. При этом текущие и новые клиенты SberCloud получат доступ к мощностям сразу двух суперкомпьютеров. Важно, что осталось неизменным - это легкость в использовании суперкомпьютера, потому что Christofari Neo работает в тесной интеграции с платформой ML Space и Christofari. Это значит, что клиенты получат доступ к нужной мощности также быстро и просто, как прежде, сказал Давид Рафаловский, СТО Сбербанк Груп, исполнительный вице-президент.

2020: Возможность применять «Кристофари» для работы с любыми категориями персональных данных

31 марта 2020 года Сбербанк сообщил, что облачная платформа AI Cloud, предназначенная для решения задач в области искусственного интеллекта, получила аттестат соответствия требованиям безопасности, предъявляемым к информационным системам персональных данных (ИСПДн) при обеспечении второго уровня защищенности персональных данных. Это дает клиентам платформы возможность использовать суперкомпьютер «Кристофари» для работы с любыми — биометрическими, специальными, общедоступными и иными — категориями персональных данных и создавать сервисы на основе ИИ-алгоритмов с применением передовой медицинской диагностики, распознавания лиц, голосовой биометрии и других технологий.

Таким образом, «Кристофари» стал суперкомпьютером, на котором можно обрабатывать персональные данные в соответствии с требованиями со стороны российских регуляторов.

До сих пор у российских компаний и организаций не было возможности использовать суперкомпьютеры при обработке персональных данных. Теперь бизнесу и госструктурам стали доступны вычислительные мощности "Кристофари" — производительного суперкомпьютера в России. Сервисы AI Cloud позволят не только быстро обучить программные модели искусственного интеллекта, но и использовать для обучения дата-сеты, содержащие персональные данные. При этом мы гарантируем клиентам полную конфиденциальность и защиту таких данных. Для конечного пользователя это означает, что он сможет быстрее получить услуги от компаний и организаций, работающих с персональными данными в коммерческом и государственном секторах, сказал Евгений Колбин, генеральный директор SberCloud

Эффективная производительность «Кристофари» на март 2020 года составляет 6,7 PFLOPs (согласно тесту LINPACK). Пиковая производительность — 8,8 PFLOPs.

2019

Коммерческий запуск

16 декабря 2019 года Сбербанк и SberCloud сообщил о запуске суперкомпьютера «Кристофари» в коммерческую эксплуатацию и доступности его мощностей для клиентов – юридических лиц. Заказать сервис можно через сайт SberCloud.

SberCloud начал предоставлять услуги на базе суперкомпьютера «Кристофари» (фото - TAdviser)

В ноябрьском рейтинге топ-500 суперкомпьютеров мира «Кристофари», обладающий реальной производительностью в 6,7 Пфлопс, занимает 29 место и является самой мощной вычислительной системой, поданной в список от России.

«Кристофари» был спроектирован для решения определенной прикладной задачи – обучения моделей с использованием искусственного интеллекта, поясняют в SberCloud.

Мы видим свою миссию в том, чтобы сделать супервычисления и разработку решений на базе искусственного интеллекта доступными любой компании независимо от ее размера, отрасли и территориального расположения. Ранее использовать такие технологии могли только крупнейшие корпорации, а сегодня с помощью «Кристофари» - любой начинающий стартап или компания малого бизнеса, - заявил Давид Рафаловский, СТО Сбербанка, исполнительный вице-президент, руководитель блока «Технологии».

Давид Рафаловский на презентации суперкомпьютера (фото - TAdviser)

В рамках сервиса по модели SaaS клиентам предоставляются не только вычислительные мощности для параллельных вычислений и набор необходимого системного ПО, но и прикладное программное обеспечение для этой конкретной задачи - Jupyter Notebook, рассказал TAdviser управляющий директор SberCloud Михаил Лобоцкий.

Конечный пользователь нашего сервиса – data scientist. Мы предоставляем ему готовое рабочее место с привычным интерфейсом - Jupyter Notebook. Это наиболее часто используемый инструмент работы таких специалистов, - отметил управляющий директор SberCloud в разговоре с TAdviser.

Это в SberCloud называют одним из ключевых отличий своего сервиса от конкурирующих, которые, впрочем, не столь многочисленны на российском рынке. Ресурсы для высокопроизводительных вычислений через интернет, к примеру, предоставляет МГУ, центр суперкомпьютерного моделирования на базе «Солнечногорского приборного завода» (входит в состав «Ростеха»), «Т-Сервисы» («дочка» «Т-Платформ»). TAdviser Security 100: Крупнейшие ИБ-компании в России 58.2 т

Еще одним ключевым отличием в SberCloud называют модель оплаты: деньги взимаются только непосредственно за время обучения модели. А загрузка данных, их разметка, подготовка не тарифицируется, пояснили TAdviser в компании.

Суперкомпьютер занимает один машинный зал в ЦОДе Сбербанка в «Сколково» (фото - TAdviser)

Первым коммерческим пользователем «Кристофари» стал сам Сбербанк, причем на общих условиях, разработанных для всех клиентов, утверждают в SberCloud.

Михаил Лобоцкий рассказал TAdviser, что на момент анонса коммерческой доступности заключенных контрактов с другими клиентами пока нет, однако в SberCloud видят интерес к сервису и ведут тестирование с рядом заинтересованных компаний. Их названия в SberCloud не раскрывают, но говорят, что они представлены разными отраслями.

Ввиду того, что задач, где применяется искусственный интеллект, становится все больше и больше, ранее созданных для этого систем не хватает. Поэтому мы ожидаем высокий спрос на нашу услугу, - отметил Михаил Лобоцкий в разговоре с TAdviser.

Обучение моделей на базе ИИ востребовано в финансовом секторе, говорит управляющий директор SberCloud. По его словам, с запросами к ним обращаются коллеги и из других банков.

Стойки с оборудованием суперкомпьютера «Кристофари» (фото - TAdviser)

Также, говорит Лобоцкий, спрос есть в нефтегазовом секторе, в частности, в геологоразведке для моделирования месторождений. В данном случае речь идет о спросе со стороны нефтесервисных компаний, оказывающих услуги нефтегазодобывающим компаниям, отметил в разговоре с TAdviser управляющий директор SberCloud. Востребовано обучение моделей в медицине, а также в ритейле – для прогнозирования спроса.

Одна из областей, где востребовано обучение моделей на базе ИИ, является обучение голосовых помощников для колл-центров, привел пример представитель SberCloud. В качестве маркетингового хода на «Кристофари» с использованием образцов реального голоса синтезировали голос главы Сбербанка Германа Грефа. Набор данных, на которых можно обучать модели в таком ключе, становится все меньше и меньше, отметил Михаил Лобоцкий.

Система мониторинга показателей суперкомпьютера на подходе к машзалу (фото - TAdviser)

На момент начала коммерческой эксплуатации, чтобы привлечь больше клиентов, SberCloud запустил акцию: «100 рублей за 100 минут всей мощности суперкомпьютера «Кристофари» для обучения моделей» клиенты могут получить 100 минут работы на объеме данных до 10 гигабайт за символическую плату. Акция продлится до 12 июня 2020 года.

Суперкомпьютер «Кристофари» расположен в ЦОДе Сбербанка в «Сколково», он занимает один машинный зал. Одной из особенностей этого ЦОДа его разработчики называют то, что он на 85% охлаждается с помощью технологии free cooling – за счет воздуха из окружающей среды. Воздух забирается и проходит двухступенчатую очистку, после чего направляется в залы. Система работает при температуре окружающей среды ниже 20°C. Если необходимо, он доохлаждается классическими чиллерами.

Суперкомпьютер Christofari может стать ядром для создания полностью автоматических производств

Возможности и пути использования искусственного интеллекта в производственных компаниях станут темой дискуссии в рамках секции «ИТ в промышленности» на TAdviser SummIT 2019. Директор по развитию бизнеса в госсекторе компании SberCloud Каюмов Шамиль расскажет участникам форума, как предприятиям модернизировать производство и избежать больших затрат за счет внедрения современных ИТ и почему работать в «облаке» для компании выгоднее, чем содержать собственную инфраструктуру.

Цифровизация производственного сектора в России к 2025 году сможет ежегодно увеличивать объем ВВП страны на сумму от 1,3 триллиона рублей до 4,1 триллиона рублей. Согласно исследованию McKinsey Global Institute, применение цифровых технологий повысит производительность предприятий на 45–55%, а также сократит сроки выхода продукта на рынок на 20–50%.

По мнению Шамиля Каюмова из SberCloud, высокая степень износа основных средств становится все более серверной проблемой для предприятий и им требуется модернизация промышленных производств, при этом все современные способы управления производством базируются на ИТ.

Системы управления производством - ERP-системы и MES-системы - могут работать из «облака». Компания SberCloud предоставляет клиентам облачную инфраструктуру и, таким образом, будет обеспечена модернизация производства, при этом капитальные затраты будут существенно меньше, чем если бы предприятие использовало свою ИТ-инфраструктуру.

Суперкомпьютер Christofari, который Сбербанк и SberCloud представили 8 ноября на международной выставке AI Journey, может быть ядром для создания полностью автоматических производств, обеспечивая переход на так называемые «безлюдные» технологии.

SberCloud (ООО «Облачные технологии») – облачная платформа Группы Сбербанк, предоставляющая услуги на базе ИТ-архитектуры крупнейшего банка России, СНГ и Восточной Европы. Инфраструктура, информационно-технологические платформы и услуги SberCloud являются основой цифровой экосистемы Группы Сбербанк, а также предоставляются внешним клиентам – компаниям и государственным организациям.

«Кристофари» вошел в топ-30 самых мощных суперкомпьютеров мира

В ноябре 2019 года был опубликован обновлённый рейтинг самых мощных суперкомпьютеров в мире. Christofari в нём занял 29-е место. Подробнее здесь.

Анонс суперкомпьютера

8 ноября 2019 года Сбербанк и его облачный провайдер SberCloud представили суперкомпьютер, который разработчики называют самым мощным в России. Его ресурсы планируется использовать для создания и развития внутренних сервисов экосистемы Сбербанка на основе искусственного интеллекта, а также продавать как услугу пользователям облачного сервиса SberCloud.

В Сбербанке заявляют, что производительность суперкомпьютера в проведенных тестах Linpack (наиболее популярные бенчмарки для измерения мощности высокопроизводительных систем) достигла 6,7 Пфлопс. Для сравнения, реальная производительность самого мощного суперкомпьютера России в рейтинге топ-50, составленного МГУ в сентябре, составляет около 2,6 Пфлопс. Это суперкомпьютер «Ломоносов-2», установленный в МГУ, разработчиком которого является «Т-Платформы».

Суперкомпьютер Сбербанка, получивший имя Christofari в честь первого клиента сберегательных касс России Николая Кристофари, был создан в партнерстве с Nvidia на основе высокопроизводительных узлов Nvidia DGX-2, оснащенных вычислительными ускорителями Tesla V100.

Презентуя суперкомпьютер, CTO Сбербанка, исполнительный вице-президент, руководитель блока «Технологии» Давид Рафаловский с волнением отметил, что Christofari – это «главный ингредиент» AI-облака Сбербанка.

Давид Рафаловский представил новый продукт Сбербанка (фото - itweek.ru)

Одна из наших важнейших целей – сделать AI доступным для всех, - заявил Рафаловский.

Вычислитель предназначен для решения задач по разработке и использованию алгоритмов искусственного интеллекта с целью в разы ускорить их выполнение. Например, с его помощью можно быстро проводить обучение моделей, основанных на глубоких нейронных сетях.

Машина может применяться в широком спектре областей, таких как обработка естественного языка, компьютерное зрение, автоматизированное принятие решений, оценка и управления рисками, выявление мошенничества, предиктивная аналитика, создание голосовых помощников и чат-ботов, а также в других направлениях.

Один из первых пользователей суперкомпьютера – это партнер и компания в составе самого Сбербанка – компания VisionLabs, использующая вычислительную систему для параллельной обработки множества видеопотоков. Другой пользователь – авиакомпания S7, где тестировали суперкомпьютер на обучении модели, решающей задачу предсказания спроса на авиабилеты.

Сам Сбербанк по состоянию на ноябрь уже использует суперкомпьютер для нескольких процессов банковского бизнеса, например, при распознавании и синтезе речи при автоматизированном анализе обращений клиентов в кол-центр банка, для автоматизированного робота-оператора. Раньше банк обучал ИИ для этих целей в течение месяца, с суперкомпьютером — несколько часов, заявляют в Сбербанке.

Суперкомпьютерные сервисы станут доступны заказчикам с 12 ноября, объявил Рафаловский. Стоимость услуг будет зависеть от объема заказанных мощностей. Рафаловский озвучил цену использования всего суперкомпьютера целиком - 5,75 тыс. рублей в минуту. Это «исключительно дешево», заявил CTO Сбербанка.

Также он озвучил промо-акцию: за 100 рублей в минуту SberCloud предлагает 100 минут всей мощности Christofari. Это предложение в Сбербанке считают удобным для тех, кто хочет попробовать, как это работает.

При этом вузам и научным организациям Сбербанк готов предоставлять доступ к ресурсам Christofari за символическую плату или даже бесплатно в моменты, когда вычислительная система не будет загружена коммерческими клиентами.

Председатель правления Сбербанка Герман Греф дополнил презентацию заявлением, что, если система будет сильно загружена заказами, банк готов инвестировать в создание еще одного суперкомпьютера.

Надо сказать, что Сбербанк далеко не первый, кто предложил коммерческим клиентам удаленную аренду ресурсов суперкомпьютера и сопутствующих услуг. Из крупных организаций еще раньше это начал делать, например, «Росатом», у которого также установлен один из мощнейших, а, может быть, и самый мощный в стране суперкомпьютер. Все дело в том, что показатели производительности своей машины «Росатом» не раскрывает.

Подобные услуги еще раньше начал предоставлять и разработчик суперкомпьютеров «Т-Платформы», создав для этого в 2008 году отдельную компанию – «Т-Сервисы». Помимо аренды вычислительных мощностей компания также предлагает услуги по математическому моделированию физических процессов, разработке специального ПО и др. Выручка «Т-Сервисы» по итогам 2018 года составила около 80,5 млн рублей.

В 2018 году «Солнечногорский приборный завод» (СПЗ), входящий в состав «Ростеха», ввел в эксплуатацию центр высокопроизводительных вычислений и моделирования, хотя и с существенной задержкой. На его базе также планировалось оказывать услуги удаленного доступа к высокопроизводительным ресурсам и сопутствующих сервисов. В «Росэлектронике», куда входит СПЗ, в июле 2019 года заявляли TAdviser, что в сегменте предоставления суперкомпьютерных ресурсов в России наблюдается дефицит предложений.

МТС также в 2018 году запустила облачные сервисы для высокоскоростной обработки данных на базе суперкомпьютера. Как и суперкомпьютер Сбербанка, он использует решение Nvidia с видеокартами Tesla V100. Компания предложила несколько вариантов тарификации: с возможностью посуточного использования суперкомпьютера от менее чем 1 тыс. рублей в день для небольших компаний и в формате подписки от 29 тыс. до 200 тыс. рублей в месяц в зависимости от требуемой вычислительной мощности для крупного бизнеса.

В МТС заявили TAdviser, что спрос на сервис стабильно высокий, в планах облачного провайдера #CloudMTS дальнейшее увеличение ресурсов суперкомпьютера для предложения клиентам.

С момента запуска ежемесячно к облачному суперкомпьютеру подключается несколько крупных клиентов, использующих его в проектах больших данных и искусственного интеллекта, - отметил представитель МТС в разговоре с TAdviser.