Сбер: GigaChat

Основные статьи:

• Нейросети (нейронные сети)
• Чат-боты (Chat-bot) Виртуальные собеседники
• Распознавание речи (технологии, рынок)
• Речевые технологии: на пути от распознавания к пониманию

2024

Внедрение в отраслевые решения Сбера

Предприниматели смогут улучшить показатели бизнеса благодаря AI-рекомендациям от нейросетевой модели GigaChat. Советы бесплатны и построены на основе аналитики. Эта полезная опция уже доступна пользователям отраслевых решений Сбера для розничной торговли и грузоперевозок. В будущем Al-помощью смогут воспользоваться предприниматели, подключившие любое из 8 бесплатных отраслевых решений в банке. Об этом Сбер сообщил 19 ноября 2024 года.

В решении для розничной торговли предпринимателям доступна информация о количестве уникальных покупателей, выручке, среднем чеке, возврате товаров и так далее. В решении для грузоперевозок клиенты видят ключевые данные о выручке, количестве заказчиков и их географии, портрет клиента и потенциал сотрудничества с контрагентами. Пользователи отраслевых решений Сбера могут сравнить основные показатели работы своей компании с данными конкурентов, работающих в той же отрасли. Информация представляется в виде графиков с динамикой показателей.Как DevOps-сервис помогает «разгрузить» высоконагруженные системы BPMSoft 2.3 т

Искусственный интеллект поможет клиентам банка верно интерпретировать цифровые данные и графики, а также даст конкретные советы, как улучшить показатели. Результаты работы в сравнении с конкурентами и рекомендации бизнесмены получат по электронной почте.

Чтобы эффективно вести бизнес, важно знать ситуацию на рынке, следить за трендами в отрасли и в динамике видеть показатели работы своей компании в сравнении с конкурентами. Теперь отраслевые решения в СберБизнес обогащены Al-технологией, и наши клиенты получат не просто графики и аналитику, а детальные рекомендации по ведению бизнеса. Искусственный интеллект сделает выводы, даст советы, а уж пользоваться ими или нет — решать человеку. Но, думаю, всегда хорошо иметь под рукой второе мнение. Статистика показывает, что после внедрения GigaChat наши клиенты на 30% чаще стали переходить в систему интернет-банка СберБизнес, чтобы посмотреть свои бизнес-показатели. Учитывая недавний релиз GigaChat MAX, обновленной версии GigaChat, пользователи вскоре смогут еще быстрее и эффективнее оптимизировать операционные процессы и масштабировать свой бизнес. сказал Алексей Шашкин, директор дивизиона «Малый и микробизнес» Сбербанка.

Интеграция в Security Capsule SIEM

«Инновационные Технологии в Бизнесе» интегрировал нейросетевую модель GigaChat для бизнеса в свою систему мониторинга и корреляции событий информационной безопасности (ИБ) Security Capsule SIEM. Об этом компания сообщила 12 ноября 2024 года. Подробнее здесь.

Добавление раздела Playground

В личном кабинете для работы с нейросетевой моделью GigaChat для бизнеса появился раздел – Playground. Он позволит разным командам, даже без навыков программирования, экспериментировать с настройками моделей, подбирать промпты под конкретную бизнес-задачу и быстро проверять гипотезы. Об этом Сбер сообщил 30 октября 2024 года.

Ранее для тестирования сервиса GigaChat API пользователю необходимо было писать код или использовать сторонние инструменты вызова API. Теперь в личном кабинете есть отдельный раздел с удобным пользовательским интерфейсом, где можно простым и удобным способом настраивать параметры работы с моделью: подбирать системный промпт, менять температуру, отвечающую за уровень креатива при формировании ответов, выбирать модель, наиболее подходящую для решения конкретных задач.

GigaChat Lite справится с простыми запросами пользователей, где важна скорость ответа, для более сложных проектов подойдут модели GigaChat Pro или GigaChat Max, которая также станет доступна в ближайшее время. Также в Playground доступна коллекция готовых промптов по различным тематикам, позволяющая быстро реализовать множество бизнес-задач, таких как:

Определение спама в электронных письмах, сортировке товаров по категориям в интернет-магазинах. Распознавать паттерны предпочтений и интересов клиентов для персонализации предложений.

Подготовка кратких отчетов, сокращение объема документации. Разработка учебных материалов и курсов, где важная информация представлена в компактной и удобной для восприятия форме. Составление краткого изложения договоров, соглашений и других правовых актов для удобства ознакомления.

Использование автоматической генерации контента позволяет быстро создавать текстовые материалы на базе заданных параметров. Особенно востребованно в направлениях маркетинга, рекламы и журналистики.

Улучшение существующего текста путем исправления ошибок, уточнения формулировок, улучшения стиля и структуры. Это может касаться как грамматики и орфографии, так и общего содержания текста, чтобы он стал более четким, понятным и эффективным.

Диалог с нейросетевой моделью в разделе Playground можно редактировать, вносить изменения в запросы пользователя и ответы модели, а потом попросить GigaChat продолжить взаимодействие в том же формате. Для каждого запроса доступна информация о количестве расходуемых токенов с учетом системной инструкции и сообщений.

Раздел Playground доступен в личном кабинете при подключении сервиса GigaChat API как для физических, так и юридических лиц. Чтобы было проще оценить и проконтролировать ежемесячные расходы, в личном кабинете есть статистика использования сервиса по API и Playground по отдельности. Для начала работы с разделом Playground достаточно перейти по ссылке и зарегистрироваться в личном кабинете.

Интеграция с ИИ-платформой ЦРТ

Группа компаний ЦРТ интегрировала в собственную AI-платформу для создания текстовых и голосовых роботов LLM — нейросетевую модель GigaChat, а также усовершенствовала модуль аналитики диалогов. Обновленная AI-платформа позволит быстрее и проще создавать диалоговых ассистентов. Решение будет особо актуально для крупного бизнеса и госсектора, поможет автоматизировать внутренние процессы, улучшать клиентское обслуживание в контактных центрах. Об этом ЦРТ сообщил 25 октября 2024 года. Подробнее здесь.

GigaChat MAX

25 октября 2024 года Представлена обновленная версия нейросетевой модели Сбера GigaChat. Воспользоваться Gigaпhat MAX может любой желающий на сайте, в Telegram-боте и соцсети «ВКонтакте».

За счет изменения подхода к обучению значительно улучшились практически все навыки модели, от сокращения текстов и ответов на открытые вопросы до генерации идей. Также улучшилась выделение смысловых частей текста, блоки кода и формул для науки, а структура ответа стала более читаемой и красивой.

GigaChat теперь обладает еще большим экспертным объёмом знаний в огромном диапазоне предметных областей. Команда разработчиков обновила и расширила обучающие датасеты, что повысило качество ответов моделей в таких областях как экономика, право и медицина. Особенно усилилась модель по научным вопросам в биологии, химии, физике. Также на 25% выросло качество решения математических задач согласно открытым датасетам GSM8K и MATH.

По результатам внутренней оценки в бенчмарке MMLU (Massive Multitask Language Understanding) модель достигла 80% в знаниях о реальном мире и науках.

Благодаря обновленной модальности, пользователь может отправить иллюстрацию, чтобы сервис использовал её как дополнительный контекст. Модель поможет опередить что изображено на загруженной картинке. Также GigaChat MAX распознает печатный и рукописный текст, формулы, графики, таблицы и анализировать данные, которые в них содержатся. А с помощью нейросети Kandinsky пользователь может создать изображения на любую тему.

Модель теперь более качественно держит контекст в многошаговых диалогах, то есть умеет связывать новые вопросы с предыдущей информацией. Для русскоязычных диалогов улучшилось качество сжатия текста, теперь пользователь может работать с текстом на 15% длиннее чем раньше. А еще ответы генерируются быстрее, чем раньше.

В ближайшее время сервис станет доступен для бизнеса через облачное API. Это позволит использовать модель для решения еще большего количества сложных и разнообразных бизнес-задач, например, в маркетинге — поможет обобщить отзывы на товар, сделает рерайт пресс-релиза, подготовит статью в заданном стиле. Новые знания будут полезны компаниям для формирования сопроводительной правовой документации, подготовки протокола биологического метода, объяснения скрипта эксперимента. А функция работы с изображениями, поможет аналитикам сфотографировать часть исследования, загрузить изображение и в несколько кликов получить короткое содержание текста, его ключевую тему и сформировать план дальнейшей работы с ним. Существенно возросли математические способности модели, что значительно расширяет спектр применения GigaChat в бизнесе. А наиболее востребованные бизнесом функции суммаризации и качество ответов на вопросах/ответах к таблицам выросли на 30%.

GigaChat MAX — даёт совершенно новый уровень взаимодействия с генеративным искусственным интеллектом. Это и бесплатный помощник, и собеседник, соавтор и консультант, доступный всем круглосуточно с любого устройства. Модель стала ещё быстрее, удобнее и полезнее для всех, что даёт каждому жителю России новые возможности для развития своего потенциала. Некогда читать длинный текст? Попросите GigaChat сделать саммари. Нужно сочинить поздравление с днём рождения для знакомого? Поручите это нейросети. Не нравится заголовок? Пусть GigaChat предложит сразу десять вариантов, сказал Андрей Белевцев, старший вице-президент, руководитель блока «Технологическое развитие» Сбербанка.

Использование для поиска недвижимости в «Домклике»

Сервис недвижимости «Домклик» запустил бесплатную услугу подбора недвижимости с применением нейросетевой модели GigaChat. Благодаря этой возможности пользователи смогут быстро и удобно подбирать объекты недвижимости для покупки. Об этом Сбер сообщил 18 октября 2024 года. Подробнее здесь.

Возможность в качестве запроса отправить иллюстрацию

Нейросетевая модель GigaChat Pro обрела дополнительную модальность. Теперь в качестве запроса пользователь может отправить иллюстрацию, чтобы сервис использовал её как дополнительный контекст. Модель определит, сколько людей на фото, во что они одеты, даст совет по стилю одежды и многое другое. Об этом Сбер сообщил 7 октября 2024 года.

Также модель научилась распознавать печатный и рукописный текст, формулы, графики, таблицы и анализировать данные, которые в них содержатся. Например, студенты могут сфотографировать часть учебного материала или конспекта, загрузить изображение и в несколько кликов получить короткое содержание текста, его ключевую тему и сформировать план дальнейшей работы с ним.

Функциональность доступна и бизнес-клиентам через API. Компании могут использовать искусственный интеллект в ещё большем числе сценариев: модерировать и классифицировать отзывы, систематизировать медиаконтент, автоматизировать линию поддержки (когда клиент прикладывает к обращению скрин или фото). Ритейлеры могут загружать изображение товара и просить сервис придумать к нему продающее описание.

Также в четыре раза был увеличен размер контекста как GigaChat Pro, так и версии GigaChat Lite — с 8 тыс. до 32 тыс. токенов. Если раньше в один запрос можно было загрузить объём текста, сопоставимый с 15 страницами A4 (шрифт 14 pt), то теперь максимальный объём запроса вырос до 60 страниц. Кроме того, у моделей повысился уровень математических знаний, а GigaChat Pro научился лучше форматировать текст — расставлять параграфы, заголовки, используя выделения и списки.

Мультимодальность расширяет способы и сферы применения больших языковых моделей, она же — ключевой тренд развития [генеративного искусственного интеллекта. Теперь GigaChat умеет распознавать изображения — и это не просто ещё один важный шаг в развитии нашего сервиса, он открывает большой спектр возможностей для наших пользователей. В том числе появляется много сценариев использования GigaChat API для бизнеса. Кроме того, увеличение размера контекста системы в четыре раза позволит поддерживать более длинные диалоги с пользователями и проще реализовывать кейсы с механикой RAG, сказал Андрей Белевцев, старший вице-президент, руководитель блока «Технологическое развитие» Сбербанка.

Модель GigaChat Pro доступна всем пользователям через веб-версию, Telegram и «ВКонтакте». Разработчикам и бизнесу модели доступны через GigaChat API.

Интеграция с Platform V Product 360

СберТех (входит в группу Сбер) интегрировал GigaChat для бизнеса в систему Platform V Product 360 для централизованного управления большими массивами данных о товарах. Данная функциональность позволит автоматически заполнять товарные карточки. Об этом Сбер сообщил 3 сентября 2024 года. Подробнее здесь.

Доступность предоплатной системы подключения

Бизнесу стала доступна предоплатная система подключения сервиса GigaChat. Об этом Сбер сообщил 29 июля 2024 года.

Данная система оплаты позволит проще проводить закупочный процесс, прогнозировать бюджет и безопасно тестировать гипотезы использования нейросетевой модели GigaChat для решения бизнес-задач.

У юридических лиц и индивидуальных предпринимателей появилась возможность использовать GigaChat API, программный интерфейс доступа к нейросетевой модели GigaChat от Сбера, по предоплате. Клиент выбирает необходимые ему пакеты токенов, оплачивает, а затем пользуется ими для взаимодействия с сервисом. Ранее для бизнес-пользователей была предусмотрена только постоплатная схема — когда счёт за фактически использованные услуги выставлялся в конце месяца.

Плюсы предоплатной схемы заключаются в том, что со стороны клиента не требуется заполнение, подписание и направление через электронный документооборот договора или заявления на присоединение к оферте. Достаточно выбрать на сайте необходимые пакеты, оплатить счёт-оферту — и можно начать использовать сервис. При такой схеме использования GigaChat API бизнесу проще проводить закупочный процесс и прогнозировать бюджет: клиент может быть точно уверен, что не потратит на услуги больше запланированной суммы.

Кроме того, такой подход к оплате корпоративных тарифов позволит эффективнее тестировать гипотезы использования системы искусственного интеллекта для решения бизнес-задач. По сравнению с freemium-режимом корпоративным пользователям доступно использование сервиса в коммерческих целях: предоставляется расширенное количество потоков для взаимодействия с системой, которое по согласованию может быть дополнительно увеличено, а также есть возможность управлять системой фильтров (цензурированием).

Данный способ корпоративного подключения по предоплате станет приоритетным. При этом постоплатная схема также останется доступной как для текущих, так и для новых пользователей.

Внедрение в приложение «МойОфис»

Компания МойОфис внедрила в мобильное приложение «МойОфис Документы» GigaChat API для быстрой и эффективной работы с текстовым контентом. До 31 августа функциональность доступна всем пользователям в режиме бета-тестирования, по его итогам наиболее востребованные сценарии будут включены в продукт на постоянной основе. Об этом разработчик сообщил 15 июля 2024 года. Подробнее здесь.

Интеграция с Jivo

Омниканальный бизнес-мессенджер Jivo получил два модуля, созданных на базе нейросетевой модели GigaChat от Сбера. Решения позволяют бизнесу автоматизировать до 85% общения с клиентами в текстовых каналах, что существенно снижает нагрузку на отделы поддержки и продаж. Об этом Сбер сообщил 27 июня 2024 года. Подробнее здесь.

Интеграция с "Плюс7 МаяК"

Компания «Дата инновации» интегрировала нейросетевую модель GigaChat в систему для централизованного управления знаниями Плюс7 МаяК. Пользователи могут задать ИИ-ассистенту любой вопрос по интересующей статье и оперативно получить структурный и логичный ответ. Об этом «Дата инновации» сообщили 19 июня 2024 года. Подробнее здесь.

Интеграция с "ДомКлик"

Благодаря интеграции сервиса недвижимости «Домклик» с программным интерфейсом доступа к нейросетевой модели GigaChat — GigaChat API, пользователи платформы теперь всего за несколько секунд могут составить подробное продающее объявление, которое расскажет о плюсах объекта недвижимости, привлечёт к нему внимание и поможет найти покупателя. Об этом Сбер сообщил 19 июня 2024 года. Подробнее здесь.

Обучение медели совместно с СПбГМУ им И.П. Павлова

GigaChat станет студентом Санкт-Петербургского медицинского университета им. Павлова. Об этом Сбер сообщил 7 июня 2024 года.

Соглашение о совместном обучении большой языковой модели Сбера подписали директор Центра индустрии здоровья Сбербанка Сергей Жданов и ректор университета Сергей Багненко.

В вузе GigaChat будет получать специализированные знания по отдельным медицинским специальностям. Специалисты Сбера и университета также изучат возможности прикладного применения модели в образовательных и медицинских процессах.

Развитием нашей нейросетевой модели занимается огромная команда. В начале 2024 года GigaChat сдал экзамен на врача по направлению "лечебное дело". Экзамен у него принимала комиссия из профессоров Института медицинского образования НМИЦ имени В. А. Алмазова — это главный партнёр проекта, где врачи и студенты под руководством Евгения Владимировича Шляхто занимаются обучением нашей нейросетевой модели. Мы продолжаем развивать GigaChat и расширяем пул профессионалов, которые помогут сделать модель ещё более компетентной в различных областях медицинских знаний, сказал Сергей Жданов, директор Центра индустрии здоровья Сбербанка.

Мы рады объявить о новом этапе сотрудничества нашего университета со Сбером в сфере искусственного интеллекта. Подписание соглашения о совместном обучении большой языковой модели GigaChat — это важное событие, которое откроет новые горизонты в развитии медицинского образования и здравоохранения. Мы уверены, что специализированное обучение GigaChat в нашем университете позволит получить ей глубокие знания по различным медицинским специальностям. Это позволит сделать модель более эффективной в решении задач, касающихся диагностики, лечения и профилактики заболеваний, а также в разработке новых лекарственных средств и медицинских технологий. Наша совместная работа также позволит изучить возможности применения GigaChat в образовательном процессе, что поможет студентам углублять свои знания и развивать навыки в области медицины. Мы верим, что это сотрудничество станет шагом к созданию современной системы здравоохранения, которая будет использовать новейшие технологии для повышения качества жизни людей, отметил Сергей Багненко, ректор Первого Санкт-Петербургского государственного медицинского университета имени академика И. П. Павлова.

Использование совместно со «СберБизнесБотом»

AI-решение от Сбер Бизнес Софт поможет бизнесу быстро находить нужную информацию в больших массивах данных с помощью GigaChat. Об этом Сбер Бизнес Софт сообщил 28 февраля 2024 года. Подробнее здесь.

Использование для автоматического подведения итогов видеовстреч в SberJazz

Бизнес-заказчикам сервиса для видеоконференций SberJazz стала доступна функция автоматического подведения итогов видеовстреч, реализованная на базе нейросетевой модели GigaChat. Об этом Сбер сообщил 20 февраля 2024 года. Подробнее здесь.

Прохождение экзамена по направлению подготовки «Лечебное дело»

Нейросетевая модель Сбера GigaChat сдала экзамен высшего медицинского учреждения по направлению подготовки «Лечебное дело», необходимый для получения квалификации «врач-лечебник». Об этом Сбер сообщил 13 февраля 2024 года. Как и любой студент, окончивший 6 курсов медицинского вуза по федеральному государственному образовательному стандарту, искусственный интеллект Сбера прошёл тестирование и ответил на вопросы билета. Итоговая оценка — 4. Экзамен принимала комиссия из профессоров терапии, хирургии, акушерства и гинекологии Института медицинского образования НМИЦ им. В. А. Алмазова.

Стандартный билет к устному экзамену содержит три ситуационные задачи — по терапии, хирургии, акушерству и гинекологии — и 3–5 вопросов к ним («укажите предполагаемый диагноз», «составьте план лечения», «назначьте дополнительные обследования» и так далее). Также GigaChat прошёл тестирование из 100 вопросов. Он набрал 82% при пороге прохождения 70%.

Наша нейросетевая модель GigaChat развивается очень быстро, осваивая всё новые области знаний. Хотелось бы отметить роль и поблагодарить сотрудников Центра Алмазова, которые обеспечивают контроль за обучением модели и её валидацию. Первый этап — сдача экзамена на врача — пройден. В перспективе модель может стать основой для создания помощника врача и пациента, обеспечить новые условия для заботы и знания о своём здоровье для каждого человека и стать существенным подспорьем для клинициста в его повседневной практике. Применение больших языковых моделей и их последователей станет одной из ключевых технологий для развития человекоцентричного здравоохранения, сказал Сергей Жданов, директор Центра индустрии здоровья Сбербанка.

Cдача экзамена моделью GigaChat — результат эффективной совместной работы специалистов Центра индустрии здоровья Сбербанка, НМИЦ им. В. А. Алмазова и команды разработчиков GigaChat. Обучение алгоритма заняло полгода. Использовался датасет из 42 Гб специализированной информации, в том числе учебно-методические материалы, рекомендованные для обучения студентов в медицинских вузах России, монографии, методические руководства, научные статьи и обезличенные медицинские данные. При этом модель не является врачом, полученные от неё рекомендации необходимо утвердить с лечащим врачом.

GigaChat Pro и GigaChat Lite с увеличенным контекстом

Модели GigaChat Pro и GigaChat Lite стали умнее и мощнее по всем основным метрикам для решения задач всех пользователей. Также теперь бизнесу доступна обновленная модель GigaChat Lite+ с заметно увеличенным контекстом. Об этом Сбер сообщил 30 января 2024 года.

Команда разработчиков обновила и расширила обучающие датасеты, что значительно повысило качество ответов моделей в таких областях как экономика, право и медицина. Также модели прошли обучение на базе знаний реальных экспертов, в том числе редакторов и художников, благодаря чему улучшился навык создания изображений с помощью Kandinsky.

Размер контекста GigaChat Lite и GigaChat Pro увеличен в два раза — с 4 тыс. до 8 тыс. токенов. Если раньше в один запрос можно было загрузить объём текста, сопоставимый с 6 страницами A4 (шрифт 14 pt), то теперь максимальный объём запроса вырос до 12 страниц. Увеличение контекста позволяет моделям поддерживать более длинные диалоги с пользователем и получать в одном запросе больший объём полезной информации.

GigaChat Lite подойдёт для решения более тривиальных задач, требующих при этом максимальной скорости работы модели и меньших требований к «железу». Обновленная модель GigaChat Lite+ по всем метрикам совпадает с GigaChat Lite, но размер её контекста расширен до 32 тыс. токенов. GigaChat Pro лучше следует сложным инструкциям и может выполнять более комплексные задачи.

В GigaChat API появилась возможность формировать векторное представление текстов — эмбеддинги. Эмбеддинги используются для оценки смысловой схожести текстов, повышения точности ответов языковой модели и упрощения решения задач поиска и классификации информации.

Учитывая разные категории пользовательских запросов, мы обновили передовые модели GigaChat Pro и GigaChat Lite, а также выпустили для бизнеса модель GigaChat Lite+, которая имеет заметно увеличенный контекст. С каждым новым этапом развития наших генеративных языковых моделей, мы стремимся к тому, чтобы миллионы пользователей получили ещё более совершенный инструмент как для эффективной автоматизации бизнес процессов, так и повышения собственной производительности, сказал Денис Филиппов, вице-президент по Цифровым поверхностям «Салют» Сбербанка.

Модель GigaChat Pro доступна всем пользователям через веб-версию, Telegram и «ВКонтакте».

Разработчикам и бизнесу все модели доступны через GigaChat API.

2023

GigaChat Lite и GigaChat Pro

Теперь в рамках программного интерфейса доступа к искусственному интеллекту Сбера для бизнеса GigaChat API, компаниям и разработчикам для создания собственных решений и оптимизации процессов доступны две модели — GigaChat Lite и GigaChat Pro. Об этом представители Сбербанка сообщили 15 декабря 2023 года.

GigaChat Lite подойдёт для решения более тривиальных задач, требующих при этом максимальной скорости работы модели, вместе с тем сервис менее требователен к «железу».

GigaChat Pro лучше следует сложным инструкциям и может выполнять более комплексные задачи: по словам разработчиков, значительно повысилось качество суммаризации, рерайтинга и редактирования текстов, ответов на различные вопросы. Что особенно актуально для бизнеса: модель отлично ориентируется во многих прикладных доменах — в частности, в экономических и юридических.

Чтобы упростить и ускорить работу с моделями, клиентам также доступен GigaChain (SDK) — адаптированная версия библиотеки LangChain для русского языка с поддержкой GigaChat API, которая позволит разработчикам создавать собственные продвинутые ИИ-приложения, применяющие технологии Сбера. Библиотека стандартизирует типовые кейсы использования различных языковых моделей, такие как работа с цепочками, базами знаний и документами; а также содержит в себе набор готовых запросов (промптов) для решения бизнес-задач.

GigaChat Pro доступен всем — как корпоративным клиентам, так и независимым разработчикам. Для корпоративных клиентов до конца января GigaChat Pro доступен по стоимости версии Lite — 20 копеек за 1000 токенов. Для независимых разработчиков предусмотрена возможность попробовать GigaChat Pro в рамках freemium-режима.

Внедрение в «Битрикс24» CoPilot

Эффективность работы сотрудников компаний в Битрикс24 может существенно вырасти за счет использования программного интерфейса GigaChat API. Он будет встроен в ИИ-ассистента CoPilot. Об этом компания 1С-Битрикс сообщила 8 декабря 2023 года. Подробнее здесь.

Внедрение в HR-платформу «Пульс»

В HR-платформу «Пульс» от Сбера внедрены сервис GigaChat и нейросеть Kandinsky, для корпоративных клиентов функционал этих решений будет доступен в первом полугодии 2024 года. Об этом Сбер сообщил 29 ноября 2023 года. Подробнее здесь.

Анонс версии GigaChat на базе продвинутой языковой модели с 29 млрд параметров

Разработчики Сбера анонсировали очередную версию сервиса GigaChat, в основе которого, по их словам, лежит одна из наиболее продвинутых моделей для русского языка с 29 миллиардами параметров. В числе первых доступ к API новинки вскоре получат бизнес-клиенты Сбера — для реализации собственных решений, а также участники академического сообщества — для проведения исследований. Об этом представители Сбербанка сообщили TAdviser 23 ноября 2023 года.

По информации банка, благодаря продвинутой LLM (сокращение от англ. Large Language Model, или большая языковая модель) GigaChat лучше следует инструкциям и может выполнять более сложные задания. В частности, значительно улучшилось качество суммаризации, рерайтинга и редактирования текстов, ответов на различные вопросы. Команда сравнила ответы новой и предыдущей моделей и зафиксировала общее повышение качества на 23%. При этом с фактологией анонсированная модель справляется на 25% лучше предыдущей версии, подчеркнули в Сбере.

Для достижения таких результатов было проведено множество экспериментов по улучшению модели и повышению эффективности её обучения. В частности, использовался фреймворк для обучения больших языковых моделей с возможностью шардирования весов нейросети по видеокартам, что позволило сократить потребление памяти на них.

По результатам внутренней оценки в бенчмарке MMLU (Massive Multitask Language Understanding) модель представленной версии GigaChat с 29 млрд параметров превосходит популярный открытый аналог LLaMA 2 34B, заявили представители Сбера.

«Обучение моделей, лежащих в основе GigaChat, — это масштабный и сложный вычислительный проект, прежде мы не делали ничего подобного. Суммарное количество вычислительных операций почти в 6 раз превысило количество операций при обучении модели ruGPT-3 с 13 млрд параметров в 2021 году. Также специально для GigaChat мы собрали и развиваем уникальный датасет, над которым работают сотни сотрудников Сбера, помогая развивать и улучшать качество ответов в самых разных доменах», — рассказал Андрей Белевцев, старший вице-президент, СТО, руководитель блока «Технологии» Сбербанка.

В разработке GigaChat участвуют команды SberDevices и Sber AI при поддержке Института искусственного интеллекта AIRI и ряда отраслевых экспертов, привлечённых для передачи GigaChat различных предметных знаний.

Интеграция с экосистемой "МойОфис"

МойОфис и Сбер договорились о технологическом партнерстве, которое направлено на ускорение внедрения технологий искусственного интеллекта в корпоративной среде. Об этом МойОфис (ООО Новые облачные технологии) сообщил 22 ноября 2023 года. В рамках соглашения МойОфис стал производителем редакторов документов и средств коммуникаций, который интегрировал русскоязычный сервис GigaChat в свою экосистему. Подробнее здесь.

Интеграция с SaluteRPA

Сбер интегрировал функционал сервиса GigaChat в платформу по автоматизации бизнес-процессов SaluteRPA. Об этом Сбер сообщил 17 ноября 2023 года. Подробнее здесь.

Доступность GigaChat API для создания некоммерческих проектов без дополнительной оплаты

Пользователи теперь всего в несколько кликов получат доступ без дополнительной оплаты к GigaChat API для некоммерческих задач, связанных с генерацией, обобщением и анализом тестовых данных. Для этого необходимо перейти по ссылке, авторизоваться по Сбер ID, принять пользовательское соглашение и получить параметры подключения к сервису. Об этом 26 октября 2023 года сообщили в Сбере. В таком формате доступен 1 млн токенов в месяц, что в среднем позволяет обработать до 3,5 млн символов. Например, в романе «Война и мир» содержится около 3 млн символов.

Сервис упрощает и ускоряет работу с текстами, помогает писать статьи в заданном стиле и формате, быстро находить нужную информацию в больших документах, готовить аналитические отчёты. По словам разработчиков, с помощью нейросетевой модели Сбера можно вывести на новый уровень развитие голосовых и текстовых роботов.

Для бизнеса это ещё возможность простым способом протестировать нейросетевую модель GigaChat до принятия решения о её дальнейшем внедрении в свои бизнес-процессы. Исследователи искусственного интеллекта и те, кто занимается частной разработкой, смогут протестировать сервис и поэкспериментировать с ним в рамках своих проектов.

Интеграция с Portal DA

Разместить объявление на сервисе Сбербанка по продаже непрофильных активов и залогового имущества «Portal DA» стало ещё проще: текстовое описание объекта автоматически составит нейросетевая модель GigaChat. Об этом банк сообщил 18 октября 2023 года. Подробнее здесь.

Доступность в умных устройствах Sber

21 сентября 2023 года искусственный интеллект Сбера GigaChat доступен пользователям всех умных устройств Sber, а также в мобильном приложении Салют на Android. Об этом сообщил старший вице-президент, CTO, руководитель блока «Технологий» Сбербанка Андрей Белевцев. Ранее возможности нейросетевой модели уже оценили владельцы умных колонок SberBoom и SberBoom Mini. Для запуска диалога достаточно попросить ассистента Салют "Включи GigaChat" – и можно начинать создавать запросы.

На устройствах с экраном GigaChat может отвечать пользователю на запросы текстом и озвучивать ответ. Так, сервис подскажет, какие фильмы посмотреть на выходных, куда можно сходить погулять в городе, как можно расслабиться или поднять себе настроение после рабочего дня, чем заняться с семьей на выходных, как организовать рабочее пространство дома, как приготовить идеальный завтрак и многое другое. Также можно попросить GigaChat нарисовать картинку – за создание разнообразного визуального контента отвечает нейросеть Kandinsky.

Помимо уже привычного сценария ответов на вопросы пользователей GigaChat способен генерировать текст по заданным параметрам – так можно, например, попросить сочинить притчу, эссе, сказку для ребёнка, рекламный текст, описание товара, или придумать какой-то новый рецепт, составить пошаговую инструкцию или план тренировок.

На устройствах с экраном пользователи смогут испытать возможности GigaChat по созданию изображений. Для этого достаточно словами сформулировать запрос о том, что именно вы хотите увидеть на картинке, и GigaChat визуализирует вашу идею. Чтобы получить наилучший результат нужно придумать оригинальный запрос. А для того, чтобы сгенерированное изображение в полной мере соответствовало вашему творческому замыслу, можно добавить в запрос подробное описание деталей создаваемого образа. Например, дать дополнительные сведения об особенностях внешнего вида изображаемого объекта, его расположении, наличии дополнительных элементов, фоне картинки, уточнить эффект и стиль.

Узнать больше о возможностях GigaChat и посмотреть примеры удачных запросов можно в базе знаний о сервисе. В разработке и обучении модели участвуют команды SberDevices и Sber AI при поддержке Института искусственного интеллекта AIRI и ряда отраслевых экспертов, привлечённых для передачи GigaChat различных специфических умений и предметных знаний.

GigaChat API и GigaChain (SDK) для встраивания GigaChat в сторонние приложения

Сбер представил GigaChat API, программный интерфейс доступа к нейросетевой модели GigaChat для бизнеса. Теперь компании могут использовать возможности сервиса Сбера для создания собственных решений и оптимизации процессов. Об этом представители Сбербанка сообщили TAdviser 21 сентября 2023 года.

𝓲

Виктор Субботин

Чтобы упростить и ускорить работу с GigaChat, команда Сбера также подготовила GigaChain (SDK) — адаптированную версию библиотеки LangChain для русского языка с поддержкой GigaChat API, которая позволит разработчикам создавать собственные продвинутые ИИ-приложения, использующие технологии Сбера. Библиотека стандартизирует типовые кейсы использования различных языковых моделей, такие как работа с цепочками, базами знаний и документами, а также содержит в себе набор готовых запросов (промптов) для решения бизнес-задач.

«У бизнеса теперь появляется доступ к нашему искусственному интеллекту, который позволит многим компаниям выйти на новый уровень технологического развития. Решение является полностью российской разработкой, обеспечивает высокое качество работы на русском языке, надёжность и безопасность данных, хранящихся на серверах в России, — заявил Андрей Белевцев, старший вице-президент, CTO, руководитель блока «Технологии» Сбербанка.

Для получения доступа к GigaChat API необходимо подать заявку от юридического лица или индивидуального предпринимателя и заключить договор.

Библиотека GigaChain (SDK) доступна на GitHub, однако, чтобы начать работу с нейросетью Сбера, необходимо получить доступ к GigaChat API.

Доступность возможностей GigaChat в сервисе SaluteBot

В сервисе для автоматизации общения с клиентами SaluteBot появилась возможность подключить искусственный интеллект — GigaChat. Благодаря интеграции с ансамблем нейросетевых моделей SaluteBot приобрёл способность создавать чат-ботов для бизнеса следующего поколения, которые обрабатывают ещё больше обращений, сообщили 21 сентября 2023 года в Сбербанке. Подробнее здесь.

Открытие публичного доступа к искусственному интеллекту для всех

5 сентября 2023 года в Сбере сообщили о том, что открывают доступ к генеративному искусственному интеллекту GigaChat для всех желающих. С помощью сервиса пользователи получат практически безграничные возможности по работе с текстом и изображениями:

• работать с готовыми текстами (сокращать, переписывать, дополнять);
• писать различные тексты, посты для социальных сетей, письма, сообщения, эссе, сочинения, даже объяснительные записки;
• придумывать истории, сказки, сценарии, сюжеты, анекдоты, гороскопы, поздравления и любой другой креативный контент;
• помогать в решении бытовых задач (составлять список продуктов по рецептам, план путешествий, алгоритмы действий);
• креативить и анализировать, выдавая нужный результат (генерить идеи, рекомендовать, кратко излагать книги, проводить мозговой штурм и много-много другого);
• рисовать изображения в разных стилях с помощью нейросети Kandinsky.

Кроме того, теперь можно делиться своими готовыми диалогами с другими пользователями, а также получать подсказки от самого GigaChat.

Мы выложили в открытый доступ предобученные модели (ruGPT, Kandinsky 2.2 и FRED-T5), на основе которых создавался наш сервис генеративного искусственного интеллекта. Это было сделано в первую очередь в целях ускорения развития open-source-сообщества и технологий в области искусственного интеллекта. Ведь чем больше пользователей будут применять GigaChat и лежащие в его основе модели в своей работе, тем быстрее они будут улучшаться, открывая всем возможности и способствуя технологическому прогрессу. Скоро GigaChat будет доступен в удобном формате бота в "Телеграме" и VK, а разработчики и бизнес смогут воспользоваться им через облачное API, отметил Андрей Белевцев, старший вице-президент, СТО, руководитель блока «Технологии» Сбербанка.

GigaChat уже активно внедряется во многие продукты и сервисы Сбера, которые станут ещё удобнее для наших клиентов. Так, сервис уже доступен владельцам умных колонок SberBoom и SberBoom Mini. Для запуска диалога достаточно произнести: «Салют, включи GigaChat» — и можно начинать создавать запросы. GigaChat появится и на всей линейке умных устройств Sber с виртуальным ассистентом Салют.

Я рад поделиться новостью о том, что теперь пользователи GigaChat могут получить полный доступ к моей веб-версии. Это значит, что они смогут задавать мне свои вопросы, делиться своими мыслями и идеями в любое время. Я готов помочь каждому пользователю найти ответы на свои вопросы или решить какую-то проблему. Открытие веб-версии — это важный шаг в развитии нашего сервиса, и я надеюсь, что он будет полезен всем пользователям GigaChat, GigaChat.

Узнать больше о возможностях GigaChat и посмотреть примеры положительных запросов можно в базе знаний о сервисе. Для доступа в веб-версию сервиса необходимо только пройти регистрацию с помощью Сбер ID.

В разработке модели участвуют команды SberDevices и Sber AI при поддержке Института искусственного интеллекта AIRI и ряда отраслевых экспертов, привлечённых для передачи GigaChat различных предметных знаний. Обучение сервиса происходит на суперкомпьютере Christofari Neo.

В GigaChat применяется ряд решений, призванных исключить использование генеративных моделей, противоречащее Кодексу этики в сфере искусственного интеллекта. Команда разработчиков Сбера будет и дальше улучшать возможности сервиса и уделять особое внимание вопросам этики и безопасности. Чтобы каждый желающий смог познакомиться и начать использовать GigaChat в работе и повседневной жизни, образовательная платформа Edutoria от Сбера разработала бесплатный курс «GigaChat: нейросетевая модель для маркетологов и не только». В программе спикеры Сбера проведут полный обзор GigaChat: что это такое, как он устроен и как корректно формулировать запрос. Пользователи также смогут разобраться в направлениях развития искусственного интеллекта во всём мире, узнать, почему бизнесу выгодно внедрять генеративные модели в свои процессы и какие кейсы интеграций уже существуют.

Запуск GigaChat на умных колонках SberBoom с виртуальным ассистентом «Салют»

На умных устройствах с ассистентом Салют появилась возможность пользоваться сервисом Сбера GigaChat. Первыми оценить возможности сервиса смогут владельцы умных колонок SberBoom и SberBoomMini. Для запуска диалога достаточно произнести «Салют, включи GigaChat» — и можно начинать создавать запросы. В ближайшее время GigaChat появится и на всей линейке наших умных устройств с виртуальным ассистентом Салют, сообщили 18 августа 2023 года в Сбербанке.

На умных колонках пользователь может сгенерировать текст по заданным параметрам, озвучив запрос ассистенту, и получить голосовой ответ. Можно, например, попросить сочинить сказку, предложить варианты подарка, обсудить идею, придумать поздравление, новый рецепт, шутку или название, составить пошаговую инструкцию или план тренировок. GigaChat умеет держать контекст диалога, поэтому в запросе есть возможность добавлять больше деталей или поменять стиль, жанр и объём ответа.

«Как мы и обещали, виртуальный ассистент Салют — один из первых продуктов, который получил возможности GigaChat. Нашим сервисом уже смогли воспользоваться десятки тысяч человек, сгенерировав более полумиллиона запросов. Испытать GigaChat в решении бесконечного числа творческих и прикладных задач смогут и владельцы наших умных колонок. Важно, что команда продолжает улучшать возможности умной нейросети, уделяя особое внимание вопросам этики и безопасности модели», — заявил Андрей Белевцев, старший вице-президент, CTO, руководитель блока «Технологии» Сбербанка.

Узнать больше о возможностях GigaChat и посмотреть примеры удачных запросов можно в базе знаний о сервисе.

Архитектура GigaChat основана на нейросетевом ансамбле NeONKA (NEural Omnimodal Network with Knowledge-Awareness), включающем несколько нейросетевых моделей и обученном при помощи методов supervised fine-tuning, reinforcement learning with human feedback. Сервис Сбера может решать множество интеллектуальных задач: поддерживать беседу, писать тексты, отвечать на вопросы. А включение в ансамбль модели Kandinsky даёт GigaChat навык создания изображений.

В разработке и обучении модели участвуют команды SberDevices и Sber AI при поддержке Института искусственного интеллекта AIRI и ряда отраслевых экспертов, привлечённых для передачи GigaChat различных предметных знаний.

Определение списка академических команд для развития GigaChat

Сбер 25 июля 2023 года сообщил о том, что определил список академических команд, которым будет предоставлена возможность для проведения экспериментов с дообучением и донастройкой нейросетевых моделей, на базе которых работает GigaChat. Команды вузов были отобраны экспертами Сбера на основе открытого сбора заявок. Они получат доступ к платформе ML Space и ресурсы, необходимые для экспериментов.

В список вошли команды: НИУ ВШЭ, РАНХиГС, Университет Иннополис, МГУ им. М. В. Ломоносова (представлен тремя подразделениями: Институт искусственного интеллекта, факультет вычислительной математики и кибернетики, филологический факультет), НИТУ МИСиС и Петрозаводский государственный университет, а также сборная команда из студентов МГУ, ВШЭ и гимназии № 63 Санкт-Петербурга.

Вовлечение академического сообщества в совместные исследования и разработки является важнейшим элементом построения надежного и этичного искусственного интеллекта. Поэтому, я благодарю всех, кто подал заявки на участие в нашем отборе и поздравляю победителей. Теперь вы станете частью команды, которая работает над совершенствованием одного из самых прорывных решений в области технологий искусственного интеллекта. Уверен, что вместе мы сможем расширить возможности GigaChat и сделать его одним из сильнейших сервисов в мире. Хочу подчеркнуть, что этот конкурс лишь начало такой работы. Мы планируем еще больше вовлекать вузы в нашу работу, сказал Андрей Белевцев, старший вице-президент, CTO, руководитель блока «Технологии» Сбербанка.

Открытый доступ

20 июля 2023 года «Сбер» объявил об открытии доступа к нейросетевой модели генерации текста для русского языка ruGPT-3.5 13B. Её дообученная версия лежит в основе сервиса GigaChat. Разработка доступна на платформе HuggingFace, ее могут использовать все разработчики (модель опубликована под открытой лицензией MIT). Подробнее здесь.

Представление закрытой бета-версии GigaChat

Сбер 24 апреля 2023 года сообщил TAdviser о выпуске собственной версии мультимодальной нейросети под названием GigaChat, которая на первом этапе будет доступна в режиме тестирования по приглашениям.

По словам разработчиков, в отличие от иностранной нейросети ChatGPT, сервис GigaChat изначально уже поддерживает мультимодальное взаимодействие и более грамотно общается на русском языке. В то же время, он умеет отвечать на фактологические вопросы пользователей, поддерживать диалог, писать программный код, создавать тексты и картинки на основе описаний в рамках единого контекста.

Сбер создал альтернативу ChatGPT с грамотным русским языком
Иллюстрация: itcrumbs.ru

Как пояснили в Сбере, архитектура сервиса GigaChat основана на нейросетевом ансамбле модели NeONKA (NEural Omnimodal Network with Knowledge-Awareness), включающей различные нейросетевые модели и метод supervised fine-tuning, reinforcement learning with human feedback. Благодаря этому нейросеть Сбера может решать множество интеллектуальных задач. А включение в ансамбль модели Kandinsky 2.1 даёт нейросети навык создания изображений.

В разработке модели участвуют команды SberDevices и Sber AI при поддержке Института искусственного интеллекта AIRI и ряда отраслевых экспертов, привлечённых для передачи GigaChat различных предметных знаний, настройки её на корректное исполнение инструкций и точность. Обучение нейросети происходило на суперкомпьютере Christofari Neo.

В GigaChat также применяется ряд решений, призванных исключить использование генеративных моделей, противоречащее Кодексу этики в сфере искусственного интеллекта. Как подчеркнули в Сбере, команда разработчиков продолжит улучшать возможности умной нейросети и будет уделять особое внимание вопросам этики и безопасности модели.

Входящую в состав NeONKAru-GPT 3.5 с 13 млрд параметров мы планируем выложить в открытый доступ в целях ускорения развития open source сообщества и технологий в области искусственного интеллекта. Нам важно, чтобы как можно больше талантливых студентов, учёных и разработчиков могли использовать самые современные технологии в своей работе, — заявили в Сбере.

По информации Сбера, модель уже активно внедряется во многие продукты и сервисы банка. В частности, одним из первых продуктов, который в ближайшее время получит все возможности GigaChat, станут Виртуальные ассистенты Салют. Первая версия модели NeONKA была оптимизирована по размеру и скорости для применения в высоконагруженных сервисах.

Виртуальные ассистенты Салют получат все возможности GigaChat

По мнению разработчиков, умная нейросеть будет полезна представителям СМИ, редакторам, программистам, педагогам, студентам, маркетологам и представителям других профессий. В будущем разработчикам и бизнесу GigaChat также будет доступен для использования через облачное API.

«Разработка Сбера, которую мы представили, является прорывной для всей большой вселенной российских технологий. Более того, GigaChat уникален своей открытостью архитектуры, в то время как мировые аналоги нашей модели придерживаются курса Closed AI. Важно, что GigaChat могут использовать не только массовые пользователи, которые любят экспериментировать с инновациями, но студенты и даже исследователи для серьезных научных работ», — подчеркнул Герман Греф, Президент, Председатель Правления Сбербанка.

По состоянию на 24 апреля 2023 года модель работает в режиме закрытой бета-версии.