Стандарты в области искусственного интеллекта в здравоохранении
Основная статья: Стандарты в области искусственного интеллекта в здравоохранении
2024
Утверждение стандарта глубокой нейронной сети
В начале ноября 2024 года в России принят предварительный национальный стандарт (ПНСТ) 945-2024 «Искусственный интеллект. Техническая структура для разделения и совместного исполнения модели глубокой нейронной сети». Подробнее здесь
В России утвержден ГОСТ «Системы поддержки принятия врачебных решений с применением искусственного интеллекта»
29 октября 2024 года стало известно о том, что в России введен в действие новый государственный стандарт ГОСТ Р 71671-2024 «Системы поддержки принятия врачебных решений (СППВР) с применением искусственного интеллекта», направленный на регулирование применения искусственного интеллекта (ИИ) в медицинских системах. ГОСТ утвержден Федеральным агентством по техническому регулированию и метрологии и вступит в силу с 1 января 2025 года. Стандарт был разработан Научно-практическим клиническим центром диагностики и телемедицинских технологий Департамента здравоохранения города Москвы. Подробнее здесь.
В России утвержден ГОСТ на системы ИИ-аналитики в клинической медицине
В конце октября 2024 года в России утвержден ГОСТ Р 71672-2024 «Системы прогнозной аналитики на основе искусственного интеллекта в клинической медицине. Основные положения». Документ разработан Государственным бюджетным учреждением здравоохранения «Научно-практический клинический центр диагностики и телемедицинских технологий Департамента здравоохранения города Москвы» (ГБУЗ «НПКЦ ДиТ ДЗМ»). Подробнее здесь
В России утвержден ГОСТ ИИ в образовании
В начале октября 2024 года в России утвержден ГОСТ Р 71657-2024 «Технологии искусственного интеллекта в образовании. Функциональная подсистема создания научных публикаций. Общие положения». Документ разработан Федеральным государственным автономным образовательным учреждением высшего образования «Волгоградский государственный университет» (ФГАОУ ВО ВолГУ).
Отмечается, что функциональная подсистема создания научных публикаций входит в систему образования как важная ее часть, обеспечивающая не только документирование результатов научно-исследовательской деятельности, но и формирование соответствующих компетенций у обучающихся, в том числе школьников, студентов бакалавриата, специалитета и магистратуры, а также аспирантов. Обнародованный стандарт содержит:
- Основные этапы реализации функциональной подсистемы на этапах создания научной публикации;
- Рекомендации и примеры по использованию конкретных систем ИИ при решении различных задач, возникающих при создании научной публикации;
- Требования к защите данных;
- Рекомендации по управлению рисками качества данных в функциональной подсистеме.
Положения стандарта описывают использование ИИ с целью повышения результативности создания научных публикаций. Применение таких инструментов должно осуществляться этичным образом и не должно заменять творческую научно-исследовательскую деятельность человека. Организациям, как отмечается, следует разработать и обеспечить соблюдение критериев и порядка применения технологий ИИ. Кроме того, необходимо предусмотреть возможности управления рисками, например, способность на основе интеллектуального анализа и машинного обучения выявлять и прогнозировать возможные будущие риски внутри и за пределами функциональной подсистемы в отношении точности, полноты, достоверности, актуальности, доступности, соответствия требованиям, конфиденциальности, эффективности, понятности, переносимости и возможности восстановления данных.[1]
В России утвержден ГОСТ «Искусственный интеллект на водном транспорте»
В октябре 2024 года стало известно об утверждении в России ГОСТа Р 71598-2024 — «Системы искусственного интеллекта на водном транспорте. Общие положения». Документ устанавливает общие нормы и область применения технологий ИИ в указанной сфере.
Документ охватывает использование алгоритмов и методов ИИ на протяжении всего жизненного цикла решений в области водного транспорта — это проектирование, разработка, тестирование, внедрение и эксплуатация. Стандарт применим к широкому спектру приложений, включая навигацию судов, мониторинг грузопотоков, интеллектуальное управление портами, предиктивное техническое обслуживание и повышение безопасности. ГОСТ распространяется на применение ИИ в операциях речного и морского транспорта, а также в различных водных судах, терминалах и портовой инфраструктуре.
Новый ГОСТ предназначен для всех заинтересованных сторон, участвующих в разработке, внедрении и управлении технологиями ИИ. Отмечается, что стандарт служит руководящим документом, обеспечивающим интеграцию систем ИИ в отрасль водного транспорта. Не определяя конкретных технических деталей алгоритмов ИИ, стандарт устанавливает общие требования, аспекты интеллектуализации и соображения безопасности, надежности, производительности, совместимости и защиты данных.Известный писатель-фантаст Сергей Лукьяненко выступит на TAdviser SummIT 28 ноября. Регистрация 
В документе, в частности, сказано, что разработка и внедрение систем ИИ должны соответствовать всем необходимым нормам безопасности и нормативным требованиям, чтобы свести к минимуму риск аварий и защитить жизнь людей, окружающую среду и экономические интересы. Для поддержания производительности и безопасности систем ИИ необходимо техническое обслуживание и обновление. Предприятиям водного транспорта следует создать механизмы непрерывного мониторинга и извлечения уроков из операций с использованием систем ИИ. В целом, стандарт призван способствовать укреплению доверия к решениям на основе ИИ, что в конечном итоге повысит безопасность, эффективность и устойчивость систем водного транспорта.[2]
2023
Россия и Индия приступили к стандартизации искусственного интеллекта
30 сентября 2023 года ассоциация «Руссофт», Палата индо-российского технологического сотрудничества (Chamber for Indo Russo Technology Collaboration, CIRTC) и российский технический комитет №164 Росстандарта РФ «Искусственный Интеллект» подписали два меморандума о намерениях сотрудничества, направленных на развитие отношений между Россией и Индией в ИТ-области. Один из документов касается стандартизации ИИ, а также создания совместной лаборатории для сертификации решений в сфере искусственного интеллекта.
 | Состоялось историческое подписание меморандума о взаимопонимании по созданию совместной лаборатории тестирования ИИ, стандартов и политики между Индией и Россией. Эта инициатива, которая в дальнейшем может быть распространена и на другие страны БРИКС, - прокомментировал директор палаты по индо-российскому технологическому сотрудничеству, представитель российско-индийской ассоциации (Russia India Special Interest Group, RISING) Дебджит Чакраборти, чьи слова приводит пресс-служба «Руссофта». |  |
23 октября 2023 года президент «Руссофта» Валентин Макаров уточнил, что участники партнерства уже создали рабочую группу и приступили к разработке стандартов для решений в области искусственного интеллекта.
По его словам, в Индии также появится лаборатория, которая будет сертифицировать ИИ-решения, первыми отраслями для стандартизации ИИ-решений будут здравоохранение и сельское хозяйство, и к апрелю 2024 года ожидаются первые результаты работы.
| | Стандарты нужны в первую очередь, чтобы решения российских разработчиков сразу соответствовали стандартам в Индии и они могли без дополнительного лицензирования выходить на индийский рынок... Мы хотим создать общие для стран БРИКС стандарты, чтобы минимизировать накладные расходы вендоров и создать равные условия для развития компаний, - пояснил Макаров.[3] | |
Минцифры формирует стандарт персональных данных для искусственного интеллекта
В конце июня 2023 года стало известно о том, что Минцифры создает стандарт персональных данных для систем и сервисов, использующих средства искусственного интеллекта.
Как сообщат газета «Ведомости», Минцифры совместно с участниками ИТ-отрасли занимается унификацией методов обезличивания персональных данных (ПД) и работы с ними для субъектов критической информационной инфраструктуры (КИИ). К таким субъектам относятся, в частности, госорганы, операторы связи и т. д. Предполагается, что в дальнейшем накопленные данные будут применяться для обучения различных ИИ-алгоритмов или языковых моделей. По словам замглавы Минцифры Александра Шойтова, требования по унификации и стандартизации государству должны предложить сами разработчики систем ИИ.
| | У нас есть задача разработать методы унификации для искусственного интеллекта. Это отправная точка, именно в критических применениях (для субъектов КИИ). Где критических применений не будет, эта унификация, наверное, не будет обязательной, — сказал Шойтов. | |
Отмечается, что работы над методологией в области обезличивания персональных данных уже началась. В Госдуму внесён законопроект о нормативном регулировании одного из подходов к обезличиванию ПД. Это необходимо для того, чтобы исключить «ущерб конкретному гражданину». В Роскомнадзоре также отмечают, что «любая обработка ПД российских граждан, в том числе с использованием ИИ, должна соответствовать требованиям законодательства в области защиты прав субъектов персональных данных».
В России действует Национальный центр развития ИИ, а правительство предоставляет гранты для компаний малого и среднего бизнеса, реализующих проекты искусственного интеллекта. К 2024 году планируется довести внедрение ИИ в российской экономике до 50%.[4]
Открыт доступ более чем к 60 стандартам в сфере искусственного интеллекта
Росстандарт предоставил открытый доступ более чем к 60 стандартам в сфере искусственного интеллекта, подготовленным Техническим комитетом по стандартизации № 164 «Искусственный интеллект», в целях оперативного обеспечения ускоренных темпов развития отрасли искусственного интеллекта в России. Соответствующее предложение было выдвинуто Сбером, который является центром компетенций федерального проекта «Искусственный интеллект». Об этом Сбер сообщил 14 июня 2023 года.
Активное развитие и внедрение технологий искусственного интеллекта способствуют достижению технологической независимости страны в этой области. Президент РФ Владимир Путин в конце 2022 года заявил о необходимости массового внедрения искусственного интеллекта в различные сферы жизнедеятельности: «Внедрение должно охватить все отрасли экономики, социальной сферы и систему госуправления».
Решение о предоставлении открытого доступа к стандартам в сфере искусственного интеллекта принято Росстандартом для содействия реализации утверждённой указом президента Российской Федерации национальной стратегии развития искусственного интеллекта на период до 2023 года, одним из основных направлений которой является создание единых систем стандартизации и оценки соответствия технологических решений, разработанных на основе искусственного интеллекта.
На официальном сайте ведомства открыт доступ к ряду стандартов, таким как: «Информационные технологии. Искусственный интеллект. Структура управления процессами для анализа больших данных (ИСО/МЭК 24668:2022)», «Системы искусственного интеллекта на автомобильном транспорте. Высокоавтоматизированные транспортные средства. Термины и определения», «Системы искусственного интеллекта в клинической медицине. Основные положения» и другие.
Предоставление открытого бесплатного доступа к международным и национальным техническим стандартам позволит оценить релевантность действующих стандартов, при необходимости вносить в них изменения и получать обратную связь от российского сообщества разработчиков искусственного интеллекта.
| |
Разработка и последующее предоставление доступа к стандартам направлено на повышение эффективности создания и внедрения технологий искусственного интеллекта в различных отраслях экономики и социальной сферы. Россия входит в число государств-лидеров по количеству национальных стандартов, определяющих требования к применению подобных технологий, сказал Антон Шалаев, руководитель Росстандарта.
| |
| |
Сбер поддерживает решение Росстандарта открыть доступ к стандартам в сфере искусственного интеллекта, ведь это поможет ускорить развитие новых технологий в стране. Мы уверены, что большой интерес к такой инициативе проявит российское сообщество разработчиков, и ожидаем от специалистов конструктивной обратной связи и предложений по актуализации стандартов. Вывод стандартов в открытый доступ — часть масштабной работы государства и бизнеса, которая направлена на то, чтобы параллельно с совершенствованием систем искусственного интеллекта динамично развивалась и регуляторика, а она должна обеспечивать как прогресс в этой жизненно важной области знаний, так и безопасность потребителей, отметил Александр Ведяхин, первый заместитель председателя правления Сбербанка.
| |
В целях систематизации работ в сфере искусственного интеллекта Росстандартом совместно с Министерством экономического развития Российской Федерации утверждена перспективная программа стандартизации по приоритетному направлению «Искусственный интеллект» на период 2021−2024 годы в рамках реализации федерального проекта «Искусственный интеллект» национальной программы «Цифровая экономика России», которая содержит 217 тем.
ЕС установил первый в мире стандарт для систем ИИ
В мае 2023 года Европарламент (ЕП) принял законопроект AI Act, который стал первыми в мире правилами и стандартом для искусственного интеллекта.
| | Системы ИИ с неприемлемым уровнем риска для безопасности людей будут строго запрещены. В их число входят системы, использующие подсознательные или целенаправленные манипулятивные методы, эксплуатирующие уязвимости людей или использующиеся для социального скоринга (классификация людей на основе их социального поведения, социально-экономического статуса, личных характеристик), — сказано в заявлении ЕП. | |
Согласно документу, цель депутатов Евросоюза (ЕС) — установить первые в мире правила для искусственного интеллекта и поставить системы ИИ под контроль людей, сделав их безопасными, прозрачными, отслеживаемыми и недискриминационными.
В соответствии с принятыми стандартами, разработчики высокорискового искусственного интеллекта должны:
- провести оценку риска и соответствия;
- зарегистрировать свои системы в европейской базе данных ИИ;
- обеспечить высокое качество данных, используемых для обучения ИИ;
- обеспечить прозрачность и информированность пользователей;
- обеспечить эффективный надзор со стороны человека и возможность вмешательства;
- обеспечить безопасность и надежность систем ИИ.
Что касается «низкорискового» ИИ, такого как чат-боты, то его поставщики обязаны информировать пользователей о том, что они взаимодействуют с ИИ, а не с человеком. Для генеративных моделей добавляется ещё одно требование — сообщать пользователям, что контент создан нейросетью.
В целом компании, использующие различные ИИ-инструменты, должны будут оценивать их потенциальные риски с точки зрения «здоровья, безопасности, фундаментальных прав, окружающей среды, демократии и верховенства закона», говорится в документе.[5]
Росстандарт заказал разработку стандартов ИИ для медицины, образования и транспорта за 130,4 млн рублей
1 марта 2023 года стало известно об объявленном Федеральным агентством по техническому регулированию и метрологии (Росстандарт) тендере на разработку стандартов искусственного интеллекта в в образовании, медицине и транспорте. На этот контракт ведомство готово потратить 130,4 млн рублей.
Как сообщает CNews со ссылкой на техническое задание к конкурсу, победитель (его планируется выбрать до 22 марта 2023 года) должен будет разработать окончательную редакцию национальных стандартов ИИ в области образования и для использования систем искусственного интеллекта на автомобильном транспорте (системы ИИ для управления транспортом вне дорог общего пользования).
Также в рамках работ будут подготовлены основные положения и этические аспекты при использовании систем ИИ в здравоохранении, лучевой диагностике, для принятия врачебных решений и построения прогнозов в клинической медицине.
Работы среди прочего включают в себя разработку и подготовку к утверждению национальных стандартов, а также обоснование принципов закрепления в нормативно-технических документах требований к созданию, эксплуатации систем ИИ, направленных на сокращение возможного ущерба безопасности России от применения искусственного интеллекта.
Цель работ заключается, в том числе, в гармонизации национальных стандартов с международными стандартами и актуализация фонда стандартов в области искусственного интеллекта. Работы должны быть выполнены до 29 ноября 2024 года.
К началу марта 2023 года в России реализуется национальная стратегия развития искусственного интеллекта. На нее предусмотрено 24,1 млрд рублей бюджетных средств, а также 5,1 млрд рублей из внебюджетных источников, отмечает издание.[6]
2022
Разработан первый в России ГОСТ по тестированию искусственного интеллекта
В начале августа 2022 года стало известно о создании первого в России ГОСТа по тестированию искусственного интеллекта. Речь идет о разработке Центра диагностики и телемедицины Департамента здравоохранения Москвы.
Как сообщила заместитель мэра столицы по вопросам социального развития Анастасия Ракова, к началу августа 2022 года документ уже утвержден и начнет применяться с 1 сентября 2022-го.
Новый документ регламентирует требования к клиническим испытаниям нейросетей. По разработанной системе ГОСТа специалисты получат точную оценку, соответствует ли продукт заявленным характеристикам точности, эффективности и не несет ли он риски для здоровья пациента.
Клиническая оценка включает в себя три этапа. Сначала аналитическая валидация подтверждает способность систем искусственного интеллекта точно, воспроизводимо и надежно обрабатывать данные. Затем оценка клинической связи показывает соответствие выходных данных таких систем заявленному функциональному назначению. И наконец, в рамках клинической валидации подтверждается эффективность системы — способность выдавать клинически значимые результаты.
Как сообщили в мэрии Москвы, ранее были приняты и вступили в силу национальные стандарты для внедрения систем искусственного интеллекта в клиническую медицину, они также разработаны столичными радиологами.
| | Мы наработали огромный опыт в сфере применения искусственного интеллекта в здравоохранении. В марте 2022 года разработки наших медиков в этой отрасли легли в основу единых национальных стандартов по использованию передовых технологий в медицине. Мы двигаемся дальше — московские специалисты разработали ГОСТ по тестированию систем искусственного интеллекта, - отметила Ракова, чьи слова приводятяс на официальном сайте мэра Москвы. [7] | |
Росстандарт утвердил ГОСТ для ИИ-систем в сельском хозяйстве
Федеральное агентство по техническому регулированию и метрологии (Росстандарт) утвердило национальный стандарт Российской Федерации ГОСТ «Системы искусственного интеллекта (ИИ) в сельском хозяйстве. Требования к обеспечению характеристик эксплуатационной безопасности систем автоматизированного управления движением сельскохозяйственной техники». Документ, призванный обезопасить использование систем с ИИ в АПК, а также ускорить внедрение отечественных разработок в отрасли, совместно разработали Cognitive Pilot (совместное предприятие «Сбера» и Cognitive Technologies) и Высшая школа экономики (НИУ ВШЭ). Подробнее здесь.
2019
3 главных тренда искусственного интеллекта за 4 минуты
Четвертый выпуск подкаста TAdviser записала Светлана Вронская, автор Telegram-канала Analytics Now. Его тема – главные события на рынке Искусственного интеллекта (ИИ), произошедшие в 2019 году.
Росстандарт утвердил первые стандарты в области ИИ
Федеральное агентство по техническому регулированию и метрологии (Росстандарт) утвердило в декабре 2019 года первые национальные стандарты в области искусственного интеллекта – ГОСТ Р 58776-2019 «Средства мониторинга поведения и прогнозирования намерений людей. Термины и определения» и ГОСТ Р 58777-2019 «Воздушный транспорт. Аэропорты. Технические средства досмотра. Методика определения показателей качества распознавания незаконных вложений по теневым рентгеновским изображениям».
Стандарт призван обеспечить эффективную коммуникацию интеллектуальных робототехнических систем (в том числе беспилотных транспортных средств) с человеком. Взаимодействие интеллектуальных систем заключается в прогнозировании намерений друг друга и определении дальнейших действий на базе этого прогноза. Прогноз поведения также может использоваться для выявления людей с преступными намерениями.
Второй принятый стандарт, ГОСТ Р 58777-2019, устанавливает единые требования к системам и алгоритмам распознавания незаконного содержимого багажа и ручной клади по рентгеновским изображениям. Стандарт также повысит достоверность результатов испытаний систем и алгоритмов.
Стандарты разработаны Санкт-Петербургским политехническим университетом Петра Великого и вступают в действие с 1 сентября 2020 года.
Эксперты ISO/IEC поддержали предложение о разработке стандарта на русском языке
16 апреля 2019 года стало известно, что подкомитет ISO/IEC по стандартизации в области искусственного интеллекта поддержал предложение Технического комитета «Кибер-физические системы», созданного на базе РВК, о разработке стандарта «Artificial intelligence. Concepts and terminology» на русском языке в дополнение к базовой английской версии.
Терминологический стандарт «Artificial intelligence. Concepts and terminology» является основополагающим для всего семейства международных нормативно-технических документов в области искусственного интеллекта. Кроме терминов и определений, данный документ содержит концептуальные подходы и принципы построения систем с элементами AI, описание взаимосвязи AI с другими сквозными технологиями, а также базовые принципы и рамочные подходы к нормативно-техническому регулированию искусственного интеллекта.
По итогам заседания профильного подкомитета ISO/IEC в Дублине эксперты ISO/IEC поддержали предложение делегации из России о синхронной разработке терминологического стандарта в сфере AI не только на английском, но и на русском языке. Ожидается, что документ будет утвержден в начале 2021 года.
| | Развитие продуктов и услуг на базе искусственного интеллекта требует однозначной трактовки используемых понятий всеми участниками рынка. Стандарт терминологии позволит унифицировать «язык», на котором общаются разработчики, заказчики и профессиональное сообщество, классифицировать такие свойства продуктов на базе ИИ, как «безопасность», «воспроизводимость», «достоверность» и «конфиденциальность». Единая терминология также станет важным фактором для развития технологий искусственного интеллекта в рамках Национальной технологической инициативы – алгоритмы ИИ используют более 80% компаний в периметре НТИ. Кроме того, решение ISO/IEC позволит укрепить авторитет и расширить влияние российских экспертов при дальнейшей разработке международных стандартов. Никита Уткин,руководитель программ РВК, председатель ТК «Кибер-физические системы»
| |
В ходе заседания эксперты ISO/IEC также поддержали разработку проекта международного документа Information Technology - Artificial Intelligence (AI) - Overview of Computational Approaches for AI Systems, в котором Россия выступает в качестве соредактора. Документ предоставляет обзор современного состояния систем искусственного интеллекта, описывая основные характеристики систем, алгоритмы и подходы, а также примеры специализированных приложений в области AI. Разработкой этого проекта документа займется специально созданная в рамках подкомитета рабочая группа 5 «Вычислительные подходы и вычислительные характеристики систем Искусственного интеллекта» (SC 42 Working Group 5 «Computational approaches and computational characteristics of AI systems»).
| | В рамках работы на международном уровне делегации из России удалось добиться ряда знаковых решений, которые будут иметь долгосрочный эффект для развития в стране технологий искусственного интеллекта. Разработка русскоязычной версии стандарта, еще и со столь ранней фазы – гарантия синхронизации с международным полем, а развитие подкомитета ISO/IEC и инициация международных документов с российским соредакторством – это фундамент для дальнейшего продвижения интересов российских разработчиков за рубежом», — прокомментировал. Антон Шалаев, заместитель руководителя Росстандарта
| |
Технологии искусственного интеллекта широко востребованы в самых разных отраслях цифровой экономики. Среди основных факторов, сдерживающих их полномасштабное практическое использование, — неразвитость нормативной базы. При этом именно проработанная нормативно-техническая база обеспечивает заданное качество применения технологии и соответствующий экономический эффект.
По направлению искусственный интеллект ТК «Кибер-физические системы» на базе РВК ведет разработку ряда национальных стандартов, утверждение которых запланировано на конец 2019 – начало 2020 года. Кроме того, совместно с рыночными игроками идет работа по формированию Плана национальной стандартизации (ПНС) на 2020 год и далее. ТК «Кибер-физические системы» открыт для предложений по разработке документов со стороны заинтересованных организаций.
2018: Разработка стандартов в области квантовых коммуникаций, ИИ и умного города
Технический комитет «Кибер-физические системы» на базе РВК совместно с Региональным инжиниринговым центром «СэйфНет» 6 декабря 2018 года начали разработку комплекса стандартов для рынков Национальной технологической инициативы (НТИ) и цифровой экономики. К марту 2019 года планируется разработать документы технической стандартизации в области квантовых коммуникаций, искусственного интеллекта и «умного города», сообщили в РВК. Подробнее здесь.
Примечания
- ↑ ГОСТ Р 71657-2024
- ↑ Об утверждении национального стандарта Российской Федерации
- ↑ Развитие отношений России и Индии в ИТ-отрасли
- ↑ Минцифры определит стандарт персональных данных для искусственного интеллекта
- ↑ AI Act: a step closer to the first rules on Artificial Intelligence
- ↑ В России готовятся госстандарты для искусственного интеллекта
- ↑ Столичные врачи разработали первый в России ГОСТ по тестированию искусственного интеллекта
