В России нашли способ повысить эффективность работы нейросетей на 40%


 © smartengines.ru

Ученые российской ИИ-компании Smart Engines нашли способ повысить эффективность работы нейросетей. В основе метода лежит принципиально новая схема квантования, благодаря которой скорость работы повышается на 40%. Результаты исследования были опубликованы в журнале Mathematics (Q1).

Разработка уже используется при решении прикладных задач компьютерного зрения — для поиска объектов и распознавания текстов. Она также может стать неотъемлемой частью беспилотных автономных систем нового поколения, расширив класс задач, которые могут выполнять бортовые компьютеры.

Речь идет о прорыве отечественных ученых в области оптимизации исполнения нейронных сетей. В настоящее время в основном нейросети выполняются на специализированных видеокартах, однако не каждый компьютер ими оснащен. При этом любое пользовательское устройство имеет центральный процессор, мировым стандартом для которых является использование 8-битных нейронных сетей. Однако глубокие нейронные сети усложняются, содержат сотни миллионов и более коэффициентов, что требуют большей вычислительной мощности. Это ограничивает возможность использования центральных процессоров в системах искусственного интеллекта.

Исследователи Smart Engines решили эту проблему, предложив качественное улучшение 8-битной модели — 4,6-битные сети. Она работает быстрее 8-битной модели на 40%, но практически не уступает ей по качеству за счет более эффективного использования особенностей центральных процессоров мобильных устройств.

Для этого входные данные и коэффициенты модели квантуются таким образом, чтобы их произведения помещались в 8-битные регистры. Суммирование результатов сделано с помощью двухуровневой системы 16- и 32-битных аккумуляторов для достижения максимальной эффективности. В результате в среднем на одно значение приходится 4,6 бита информации.

Такая схема квантования выгодно отличается от существующих, так как позволяет гибким образом задавать разрядность входных данных в зависимости от задачи и не привязывается к степеням двойки. Поэтому эта разработка обепечивает заметно более высокое качество распознавание, чем, например, 4-битные модели.

«Сегодня задачи компьютерного зрения должны решаться на конечных устройствах — мобильных телефонах, камерах наблюдения, бортовых компьютерах беспилотников. Все эти задачи характеризуются невысокими вычислительными возможностями устройств и существенными ограничениями по энергопотреблению. И наша разработка позволяет почти в полтора раза увеличить возможности решения этих задач. Классические сети в наших системах распознавания уже заменены на 4,6-битные аналоги, и мы продолжаем работу над более оптимальными схемами квантизации и обучения нейронных сетей» — комментирует генеральный директор Smart Engines, доктор технических наук Владимир Арлазаров.

Во всех программных продуктах Smart Engines «тяжелые» нейросети заменены их 4,6-битными аналогами. Решения компании используют 10 из 13 системно значимых банков по версии ЦБ, в том числе Альфа-Банк, ВТБ, Газпромбанк, МКБ, банк «Открытие», Райффайзенбанк, Росбанка, Совкомбанк и Тинькофф.

Межтекстовые Отзывы
Посмотреть все комментарии
guest

АСКОН показал нативный KOMПАС-3D для Linux

Специалисты АСКОН работают над нативной версией KOMПАС-3D для отечественных операционных систем с 2019 года и в ходе прошедшего форума «Белые ночи...

Крупнейший в Сибири коммерческий центр обработки данных открыли в Новосибирской области

 © mashnews.ru Новый дата-центр группы компаний Key Point стал самым большим коммерческим ЦОДом в Сибирском регионе и одним из самых крупных дата-центров...

Цифровой тренажёр компании КРУГ обучает персонал котлотурбинного цеха Салаватской ТЭЦ

С целью повышения эффективности управления оборудованием ТЭЦ и снижения аварийной опасности руководством Башкирской генерирующей компании принята программа подготовки оперативного персонала...

В Google Discover заблокировали сайты «Комсомольской правды» и «Царьграда»

Discover встроен в поиск Google и позволяет пользователям браузера Chrome на устройствах Android видеть контент, подобранный с учетом...

Вышла 11-я платформа от «Базальт СПО», это новый уровень разработки свободного ПО

«Базальт СПО», российский разработчик свободного программного обеспечения,выпустила 11-юпрограммнуюплатформу(p11), получившую название Salvia(Шалфей). Это новая стабильная ветка хранилища программных пакетов...

Цифровая копия Владимира Путина задала ему вопрос о двойниках и опасности ИИ

Студент СПбГУ во время большой пресс-конференции главы государства обратился к нему в образе дипфейка. Как отреагировал на это...

Lego отказалась от производства кубиков из переработанного пластика

В компании пришли к выводу, что для этого пришлось бы почти полностью перестраивать все производство, а это оставило...

Российские ученые создали самый эффективный алгоритм для обучения и адаптации ИИ

Ученые из лаборатории исследований искусственного интеллекта (ИИ) Tinkoff Research создали самый эффективный среди мировых аналогов алгоритм для обучения и адаптации...

Копай глубже: Роскомнадзор хочет укрепить магистральные сети

Эксперты говорят, что операторов могут обязать прокладывать коммуникации на большей глубине и принять ряд других мер. Глава Роскомнадзора...

ОДК подключила к промышленному интернету вещей более 2 тысяч станков

Объединенная двигателестроительная корпорация (входит в Госкорпорацию Ростех) подключила более 2 тысяч единиц производственного оборудования к системе промышленного интернета вещей (IIoT)....

В России появятся отечественные компьютеры на китайских чипах

В России представлены прототипы устройств на базе китайских процессоров Loongson. При этом ряд СМИ сообщили, что китайцы отказались...

«Сбер» будет осваивать микроэлектронику

Банк консультируется с предприятиями по выпуску полупроводников и со специалистами из корпорации Intel. По словам источников СМИ, речь...

В Иннополисе открыт крупнейший в ПФО Центр обработки и хранения данных

 © strana-rosatom.ru 3 июня в татарском Иннополисе запустили первую очередь центра обработки данных (ЦОД") «Иннополис», рассчитанный на 1 тысячу серверных стоек...

Как легально увеличить лайки в Ютубе?

Лайки в Youtube и легальные способы их увеличить. Чего не стоит делать при накрутке реакций, и как сделать...

Российский аналог поездов «Ласточка» почти вышел на стадию производства

Модель ЭС104 прошла проверку межведомственной комиссии. Это та же «Ласточка», только усовершенствованная и почти полностью созданная из российских...

Копии архивных документов МосгорБТИ теперь можно получить в электронном виде

 © www.mos.ru Московское городское бюро технической инвентаризации (МосгорБТИ) начало оказывать услугу по предоставлению копий архивной документации в электронном формате. Электронные услуги...

Новое программное обеспечение позволит повысить эффективность ветрогенерации в Росатоме

Федеральная служба по интеллектуальной собственности зарегистрировала программное обеспечение (ПО) «Автоматизированный комплекс поддержки принятия решений работы ВИЭ на ОРЭМ (АК ВИЭ ОРЭМ)»....

Сбербанк перевел 40 тысяч серверов на отечественную ОС

43 тысячи серверов Сбербанка полностью перешли на собственную серверную операционную систему Platform V SberLinux, сообщила компания в своем годом отчёте. Отечественное...

Повлияет ли приостановка китайского экспорта галлия и германия на производство микроэлектроники?

С 1 августа Китай ограничил экспорт двух редкоземов, галлия и германия, обязав своих производителей согласовывать каждую экспортную сделку....

Росэнергоатом ввел в промышленную эксплуатацию информационную систему поддержки эксплуатации АЭС

Концерн «Росэнергоатом» (входит в крупнейший дивизион Госкорпорации «Росатом» —”Электроэнергетический") ввел в промышленную эксплуатацию Информационную систему поддержки эксплуатации АЭС на пяти станциях —...