Исследователи создали крупнейший в мире датасет для умных касс и систем учёта в магазинах

Инженер Яндекса, исследователи Центра искусственного интеллекта Сколтеха и Санкт-Петербургского государственного университета аэрокосмического приборостроения (ГУАП) представили самый большой в мире открытый набор данных PackEat для систем компьютерного зрения в розничной торговле. Это набор фотографий фруктов и овощей, который ритейлеры могут использовать для обучения алгоритмов в умных кассах и системах учёта. С помощью датасета можно значимо улучшить точность распознавания продуктов в реальных супермаркетах — он учитывает изображения объектов с полиэтиленовыми пакетами, пересечением объектов и «шумным» фоном на прилавках.

Для датасета PackEat команда собрала изображения 34 видов и 65 сортов фруктов и овощей. Это привычные для покупателей товары с овощных и фруктовых прилавков, снятые с разных точек обзора в реальных магазинах. Было собрано свыше 100 тысяч снимков более 370 тысяч отдельных объектов в магазинах разных городов. Около 9 тысяч изображений содержат разметку каждого отдельного объекта, для каждого снимка указано количество объектов и общий вес упаковки. Этот набор данных является крупнейшем в мире и поможет решать ключевые задачи компьютерного зрения в ритейле: различать виды и сорта продуктов, выделять каждый объект отдельно даже, когда они пересекаются или частично закрыты, а также автоматически подсчитывать количество единиц товара.

В розничных сетях сохраняется проблема ручной идентификации видов, сортов и дефектов весового товара, такого как фрукты и овощи, что приводит к убыткам. Исследования показывают: нейросети могут достичь 92% точности, подтверждая важность автоматизации.

Статья с описанием датасета опубликована в открытом доступе в журнале Scientific Data. Набор изображений размещён на платформе Zenodo, а код и примеры моделей — на платформе Kaggle, что позволяет исследователям и разработчикам сразу использовать их в своих проектах и сравнивать получающиеся решения с результатами авторов.

Про команду исследователей

Ключевую роль в исследовании сыграли Сергей Нестерук из Yandex Cloud и Светлана Илларионова из Центра ИИ Сколтеха.

Научная деятельность Сергея Нестерука связана с изучением компьютерного зрения. Его работы публикуются в международных журналах и сборниках IEEE, он регулярно выступает на профильных конференциях. Сейчас Сергей руководит командой безопасности искусственного интеллекта в Yandex Cloud. Он соавтор материалов по безопасной разработке ИИ-агентов и мультиагентных систем. Команда Сергея обеспечивает безопасность при использовании искусственного интеллекта, а также разрабатывает ИИ-инструменты для защиты данных и безопасности в Yandex Cloud.

Светлана Илларионова руководит группой «Компьютерное зрение для обработки данных» Центра ИИ Сколтеха. В 2023 году она получила PhD в Сколтехе по тематике компьютерного зрения для дистанционного зондирования Земли. В Сколтехе Светлана занимается реализацией исследовательских проектов по применению алгоритмов компьютерного зрения для обработки мультимодальных данных — в частности, в задачах спутникового мониторинга окружающей среды и медицинского анализа. В научном портфолио Светланы — более 25 научных статей в ведущих рецензируемых журналах и на конференциях, а также несколько патентов. Основная область интересов Светланы — разработка методов компьютерного зрения, направленных на решение прикладных задач с учётом их специфики и анализа свойств изучаемых объектов.