Вестник Военного инновационного технополиса «ЭРА», 2023, T. 4, № 2, стр. 153-158

Применение функционально-целевого подхода для формализации модели управления испытаниями технологий искусственного интеллекта в робототехнических комплексах

А. В. Заяра 1*, А. В. Зайцева 1

1 Военный инновационный технополис “ЭРА”
Анапа, Россия

* E-mail: era_otd3@mil.ru

Поступила в редакцию 06.07.2023
После доработки 06.07.2023
Принята к публикации 08.10.2023

Полный текст (PDF)

Аннотация

Робототехнические комплексы внедрены во все сферы человеческой деятельности. Совершенствование комплексов происходит за счет внедрения в их системы управления технологий искусственного интеллекта (ИИ), которые, как и все остальные функции технических систем, должны подвергаться испытаниям. Существует множество определений этих технологий, но все они не обеспечивают единого толкования их сущности. На основе анализа нормативно-технических источников сформулировано определение технологии ИИ, позволяющее формализовать подход к организации их испытаний. Рассмотрено применение функционально-целевого подхода к структурно-алгоритмическому проектированию системы управления испытаниями технологий ИИ путем построения формальной рекуррентной модели предметной области, позволяющей сформировать методологические основы испытаний технологий ИИ.

ВВЕДЕНИЕ

Словосочетание “искусственный интеллект” (ИИ) – одно из наиболее встречающихся в научных публикациях в последние время. Аббревиатура, состоящая из двух заглавных букв “ИИ”, прочно вошла в перечень общепринятых сокращений. Ее применяют в самых разных отраслях человеческих знаний. В [1] перечислена 31 сфера применения ИИ. Портал перечислил направления, начиная от принятия решений и разработки программного обеспечения, заканчивая пивоварением и фотографией. Непроизвольно формулируется риторический вопрос: “Кто сегодня только не декларирует об использовании технологий ИИ?”. Тем не менее достаточно проблематично найти однозначное определение этого понятия. В качестве примера [1] приводит всего три технологии: Big Data, Data Mining, Data Quality. В данной работе предпринимается попытка найти ответы на первичные вопросы: “Что из себя представляют технологии ИИ применительно к робототехническим комплексам (РТК)?” и “Каким образом возможно обосновать подходы к организации промышленных испытаний этих технологий?”.

Сегодня роботизация охватила все сферы деятельности человека. Даже уборка в помещениях поручается роботу-пылесосу, который обладает, как утверждают разработчики, технологиями ИИ. Если разработчик декларирует о реализации технологий ИИ, то, соответственно, он должен быть готов аргументированно подтвердить заявленное. Поэтому одним из путей контроля качества и прежде всего безопасности сложных технических систем является проведение испытаний. А техническая система с технологиями ИИ безусловно должна подвергаться испытаниям. Даже такой простой и, на первый взгляд, бытовой комплекс, как робот-пылесос, должен тестироваться на соответствие заявленным характеристикам испытаниями, направленными на верификацию технологий ИИ. Тем более что выбранные и обоснованные подходы к проведению испытаний в ближайшем будущем можно будет распространить и на наземные РТК военного назначения, в которые планируется внедрять технологии ИИ. Таким образом, в качестве области исследования определяются технологии ИИ, реализованные в системах ИИ. А в качестве предмета исследований – методы испытаний этих технологий, используемых в РТК гражданского назначения. Начиная с разъяснения понятийного аппарата, в области исследования проведена попытка определиться с термином “технология ИИ”.

АНАЛИЗ ПОНЯТИЯ “ТЕХНОЛОГИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА”

Еще полвека назад свойства и возможности ИИ трактовались только как философские понятия. Так, основатель отечественной школы кибернетики Л.Т. Кузин в 70-е гг. прошлого века сформулировал ряд характерных черт, присущих ИИ [2]:

– существование внутри технической системы индивидуальной модели восприятия мира;

– самопополнение имеющегося багажа знаний;

– способность к дедукции и индукции (к анализу и синтезу);

– умение вести диалог с человеком и адаптироваться к условиям внешней среды;

– умение оперировать кругом задач, четко ограниченным отдельной областью познаний.

С такой смысловой нагрузкой эти черты могут служить только ориентирами в процессе проектирования реальных систем ИИ. Тем более, эти тезисы невозможно использовать в качестве основания для определения подхода к испытанию технической системы технологиями ИИ. Даже невозможно представить методику количественной или качественной оценки существования внутри РТК “индивидуальной модели восприятия мира”. Тем не менее за прошедшие полвека исследователи существенно продвинулись вперед в направлениях создания и совершенствования понятийного аппарата в области ИИ. Были приняты нормативно-технические документы – государственные стандарты, в которых уже имеется достаточно конкретики в отношении ключевых терминов, обеспечивающих единое толкование большинства ключевых понятий.

Итак, прежде всего система ИИ – техническая система, в которой используются технологии ИИ [4]. В том же стандарте разъясняется термин “технологии ИИ”. Это – комплекс технологических решений, направленных на создание систем ИИ. То есть технологии применяются для того, чтобы создавать системы. Из этого определения неясно, что же подвергать испытаниям. Второе определение принадлежит стандарту [5], посвященному интеллектуальным системам обучения. Технологии ИИ – технологии, основанные на использовании ИИ, включая компьютерное зрение, обработку естественного языка, распознавание и синтез речи, интеллектуальную поддержку принятия решений и перспективные методы ИИ. В этом определении акцентируется внимание на конкретных технологиях, которые можно использовать в образовательной сфере. Также в этом стандарте раскрывается определение перспективных методов ИИ – это методы, направленные на создание принципиально новой научно-технической продукции, в том числе в целях разработки универсального ИИ (автономное решение различных задач, автоматический дизайн физических объектов, автоматическое машинное обучение, интерпретируемая обработка данных и другие методы) [5]. Вопрос о том, каким образом тестировать в процессе производства РТК с “автоматическим дизайном физических объектов”, по‑прежнему остается без ответа.

Следующий источник [6] повторяет определение технологий ИИ [5] и даже представляет их развернутую классификацию (рис. 1).

Рис. 1.

Схема, поясняющая классификацию технологий ИИ.

Элементарное логическое рассуждение по цепочке (рис. 1): “ИИ – действие – роботы – домашние роботы” приводит к выводу, что согласно этой классификации РТК сами и являются технологией ИИ. Каким же образом разрабатывать методики испытаний “роботов и беспилотников” в части тестирования технологий ИИ, если они входят в понятие “технологии ИИ”? Для выхода из замкнутого понятийного круга необходимо найти обоснованный подход к проведению испытаний РТК, реализующих технологии ИИ.

СУЩНОСТЬ ФУНКЦИОНАЛЬНО-ЦЕЛЕВОГО ПОДХОДА

С этой целью предлагается заимствовать из теории менеджмента функционально-целевой подход (ФЦП), применяющийся для класса задач управления с древовидной моделью предметной области. Такое сравнительно простое представление модели предметной области оказывается наиболее наглядным для задач комплексных исследований. Методы и средства ФЦП оптимально подойдут для представления испытаний [7] многоуровневой системой управления. Применительно к данном контексту весьма корректно рассматривать именно словосочетание “управление испытаниями”, а не просто “испытания”. Термин “управление” здесь трактуется в классической постановке задач теории автоматического управления: задание управляющего воздействия и контроль реакции системы на него.

ФЦП базируется на следующих методологических аспектах структурно-алгоритмической организации многоуровневых распределенных систем:

– использовании в процедурах решения специфики решаемых задач, т.е. особенностей структуры предметной области испытаний;

– привлечении в процедурах решения неформализованных задач представителей исследовательского коллектива.

Исходная предпосылка ФЦП – управление через целеполагание (формирование многоуровневой древовидной иерархической системы целей управления). В ФЦП эта иерархия целей используется не только как обычное средство наглядного структурного описания, но и как инструмент структурно‑алгоритмического проектирования системы, обеспечивающий учет особенностей структуры предметной области. Для этого в ФЦП вводятся формальные рекуррентные модели предметной области (целей исследований) и аналогичные по структуре модели многоуровневых систем, действия которых обеспечивают достижение целей. Использование этих моделей обеспечивает формальную основу синтеза системы, в структурно‑алгоритмической организации которой отражена структура цели.

В дополнение к перечисленному еще несколько аргументов в пользу выбора данного подхода:

– во-первых, в ФЦП в декомпозиции действий отражена декомпозиция целей, а естественный путь реализации цели – это последовательное и параллельное (совместное) достижение подцелей;

– во-вторых, такая естественная структура целеполагания логично отражает форму мышления исследователей при организации процедур достижения целей;

– в-третьих, последовательно-параллельные конструкции обозримы, наглядны, и по этим схемам сравнительно просто организовать работу творческого коллектива, распределив задачи между отдельными исполнителями.

РАЗРАБОТКА ФОРМАЛЬНОЙ РЕКУРРЕНТНОЙ МОДЕЛИ

Для решения задач структурно-алгоритмического синтеза нужно построить на основе ФЦП модель предметной области и соответствующую ей в определенном смысле модель предстоящего испытания, задать критерий эффективности и спроектировать условия испытания, обеспечивающие выполнение заданного критерия.

Теоретическую основу разработки формальных рекуррентных моделей разработал французский математик П. Фату в 1905 г., исследовавший динамику неразрывных образов. Динамика рекуррентных рядов последовательно обращает каждый новый член ряда как бы “на себя”, т.е. на логику предыдущей математической последовательности. Рекуррентной называется функция управления, в которой кроме прямой связи от логически менее удаленного элемента к более удаленному имеются обратные связи (рекурсии). При этом под рекурсией подразумевается обратная причинно-следственная (противоположная прямой) связь от логически более удаленного элемента структуры к менее удаленному [8].

Построение рекуррентной модели начинается с корневой вершины, которой является непосредственно система ИИ, которая, по мнению разработчиков, должна реализовывать технологии ИИ. Они и должны составлять предметную область модели. Рассмотренные ранее определения [4, 5] не позволяют конкретно определиться с этим термином для поиска ответов на вопросы о том, каким же образом следует тестировать эти технологии или какие их составляющие следует подвергать испытаниям. Толковые словари трактуют термин “технологии” как “совокупность чего-либо”, т.е. это комплексное понятие, состоящее из элементов. В работе представлена попытка разобраться с набором возможных составляющих, образующих технологии ИИ. В качестве отправной точки для анализа следует взять все‑таки определение [5], в котором упоминаются “компьютерное зрение, обработка естественного языка, распознавание и синтез речи …”, которые, как определяется в другом стандарте [3], классифицируются как свойства или способности ИИ. На первом шаге следует определиться с первичными системными признаками, которыми обладает объект исследования – система ИИ. Анализ нормативно-технических источников показывает, что к таким признакам нужно отнести следующие понятия [3, 4], семантическое толкование которых предоставляют словари [9].

Свойство – качество, признак, составляющий отличительную особенность кого-нибудь или чего-нибудь.

Характеристика – совокупность отличительных свойств кого-либо или чего-либо.

Способность – умение осуществлять данную деятельность. Способность определяется рядом характеристик, описывающих функциональные аспекты производственных ресурсов или системы.

Технология – совокупность методов и инструментов для достижения желаемого результата, в более широком смысле – применение способностей для решения практических задач.

Если провести семантический анализ перечисленных терминов, то первоначально представляется логичным, что смысловые последовательности нужно структурировать по классификационным признакам (рис. 2а). Например, свойства и способности рассматриваются независимо друг от друга. Более детальное изучение содержания стандартов (проекта стандарта) показало нецелесообразность этой сепарации. Дело в том, что определения [3, 4] не все укладываются в эту схему. Поэтому предлагается свойства, характеристики и способности поместить на один иерархический уровень графа модели предметной области (рис. 2б) и объединить их в одно множество под обобщенным названием “технологии системы ИИ”.

Рис. 2.

Схема, поясняющая декомпозицию первичных признаков системы ИИ.

Как логический вывод формулируется определение, которое позволит определиться с поиском подхода к испытаниям. Технологии ИИ – это комплекс технологических решений, характеризующий свойства и способности системы ИИ, обеспечивающие достижение конкретных практических результатов, получение которых возможно как минимум вследствие задействования интеллектуальной деятельности человека. Этой дефиницией завершается первый этап декомпозиции.

Перед тем, как продолжить формирование модели, следует обратить внимание на несоответствие отдельных определений [4] общепринятым трактовкам. Например, “надежность системы ИИ – свойство вызывать доверие, включает: доступность, отказоустойчивость, безопасность, приватность”.

После того, как определился состав первого иерархического уровня модели, логично перейти к более подробной детализации ее состава. Для этого выполняется второй этап декомпозиции предметной области. Сейчас в качестве декомпозиционного признака необходимо использовать не семантическое толкование, а технологическое предназначение. Необходимо структурировать предметную область в соответствии с определением технологий ИИ, которое ориентируется на достижение практических результатов, потому что целью ФЦП как раз является формирование предложений по организации испытаний конкретных действий, выполняемых РТК именно за счет технологий ИИ. Проведенная систематизация определений [3, 4] поясняется схемой на рис. 2. Вторым уровнем иерархической системы рекуррентной модели будет являться структурированная предметная область технологий ИИ. Естественно, на рис. 2 представлен неполный перечень технологий ИИ, который может быть реализован в РТК. Формирование такого списка с дефиницией каждой технологии представляется отдельным направлением исследований.

Следующий шаг в формировании рекуррентной модели – непосредственный переход к функциям, для выполнения которых задействуются технологии ИИ. То есть необходимо провести разделение комплексной цели РТК на элементарные функции для последующего анализа возможности применения технологий ИИ для их реализации. Если в качестве наглядного примера рассматривать бытовой робот-пылесос, то предлагается оценить возможность поиска путей испытаний для следующих функций, поясняющихся схемой (рис. 3). В качестве примера выбраны две функции:

Рис. 3.

Схема, поясняющая структуру формальной рекуррентной модели.

– распознавание предметов на полу (которые могут препятствовать уборке, как то: провода, обувь, предметы одежды и т.п.);

продолжение уборки после подзарядки (робот запоминает, на каком моменте прервался процесс уборки).

На каждую из перечисленных функций по очереди “примеряют” технологию из предметной области (предшествующий, второй уровень иерархической структуры). При этом проводится оценка возможности организации испытаний конкретно этой технологии в процессе практической реализации одной из целевых функций. Рекуррентность (свойство обладания рекурсией) показывает, что модель обладает локальными обратными связями. Таким образом, если какая-либо из технологий ИИ не реализуется посредством рассматриваемой функции, то путем элементарного перебора проводится переход к следующей технологии.

Требования нормативных документов определяют, что испытания РТК представляют собой процессы проверки выполнения заданных функций комплексов, проверки соответствия требованиям технических заданий их количественных и качественных характеристик, выявления и устранения недостатков в их действиях. Эти требования выполняются, если организовать функциональные испытания, содержание которых заключается в определении значений показателей назначения объекта. Организатор испытаний должен создать условия для проверки выполнения заданных функций. Возможно, речь пойдет о разработке специализированного полигона, на котором будут искусственно воссоздаваться условия, максимально приближенные к тем, в которых предстоит функционировать испытуемому РТК.

Применительно к одной из целевых функций бытового робота-пылесоса “распознавание предметов на полу” предлагается в качестве примера упрощенный подход для тестирования. Так как основной технологией ИИ, подлежащей испытанию, является “компьютерное зрение”, которое характеризует способность функциональной единицы получать, обрабатывать и интерпретировать визуальные данные [3, 4], вполне корректно в качестве теста предложить распознать предварительно обученной нейронной сети РТК различные предметы одежды в сочетании с бытовым мусором, расположенным в случайном (или определенном) порядке на площадке специально оборудованного полигона. Затем оценить ошибки, допущенные системой управления комплекса при прохождении этого теста.

ЗАКЛЮЧЕНИЕ

Таким образом, по мнению авторов, дальнейшие исследования в этом направлении по более детальному распределению технологий ИИ по возможным целевым и вспомогательным функциям РТК различного назначения позволят заложить методологические основы для разработки методик испытаний комплексов именно в части технологий ИИ.

Наиболее перспективным представляется направление по разработке программных модулей, в которые будут входить онтологические представления технологий ИИ и формализованные модели функциональных испытаний для задействования технологий ИИ в реализации возможности объектно-ориентированного программирования для разработки методик испытаний РТК.

Список литературы

  1. http://www.tadviser.ru

  2. http://www.hacker-lab.com

  3. ГОСТ Р 59277-2020. Системы искусственного интеллекта. Классификация систем искусственного интеллекта. М.: Стандартинформ, 2020. С. 11.

  4. ГОСТ Р (проект, первая редакция). Информационные технологии. Искусственный интеллект. Понятия и терминология. http://www.docs.cntd.ru

  5. ГОСТ Р 59869-2021. Информационно-коммуникационные технологии в образовании. Интеллектуальные системы обучения. Общие положения. М.: Стандартинформ, 2021. С. 8.

  6. https://www.apr.moscow/content/data

  7. http://www.mydocx.ru/2-43969.html

  8. https://www.proza.ru/2020/10/09/546

  9. https://www.dic.academic.ru

Дополнительные материалы отсутствуют.