После того, как системы искусственного интеллекта и машинного обучения с успехом застолбили себе место под солнцем в маркетинге, производстве фото- и видеоконтента, написании текстов и статей, пришло время задуматься, как использовать его в сферах с высоким уровнем ответственности — медицине, объектах критической информационной инфраструктуры, промышленности, транспорте, строительстве… Список можно продолжать еще долго.
Однако, развитие систем ИИ в фундаментальных направлениях НИОКР сдерживается фундаментальным же кризисом доверия. В отличие от классического ПО, работа нейросетевых моделей носит принципиально недетерминированный характер: результат на выходе является вероятностным, а сама модель функционирует как «черный ящик».
В поисках решения этих и других проблем, исследователи обратили внимание на то, что большая часть их решается с помощью метрологии, а именно: обеспечением единства измерений, прослеживаемостью результатов и оценкой неопределенности. Таким образом, в мире началась реализация концепции Доверенного Искусственного Интеллекта (Trustworthy AI).
В России за адаптацию концепции Trustworthy AI отвечает Технический комитет 164 «Искусственный интеллект». В его публикациях и разрабатываемых ГОСТах заложены те же базовые принципы, о которых мы говорим (техническая надежность, прозрачность, прослеживаемость).
Для реализации принципов Доверенного Искусственного Интеллекта предстоит сделать еще много. Например, до сих пор отсутствует единый подход к оценке качества ИИ-систем. Для того чтобы доверять результатам работы модели, необходимо понимать происхождение используемых данных, методы их обработки и ограничения алгоритмов. Метрологический подход позволяет обеспечить прослеживаемость данных на всех этапах их жизненного цикла — от сбора до получения конечного результата.
Особое значение имеет понятие неопределенности. В классической метрологии любой результат измерения сопровождается оценкой неопределенности. Для искусственного интеллекта аналогичный подход позволяет оценивать степень уверенности модели в своих выводах и принимать более обоснованные решения. Это особенно важно в медицине, транспорте, энергетике и других областях, где ошибки могут иметь серьезные последствия.
Другим важным аспектом является воспроизводимость. Результаты работы ИИ должны быть повторяемыми при использовании одинаковых данных и условий. Для этого необходимы стандартизированные методы тестирования, валидации и сравнения моделей. Метрология предоставляет проверенные инструменты для разработки таких процедур.
Доверенный искусственный интеллект должен обладать прозрачностью, надёжностью и измеримыми характеристиками качества. Тогда метрология может стать одним из фундаментальных элементов формирования доверия к искусственному интеллекту. Её методы позволяют не только оценивать качество ИИ-систем, но и создавать основу для их безопасного и ответственного применения в будущем. Для достижения этой цели требуется сотрудничество специалистов по ИИ, метрологов, разработчиков стандартов и регулирующих органов.
