Промышленность живет в условиях растущих киберугроз, а добавление искусственного интеллекта в производственные процессы только усиливает нагрузку на систему безопасности, заявил эксперт. По словам Дождева, ИИ уже помогает ускорять подготовку производства, проектирование и моделирование, и это касается машиностроения и других отраслей, но вместе с пользой появляются и новые уязвимости.
Владимир Дождев подчеркнул, что в промышленности проблема информационной безопасности никуда не делась. По его оценке, значительная доля кибератак сегодня приходится именно на промышленный сектор, а число инцидентов на предприятиях измеряется уже десятками тысяч. В случае с ИИ риски становятся еще сложнее: речь идет не только о заражении и подмене моделей, но и о незаметной для пользователя корректировке выходных данных.
Отсюда, по его словам, следует первый принцип внедрения промышленного ИИ: его нельзя использовать как «черный ящик». Искусственный интеллект должен быть встроен в общую систему управления предприятием и учитывать работу с данными, приложениями, человеческим фактором, аппаратной частью, электронной компонентной базой, а также регламенты и политики безопасности.
Второй принцип, который обозначил Дождев, – недопустимость передачи машине конечного решения в критических процессах. На особо опасных производственных объектах, как он отметил, последнее слово должно оставаться за человеком. Именно человек должен сохранять право на окончательное решение в ситуациях, где ошибка может привести к серьезным последствиям.
Третьим важным вопросом спикер назвал обмен промышленными практиками и моделями. По его словам, в открытом доступе сегодня крайне мало проверенных и валидированных решений, хотя такие модели представляют большую ценность и не всегда являются коммерческой тайной компаний-разработчиков.
«У нас крайне мало проверенных и доверенных моделей в открытом доступе – практически нет верифицированных, валидированных моделей», – заявил он.
Также Дождев призвал делиться наработками между предприятиями и отраслями, чтобы ускорять внедрение технологий и снижать число ошибок.