Нужна ли «Кибердеревне» кибербезопасность: ИИ, IoT и роботизация в сельском хозяйстве

Уже смотрели нашумевший сериал «Кибердеревня»? Сказка, скажете вы? С одной стороны, можно сказать и так, а с другой, многие из атрибутов этой сказочной «кибердеревни» уже внедрены в реальное сельское хозяйство! Роботы, Интернет вещей, искусственный интеллект - всё это уже сегодня используется на агропромышленных предприятиях по всему миру.

В статье автор подробно раскрывает эту сторону функционирования современных ферм, а также подсвечивает важный аспект, которому было уделено не так много внимания в сериале - кибербезопасность.

1. Сериал «Кибердеревня» и наша жизнь

2. Реалии современного сельского хозяйства: ИИ, IoT, продовольственная безопасность

3. Российский опыт: ИИ и IoT на свинофермах и молочных фермах

4. Не все так безопасно как вы думаете: угрозы ИБ

5. Выводы

Сериал «Кибердеревня» и наша жизнь

Этой осенью на «Кинопоиске» вышел комедийный фантастический сериал «Кибердеревня». Если честно, посмотрела первые серии с большим интересом. Еще задолго до выхода полноценного сериала мне встречались вирусные ролики про Кибердеревню на YouTube и в соцсетях. Мы внутри IT-комьюнити даже делились ими друг с другом как своеобразным юмором или сатирой на айтишную действительность. Мол, смотрите, как все это (интернет вещей, искусственный интеллект, дроны, роботы и т.д.) прикольно выглядит в нашем традиционном антураже отечественного сельского хозяйства. Айтишная общественность в социальных сетях только смеялась и не воспринимала показанное всерьез.

Не хочу выкладывать здесь спойлер на сериал, советую его посмотреть лично. Поэтому о сюжете расскажу кратко. Действие происходит аж в 2100 году. Покорен Марс, и там «яблони цветут», т.е. обустроена полноценная «киберферма». На производстве и в сельском хозяйстве массово внедрены роботы, которые выполняют за человека всю (или почти всю) работу. Везде используется Интернет вещей (датчики, развитая телеметрия), широко применяются дроны, а всем этим заправляет искусственный интеллект. На этом фоне разворачивается драма с участием двух друзей, бывших стартаперов, один из которых нынче «успешный бизнесмен», а другой — изобретатель и владелец вышеупомянутой «киберфермы». Так как у нас здесь не рецензия на фильм, то дальше про переплетения сюжета рассказывать не буду, смотрите сам фильм. Отмечу только, что, увы, как всегда, социальные реалии серьезно отстают от научно-технического прогресса. Быт в «кибердеревне» какой-то убогий, как и сейчас в обычной деревне. Масштабная роботизация вызвала сильную безработицу, проблема которой никак не решается. Если в наши дни большинство граждан увязли по уши в кредитах, то будущие поколения — «в подписках», т.е. экономика шеринга на практике ничего хорошего не принесла людям (как я и думала). Да и психологические проблемы «в семейных отношениях» перенесены уже на продвинутых чат-ботов, которые изображены в сериале в виде голограмм.

О чем я задумалась, когда смотрела сериал и эти вирусные ролики? А насколько вообще реально все показанное в наших современных условиях? Это фантастика про будущее, или что-то из инноваций в «Кибердеревне» уже сейчас возможно применить в сельском хозяйстве? И, как оказалось, многое из увиденного мной применяется уже сейчас, причем не только за границей, но и в России. А тут как раз и проект на подобную тему попал мне в работу, так что пришлось погрузиться в проблему, изучить как отечественный, так и зарубежный опыт. Материала накопилось немало, поэтому некоторую часть его решила изложить в виде этой статьи. Итак, переходим от фантастики в кино к жизненным реалиям.

Реалии современного сельского хозяйства: ИИ, IoT, продовольственная безопасность

Для начала посмотрим, какие глобальные проблемы ждут отрасль сельского хозяйства. Рост населения на планете, изменение климатических условий, уменьшение количества земель, подходящих для обработки — все эти факторы бросают вызов как фермерам, так и крупным аграрным предприятиям. Для обеспечения продовольственной безопасности как отдельных стран, так и всей нашей цивилизации в целом, необходимо как-то интенсифицировать эту отрасль, не забывая про экологические проблемы, дефицит воды и плодородность почв.

А говоря проще, работая старыми технологиями отцов и дедов, больше не прокормить все возрастающее количество населения, да еще и при глобальных проблемах с климатом. Задача состоит в том, чтобы увеличить мировое производство продуктов питания на 50% к 2050 году для того, чтобы накормить еще два миллиарда человек (это предполагаемый прирост количества населения на Земле). Как эту задачу решать? На ум сразу приходят альтернативные способы производства продуктов: выращивание искусственного мяса, изготовление полностью синтетических продуктов питания, употребление насекомых в пищу. Звучит отталкивающе и даже пугающе. Так пугающе, что некоторые страны превентивно запрещают такие технологии, к примеру Италия.

Однако есть и более рациональные способы интенсификации современного сельскохозяйственного производства — это внедрение систем искусственного интеллекта, IoT, роботизации и других ИТ-технологий. Но это же как раз все то, что мы видели в сериале «Кибердеревня»!   Решения на базе искусственного интеллекта не только позволят фермерам и агропредприятиям повысить эффективность своего производства, но также улучшат количество и качество продуктов питания, обеспечат более быстрый вывод на рынок новых сельскохозяйственных культур. Ниже расскажу о том, что уже применяется в мировом сельском хозяйстве.

Например, с целью экономии средств некоторые фермеры используют ИИ для интеллектуального распыления химикатов. Ежедневно фермы собирают большие массивы данных о температуре, почве, использовании воды, погодных условиях и т.д. С помощью моделей машинного обучения эти данные используются в режиме реального времени для сбора и обработки полезной информации, например, для выбора правильного времени для посева, определения подходящих культур для посадки, подбора гибридных семян для получения большего урожая и т.п. Системы искусственного интеллекта помогают улучшить общее качество и повысить точность сбора урожая. ИИ служит для выявления болезней растений, насекомых-вредителей и некачественных кормов для животных на фермах. Все это возможно с помощью датчиков промышленного Интернета вещей (IoT).

Датчики промышленного IoT могут собирать информацию о вредных сорняках на полях, затем эти данные будут обработаны нейросетью на сервере и помогут фермеру подобрать правильный гербицид для применения в данном регионе. Это помогает сократить использование гербицидов и сэкономить средства. Некоторые технологические компании разработали роботов, которые используют компьютерное зрение, IoT и искусственный интеллект для мониторинга и точного опрыскивания химикатами сорняков. Такие роботы способны снизить расход гербицидов на 90%. Эти интеллектуальные опрыскиватели могут значительно сократить количество химикатов, используемых на полях и тем самым улучшить качество сельскохозяйственной продукции и повысить экономическую эффективность.

Помните роботов в «Кибердеревне»? Так вот, использование роботов на базе искусственного интеллекта для сбора урожая на фермах во многих странах Европы и США уже привычное дело. Вы думаете, что во всём мире на сборе урожаев трудятся мигранты из неблагополучных стран? Это не совсем так. В технологически продвинутых странах уже применяются автономные машины для сбора клубники и специальный вакуумный аппарат, который может собирать спелые яблоки с деревьев. Такие машины используют датчики IoT, машинное зрение и модели искусственного интеллекта, чтобы определить местонахождение собираемой продукции и помочь выбрать правильные фрукты.

Учитывая всё более активное использование роботов в сельском хозяйстве (что ежегодно фиксирует в своих отчётах и IFR — Международная федерация робототехники) можно сделать однозначный вывод: роботы на службе агропрома — это фактически уже наша реальность, а не какие-то футуристические фантазии.

Еще одно перспективное направление — прогнозная аналитика. Это про то, когда правильно сеять, а когда собирать урожай. Нейросети помогают правильно рассчитать сроки посевов с учетом колебания прогноза погоды на 7 дней.

С помощью таких технологий, как Big Data, ИИ и машинное обучение, компании могут обнаруживать заражения вредителями и болезнями, оценивать урожайность томатов, к примеру, а также прогнозировать цены. Они могут помочь фермерам и правительствам определить будущую структуру цен, уровень спроса, тип культуры, которую следует сеять для получения максимальной выгоды, использование пестицидов и т. д.

Мы привыкли, что IT-стартапы — это какие-то навороченные сервисы для работы в Интернете. Однако это не всегда так. В «Кибердеревне» правильно определили направление для стартапов будущего — это… сельское хозяйство. К примеру, берлинский сельскохозяйственный технологический стартап Peat разработал многоязычное приложение Plantix для диагностики болезней растений и вредителей, которое использует фото растений для обнаружения болезней. С помощью смартфона фотографируется растение, и это изображение сопоставляется с изображением на сервере, а затем ставится диагноз конкретного заболевания и «производится лечение» с помощью интеллектуальной техники распыления химикатов. Таким образом, приложение использует машинное обучение для решения проблем с болезнями растений. Более семи миллионов фермеров загрузили это приложение, и оно помогло выявить примерно 385 болезней полевых культур, фруктов и овощей.

В общем, зарубежный опыт меня очень даже порадовал. Похоже, не придется нам ждать до 2100 года (кто доживет ещё), чтобы узреть «Кибердеревню» в нашей жизни. А что же в России? А вот это я узнала уже на собственном опыте, который опишу в следующей главе.

Российский опыт: ИИ и IoT на свинофермах и молочных фермах

Надо отметить, что «кибердеревня» в Российской Федерации на данном этапе будет реализована пока только на крупных аграрных предприятиях: на свиноводческих комплексах и промышленных молочных фермах крупного рогатого скота. Сейчас кратко расскажу, с какими технологиями удалось уже поработать. В России данной тематикой занимаются как научные институты, так и коммерческие компании. Хочу привести в пример такую разработку как программно-аппаратные комплексы мониторинга технологической обстановки на свиноводческих комплексах. С помощью подобных ПАК решается проблема мониторинга состояния животных, процессов их развития, обнаружения отклонений от нормы в привязке к режимам ухода в круглосуточном режиме.

Если пояснить проще, то с помощью датчиков промышленного IoT на свиноферме собирается массив первичных данных (это фото, видео, аудио данные), которые показывают этапы индивидуального развития животного, факторы отклонения от нормы, локальный микроклимат и т.д. Затем эта информация получает привязку ко времени и пространству, синхронизируется с другими событиями. После этого модель машинного обучения производит интеллектуальный анализ этих данных и выдает результаты, в том числе, может оповещать работников свинокомплекса.

Кстати, если вновь вернуться к «Кибердеревне», то там тоже было нечто похожее на систему мониторинга, когда на экране возле загона для коров демонстрировались такие показатели как «заполнение молоком» и «настроение», а у кур даже оценивалось психологическое состояние, влияющее на яйценоскость. Так что, тут создатели сериала тоже недалеко ушли от реалий.

А сейчас давайте посмотрим, из каких технических устройств состоит подобный ПАК на той же свиноферме:

1. Роботизированный манипулятор (напольный колесный робот транспортер);

2. Блок сенсоров (видеокамеры машинного зрения, акустический цифровой микрофон, датчик температуры, влажности и концентрации СО2, осветитель ИК-диапазона);

3. Сеть передачи данных (СПД);

4. Узел хранения и обработки данных (серверная часть, ОС, системное и прикладное ПО, управляющая программа);

5. Система гарантированного электропитания;

6. Зарядная станция;

7. Зона транспортная для перемещения роботизированного манипулятора.

Далее посмотрим на «программную начинку» этого ПАК. Собственно, состав прикладного ПО должен быть следующий:

• Общая управляющая программа ПАК;

• Управление роботизированной платформой;

• Управление блоком сенсоров;

• Интеллектуальный анализ сенсорной информации (на основе глубоких нейронных сетей);

• Блок формирования отчётности и оперативных оповещений;

• Пользовательский интерфейс.

В качестве основного нейросетевого фреймворка можно взять PyTorch.  PyTorch — фреймворк машинного обучения для языка Python с открытым исходным кодом, созданный на базе Torch. Как раз то ПО, что нужно для решения задач машинного зрения.

В общем, я попыталась пояснить кратко (без привязки к разработчикам и конкретным разработкам), как ИИ и IoT применяется уже сейчас на современных агропредприятиях.

Может показаться, что все идет неплохо с внедрением «кибердеревни» в реальное сельское хозяйство, и скоро везде будет ИИ, который нас «и накормит, и спать уложит». Однако научный прогресс так просто и гладко не происходит никогда и нигде… Мы просто еще не затронули тему информационной безопасности, которая возникает везде, где есть какие-либо IT-решения. Кстати, в сериале ее как-то тоже не затрагивают, особенно в первых сериях и в роликах.

Не все так безопасно, как вы думаете: угрозы ИБ

«Кибердеревня» или «Умная деревня», как и «Умный город» — это всё элементы Индустрии 4.0. (шестого промышленного уклада). В Индустрии 4.0 все процессы контролируются в режиме реального времени и учитывают изменяющиеся внешние условия (выше мы рассмотрели этот факт на примере сельского хозяйства). И конечно же, более умные машины могут работать в режиме самоконтроля и самодиагностики. Как было рассмотрено выше, некоторые аспекты автоматизации (ИИ, IoT, роботы и т.д.) уже активно используются в современном сельском хозяйстве, к примеру, для того же мониторинга на свинофермах. Как следствие, внедрение «умных технологий» влечет за собой и увеличение риска атак на них. Все компоненты подобной интеллектуальной системы взаимосвязаны (это видно на примере ПАК для свинокомплекса). Датчики IoT и приемники сигналов могут быть обмануты путем преднамеренной манипуляции с сигналом. Компьютерное зрение на умном устройстве можно обмануть с помощью манипуляций с изображениями.

Основная опасность атак на автоматизированную систему в сельском хозяйстве — это перемещение злоумышленника по всей сети при первоначальной атаке на один из ее компонентов. Таким образом, подобные атаки могут повлиять как на работу автоматизированного оборудования, задействованного в производственных процессах, так и на технологический процесс в целом.

Кроме того, интеллектуальные системы в сельском хозяйстве используют для своей работы большой объем информации, которая может быть украдена злоумышленниками, например, это данные о технологиях, персональные данные или информация о самих умных системах и их алгоритмах.

Вообще, рассматривая проблему информационной безопасности в сельском хозяйстве, зададим себе вопрос: кому и для чего выгодно в этой области создавать угрозы ИБ? Ответ очень простой.  Не стоит забывать, что АПК — стратегически значимая отрасль для государства. Развитое сельское хозяйство — это залог продовольственной безопасности региона или страны в целом. А в условиях, когда мы имеем дело с действительно крупными агрохолдингами, занимающими серьезные доли рынка, бесперебойная работа таких предприятий действительно становится вопросом государственной важности.

В автоматизированном и интеллектуальном сельском хозяйстве угрозы ИБ могут обрушить сложившиеся цепочки поставок продукции, тем самым подорвать продовольственную безопасность. Результаты действий злоумышленников очень негативны для сельхозпредприятий. Нарушения цепочек поставок продукции приводят к ее порче и убыткам для компании, в результате чего даже могут упасть в цене акции на бирже. Вредоносное ПО, например программа-вымогатель, может полностью нарушить финансовую деятельность фермера или компании, так как огромный выкуп, который требуют мошенники, просто загонит такую компанию в долги. 

И нужно заметить, что это уже не какие-то гипотетические угрозы. Атаки на предприятия АПК — и в России, и за рубежом — учащаются с каждым годом. Можно даже не ходить так уж далеко и обратиться к недавним отечественным кейсам. Например, в марте 2022 года агропромышленный гигант «Мираторг» сообщил об атаке на информационные системы компании, в результате чего была нарушена работа 18 предприятий, входящих в холдинг и были понесены серьезные убытки. Незадолго до этого было взломано оборудование агрохаба «Селятино». Получив контроль над морозильным цехом, злоумышленники едва не испортили 40 тыс. тонн замороженной мясной и рыбной продукции, но служба безопасности предприятия вовремя среагировала на проникновение и не допустила серьезных последствий.

Кстати, по данным американской ИБ-компании CrowdStrike от 2021 года, из 160 хакерских группировок, чью активность они отслеживали, 13 группировок специализировались именно на сельском хозяйстве. Рассмотрим более детально типы угроз, которые направлены на сельскохозяйственные предприятия:

1. Вредоносная реклама — это реклама, под видом которой распространяется вредоносное ПО. Рассчитана на пользователей мобильных устройств (сотрудников сельхозпредприятий), которые возможно перейдут по ссылке и заразят свое устройство вирусом.

2. Фишинг и социальная инженерия. С помощью фишинговых писем хакеры надеются получить доступ во внутреннюю сеть сельскохозяйственного предприятия.

3. Программы-вымогатели представляют собой тип вредоносного программного обеспечения, которое шифрует данные на зараженном устройстве. Затем киберпреступники требуют от пользователя деньги в обмен на доступ к его собственным файлам. Срочный характер сельскохозяйственных операций делает компании агросектора особенно уязвимыми для таких атак, поскольку они не могут позволить себе их «переждать». К слову, именно через троян-шифровщик был атакован «Мираторг».

4. Ботнеты — это группа связанных устройств, которыми можно управлять удаленно. Подобные атаки особенно опасны для компаний, использующих дроны или робототехнику. Ботнеты часто применяются для нанесения вреда, уничтожения сельскохозяйственного оборудования или нарушения бизнес-процессов в сельском хозяйстве.

5. Кража учетных данных. Преступники могут осуществлять «захват учетных записей» сотрудников, таким образом они получают доступ к критически важным системам, данным или элементам управления.

6. Уязвимости Интернета вещей. Cельскохозяйственные компании все больше полагаются на устройства IoT и другие интеллектуальные технологии, а эти устройства часто становятся объектами атаки. Представим, что некоторые устройства IoT скомпрометированы. Это приводит к неправильному сбору данных о сельскохозяйственных культурах, далее неправильные данные обрабатываются нейросетью и на выходе уже будут представлены неправильные рекомендации по уходу за растениями или животными. В результате пострадает урожай, будут нарушены цепочки поставок продукции или процессы ее обработки.

7. Внутренние угрозы исходят от самих сотрудников компаний, которые злоупотребляют своими правами доступа в корпоративные системы. Такие нарушения приводят к «сливу информации» конкурентам, передаче конфиденциальной информации злоумышленникам, хищениям интеллектуальной собственности компании.

8. Развитая устойчивая угроза (APT-атака). Во время такой атаки злоумышленники достаточно долго находятся внутри периметра корпоративной сети. Такие атаки дороги и сложны в подготовке. Готовят их крупные преступные группировки, корпорации, даже государственные структуры. Делается это с целью кражи особо ценной интеллектуальной информации, а в сельском хозяйстве — с целью нарушить продуктовую безопасность целого государства.

9. Распределенные атаки типа «отказ в обслуживании» (DDoS). Как правило, ранее подобным атакам были подвержены онлайн-сервисы и веб-сервера. В сельском хозяйстве оборудование для точного земледелия, зависящее от датчиков IoT, подключенных по незащищенным беспроводным сетям, является основной мишенью для подобного вида атак.

10. SQL-инъекция — это атака на уязвимый веб-сервер. Злоумышленник отправляет запрос специального типа, а в ответ получает конфиденциальную информацию (учетные данные пользователей, номера кредитных карт и т.д.).

11. Атаки на цепочки поставок. В этом случаи злоумышленники используют уязвимости во всей цепочке поставщиков и дистрибьюторов продукции. В результате чего может быть полностью нарушена поставка продуктов питания, сами продукты могут быть испорчены или подменены поддельными и т.д.

Кроме вышеперечисленных общих угроз ИБ, есть еще специфические атаки на модели машинного обучения и нейросети. Немного остановимся на них. Основные виды атак на модели машинного обучения (МО):

• уклонение;

• отравление модели МО;

• троянские атаки;

• бэкдор-атаки.

Конечно же, тема атак на модели машинного обучения столь обширна, что является предметом для отдельной статьи. Поэтому здесь я расскажу про наиболее опасный вид атак на модели МО — бэкдор-атаки. Нейронные сети глубокого машинного обучения, на которых базируются интеллектуальные ПАК для сельского хозяйства, показывают высокую производительность и эффективность. Но вот процесс обучения таких нейросетей достаточно затратен и требует больших вычислительных мощностей. Поэтому разработчики часто передают это дело на аутсорсинг. И вот здесь и кроются потенциальные угрозы ИБ. В результате подобного «обучения на аутсорсинге», модель МО может попасть в руки к злоумышленнику, который вернет «обученную модель» с программной закладкой-бэкдором. После обучения подобная нейросеть почти во всех случаях срабатывает правильно, пока не получит на входе бэкдор-триггер. В таком случае, модель на выходе вызывает целевые или случайные неправильные классификации объектов. Таким образом, можно обмануть системы машинного зрения, которые используются в умных ПАК в сельском хозяйстве. Это очень краткое объяснение сути подобной атаки. Предотвратить такую атаку возможно специализированными методами защиты, такими как «обрезка». Суть метода обрезки в том, что защитник может отключить бэкдор, перемещая и обрезая нейроны, которые находятся в состоянии покоя (т.е. не задействованы в работе нейросети)*.

Хотя это большой вопрос — стоит ли вообще доверять такой нейронной сети и её поставщику при обнаружении закладок во время тестирования? Возможно, в таком случае лучше просто найти другую компанию для обучения нейронной сети.

*Немного поясню про метод "обрезки" нейронов. Производительность нейросети увеличивается с увеличением количества слоев и нейронов.

Поэтому необходимо разработать оптимальную архитектуру сети, чтобы снизить затраты на вычисления и память.  Обрезка нейронов при разработке нейросетей используется для повышения производительности и удалении избыточных нейронов с нулевыми весами. Чтобы исправить зараженную нейросеть, разработчик должен идентифицировать нейроны, которые связаны с закладкой  и просто удалить их (обрезать). Есть второй вариант: установить выходное значение этих нейронов равным нулю во время логического вывода.

Какие же меры принять по противодействию угрозам кибербезопасности в сельском хозяйстве? Как можно сделать вывод из вышеуказанных примеров угроз, сельхозпредприятия крайне уязвимы перед угрозами ИБ. Конечно же, на каждом предприятии должна быть выработана политика безопасности на основе стандартов и нормативных документов (как международных, так и региональных). Но, помимо таких глобальных мероприятий, важны и чисто технические и организационные меры:

1. Надежная аутентификация, применение двухфакторной аутентификации (2FA), внедрение правильных методов хранения паролей и учетных данных.

2. Cybersecurity awareness — повышение осведомленности сотрудников о вопросах кибербезопасности. Это способствует превращению сотрудников из «самого слабого звена» в системе в реальную силу, которая снизит количество внутренних угроз.

3. Внедрение методов резервного копирования и протоколов восстановления информации.

4. Ограничение доступа сотрудников к критически важным системам и модулям.

5. Применение методов безопасной разработки (важно на этапах разработки приложений, ПАК и т.д.).

Выводы

Итак, показанное в сериале «Кибердеревня», не является только фантастикой или прогностикой. Некоторые технологии в сельском хозяйстве применяются уже сейчас — ИИ, машинное обучение, Интернет вещей, роботизированные комплексы и т.д. Пока не видно широкого применения дронов, но, скорее всего, это обусловлено сильной зарегулированностью этой сферы и отсутствием массового производства этой техники в странах СНГ. Еще одна интересная тема, которую я пока оставила за скобками в этой статье — это отношения человека с чат-ботами на базе ИИ, которые освещены в сериале. Пока еще чат-боты не развиты так, как показано в фильме, но каждый из вас может попробовать «наладить отношения» с Chat-GPT или посмотреть одну из последних презентаций Copilot в исполнении CEO Microsoft.

Также хочется отметить, что при внедрении ИИ и Интернета вещей в сельском хозяйстве всегда надо учитывать аспекты информационной безопасности, так как любая техническая система имеет уязвимости, связанные с проектированием, разработкой, внедрением и эксплуатацией. А там, где есть уязвимость – там и злоумышленники, которые могут реализовать угрозы ИБ. Ну и, конечно же, всегда надо понимать, что научно-технический прогресс не означает автоматически прогресса в социальных отношениях в обществе, это тоже показано в сериале. Ведь, как наглядно показали создатели сериала, прогресс науки и технологий не означает автоматического прогресса в обществе и взаимоотношениях людей.

Автор: Артамонова Елена

Сайт Rad Cop: https://radcop.online

Telegram: https://t.me/radcop_online

ВКонтакте: https://vk.com/radcop.online