Автор Анна Евкова
Преподаватель который помогает студентам и школьникам в учёбе.

Цифровая экономика. Искусственный интеллект (ТЕОРЕТИЧЕСКИЕ АСПЕКТЫ ЦИФРОВОЙ ЭКОНОМИКИ)

Содержание:

ВВЕДЕНИЕ

В постиндустриальном обществе (при переходе к шестому технологическому укладу) цифровые технологии постепенно становятся неотъемлемой частью каждой сфер повседневной жизни. В современном мире управление любой системой без широкого применения средств информационного и компьютерного обеспечения невозможно назвать эффективным. За последние двадцать лет информационные сети, такие как Интернет, укрепились не только в сфере частной связи - они стали одним из основных способов корпоративной и региональной коммуникации. В наше время трудно представить функционирование всех сфер жизни без помощи электронных, компьютерных, сетевых и множества других важных автоматизированных технологий. Начиная с общения и приобретения покупок и заканчивая производством товаров и самостоятельной работой фирмы - всё переходит в цифровую среду. Человечество вступило в эпоху глобальных перемен. В ближайшее время получат новую форму и содержание основные сферы его жизнедеятельности - экономика и управление, наука и безопасность. Человек станет другим, что повлечет за собой трансформацию социальных отношений. Дальнейшее проникновение цифровых технологий в жизнь - одна из характерных особенностей будущего мира. Это обусловлено прогрессом в областях микроэлектроники, информационных технологий и телекоммуникаций.

Актуальность темы исследования заключается в том, что цифровизация всех сегментов экономического цикла представляет собой фундаментальный глобальный тренд, от своевременного внедрения которого в экономическую практику зависит стратегическая конкурентоспособность российской экономики и базовая экономическая безопасность региона.

Объектом исследования является цифровая экономика.

Предметом работы является функциональное взаимодействие искусственного интеллекта с отраслями цифровой экономики.

Цель работы: исследование сущности и содержания цифровой экономики, проведение аналитического исследования различных аспектов цифровизации экономики РФ и выработка обоснованных предложений по повышению эффективного развития цифровой экономики по основным направлениям развития цифровой экономики региона.

Сформулированная цель предопределила спектр задач курсовой работы:

- раскрыть понятие и сущность цифровой экономики;

- определить основные предпосылки развития цифровой экономики и искусственного интеллекта;

- охарактеризовать тенденции развития искусственного интеллекта в России;

- провести анализ внедрение цифровой экономики и искусственного интеллекта в горнодобывающие компании;

- определить использование ERP в компании ПАО «ГМК «Норильский никель»;

- провести анализ распространения цифровых технологий в экономике России;

- разработать методы по устранению рисков путём использования искусственного интеллекта.

Цель и задачи работы обусловили её структуру.

Курсовая работа состоит из введения, двух глав, заключения и списка литературы.

Теоретическую базу составили монографии, учебники, статьи, статистические данные Международный банк реконструкции и развития. Исследование строилось на основе системного, комплексного и логического подходов. В процессе работы использовались методы анализа, экспертные методы, сравнительный метод и др.

ГЛАВА 1. ТЕОРЕТИЧЕСКИЕ АСПЕКТЫ ЦИФРОВОЙ ЭКОНОМИКИ

1.1 Понятие и сущность цифровой экономики

Цифровая экономика - это всемирная сеть экономической деятельности, коммерческих операций и профессиональных взаимодействий, которые поддерживаются информационно-коммуникационными технологиями (ИКТ).

Ее можно кратко охарактеризовать как экономику, основанную на цифровых технологиях.

В первые дни своего существования цифровую экономику иногда называли интернет-экономикой, новой экономикой или веб-экономикой из-за зависимости от подключения к Интернету. Однако экономисты и лидеры бизнеса утверждают, что цифровая экономика более развита и сложна, чем интернет-экономика, что по определению означает просто экономическую ценность, получаемую из Интернета.

Цифровизация в России является объективной реальностью. Она стремительно вторгается в нашу обыденную жизнь, причем отдельные элементы становятся привычными: телевидение перешло от аналога к цифровому, в поликлинике пациенту выписывают электронный больничный лист, на очереди электронные паспорта и трудовые книжки.

В международном смысле цифровая экономика представляет собой сетевую, организованную системой пространственную структуру отношений между бизнес-единицами. Он охватывает сектор создания и использования новой информации, технологий и продуктов, телекоммуникационных услуг, электронного бизнеса, электронной коммерции, электронных рынков, удаленных услуг и других компонентов.

На сегодняшний день в мире не существует единого понимания такого явления, как «цифровая» экономика, зато существует множество определений.

Так, в соответствии с указом Президента РФ от 9 мая 2017 г. № 203 «О Стратегии развития информационного общества в Российской Федерации на 2017 - 2030 годы»[1] цифровая экономика - это хозяйственная деятельность, в которой ключевым фактором производства являются данные в цифровом виде, обработка больших объемов и использование результатов анализа которых по сравнению с традиционными формами хозяйствования позволяют существенно повысить эффективность различных видов производства, технологий, оборудования, хранения, продажи, доставки товаров и услуг.

Цифровая экономика продолжает развиваться с невероятной скоростью благодаря её способности собирать, использовать и анализировать огромные объемы машиночитаемой информации (цифровых данных) практически обо всем. Такие цифровые данные собираются на основе анализа «цифровых следов», которые остаются на различных цифровых платформах в результате активности физических лиц, социальных групп или предприятий. Объем глобального трафика на основе Интернет-протокола (IP), который позволяет получить приблизительное представление о масштабах потоков данных, вырос с примерно 100 гигабайт (ГБ) в день в 1992 году до более чем 45 000 ГБ в секунду в 2019 году. И это при том, что сейчас экономика, основанная на данных, находится лишь на начальном этапе своего развития; согласно прогнозам, к 2022 году объем глобального IP-трафика достигнет 150 700 ГБ в секунду в результате появления все большего числа новых пользователей в Интернет-сети и расширения Интернета вещей.

Влияние, которое оказывает сбор и использование данных на процесс развития и политику, во многом зависит от типа соответствующих данных: персональных или обезличенных; закрытых или общедоступных; используемых для коммерческих или государственных целей; предоставляемых добровольно, получаемых путем наблюдения или экстраполируемых аналитически; конфиденциальных или неконфиденциальных. Появилась совершенно новая «цепочка создания стоимости данных», звеньями которой выступают компании, занимающиеся сбором, обобщением, хранением, анализом и моделированием данных. Стоимость создается в результате превращения данных в «цифровой интеллект» и монетизации в процессе их коммерческого использования.

1.2 Основные предпосылки развития цифровой экономики и искусственного интеллекта

Цифровая революция, охватившая мировую экономику, впечатляет масштабом, темпами и географией. Начиная с 1960-х годов цифровые инновации распространялись по миру сменявшими друг друга волнами, исходившими из научных эпицентров США, Европы и СССР.

Каждый из этих этапов был более интенсивным, чем предыдущий, охватывая новые регионы и оказывая все более заметное влияние на экономику. Переход от больших электронных компьютеров (ПК) к персональным компьютерам происходил десятилетиями, а теперь революционные изменения происходят годами и месяцами. Первым шагом к цифровым инновациям стала автоматизация существующих технологий и бизнес-процессов. Второй этап сложился в середине 1990-х годов, когда распространение Интернета, мобильной связи, социальных сетей и появление смартфонов привело к быстрому росту использования технологий конечными пользователями.

Большое количество, новых терминов, которое употребляется авторами многочисленных публикаций о цифровых технологиях, приводят к сложностям в понимании сущности явления цифровой экономики. Для определения как понятия «цифровая экономика», правомерным будет обратиться к формулировке семинара Всемирного банка 20 декабря 2019 г., где цифровая экономика была определена (среди прочих определений), как парадигма ускорения экономического развития с помощью цифровых технологий. Это определение, как и многие другие известные определения, прежде всего, имеют в виду использование ИКТ. Существует также и другие определения цифровой экономики. К примеру, доктор экономических наук, член-корреспондент РАН — Владимир Иванов[2] дает наиболее широкое определение: «Цифровая экономика – это виртуальная среда, дополняющая нашу реальность». Все наши действия в виртуальной реальности можно отнести к системе производства, распределения, обмена или потребления. Но, виртуальная реальность появилась не с созданием компьютера. Вся мыслительная деятельность человека может быть отнесена к ней.

Профессор РАН, доктор технических наук Роман Мещеряков[3] считает, что к термину «цифровая экономика» существует два подхода. Первый подход «классический»: цифровая экономика - это экономика, основанная на цифровых технологиях и при этом правильнее характеризовать исключительно область электронных товаров и услуг. Примеры – телемедицина, дистанционное обучение, продажа медиконтента (кино, ТВ, книги и пр.). Второй подход – расширенный: «цифровая экономика» - это экономическое производство и использованием цифровых технологий и искусственного интеллекта». В данном аспекте стоит рассмотреть наряду с понятием «цифровая экономика» и понятие «искусственный интеллект».

На сессии «Человек + машина: бизнес в эпоху искусственного интеллекта» направления «Технологии, приближающие будущее» Петербургского международного экономического форума — 2019[4] обсуждалось значение и место искусственного интеллекта в цифровой экономике. На представленной сессии был рассмотрен федеральный проект «Цифровые технологии».

Федеральный проект «Цифровые технологии» направлен на достижение цели национальной программы по увеличению внутренних затрат на развитие цифровой экономики и искусственного интеллекта за счет всех источников (по доле в валовом внутреннем продукте страны) не менее чем в три раза по сравнению с 2017 годом и предполагает: создание комплексной системы финансирования проектов по разработке и (или) внедрения цифровых технологий и платформенных решений, включающей в себя финансирование и иные институты развития; создание «сквозных» цифровых технологий преимущественно на основе отечественных разработок[5].

«Сквозные» технологии — это перспективные технологии, радикально меняющие ситуацию на существующих рынках или способствующие формированию новых рынков. К сквозным технологиям цифровой экономики относятся: большие данные, нейротехнологии и искусственный интеллект, системы распределенного реестра (блокчейн), квантовые технологии, новые производственные технологии, промышленный интернет, компоненты робототехники и сенсорика, технологии беспроводной связи, технологии виртуальной и дополненной реальностей.

По прогнозам экспертов НИУ ВШЭ[6], объем рынка искусственного интеллекта к 2025 возрастет в 150 раз по отношению к 2016 г. и достигнет значения в 59,7 млрд долл. США. Благодаря ИИ, к 2020 г. будет создано 2,3 млн рабочих мест; к 2022 г. 20% работников, занятых нерутинными задачами, будут полагаться на помощь ИИ; к 2025 г. 85% взаимодействий с клиентами будут управляться при помощи ИИ; к 2030 г. мировой ВВП вырастет на 15,7 трлн долл.

Выделяют два направления развития ИИ:

- решение проблем, связанных с приближением специализированных систем ИИ к возможностям человека, и их интеграции, которая реализована природой человека;

- создание искусственного разума, представляющего интеграцию уже созданных систем ИИ в единую систему, способную решать проблемы человечества.

Сферы применения ИИ — это: автоматический перевод; распознавание текстов; интеллектуальные системы информационной безопасности; получение бизнес-аналитики; извлечение информации; распознавание речи; распознавание зрительных образов; понимание и анализ текстов на естественном языке; робототехника; экспертные системы; анализ изображений и многое другое.

Основная проблема в теории ИИ — понять, почему работают нейронные сети, несмотря на то, что, с точки зрения классической математики, задача построения нейронных сетей некорректна, т.к. количество наблюдений (обучающих примеров) на несколько порядков меньше числа определяемых параметров, но, тем не менее, на практике сеть работает.

Научные исследования и примеры внедрения ИИ показывают, как компании, которые используют новые возможности ИИ, совершают технологический прорыв, получают ощутимый результат и конкурентное преимущество. ИИ не просто позволяет существенно модернизировать многие технологические и социальные процессы, делая их эффективнее (повышая производительность труда и расширяя возможности человека), он меняет саму природу труда, кардинально перестраивая процессы управления и выдвигая новые требования к набору компетенций, меняя характер взаимодействия человека и машины.

В связи с быстрым развитием технологий искусственного интеллекта и широким применением приложений на его основе, бизнесу часто задают вопросы из серии «много ли людей лишатся работы из-за искусственного интеллекта?» Например, по итогам опроса, проведенного Центром экспертизы искусственного интеллекта Edelman (Edelman AI Center of Expertise)[7] при поддержке Всемирного экономического форума (ВЭФ), 91% руководителей и 84% обычных граждан считают, что приход ИИ ознаменует новую технологическую революцию. Вместе с тем, участники обеих фокус-групп всерьез опасаются последствий внедрения ИИ для общества, бизнеса и государства. Респонденты привели целый круг возможных проблем — от умных игрушек, которые будут вторгаться в личное пространство ребенка, до ухудшения условий жизни малоимущих и утраты человеком интеллектуальных способностей[8].

Анализируя потенциал искусственного интеллекта, исследователи начали искать новые области его применения, прежде всего — в увязке с совершенствованием бизнес-процессов. Применение ИИ в этой области позволяет сделать бизнес-процессы гибкими и адаптивными, отказаться от традиционных конвейеров и перейти к идее интеграции продвинутых ИИ-систем и людей. Такой подход позволяет радикально изменить взаимодействие машины и человека, формировать интегрированные команды из роботов и людей. Такие команды способны по ходу выполнения производственных операций быстро обрабатывать большие массивы данных, усваивать новую информацию и подстраиваться под непрерывно изменяющиеся условия. Такие возможности ИИ позволяют компаниям по-новому произвести реинжиниринг своих бизнес-процессов, существенно повысить их производительность и снизить издержки. Таким образом, одно из основных направлений развития и внедрения ИИ в промышленности — реинжиниринг бизнес-процессов.

Другим направлением развития и внедрения ИИ является дополнение и расширение человеческих возможностей, когда машины выполняют то, что лучше всего они умеют (выполнение повторяющихся, монотонных задач с обработкой колоссального объема данных), а люди выполняют то, что лучше всего умеют они (работа с неоднозначной информацией, умозаключение в сложных случаях, принятие решений в условиях с высоким уровнем неопределенности, творчество и др.). Это направление принято назвать третьей волной бизнес-трансформации.

Устоявшееся представление о том, что ИИ собирается «захватить мир» и исключить присутствие человека, не соответствует действительности и должно смениться на новый взгляд, в котором не исключается присутствие человека на рабочих местах, а расширяются его возможности за счет сотрудничества с ИИ, повышая производительность человеческого труда и решая задачи, которые раньше считались невозможными.

1.3 Тенденции развития искусственного интеллекта в России

Исследованиями в области искусственного интеллекта занимаются специалисты из разных стран. Осознавая огромные перспективы высокоинтеллектуальных систем, российские разработчики также уделяют этому направлению особое внимание. В данном пункте была собрана информация о российских компаниях, занимающихся исследованиями в области искусственного интеллекта.

В первую очередь стоит рассмотреть компанию Яндекс. Компания Яндекс уже на протяжении нескольких лет применяет технологии искусственного интеллекта в своих поисковых механизмах. В настоящий момент работа ведется над созданием нейронной сети, способной вывести принцип работы поисковика на новый революционный уровень. Традиционный алгоритм поиска основан на сопоставлении содержания запроса с контентом анализируемых страниц. Безусловно, все это делается с некоторыми дополнениями и расширениями – запросы переформулируются, добавляются синонимы, переводятся на другой язык и т.д.

В новом подходе каждому запросу ставится в соответствие некое векторное число, наиболее точно отражающее его смысл. Далее поиск осуществляется по этому числу. При этом запрос и ответ могут не иметь ни одного общего слова. Все, что их будет объединять – это одинаковый смысл содержимого.

Стоит отметить, что в перспективе в векторное число смогут переводится изображения и видео, что, по словам представителей Яндекс, позволит значительно расширить границы «умного» поиска.

Совсем недавно компания Яндекс выпустила обновленную версию своего браузера, в котором технологии искусственного интеллекта позволяют персонализировать поиск в соответствии с интересами пользователя. Новый сервис получил название Дзэн.

«Несмотря на многообразие информации в сети, найти для себя что-то по-настоящему интересное не так просто. Дзен решает эту задачу. Во многом он похож на поисковую систему. Только если поиск ищет что-то определенное, то Дзен отвечает на более широкий запрос: что интересно конкретному человеку. Мы уверены, что в будущем все браузеры будут идти по пути персонализации и помогать пользователям выбирать контент», - Виктор Ламбурт, руководитель сервиса Яндекс.Дзен.

Дзэн не только учитывает то, чем традиционно интересуются пользователи, но и анализирует их текущие предпочтения. Например, если человека заинтересуется анатомией, то материалов, связанных с этой темой, в его новостной ленте станет значительно больше. При этом, Дзен не ограничивается лишь любимыми сайтами и предпочтениями пользователя. Пользователю могут предлагаться материалы из совершенно незнакомых источников, если Дзен посчитает, что они могут его заинтересовать.

Достаточно интересным является применение технологий искусственного интеллекта в сервисе Яндекс.Аудитории. Данный сервис позволяет компаниям найти в Интернете целевых клиентов с целью более эффективного таргетирования рекламных объявлений. Достаточно загрузить в сервис список клиентов с телефонами и/или e-mail адресами, и система, сканируя социальные сети с помощью искусственного интеллекта, находит этих людей в сети Интернет. Далее можно разбить клиентов по целевым группам и персонализировать для них через Яндекс.Директ рекламные объявления. Например, можно ненавязчиво предлагать целевой аудитории новый товар, или в конце концов склонить пользователей к покупке товара, которым они уже интересовались ранее.

Далее рассмотрим другую российскую компанию. Компания ABBYY является признанные мировым лидеров в области интеллектуальной обработки данных и лингвистики. Компания разработала решения, позволяющие с помощью технологий искусственного интеллекта распознавать текстовые данные, работать с печатными документами и файлами в формате PDF, самостоятельно осуществлять ввод данных в информационные системы компаний, производить корпоративный семантический поиск, а также находить переводы незнакомых слов и фраз.

«Занимаясь такой темой, как искусственный интеллект, нужно не просто сделать умную машину. А нужно создать что-то полезное. Мы своими технологиями стараемся всегда помогать людям, облегчать им жизнь, повышать эффективность процессов – это цель, ради которой мы трудимся», - Дмитрий Шушкин, заместитель генерального директора ABBYY в интервью CNews, март 2015.

Одним из главных достижений ABBYY является система Compreno, позволяющая анализировать и понимать текст на естественном языке. Над созданием данной системы специалисты компании работали около 10 лет. Стоимость проекта составила более $80 млн. Принцип работы Compreno представлены на следующем рисунке.

В результате, на выходе системы получается универсальный и структурированный набор данных, что позволяет ABBYY Compreno решать задачи по анализу и извлечению важной информации, «умному» поиску и классификации данных.

Технологии компании ABBYY используются по всему миру. Все решения лицензируются крупнейшими международными ИТ-компаниями, такими как EPSON, Fujitsu, Samsung, Panasonic, Sharp, Acer, KnowledgeLake, Microsoft и другие. Заказчиками ABBYY являются российские и международные компании из банковской, энергетической, нефтегазовой, телекоммуникационной и других отраслей, а также из государственного сектора. 

В начале 2016 года Давид Ян, основатель компании ABBYY, объявил о запуске в США нового проекта – Findo. Findo является интеллектуальным помощником, которые предназначен для поиска информации в интернете, в облаке и локальных файлах. Уникальной способностью помощника является распознавание естественной речи (правда, пока только на английском языке).

Для поиска могут использоваться достаточно «сложные» запросы. Например, Findo способен работать с запросами, вида: «найди документы, которые я редктировал в прошлую среду», «покажи письмо, которое мне вчера прислали из Москвы» и т.д.

Для более точного «понимания» естественного языка используются наработки технологии ABBYY Compreno. Сама компания ABBYY вложила в стартап около $3 млн.

Головной офис Findo находится в Менло-парк, Калифорния. Пока сервис предоставляется бесплатно. В будущем компания планирует зарабатывать по модели freemium: предоставление базового функционала бесплатно и около $5 в месяц за расширенную версию.

Далее рассмотрим компанию из разряда Fin-tech. Компания VisionLabs была основана в 2012 году и является резидентом IT-кластера «Сколково». Компания специализируется на решениях, позволяющих распознавать лица клиентов в самых быстрорастущих сегментах рынка: банковский сектор и ритейл. Массачусетский университет включил VisionLabs в тройку лучших мировых систем в области распознавания лиц для коммерческих целей.

Высокоточные алгоритмы распознавания образов были получены в результате использования нейронных сверточных сетей, обученных с помощью методов глубокого обучения и многомиллионных массивов данных, что, по словам представителей компании, является существенным преимуществом выпускаемого продукта. Малый размер ключа извлекаемого из фотоизображения позволяет проводить сравнения 500 миллионов ключей менее чем за 1 секунду.

Платформа распознавания лиц VisionLabs LUNA - флагманский продукт компании. LUNA позволяет в режиме реального времени анализировать колоссальные объемы фото- и видеоданных с целью определения в них лиц людей и сравнения их с многомиллионными базами данных. На базе данной технологии также создан облачный сервис FACE_IS, который может связывать клиентов с предшествующей историей их покупок и помогать выстраивать взаимодействие с брендом. Решения компании являются plug’&’play, по умолчанию имеют интеграцию с большинством баз данных, CRM и BI-систем, и не требуют от пользователей замены оборудования, так как интегрируются в их существующую IT- инфраструктуру.

В 2014 году компания VisionLabs заключила эксклюзивный контракт с Бюро кредитных историй «Эквифакс» в России по запуску системы распознавания лиц на межбанковском уровне. Система используется в рамках сервиса противодействия кредитному мошенничеству. К данному сервису на базе решения VisionLabs подключено уже более 20 крупнейших банков в России. Крупнейшим реализованным проектом в РФ является проект c «Почта Банк», в СНГ - с Kaspi Bank.

«Если говорить о наиболее привлекательных для развития искусственного интеллекта рынках, то это в первую очередь развитые рынки Северной Америки и Европы. Однако рынки, которые демонстрируют превосходный рост, к примеру, рынок Юго-Восточной Азии, также находится в нашем фокусе. Именно в этих регионах, включая Россию и СНГ, мы в ближайшие годы планируем развивать наши решения», - рассказал iot.ru Алексей Нехаев, со-основатель и Исполнительный директор VisionLabs.

При этом, по словам Алексея Нехаева, у российского рынка есть ряд преимуществ, и их VisionLabs также старается активно использовать для продвижения своих продуктов.

Низкий курс локальной валюты, высокое качество математической школы - ключевые факторы в пользу создания Российского R&D центра.

Среди партнеров VisionLabs такие известные компании, как ABBYY, SAS, SAP и Intel. В начале лета компания совместно с Facebook и Google запустила для разработчиков открытую платформу, позволяющую разрабатывать различные решения в области компьютерного зрения. При этом текущий объем инвестиций позволяет компании уверенно смотреть в будущее.

«В июле 2016 г. мы закрыли раунд А, сумма сделки составила 350 млн руб. Венчурный фонд Sistema Venture Capital приобрел 25% VisionLabs при оценке компании 1,4 млрд руб. Инвестиции будут направлены на развитие собственной уникальной технологии анализа и распознавания лиц, реализацию нескольких проектов национального масштаба и масштабирование на международных рынках», - отметил Алексей Нехаев, со-основатель и Исполнительный директор VisionLabs.

Надо сказать, что рынка искусственного интеллекта как такового нет ни в России, ни за ее пределами. Сейчас он только формируется. Конечно, можно почитать отчеты аналитических агентств и увидеть, в каких странах и сколько средств вложено в развитие информационных технологий и робототехники, однако мы полагаем, что речь пока идет о доинтеллектуальном (рефлексном) уровне развития. Конечно, когда вы пользуетесь виртуальным помощником на мобильном телефоне это уже и сейчас кажется фантастикой. Но разработчики подобных систем прекрасно знают пределы их использования и понимают, что назвать их искусственным интеллектом можно только с огромной натяжкой. Мы надеемся, что наши технологии помогут преодолеть этот разрыв и перейти всей цивилизации на принципиально новый уровень развития.

В России целевое финансирование направления по разработке систем искусственного интеллекта еще только набирает обороты: есть отдельные проекты, несколько групп разработчиков плохо коммуницирующих друг с другом, несколько направлений целевого госфинансирования вроде «Сколково» или АСИ, и редкие частные инвесторы. За границей, там, где процесс стартовал раньше рынок более зрелый. Сейчас все разработчики очень внимательно следят друг за другом, ожидая появления прорывных технологий.

Остается надеяться, что инвесторы и потенциальные клиенты смогут по достоинству оценить достижения российских компаний и в ближайшее время рынок высокоинтеллектуальных систем в России будет ожидать стабильный и уверенный рост.

ГЛАВА 2. ПРАКТИКА РОССИЙСКОГО БИЗНЕСА В ОБЛАСТИ ЦИФРОВИЗАЦИИ

2.1 Внедрение цифровой экономики и искусственного интеллекта в горнодобывающие компании

Цифровая экономика и изменения происходящие в данный момент с развитием искусственного интеллекта и цифровизации экономики все больше влияют на добывающие компании.

ПАО «ГМК «Норильский никель» «оцифровывает» производство и внедряет в него искусственный интеллект. На первом этапе этот процесс включал минерально-сырьевой комплекс компании.

В данный проект входит: Коммуникация и позиционирование + горно-геологическая информационная система + 3D-моделирование подземных пространств, объектов и событий + оперативное планирование + планирование = создание "цифрового изображения" каждой шахты. Электронные потоки данных обрабатываются и отображаются в интуитивно понятном интерфейсе, который отражает ситуацию в горнодобывающей компании онлайн.

Участниками проекта являются: персонал - геологи, шахтеры, горные инженеры, шахтеры различных специальностей; Машины и оборудование; подземные пространства (месторождения, рудные тела, горные работы).

Результат данного проекта направлен на увеличение за счет добычи металла (до 1%). Значительное снижение эксплуатационных расходов (до 5%).

Рост других экономических показателей на этапе добычи руды. Улучшить учет. Снижение производственных и экономических рисков. Повышение прозрачности и эффективности управления (например, повышение реагирования на изменения ситуации, включая чрезвычайные ситуации).

Горно-металлургическая компания ПАО «ГМК «Норильский никель», предприниматель Владимир Потанин, намерена увеличить EBITDA (прибыль до вычета процентов, налогов, износа и амортизации) с 2020 по 2022 годы путем инвестирования в развитие информационных технологий.

Согласно рисунку 1 и показателям долгосрочной стратегии компании, в течение следующих трех лет планируется потратить 3% от 6,5 до 7,5 млрд долларов. Цифровое преобразование в Соединенных Штатах - сумма предстоящих инвестиций компании - составляет приблизительно 200 миллионов долларов.

Рисунок 1 - Рост капитальных затрат ПАО «ГМК «Норильский никель», млрд. долл.

По словам старшего вице-президента и финансового директора Норильского никеля Сергея Малышева, цифровые технологии помогут реализовать программу по повышению эффективности. Они реализуются в нескольких секторах - в сфере бухгалтерского учета, в службе аккредитации поставщиков и подрядчиков, в области охраны труда и здоровья. Таким образом, цифровой помощник, основанный на анализе больших данных и технологии обработки изображений, помогает компании оптимизировать переработку полезных ископаемых. Эта услуга уже прошла пилотную стадию и будет внедрена на других обогатительных фабриках компании.

В интервью РБК Малышев рассказал о проблемах, препятствующих быстрой оцифровке отрасли. Во-первых, многие компании не могут вносить определенное количество изменений в единицу времени. По его словам, это можно изменить, ускорив темпы культурного развития в организации, обучая людей и обновляя состояние. Вторым негативным фактором стало то, что вице-президент ПАО «ГМК «Норильский никель» отметил отсутствие на рынке необходимого количества специализированных специалистов и готовых решений для горнодобывающей и металлургической отраслей. Третья проблема - отсутствие обмена опытом внутри отрасли.

В ходе панельной дискуссии «Индустрия 4.0 - Четвертая промышленная революция: технологии и окружающая среда» Дмитрий Григорьев, директор департамента информационной безопасности и ИТ-инфраструктуры «Норильского никеля», выступил с лекцией о перспективах цифровой трансформации промышленных предприятий и технологических процессов. В своем выступлении глава департамента отметил скачкообразный рост крупнейших промышленных компаний (в том числе сырьевого сектора) в последние годы. «Цифровые технологии оптимизируют производство и логистику и оказывают заметное финансовое влияние. Кроме того, производство становится чище, что оказывает положительное влияние на окружающую среду и непосредственно на международную оценку корпоративной социальной ответственности», - сказал он. В качестве примера Дмитрий Григорьев привел технологию больших данных, внедрение которой могло бы сэкономить 25 миллионов долларов в год только одним распространением.

Ввиду этих значительных экономических последствий роль безопасной и непрерывной работы информационных инфраструктур для компаний и для всей компании возрастает.

Директор ПАО «ГМК «Норильский никель» Юрий Шехвоцов считает, что компания завершает основную автоматизацию - Enterprise Resource Management SAP ERP. Он был введен на Кольской ГМК и Быстринском ГОКе. В начале года они запустили SAP ERP в Полярном отделении Норильского никеля на Таймыре. Это означает, что более половины всей компании уже охвачено инструментами SAP. Затем начнется подключение вспомогательных ресурсов к SAP, и к 2022 году проект планируется завершить.

В течение ближайших пяти лет компания планирует полностью завершить централизацию ИТ-функций на базе общего центра обслуживания с внедрением в него искусственного интелекта.

2.2 Использование ERP в компании ПАО «ГМК «Норильский никель»

Холдинг ПАО «ГМК «Норильский никель» организовал единый сервисный центр для предоставления услуг в области информационных технологий, финансов, управления персоналом и других областях, которые не являются частью основного бизнеса. Для управления ресурсами во вновь созданном центре была введена единая единая информационная система компании, без которой существование сервисного центра было бы бессмысленным. Система на основе стандартной конфигурации «1С: Управление промышленным предприятием» была настроена максимально быстро (1 год) и объединяет 11 пунктов в 4 федеральных округах. В то же время в системе могут работать более 700 человек. Сроки получения регламентированной отчетности сократились почти вдвое.

13 декабря 2018 года SAP CIS объявила, что ПАО «ГМК «Норильский никель» реализовал проект по созданию отчета о корректировке для расчета страховых премий на основе решения SAP HCM - Система управления отчетами (RMS). По словам компании, система позволяет создавать отчеты без ручных настроек и сокращать время их создания. По состоянию на декабрь 2018 года решение было внедрено в 3 компаниях «Норильского никеля» с общим числом сотрудников более 12 000 человек.

Главной предпосылкой внедрения системы стали требования российского законодательства - приказ ФНС России от 18.09.2019 № ММВ-7-11/470[9]. Согласно приказу, компания должна предоставлять в Федеральную налоговую службу РФ корректирующую отчётность с учетом изменения данных за предыдущие отчетные периоды, например, предоставление больничных листков за время нахождения человека в отпуске, выплате пособий и других обстоятельствах.

Внедрение новой корпоративной ERP-системы в краткосрочной перспективе принес очевидные выгоды и преимущества компании. В частности, увеличилось прозрачность и своевременность управленческой и финансовой отчетности, повысилось эффективность управления за счет принятия решений на основании достоверной информации и контроль эффективности бизнес-подразделений в единой информационной среде. В главном офисе ГМК «Норильский никель» состоялось совещание по проекту "Внедрение корпоративной системы управления ресурсами предприятия на базе основного ERP решения". Данный проект, сообщает официальный сайт ГМК, является одним из наиболее значимых элементов Программы поддержки инициатив подразделений компании в области информационных технологий, которая была утверждена правлением компании в ноябре 2013 года.

После утверждения целевой модели бизнес-процессов начинается следующий этап – внедрение системы. В качестве "пилота" была выбрана Кольская ГМК. По мнению экспертов, это оптимальный вариант для отладки бизнес-процессов, так как в регионе хорошая инфраструктурная готовность к внедрению целевой системы на фоне использования технически устаревшей ИТ-платформы.

По словам заместителя гендиректора - руководителя Блока экономики и финансов ПАО «ГМК «Норильский никель» Сергея Малышева, реализация такого проекта позволила разработать и внедрить унифицированное решение, которое стала частью единого информационного пространства предприятий "Норильского никеля", а также обеспечила интеграцию со смежными системами, как уже существующими, так и разрабатываемыми в параллельные сроки с данным проектом. Он также подчеркнул, что сам проект и его результаты изменили культуру компании, так как потребуют от интегрированной повседневной работы, взаимодействия и изменений.

Проект компании «ПАО «ГМК «Норильский никель» по тиражированию SAP ERP на предприятиях Норильского промышленного района (НПР) занял первое место и получил золотую награду в категории «Трансформация бизнеса» конкурса SAP Quality Awards — 2019 в регионе СНГ. Это самый крупный из проектов «Норникеля» в области автоматизации бизнеса, один из крупнейших проектов SAP, реализованных в России по организационному и функциональному объемам.

С января 2019 г. SAP ERP успешно введен на всех предприятиях Заполярного филиала ПАО «ГМК «Норильский никель», в ООО «Норильскникельремонт» и ООО «Медвежий ручей». Единая система управления охватывает около 50 активов и структурных подразделений, среди которых: Медный и Надеждинский металлургические заводы, обогатительные фабрики ТОФ и НОФ, 7 рудников, предприятие единого складского хозяйства и др. Срок внедрения ERP в НПР составил около полутора лет, в реализации задач проекта было задействовано более 2 000 человек. Более 25 лет компания SAP помогает отечественным компаниям проводить трансформацию и оптимизацию бизнеса на базе инновационных решений.

2.3 Анализ распространения цифровых технологий в экономике России

Международные организации, формирующие методологию статистики информационного общества, приняли ряд ключевых показателей для характеристики использования информационно-коммуникационных технологий (ИКТ) в бизнесе, многие из которых наблюдаются и в России. На основе этих индикаторов, в настоящем разделе представлена статистическая оценка использования ИКТ в деятельности организаций предпринимательского сектора России и зарубежных странах. Для сравнения отдельно приводится информация по финансовому сектору, в котором уровень востребованности ИКТ один из самых высоких среди других отраслей экономики. В исследовании выделены следующие области:

- доступ к интернету и цели использования сетевых технологий;

- развитие электронной торговли;

- внедрение облачных сервисов;

- обеспеченность организаций специалистами в области ИКТ.

Востребованность специальных программных средств для решения производственных, организационных и экономических задач

О включенности ИКТ в деятельность организаций можно судить по активности использования ими специальных программных средств.

Согласно целевым показателям, наиболее востребованное программное обеспечение (ПО) может включать системы электронного документооборота (используются 59% организаций в корпоративном секторе и 67% финансовых организаций), электронные справочно-правовые системы (53 и 68%) и программное обеспечение для электронного финансового учета (56 и 68%). ), Решение организационных, административных и экономических проблем (55 и 66%), управление закупками, продажа товаров (44 и 35%), обеспечение доступа к базам данных через глобальные информационные сети - (30 и 40%). Программы разработки (18 и 9%), программы обучения (15 и 34%) и системы редакционно-издательского назначения (7%)[10].

Примерно такая же оценка приоритетов и деятельности организаций в корпоративном секторе. В то же время, в силу характера деятельности, программное обеспечение для управления автоматизированным производством и / или отдельными техническими средствами и технологическими процессами наиболее востребовано в производственных компаниях и в отрасли связи (41 и 50%). Торговые организации являются лидерами в использовании программного обеспечения для управления закупками и продажей товаров (69%).

Качественно новый уровень использования цифровых технологий в корпоративном управлении обеспечивается внедрением информационных систем, автоматизирующих процессы учета, планирования и контроля. Каждая пятая (22%) организация корпоративного сектора и каждая третья (36%) финансового сектора внедрили по крайней мере один из самых популярных инструментов этого класса в производственном процессе: системы ERP, CRM, SCM.

ERP-системы, отвечающие за планирование ресурсов организации и внутреннюю интеграцию электронного бизнеса, наиболее востребованы в этих секторах экономики, что вполне естественно, поскольку функциональность CRM и SCM-систем в виде соответствующих модулей основных Система EPR может быть реализована. Даже если компания обычно использует несколько специализированных систем, они тесно связаны между собой.

Использование ERP-систем в России сопоставимо с Венгрией, Латвией (16% бизнес-ассоциаций используют эти системы), Великобританией (17%), более чем в три раза ниже лидеров стран ЕС по этому показателю - Германии (56%), Бельгия (50%), Дания (47%).

CRM-системы для оперативного управления взаимоотношениями с клиентами (сбор, агрегация, анализ информации о наличии / потребности товаров (установок, услуг), циклов продаж, цен находятся в 13% компаний в корпоративном секторе и на 31% - в финансовом отношении. За последние 5 лет доля пользователей этих систем увеличилась в 2-1,5 раза. Связь (32%) и торговля (23%) являются лидерами по внедрению в организациях рассматриваемых видов экономической деятельности, а также в системах ERP.

Наименее распространены SCM-системы, позволяющие автоматизировать работу с партнерами, обеспечивающие связь с системами управления заказами поставщиков/покупателей: их использует около 6% организаций предпринимательского, финансового секторов. В торговле этот показатель на уровне 15%, связи – 13%, обрабатывающих производствах – 6%, на транспорте – 5%[11].

В последние годы в бизнес-среде все большую популярность набирают ИТ-сервисы, реализованные на облачной платформе. Среди преимуществ этих технологий – практически неограниченное расширение информационного ресурса без создания собственной ИТ-инфраструктуры.

Уровень распространения облачных сервисов в российских организациях сопоставимо со средним по странам ЕС – 21%63. При отставании от стран-лидеров по этому индикатору – Финляндия (57%), Швеция (48%), Дания (42%), Россия опережает Францию и Австрию (по 17%), Германию (16%).

2.4 Разработка методов по устранению рисков путём использования искусственного интеллекта

Машинное обучение - форма ИИ, в которой компьютерные алгоритмы со временем совершенствуются благодаря опыту использования данных, - играет все более заметную роль в управлении рисками предприятия. ИИ можно использовать для создания сложных инструментов анализа поведения и деятельности в режиме реального времени. Технология может приспосабливаться к изменениям в среде, поэтому она расширяет мониторинговый потенциал организации в таких сферах, как соблюдение регуляторных норм и корпоративное управление. Она может быть не только системой раннего предупреждения, но и системой раннего обучения, предотвращает воплощение угроз.

Хотя ИИ все еще развивается, его уже можно использовать для уменьшения рисков в некоторых ключевых сферах. Например, машинное обучение может прогнозировать вероятность неуплаты займа или платежа физическим лицом или организацией. Это можно использовать для построения моделей прогнозирования дохода с переменными.

В течение многих лет с помощью машинного обучения успешно выявляли мошенничество с кредитными карточками. Банки используют системы, которые ознакомлены с данным платежного баланса за прошлые годы, чтобы мониторить платежи на предмет потенциальной мошеннической деятельности и блокировать подозрительные транзакции. Финансовые учреждения также используют автоматизированные системы для своих специалистов, связывая информацию о торговле с другой информацией о поведении, такой как трафик электронной почты, записи в календаре, время прибытия и выхода из офиса и даже телефонные звонки.

Аналитические платформы на основе ИИ могут управлять рисками, связанными с поставщиками. Они обобщают разнообразную информацию о поставщиках, начиная с их географической и геополитической среды, заканчивая финансовыми рискам, оценки уровня устойчивости и социальной ответственности предприятий.

И наконец, системы ИИ можно научить выявлять, отслеживать и отражать кибератаки. Они идентифицируют программное обеспечение по определенным критериями - например, высокая процессорная мощность или передача больших массивов данных - и затем прекращают эту атаку.

Несмотря на все преимущества искусственный интеллект также является источником новых рисков, которыми надо управлять. Поэтому важно определить риски, которые относятся к каждой отдельной программе ИИ и каждому бизнес-подразделению, использующему данную технологию.

Также существуют ряд рисков, которые с внедрением искусственного интеллекта могут грозить деятельности в которой он использован:

Предвзятость алгоритмов: алгоритмы на основе машинного обучения определяют закономерности данных и кодируют их в прогнозах, правилах и решениях. Если эти закономерности отражают некоторые существующие предубеждения, алгоритмы, вероятно, усилят это предубеждение, что может привести к усилению дискриминации.

Преувеличение возможностей: поскольку системы ИИ не понимают задач, которые они выполняют, и полагаются на свои учебные данные, они далеко не безошибочны. Достоверность их результатов может быть под угрозой, если входные данные будут предвзятыми, неполными или низкого качества.

Программные ошибки: ошибка в алгоритмах приводит к ошибочным результатам, что может иметь серьезные негативные последствия.

Риск кибератак: хакеры, которые хотят похитить личные данные или конфиденциальную информацию о компании, все чаще атакуют системы ИИ.

Правовые риски и обязательства: в настоящее время существует мало законов, регулирующих сферу ИИ, но это может измениться. Системы, анализирующие большие объемы данных о потребителях, могут не соответствовать действующим и будущим регламентам о конфиденциальности данных, особенно Общему регламенту о защите данных ЕС (GDPR).

Репутационные риски: Системы ИИ обрабатывают большие объемы конфиденциальных данных и принимают критические решения о лицах в целом ряде областей, включая кредитование, образование, занятость и здравоохранение. Таким образом, любая система, которая подверглась атаке или используется для неэтичных целей, создает существенные репутационные риски для организации.

Таким образом, искусственный интеллект (ИИ) создает возможности при его правильном использовании и риски при неправильном внедрении. В этой главе были рассмотрены две стороны медали и выделяемые аспекты ИИ, на которые нужно обратить внимание при внедрении.

ЗАКЛЮЧЕНИЕ

Таким образом, мы можем сделать вывод, что цифровая экономика - это новый тип экономических отношений во всех секторах мирового рынка, который в настоящее время развивается быстрыми темпами и может в ближайшем будущем стать основным видом обмена денежными средствами на глобальном уровне с ростом высоких технологий. Развитие и совершенствование новых технологий настолько быстры, что просто невозможно идти в ногу со старыми технологиями. Следовательно, теперь вы должны участвовать в общем информационном и технологическом потоке обновлений и пытаться эффективно их применять.

У России есть возможность добиться технического прогресса во многих сферах деятельности. Это видно, например, в банковском секторе, где российским финансовым учреждениям удалось преодолеть некоторые из следов, которые были препятствием для банковских систем промышленно развитых стран в 1980-х и 1990-х годах, и сразу же начали развивать цифровые функции. Сейчас для России важно создать собственные приоритетные ниши для цифровых инноваций, в которых вы сможете не только добиться независимости на внутреннем рынке при минимальных затратах, но и стать признанным лидером мирового рынка.

СПИСОК ИСТОЧНИКОВ

  1. Паспорт национальной программы «Цифровая экономика Российской Федерации» (утв. президиумом совета при Президенте РФ по стратегическому развитию и национальным проектам. Протокол от 24 декабря 2018 года № 16).
  2. Указ Президента РФ от 09.05.2017 № 203 «О Стратегии развития информационного общества в Российской Федерации на 2017 - 2030 годы" // Собрание законодательства РФ. 15.05.2017. № 2., Ст. 2901.
  3. Указ Президента РФ от 07.05.2018 № 204 (ред. от 19.07.2018) «О национальных целях и стратегических задачах развития Российской Федерации на период до 2024 года» // Собрание законодательства РФ. 14.05.2018. № 20. Ст. 2817.
  4. Приказ ФНС России от 18.09.2019 № ММВ-7-11/470 «Об утверждении формы расчета по страховым взносам, порядка ее заполнения, а также формата представления расчета по страховым взносам в электронной форме и о признании утратившим силу приказа Федеральной налоговой службы от 10.10.2016 № ММВ-7-11/551» (Зарегистрировано в Минюсте России 08.10.2019 № 56174)
  5. Добрынин А.П., Черних К.Ю., Куприяновский В.П. «Цифровая экономика – различные пути к эффективному применению технологий» // А.П. Добрынин, К.Ю. Черних, В.П. Куприяновский // International Journal of Open Information Technologies. – 2016. - №1. С. 180.
  6. Доэрти П., Уилсон Дж. Человек + машина. Новые принципы работы в эпоху искусственного интеллекта. М.: Манн, Иванов и Фербер, 2019. С. 304.
  7. Единое информационное пространство взаимодействия субъектов научной и инновационной деятельности: монография / под ред. В.В. Трофимова, В.Ф. Минакова. СПб.: Изд-во СПбГЭУ, 2017. C. 103.
  8. Система формирования исследовательских компетенций и технологических заделов в научной и образовательной деятельности: монография / под ред. В.В. Трофимова, В.Ф. Минакова. СПб.: Изд-во СПбГЭУ, 2018. С. 180
  9. Цифровая экономика: 2019: краткий статистический сборник / Г.И. Абдрахманова, К.О. Вишневский, Л.М. Гохберг и др.; Нац. исслед. ун-т «Высшая школа экономики». М.: НИУ ВШЭ, 2019. С. 96.
  10. Юдина Т.Н. Осмысление цифровой экономики /Т.Н. Юдина // Теоретическая экономика. - 2016. - №3. C.244.
  11. Отношение к искусственному интеллекту. Исследование коммуникационного агентства Edelman 2019 года, реализовано Центром экспертизы искусственного интеллекта Edelman (Edelman AI Center of Expertise) при поддержке Всемирного экономического форума (ВЭФ). [Электронный ресурс]. URL: https://qps.ru/HSqGv (дата обращения: 25.05.2020).
  12. Пресс-релизы и новости/ Cайт НорНикель. 2020. [Электронный ресурс]. URL: https://www.nornickel.ru/news-and-media/press-releases-and-news/ (дата обращения: 25.05.2020).
  13. Цифровая экономика: как специалисты понимают этот термин. Сайт РАН. 2020. [Электронный ресурс]. URL: https://prof-ras.ru/index.php?option=com_k2&view=item&id=888:tsifrovaya-ekonomika-kak-spetsialisty-ponimayut-etot-termin (дата обращения: 25.05.2020).
  14. Цифровая экономика: как специалисты понимают этот термин: сайт РИА наука. 2020. [Электронный ресурс]. URL: https://ria.ru/20170616/1496663946.html (дата обращения: 26.05.2020).
  15. Человек + машина: бизнес в эпоху искусственного интеллекта. Информационно-аналитическая система Росконгресс. [Электронный ресурс]. URL: https://roscongress.org/sessions/spief-2019-chelovek- mashina-biznes-v-epokhu-iskusstvennogo-intellekta/translation (дата обращения: 25.05.2020).
  1. Указ Президента РФ от 09.05.2017 № 203 «О Стратегии развития информационного общества в Российской Федерации на 2017 - 2030 годы" // Собрание законодательства РФ. 15.05.2017. № 2., Ст. 2901.

  2. Цифровая экономика: как специалисты понимают этот термин: сайт РИА наука. 2020. [Электронный ресурс]. URL: https://ria.ru/20170616/1496663946.html (дата обращения: 26.05.2020).

  3. Цифровая экономика: как специалисты понимают этот термин. Сайт РАН. 2020. [Электронный ресурс]. URL: https://prof-ras.ru/index.php?option=com_k2&view=item&id=888:tsifrovaya-ekonomika-kak-spetsialisty-ponimayut-etot-termin (дата обращения: 25.05.2020).

  4. Человек + машина: бизнес в эпоху искусственного интеллекта. Информационно-аналитическая система Росконгресс. [Электронный ресурс]. URL: https://roscongress.org/sessions/spief-2019-chelovek- mashina-biznes-v-epokhu-iskusstvennogo-intellekta/translation (дата обращения: 25.05.2020).

  5. Паспорт национальной программы «Цифровая экономика Российской Федерации» (утв. президиумом совета при Президенте РФ по стратегическому развитию и национальным проектам. Протокол от 24 декабря 2018 года № 16)

  6. Цифровая экономика: 2019: краткий статистический сборник / Г.И. Абдрахманова, К.О. Вишневский, Л.М. Гохберг и др.; Нац. исслед. ун-т «Высшая школа экономики». М.: НИУ ВШЭ, 2019. С. 96.

  7. Отношение к искусственному интеллекту. Исследование коммуникационного агентства Edelman 2019 года, реализовано Центром экспертизы искусственного интеллекта Edelman (Edelman AI Center of Expertise) при поддержке Всемирного экономического форума (ВЭФ). [Электронный ресурс]. URL: https://qps.ru/HSqGv (дата обращения: 25.05.2020).

  8. Добрынин А.П., Черних К.Ю., Куприяновский В.П. «Цифровая экономика – различные пути к эффективному применению технологий» // А.П. Добрынин, К.Ю. Черних, В.П. Куприяновский // International Journal of Open Information Technologies. – 2016. - №1. С. 180.

  9. Приказ ФНС России от 18.09.2019 № ММВ-7-11/470 «Об утверждении формы расчета по страховым взносам, порядка ее заполнения, а также формата представления расчета по страховым взносам в электронной форме и о признании утратившим силу приказа Федеральной налоговой службы от 10.10.2016 № ММВ-7-11/551» (Зарегистрировано в Минюсте России 08.10.2019 № 56174)

  10. Система формирования исследовательских компетенций и технологических заделов в научной и образовательной деятельности: монография / под ред. В.В. Трофимова, В.Ф. Минакова. СПб.: Изд-во СПбГЭУ, 2018. С. 180

  11. Доэрти П., Уилсон Дж. Человек + машина. Новые принципы работы в эпоху искусственного интеллекта. М.: Манн, Иванов и Фербер, 2019. С. 304.