Китайские власти отказываются от антикоррупционного искусственного интеллекта Zero Trust, который в течение семи лет искал нарушителей в стране. По официальной информации, новая технология доставляла чиновникам «дискомфорт», а по неофициальной — ИИ слишком хорошо справлялся со своей задачей.
Мешала воровать: почему закрыли антикоррупционную программу
В 2012 году в Китае была запущена система Zero Trust, работающая на базе искусственного интеллекта. Эта технология была специально создана для борьбы с коррупцией среди чиновников в стране. Что бы сделал китайский коррупционер, который знает, что за его действиями и перемещениями следит искусственный интеллект, способный в любой момент вывести его на чистую воду? Спустя семь лет работы Zero Trust стало известно о том, что в ряде провинций Китая чиновники решили отказаться от этой системы и «отключить» ее. Как утверждает один из участников проекта Zero Trust, провинциальные чиновники отказались от ИИ, так как эта технология «заставляет их чувствовать дискомфорт». Тем не менее, по информации издания South China Morning Post , система была отключена, так как работала «слишком эффективно». Этот ИИ анализировал социальные отношения среди государственных служащих, выявляя сходство и различия в поведении людей. При этом он использовал информацию из 150 баз данных, относящихся к центральному и региональным правительствам. Zero Trust помогал вычислять незаконную передачу имущества, подозрительные приобретения земли и снос домов, инициированных китайскими чиновниками. Даже если они подтасовывали данные, то система обнаруживала несоответствие, так как брала информацию из разных источников. Кроме того, ИИ мог даже сравнивать фотографии со спутника, чтобы удостовериться, что деньги, выделенные на постройку дороги, действительно ушли по назначению, а не в карман заинтересованного человека. Система также фиксировала необычные изменения на банковских счетах чиновника, его семьи и близких друзей. Если у ИИ появлялись подозрения, он высчитывал процент вероятности коррумпированной активности. Как только этот процент превышал установленную планку, то Zero Trust направлял соответствующее уведомление властям. Как рассказал один из создателей системы, на этой стадии с «оступившимся» чиновником связывался представитель власти, который уведомлял его о проверке и помогал ему «избежать дальнейших ошибок». Разумеется, у алгоритма есть и слабые места. Так, например, система могла быстро вычислить коррупционера, но не могла указать, каким образом она пришла к этому выводу. Несмотря на то, что в большинстве случаев ИИ не ошибался, ему все равно требовалась помощь человека, который проводил полноценное расследование. Эксперимент с Zero Trust действовал лишь в тридцати районах и городах Китая, то есть затронул всего 1% административного состава страны. Тем не менее, с 2012 года ИИ удалось выявить 8721 чиновника, замешанного в растратах, злоупотреблении властью и кумовстве. Некоторые из них были отправлены в тюрьму, другим удалось сохранить работу, получив предупреждение или денежный штраф. Многие чиновники выступили против использования компьютера для выявления коррупции — ведь в мире не существует идеальной системы, гарантирующей стопроцентный результат, а значит ошибка может привести к наказанию невиновного. Тем не менее, по словам Чжан И, сотрудника дисциплинарной комиссии при Коммунистической партии Китая, выступающего в поддержку ИИ, главной целью этой системы является не наказание чиновника, а его «спасение на ранней стадии». «Мы используем анализ машины только как наводку. Нам требуется удостовериться, что она правильная. Компьютер не может взять трубку и позвонить человеку, у которого есть проблемы. Финальное решение все равно остается за человеком», — заявил Чжан И. Китай, являющийся одним из лидеров в сфере разработки искусственного интеллекта, старается внедрять новые технологии в самые разные сферы жизни. Так, в ноябре прошлого года китайское новостное агентство «Синьхуа» познакомило телезрителей со своим новым сотрудником — цифровым ведущим, который может вещать круглосуточно на протяжении многих лет. Ведущего-робота зовут Ки Хао, и его внешность и голос скопированы с настоящего ведущего «Синьхуа». Ки Хао может кивать головой, моргать и двигать бровями. По мнению создателей ИИ-ведущего, у этой технологии есть огромные перспективы. Компания намеревается и дальше сотрудничать с «Синьхуа», чтобы максимально оптимизировать новостные выпуски по ТВ, в интернете и в мобильных приложениях агентства.