Оседлать нейросеть: в Татарстане появился главный по искусственному интеллекту

25-летний победитель конкурса Google будет курировать направление, которое Путин сравнивал с ядерными технологиями

«Когда искусственный интеллект пишет посты в «Твиттере», он обучается на сообщениях других людей, которые полны стереотипов, сексизма, расизма, и сам начинает писать расистские посты», — приводит пример свеженазначенный уполномоченный по технологиям ИИ в РТ Булат Замалиев. Как 25-летний создатель «Цифровой деревни» будет гуманизировать нейросети, этично ли закрывать человека в магазине, пока он не расплатился, и для чего нужна «песочница» для разработчиков, — в материале «БИЗНЕС Online».

рт получит Стратегию развития искусственного интеллекта 

Министр цифрового развития госуправления РТ Айрат Хайруллин назначил уполномоченного по технологиям искусственного интеллекта (ИИ) в Татарстане. Им стал 25-летний Булат Замалиев — победитель хакатона «Цифровой прорыв» и создатель проекта «Цифровая деревня». Сегодня утром его представили на рабочем совещании с предприятиями отрасли в минцифры. Должность Замалиева формально встроена в структуру центра цифровой трансформации под руководством Виктора Зубарева. Как отмечает пресс-служба минцифры, уполномоченный также будет исполнять функции советника министра по вопросам искусственного интеллекта, а в дальнейшем он сможет сформировать команду для решения данных вопросов.

Уполномоченный по ИИ для Татарстана, судя по всему, уникальная должность: в регионах, даже в Москве, таких еще нет. В правительстве России с 2015 года работает интернет-омбудсмен при президенте РФ Дмитрий Мариничев, задача которого — развивать IT-отрасль в целом. Примером для Татарстана, вероятно, послужили США: недавно, в ноябре мэр Нью-Йорка Билл де Блазио тоже ввел должность уполномоченного по делам искусственного интеллекта. Конкретный человек пока не назначен, но он должен будет работать в управлении делами мэра, бороться с предвзятостью алгоритмов и создать политику города по отношению к этой технологии. Уполномоченному будут помогать консультативный и руководящий комитеты, состоящие из общественных деятелей и городских чиновников.

Известно, что темой искусственного интеллекта крайне увлечен президент России Владимир Путин. «Искусственный интеллект — это будущее не только России, это будущее всего человечества. Здесь колоссальные возможности и трудно прогнозируемые сегодня угрозы. Тот, кто станет лидером в этой сфере, будет властелином мира», — говорил глава государства, проводя параллели с ядерными технологиями.

Оседлать нейросеть: в Татарстане появился главный по искусственному интеллекту

как воспитать нейросеть

Первое, чем займется уполномоченный, — это разработка стратегии развития искусственного интеллекта РТ, в которой будут определены социально значимые области для внедрения ИИ и проекты. Она будет определять политику развития отрасли и описывать конъюнктуру рынка. «Хочется не просто стратегию ради документа, а конкретный свод обоснованных данных и рекомендаций, пользу из которого сможет вынести каждый, будь то разработчик, предприниматель или обычный гражданин. Я надеюсь, что это ускорит процесс развития», — рассказал «БИЗНЕС Online» сам Замалиев.

При этом, по его словам, ИИ таит в себе и риски — речь идет в первую очередь о «предвзятости алгоритмов». «Искусственный интеллект — это технология, обучающаяся на имеющихся данных. Если они будут отражать какое-то историческое социальное неравенство, нейросеть будет его культивировать. Если сейчас, например, полностью поручить искусственному интеллекту решать вопросы о предоставлении гражданства, вряд ли результаты будут объективные. То же самое и с кредитами: их скорее одобрят богатым клиентам, хотя нужны они более неплатежеспособному населению», — говорит уполномоченный.

Он отмечает, что там, где ИИ используется для найма персонала, обнаруживается, что он чаще приглашает на работу мужчин просто потому, что в этой должности в данной компании исторически работало больше лиц мужского пола. Система, основываясь на этой выборке, отдает им предпочтение. Более того, если разработчики не будут контролировать весомые признаки отбора, ИИ может начать учитывать национальность, возраст, пол — характеристики, которые совершенно не относятся к профессиональным качествам, но станут ключевыми для ИИ при принятии решения. «Поэтому главное — исключать предрассудки алгоритма. Когда ИИ пишет посты в „Твиттере“, он обучается на сообщениях других людей, которые полны стереотипов, сексизма, расизма, и сам начинает писать расистские посты. Мы же не хотим, чтобы, например, в правоохранительной системе применялись технологии, которые обучались на новостных сюжетах, — СМИ часто пишут о преступлениях, которые совершают мигранты, и, соответственно, будут чаще воспринимать их как преступников», — констатирует уполномоченный.

Свою задачу Замалиев видит в том, чтобы проверить, посмотреть, протестировать предлагаемые решения на объективность. «Мы будем делать это на трех уровнях. Первый — законодательный (в случае с мигрантами, например, могут нарушаться конституционные права и свободы человека). По этой части больше всего возможностей воздействовать на разработчиков — вплоть до обращений в соответствующие органы», — объясняет он.

«Второе — нарушение этических норм. Тут нет прямого нарушения закона, но инструменты воздействия тоже имеются: например, эти технологии не будут использоваться органами государственной власти. Это ни в коем случае не цензура, а исключение рисков нарушения прав обычных людей. В-третьих, нужно, чтобы технология была в достаточной мере точной для области, в которой она станет применяться», — говорит Замалиев, поясняя, что если, например, точность распознавания лиц низкая, это нужно идентифицировать еще до внедрения технологии. Далеко не все разработчики проводят тестирования своих систем для достоверного определения точности распознавания. «Мы в первую очередь будем обращать внимание на государственные сервисы. В случае коммерческих проектов речь идет скорее о помощи и поддержке», — заверяет Замалиев.

Впрочем, некоторые программисты довольно скептически относятся к идее коммерческих тестирований на объективность. «Я не думаю, что у уполномоченного могут быть какие-то реальные полномочия. В мою коммерческую компанию проверять алгоритмы он точно не придет, ни в одну другую — тоже. Тут компетенции должны быть для начала, я думаю, что сегодня у него крайне невысокая экспертиза, поэтому сегодня данные заявления скорее декларативны», — считает один из экспертов отрасли.  

Еще одна ключевая задача уполномоченного — создать и развивать экосистему, в которой исследовательское сообщество, бизнес и государство будут взаимодействовать для развертывания решений на базе искусственного интеллекта.  Это и проведение мероприятий, и выявление задач, готовых для внедрения ИИ, создание реестра открытых данных и др. «Одна из моих задач — коммуникация и работа с широким кругом исследователей и разработчиков. Хотелось бы, чтобы работа проходила в формате песочницы, — рассказывает Замалиев. — В IT-индустрии есть большая проблема принципала-агента, когда заказчик не так компетентен в стоимости и характеристиках технологии, а исполнитель имеет большое информационное преимущество и может не совсем корректно себя вести, называя выгодные ему сроки и цены. Вопросы программного ценообразования — темный лес, и мы можем помочь проанализировать и вынести свою резолюцию».

Оседлать нейросеть: в Татарстане появился главный по искусственному интеллекту

предвестник — «цифровая деревня»

Интересно, что бороться за социальную справедливость Замалиев стал еще до назначения на пост уполномоченного. Его главный проект — «Цифровая деревня» — как раз был направлен на то, чтобы решить социальные проблемы в селах, и представляет собой целую экосистему сервисов из сбыта фермерской продукции, поиска работы, записи к врачу, а также магазина без продавцов. «Цифровая деревня» победила в конкурсе Google в ноябре 2017 года, в сентябре 2019-го проектом заинтересовались представители Африки для жителей Нигерии и ЮАР. «Цифровую деревню» Замалиев обещает не забросить. К концу 2020 года только в Рыбно-Слободском районе планируется открыть 7 магазинов без продавцов, а жители 60 населенных пунктов должны получить доступ к электронной коммерции. На сегодняшний день система действует в 13 деревнях.

Он рассказывает, что сам как разработчик несколько раз сталкивался с проблемами ИИ. «Так, в проекте „Магазин без продавца“ возникли сложности с распознаванием лиц пожилых людей. Им мы планировали выдать специальные карточки. Но если бы это была государственная программа, то такое было бы недопустимо: почему одним можно войти по лицу, а другим нельзя? То же самое и с детьми.  Другой вопрос, насколько этично и правильно не выпускать людей из магазина, пока они не расплатились и не положили товар обратно», — размышляет он.

Сейчас Замалиев — аспирант Высшей школы информационных технологий и интеллектуальных систем КФУ, его диссертация посвящена как раз вопросам ИИ. Этой осенью он стал победителем всероссийского конкурса «Цифровой прорыв», после чего Хайруллин и пригласил его в свою команду.

«Это не рассуждения из области научной фантастики, а вполне конкретные вопросы»

Мы попросили экспертов оценить назначение.

Дмитрий Еремеев  президент группы компаний FIX: 

— Очень хорошо, что в минцифре об этом начали задумываться. Бизнес активно использует возможности ИИ, у нас в компании давно работает лаборатория искусственного интеллекта, которая повышает эффективность проектов группы, так что для меня очевидно, что данный подход может повысить качество работы госаппарата. 

Мир в таком направлении очень активно развивается. Например, мой хороший знакомый, сооснователь Skype Яан Таллинн, занимается преимущественно вопросами этичности и контроля искусственного интеллекта. То, что сейчас это будет делать Татарстан, — правильно. Нужна экспертиза, обмен мнениями с коллегами. Это не рассуждения из области научной фантастики, а вполне конкретные вопросы и алгоритмы. Учитывая, что в министерстве тренд на решение конкретных задач, я поддерживаю эту инициативу. 

Про Замалиева ничего не знаю, но хорошо, что этот активный молодой человек в теме. Если бы на данное место назначили чиновника из другого министерства, я бы подобную новость воспринял с большей настороженностью.

Виталий Гатауллин  заместитель генерального директора «Татнефть» по цифровому развитию: 

— Конечно, такой человек нужен. Данные технологии имеют большой потенциал — они в состоянии выполнять часть функций, которыми сейчас занимается человек, и делать подобное будут наилучшим образом, с выгодой для жителей Татарстана. Это обеспечит прозрачность решений, их качество и скорость принятия.

В то же время данные технологии относятся к новым, поэтому здесь необходимо обеспечить синергию между всеми участниками отрасли. Должность уполномоченного и его функции позволят обеспечить эту работу, то есть создать библиотеки решений, которые продвинут искусственный интеллект как в госуправлении, так и в частном секторе.

Айдар Гузаиров — основатель InnoSTage: 

— Мне кажется, можно приветствовать любые подобные назначения, которые позволяют получать людей, отвечающих за инновационные технологии. Я с Булатом Замалиевым лично не знаком, но хочется пожелать ему удачи. Мы готовы поддерживать.

Дорога инноваций небыстрая. Если человек придет к должности сейчас, наверное, первые результаты мы сможем увидеть не через неделю или месяц. Думаю, министр цифрового развития играет в долгую и назначает человека на эту должность. По крайней мере, у нас так обычно и бывает. Государство так или иначе приобретет новое качество — и подобное должно повлиять на жизнь бизнеса и населения.

Оседлать нейросеть: в Татарстане появился главный по искусственному интеллекту
Adblock
detector