Роль блокчейна в развитии и регулировании искусственного интеллекта может стать решающей

​Илон Маск считает развитие искусственного интеллекта (ИИ) самой большой угрозой для будущего.

Недавно Маск отметил:

«Мне кажется, всем необходимо остерегаться искусственного интеллекта. Именно его я бы назвал самой большой реальной угрозой. Мы должны подходить к этому очень осторожно. Я все больше склоняюсь к мысли о необходимости регулирующего надзора, возможно на национальном и международном уровне, чтобы мы не сглупили».

Маск рассматривает решения нескольких ключевых проблем. Первая – это осторожность при внедрении ИИ. Второй и, возможно, самый важный вызов – это надзор и регулирование этой технологии.

В современном стремлении внедрения техник машинного обучения и ИИ для получения преимуществ перед конкурентами реальной опасностью является развертывание технологии в неприемлемом поле. В конечном итоге, это может привести к укоренению отклонений и недобросовестности в нашем обществе.

В своей книге «Оружие математического поражения» Кэти О’Нил описывает существующие опасности быстрого и необдуманного внедрения машинного обучения и ИИ во множестве разных областей, включая тюремные заключения и образование в США. Основной акцент книги – прогнозирующие модели не беспристрастны, они отражают цели и идеологию создателей. Они также ставят в невыгодное положение малоимущее население, тем самым усиливая неравенство в обществе.

Роль алгоритмов в нашей жизни становится все более важной в разных сферах, от расчета рейтинга в университетах или рейтинга кредитоспособности либо обработки откликов на вакансии до отображения рекламы онлайн или историй в ленте Facebook.

Поэтому можно сделать вывод, что на этапе разработки машинного обучения необходимо выполнять проверку для предотвращения явных отклонений от сохраненных данных и самого ввода данных.

Однако в книге недостаточно сказано об эффективном регулировании технологии в реальном времени. Одним из возможных вариантов является блокчейн. Предполагается, что его роль в регулировании технологий машинного обучения и ИИ может стать решающей. Главным механизмом регулирования автономных субъектов ИИ является неизменная фиксация действий с защитой от несанкционированного доступа.

С помощью блокчейн-технологии также можно контролировать доступ автономных субъектов ИИ на основании репутации автономных агентов. Но при всем этом, единая возможная санкция против искусственного автономного субъекта ИИ – прекращение деятельности; а в случае отсутствия полномочий для этого – лишение прав доступа к сообществу. Это можно считать современным «отлучением».

В представлении будущего, в котором стандарты определяются записями ИИ в блокчейн, а механизм контроля доступа в основном рассматривает «репутацию» автономного субъекта ИИ, можно получить механизм контроля, который автономный агент ИИ не сможет обмануть.

С философской точки зрения самый близкий подход представил английский философ Томас Гоббс со своим фундаментальным произведением «Левиафан». В произведении описана потребность отказа граждан от части своих прав в пользу правителя или «левиафана» на благо общества.

Много было написано о «некорректной задаче», которая влечет за собой последствия, не предвиденные создателями. Однако почти ничего не сказано о возможности создания «левиафана» для регулирования ИИ и машинного обучения.

Такой «левиафан» ИИ может обеспечить идентификацию и отчетность всех автономных агентов ИИ в блокчейн. Благодаря неизменности такого блокчейна ни один агент ИИ не сможет вмешаться. Это создаст регистр репутации для всех автономных агентов ИИ. «Левиафан» обеспечить контроль над выполнением согласованного свода правил и применением санкций.

Уже существует много вариантов применения блокчейна, которые продолжают возникать в разных областях. Но, откровенно говоря, самым важным вариантом использования блокчейна может стать выживание человечества.