Пока менеджер Илон Маск паникует и пытается создать комитеты слежения за искусственным интеллектом во имя спасения человечества, профессиональные инженеры из IEEE заставили всех соблюдать законы робототехники. Хочешь проектировать ИИ? Только если обеспечишь безопасность.
Причем тут Илон Маск и Марк Цукерберг?
Еще 15 июля Илон Маск призвал американских губернаторов создать организацию для слежки за системами искусственного интеллекта. Мотив простой — по мнению Маска, рано или поздно они уничтожат человечество. Но мы еще этого не замечаем:
Илон Маск:
Пока люди не видят роботов, убивающих людей на улицах, они не знают, как реагировать, потому что такой сценарий кажется им нереалистичным.
Парадоксальное выступление от человека на острии науки, правда? Его высмеял даже Цукерберг. Невольно задумываешься — он вообще понимает, о чем говорит? Действительно ли он в состоянии проектировать будущее? Или, может быть, за этим предложением прячется желание законодательно одобренного шпионажа для получения новейших разработок?
Спи сладко, Илон. Спи сладко, читатель. За тебя уже все сделали в IEEE. ИИ больше не навредит.
Кто такие IEEE?
IEEE — Институт инженеров электротехники и электроники, международная некоммерческая организация-разработчик стандартов по радиоэлектронике, электротехнике и аппаратному обеспечению вычислительных систем и сетей.
Фактически, организация обобщает и приводит к общему знаменателю разрозненные разработки, превращая их в единую систему: как для справки, так и для развития. С помощью этих стандартов разные разработчики получают возможность проектирования совместимых с чужими систем. Среди самых известных стандартов IEEE:
- IEEE 1294 — USB,
- IEEE 1394 — FireWire (i-Link),
- IEEE 802 — семейство сетевых протоколов.
Последний знаком даже простым пользователям — вспомните, как называется версия Wi-Fi?
Как IEEE планирует регулировать ИИ
IEEE выпустила три новых стандарта, регулирующие этические вопросы работы систем искусственного интеллекта при обработке данных и взаимодействии с окружающим.
Документы относятся к разряду обязательных стандартов сообщества и были разработаны в рамках стандартизации работ по изучению этических аспектов ИИ и самоуправляемых автомобилей.
Содержимое стандартов объемно и содержит преимущественно информацию для разработчиков. В основе текстов — постановка этических проблем при обработке данных искусственным интеллектом и способы их решения.
В результате IEEE предложила готовую матрицу для программирования систем с учетом интересов и моральных норм человечества.
Что описывают стандарты IEEE о искусственном интеллекте?
Один из стандартов, IEEE P7004, описывает правила сертификации и контроля тех организаций и систем, которые обрабатывают данные о детях и студентах. IEEE P7005 регулирует работу с данными о наемных работниках.
При его соблюдении ИИ и организации, работающие с данными, обязаны действовать, основываясь на безопасности и благополучии — даже с теми, что находятся в свободном доступе. Так же IEEE описала обязательные нормы, которым должны соответствовать доступ, сбор, хранение, использование, совместное использование и уничтожение данных о детях и учащихся.
Третий стандарт IEEE P7006 описывает для создание и контроль работы персонализированных ИИ-агентов — посредников в принятиях решений между несколькими компьютерами или системами. Методология разработки и технические элементы, заложенные в стандарте, должны исключить любые проблемы в работе интеллектуального аппарата.
Роботы не убьют человеков. IEEE всех спасли
Самое интересное кроется в стандарте IEEE P7006. Он не просто описывает способы сертификации и задает законы робототехники — он процедуру, принцип работы искусственного интеллекта, связывающего человека и машину:
- как должен работать ИИ-агент;
- как должен предоставляться доступ к нему;
- как должна вводиться информация;
- как должно проходить обучение ИИ;
- какие нормы этические нормы, правила и ценности должен заложить разработчик.
Первая версия стандарта если не введет 3 закона робототехники в обязательные для исполнения правила, то хотя бы минимизирует возможный вред. По мере развития технологий P70006 станет единым правилом, которое обеспечит защиту личности и безопасность всего человечества.
А если я не хочу соблюдать стандарт?
Стандарты IEEE принимаются всем сообществом, и через некоторое время либо становятся универсальным документом для всех использующих технологию, либо превращаются в документ другой организации — при сохранении функций.
Соблюдение стандартов IEEE необходимо не только для получения бумаг от официальных структур. Многие принципы, заложенные в них, обеспечивают совместимость систем различных разработчиков. Кроме того, они работают в качестве сертификата соответствия, говоря о надежности продукта.
Правила просты:
Не хочешь соблюдать — выйди из системы и живи без сертификата, проектируй для себя и не публикуйся. Хочешь, чтобы тебе доверяли и приобретали продукт — соответствуй!
Источник: