Google разрабатывает “кнопку” для отключения “самой большой угрозы человечеству”

Google разрабатывает “кнопку” для отключения “самой большой угрозы человечеству”

455
Ukrinform
Обеспокоенный развитием созданного им же искусственного интеллекта Google разрабатывает «кнопку», способную отключить AI (artificial intellect) в случае опасности и угрозы человеку.

Об этом сообщает Naked Science.

Эта новость, растиражированная журналистами в июне 2016 года, подлила масла в огонь беспокойства за будущие взаимоотношения роботов и людей.

По информации журналистов, для этого специалисты подразделения Google – компании Deep Mind – объединились с учеными из Оксфордского университета. На исследования выделено 400 млн британских фунтов. «Если агент (AI) работает в режиме реального времени под контролем человека, оператору необходима большая красная кнопка, которую можно нажать, предотвратив нежелательные действия со стороны агента», – поясняют интернет-издания.

 Ранее, действительно, в Сеть был выложен документ, озаглавленный «Безопасно прерываемые агенты» (Safely Interruptible Agents). Его авторы – Лорен Орсо из Deep Mind и Стюарт Армстронг из Оксфордского университета. В документе описывается возможное будущее соседство людей с искусственным интеллектом, противостоящим желаниям и устремлениям человечества вроде фантастических Скайнета и Терминатора. Это не кажется безумным с учетом того, что не так давно старейшая и крупнейшая американская юридическая компания Baker & Hostetler «наняла» робота-адвоката для помощи в процессах. Искусственный интеллект поддерживается суперкомпьютером IBM Watson.

Причем говорят об этой тревоге именно главные адепты научно-технического прогресса. Например, Илон Маск, заявивший в августе 2014 года о том, что технология искусственного интеллекта «опаснее, чем ядерное оружие». А еще через несколько месяцев, выступая перед студентами Массачусетского технологического университета, создатель Tesla и SpaceX назвал AI «самой большой угрозой нашему существованию». При этом к концу 2015 года сам Маск стал соучредителем некоммерческой исследовательской компании OpenAI, объяснив ее цель необходимостью открытости процесса создания искусственного интеллекта. «Если у вас есть "кнопка", которая может делать плохие вещи в мире, вы не захотите дать к ней общий доступ», – пояснил Маск.

Читайте также: Искусственный интеллект обошел людей в способности к сотрудничеству

В конце мая 2016 года, выступая на ежегодной конференции Recode, Илон Маск рассказал о некоем проекте, или, может быть, пока просто идее «нейронного кружева», которое должно снизить риск человечества стать любимой игрушкой в железных руках роботов. «К примеру, у вас есть лимбическая система, кора мозга, а это третья система – цифровой слой, который хорошо совместим с вашим организмом. Как мозг работает в симбиозе с лимбической системой, так и этот цифровой слой будет слаженно работать с остальными частями тела», – сказал Маск. Эта нейронная система должна повысить уровень приема-передачи информации человеком, способность ее обрабатывать.

Впрочем, есть и противоположная точка зрения. Председатель совета директоров компании Alphabet (Google) Эрик Шмидт в интервью Tech Insider скептически оценил выступления как Маска, так и его коллеги Стивена Хокинга, также ранее предостерегавшего о возможной гегемонии AI.

За период с 2011-го по 2015-й год мировые компании вложили в исследование AI более трех миллиардов долларов. Кроме крупных инвесторов, включая Facebook и Google, есть еще и ряд менее известных стартапов. К примеру, Brighterion занимается использованием искусственного интеллекта в «облачном» анализе и промышленном IoT, Feedzai тренирует роботов для выявления мошенничества в банковских операциях, Experfy с помощью AI эффективно решает бизнес-проблемы коммерсантов и так далее. То есть масштаб развития искусственного интеллекта в мире сейчас не ограничивается десятком главных игроков IT-рынка – он гораздо больше.

Опасения и парвда не беспочвенны. Китайские ученые, представившие в конце 2015 года проект «фабрики клонов», позже заявили о готовности клонировать людей. Самое большое в мире предприятие по клонированию китайская компания Boyalife Group построит в сотрудничестве с южнокорейской Sooam Biotech Research Foundation и китайской Академией наук в северокитайском Тяньцзине. Объем производства клонированных коров, по расчетам ученых, к 2020 году составит один миллион в год.


При цитировании и использовании каких-либо материалов в Интернете открытые для поисковых систем гиперссылки не ниже первого абзаца на «ukrinform.ru» — обязательны. Цитирование и использование материалов в офлайн-медиа, мобильных приложениях, SmartTV возможно только с письменного разрешения "ukrinform.ua". Материалы с маркировкой «Реклама» публикуются на правах рекламы.

© 2015-2018 Укринформ. Все права соблюдены.

Дизайн сайта — Студия «Laconica»
Расширенный поискСпрятать расширенный поиск
За период:
-