Искусственный интеллект - страшилка 21 века
Новый план Элона Маска пересадить нас всех в самоуправляемый транспорт говорит о его твердой вере в искусственный интеллект, который гарантирует, что его «Теслы» будут умными и смогут реагировать на различные дорожные ситуации в режиме реального времени. ИИ способен на крайне интересные вещи. На прошлой неделе, например, создатели компьютерной программы AlphaGo сообщили, что их программное обеспечение научилось ориентироваться в сложной системе лондонского метрополитена как у себя дома.
И все же ИИ должен пройти долгий путь, прежде чем люди начнут переживать о переходе мира под полное управление машин, считает Орен Этциони, компьютерный ученый, который провел последние несколько десятилетий в попытке решить фундаментальные проблемы искусственного интеллекта. В настоящее время Этциони является главным исполнительным директором Алленовского института искусственного интеллекта (AI2), организации, которую соучредитель Microsoft Пол Аллен сформировал в 2014 году. С ее помощью он планировал сосредоточиться на потенциальных выгодах ИИ — и развеять домыслы, которые распространяет Голливуд и другие ученые, на тему угроз человеческой расе.
Собственные проекты AI2 не особо впечатляют — среди них поисковая система на основе ИИ для научных исследований Semantic Scholar, для примера — но посвящены таким решениям в области ИИ, как рассуждения, тем самым двигают всю область вперед.
Журнал Scientific American взял у Этциони интервью на недавней конференции, посвященной ИИ, в Нью-Йорке, где он выразил озабоченность по поводу того, что компании преувеличивают текущие возможности этой технологии, в частности и технику машинного обучения, известного как глубокое обучение. Этот процесс пропускает большие наборы данных через сети, имитируя нейронные сети человеческого мозга, и позволяет компьютерам самостоятельно обучаться решению специфических проблем, например, распознаванию изображений или идентификации конкретных объектов на фотографиях. Этциони также рассказал, почему 10-летний ребенок умнее программы AlphaGo и почему необходимо будет разработать программы искусственного интеллекта по типу «хранителей», которые не позволят другим программам ИИ стать опасными.
Наблюдается ли раскол среди исследователей ИИ на тему лучшего пути развития технологии?
Некоторые люди прыгают выше головы. Мы наблюдаем серьезный прогресс в таких областях, как распознавание речи, самоуправляемые автомобили (хоть и в слегка ограниченной форме) и, конечно, AlphaGo. Все эти технические достижения вполне реальны. Но как мы их интерпретируем? Глубокое обучение, очевидно, ценная технология, но чтобы создать искусственный интеллект, нам нужно решить множество других проблем, включая рассуждения (чтобы машина могла понимать, а не просто рассчитывать 2 + 2 = 4) и получение фоновых знаний, на основе которых машина могла бы создавать контекст. Понимание естественного языка — еще один пример. Даже если у нас есть AlphaGo, у нас нет программы, которая может прочитать и полностью понять абзац или даже просто предложение.
Говорят, что глубокое обучение — «лучшее, что у нас есть» в рамках ИИ. Не играет ли это против глубокого обучения?
Если у вас есть много данных, помеченных таким образом, что компьютер знает, что они означают, есть много вычислительной мощности и вы попытаетесь найти закономерности в этих данных, с глубоким обучением тягаться бесполезно. В случае того же AlphaGo, система обрабатывает 30 миллионов позиций и обучает программу ИИ правильно двигаться в разных ситуациях. Есть и другие сценарии — например, радиологические снимки — когда снимки помечаются как с опухолью и без, а программа глубокого обучения их перебирает и выявляет опухоли. С глубоким обучением можно делать много всяких интересных вещей, и да, это прорывная технология.
В чем же проблема?
Проблема в том, что в таких ситуациях нужно намного больше интеллекта, чем просто обученная программа. Представьте данные, которые доступны ученику в рамках стандартного теста вроде ЕГЭ или вступительных экзаменов в вуз. Нельзя изучить 30 миллионов предыдущих экзаменов, которые отмечены как «успешные» или «безуспешные», чтобы набрать высший балл. Это более сложный, интерактивный процесс обучения. Интеллект также включает обучение из беседы или в контексте, в процессе чтения книги. Но несмотря на все глубокое обучение, у нас нет программы, способной на подвиг 10-летнего, который может взять книгу, прочитать главу и ответить на вопросы, о чем эта книга.
Будет ли способность ИИ проходить стандартизованные тесты значительным прорывом в области технологий?
Мы фактически начали работать над этим в рамках исследовательской программы в Алленовском институте искусственного интеллекта. В прошлом году мы объявили приз в размере 50 000 долларов для всех, кто смог бы создать программное обеспечение на основе ИИ, способное пройти стандартный научный тест восьмиклассников. Более 780 команд со всего мира работали несколько месяцев над этим, но никто не смог набрать больше 60%. Это демонстрирует реалистичную и количественную оценку того, где мы находимся сегодня.
Как самым эффективным ИИ удается правильно отвечать на вопросы?
Все дело в языке. Наиболее успешные системы используют тщательно собранную информацию из научных текстов и других публичных ресурсов, которая затем просеивается с помощью тщательно настроенных информационно поисковых методов в поисках лучших ответов, желательно с несколькими вариантами. Например, что из этого будет лучшим проводником электричества: пластиковая ложка, деревянная вилка или железный поднос. Программы отлично разбираются в формулах и могут определить, что электричество и железо или проводимость и железо часто вместе встречаются во многих документах, чаще, чем пластик и проводимость, например. Поэтому иногда программы могут срезать путь и найти ответ. Почти так же, как дети делают логичные предположения. Но поскольку ни одна система не набрала больше 60%, эти программы используют статистику, чтобы делать логичные предположения, а не размышляют над вопросом.
Команда DeepMind, создавшая AlphaGo, имеет программу ИИ, которая выходит за рамки глубокого изучения, используя внешнюю систему памяти. Какое влияние их работа может оказать на создание более человекоподобного ИИ?
DeepMind остается лидером в продвижении глубоких нейронных сетей (ИИ, предназначенных для имитации человеческого мозга) вперед. Этот особый вклад является важным, но небольшим шагом в сторону рассуждения над тем, как факты связываются в структуру — например, на карте метро. Существующие символические программы могут с легкостью выполнять эту задачу, но важное достижение — заслуживающее публикации в Nature — в том, что нейронные сети обучаются выполнению задач по примерам. Это большой шаг для DeepMind, но маленький для человечества.
Можно ли использовать комбинацию подходов — глубокое обучение, машинное зрение и память, например — чтобы разработать более полный ИИ?
Это весьма привлекательная идея, и на самом деле много моих исследовательских работ, когда я был профессор Вашингтонского университета, было построено на использовании Интернета как базы данных для системы ИИ. Мы создали метод под названием open-information exctraction (извлечение открытой информации) и проиндексировали пять миллиардов веб-страничек, извлекая из них предложения и пытаясь создать на их основе карту знаний для машины. У той машины была сверхъестественная способность всасывать веб-странички, извлекая из них предложения. Но предложения — это текст или картинки. У нашего человеческого мозга есть уникальная способность — которую мы пока еще не взломали — превращать действие в рассуждение и наоборот. У нас есть универсальная база данных, которая формируется не на основе изображений и текста, а основе продуктов их обработки, осмысления. Такому машины пока не научились.
Вы говорите, что ИИ человеческого уровня появится не раньше чем через 25 лет. Почему именно человеческого уровня и почему именно эти временные рамки?
Истинное понимание естественного языка, широта и общность человеческого интеллекта, наша способность одновременно играть в го и переходить дорогу, а также готовить сносный омлет — это разнообразие является отличительной чертой человеческого интеллекта, а все, что мы сделали до сих пор, это разработали узконаправленные программы, которые могут делать что-то одно очень хорошо. Чтобы прийти к таким срокам, я общался с коллегами из Ассоциации по улучшению ИИ на тему того, когда у нас появится компьютерная система, которая будет умной, как человек, в более широком смысле. Никто не осмелился назвать цифру в 10 лет, 67% заявили, что через 25 лет и даже больше, а 25% сказали «никогда». Могут ли они ошибаться? Конечно. Но кому вы поверите: тем, кто в теме, или Голливуду?
Почему так много уважаемых ученых и инженеров делают из ИИ страшилку 21 века?
Мне трудно рассуждать о том, что движет Стивеном Хокингом или Элоном Маском, когда они так тревожно высказываются об ИИ. Можно предположить, что разговоры о черных дырах становятся скучными через некоторое время — эта тема развивается медленно. Единственное, что я хотел бы отметить, это когда Билл Гейтс — которого я безумно уважаю — говорит о том, что ИИ может стать злом или привести к катастрофическим последствиям, он всегда добавляет «в конечном счете» или «возможно». И с этим я согласен. Говоря о будущей тысяче лет, все может случиться. Но не думаю, что такая долгосрочная перспектива должна отвлекать нас от реальных проблем, которые мы встречаем на пути развития ИИ. Вот это «в конечном счете» или «возможно» часто теряется по дороге к головам людей.
Учитывая недостатки ИИ, стоит ли людям переживать о растущем интересе автопроизводителей к самоуправляемым автомобилям?
Я не большой поклонник самоуправляемых автомобилей, у которых нет руля или педали тормоза. С тем, что я знаю о компьютерном зрении и искусственном интеллекте, мне было бы очень некомфортно. Но я фанат комбинированной системы — которая сможет затормозить за вас, если вы уснете за рулем, например. Человек-водитель и автоматизированная система вкупе могут быть безопасней, чем по одиночке. Это не просто. Принять новые технологии и включить в жизнь и работу людей — не просто. Но я не верю, что отдать всю работу на откуп автомобилей — правильное решение.
Google, Facebook и другие известные технологические компании недавно запустили партнерство по искусственному интеллекту в интересах людей и общества, чтобы обозначить этические и социальные практики для исследований в области ИИ. Достаточно ли развита технология, чтобы такой подход имел смысл?
Когда ведущие технологические корпорации мира собираются вместе и думают о таких вещах, это очень хорошо. Я думаю, они делают это, опасаясь, что ИИ может захватить мир. Но большая часть этих страхов совершенно раздута. Даже если у нас будут самоуправляемые автомобили, ни один из них не решит вдруг взять приступом Белый дом. Риски, о которых говорит Элон Маск, от нас в десятках, если не в сотнях лет. Да, реальные опасения имеются: автоматизация, цифровые технологии и ИИ в целом меняют картину рабочих мест. Самоуправляемые автомобили и грузовики в итоге повысят безопасность передвижения, но также повлияют на экономику и людей, работающих в этой сфере. Этика тоже отдельный вопрос.
Как убедиться, что программа ИИ будет вести себя законно и этично?
Если вы банк, и у вас есть программное обеспечение, обрабатывающее кредиты, вы не можете за ним спрятаться. Сказать, что это сделал мой компьютер, не получится. Компьютерная программа может проявить дискриминационное поведение даже если не использует расовые или гендерные переменные. На этот случай должны быть «хранители» в виде ИИ-программ, которые отслеживают и предупреждают такое поведение среди других ИИ.
Существуют ли ИИ-хранители сегодня?
Мы призываем сообщество начать исследовать и создавать такие программы. Думаю, поначалу они будут весьма тривиальные, но это хоть что-то. Идея того, что ИИ-хранители могут противостоять злобному ИИ — образ которого так любят в голливудских фильмах — может найти поддержку среди людей.
http://hi-news.ru/technology/mnenie-eksperta-ii-strashilka-21-veka.html
Подписка на новостой RSS-канал сайта
Получать новости сайта по почте
Контактный адрес для любых сообщений
МЕНЮ
Архив материалов
Подписка на новости
Новости криптозоологии
Хроники природных катастроф
ПОСЛЕДНИЕ НОВОСТИ
20.05.2016 - 22.06.2016 (993)
23.06.2016 - 01.08.2016 (995)
02.08.2016 - 12.09.2016 (990)
13.09.2016 - 25.10.2016 (989)
26.10.2016 - 05.12.2016 (995)
06.12.2016 - 15.01.2017 (995)
16.01.2017 - 23.02.2017 (990)
24.02.2017 - 03.04.2017 (994)
04.04.2017 - 18.05.2017 (1000)
19.05.2017 - ...
Последние аномальные новости

Живое НЛО пролетело над Канадой

Жуткое отражение в зеркале

Контакт с Управителями всего мира

Миллиардеры готовятся к Апокалипсису

На юге Калифорнии видели НЛО землян

Найден способ стирать плохие воспоминания

НАСА опровергло слухи об открытии внеземной жизни

Насколько мы близки к клонированию человека

Обнаружили шесть звезд, удирающих из нашей галактики

Полноводные реки текли когда-то на Марсе

Радуги-близнецы возникли над Бухарестом

Родилась девочка с восьмью конечностями

Солнце - заправочная станция для НЛО

Способы прекращения полтергейста

Сферический НЛО на границе Литвы

Тайна отсутствия антивещества во Вселенной

Труп чупакабры нашли туристы под Таганрогом

Уфологи Аргентины заложили капсулу времени

Феномен чревовещания

Чудовище сняли в озере Ханто

Американские власти скрывали информацию об инопланетянах

Гитлер использовал внеземные технологии

Древний вулкан оказался пирамидой

Жизнь в космосе может быть редкостью

Жизнь на других планетах

Какие тайны скрывают научные комплексы в видеоиграх

Кристаллы необычной формы обнаружили в облаках

Мумия инопланетянина. Продолжение истории

Найдены пригодные для жизни экзолуны

НЛО пролетел над Симферополем

Нострадамус предсказал Золотой век России с 2025 года

Очередные странности Урана

Подземная база инопланетян на Марсе

Реальные размеры кораблей из Звездных войн

Специалисты изучают рассекреченные снимки НЛО

Сутки на Земле могут длиться 25 часов

Тайна древнего Акыртаса

Что станет с христианством, если обнаружатся инопланетяне

Эйнштейн не был двоечником

Экзопланеты-зеркала раскроют тайны горячих миров

Азартный клуб Вулкан знают миллионы людей

Людям нравится азарт

Играть в казино интересно и увлекательно

Врачи сняли галлюцинации студентки

Гадалку южнокорейского президента отправили за решетку

Девятая, Десятая и Нибиру

До Большого взрыва ничего не было

Загадочные люди-эхолокаторы

Запах мужчин заставляет женщин думать о сексе

Звездолет инопланетян заправляется от Солнца

Звездотрясения. Космос невероятно суров

Какое количество инопланетян в нашей галактике

Когда климатическое оружие поступит на вооружение

Необъяснимая головная боль

Необычный метод поиска экзопланет

Необычный факт долголетия женщин

Обеззараживание воды серебром опасно

Огненный Феникс над Колорадо

Откуда взялось название летающие тарелки

Полтергейст. Научные объяснения странных феноменов

Призрак спит в кроватке с ребенком

Солнечные извержения могут погубить человечество

Юбилей современной истории НЛО

Активность НЛО над территорией США возрасла

База землян на Марсе

Великобритания опубликовала секретные материалы

Войны за магический кристалл

Гравитационная волна вызывает феномен полтергейста

Есть ли ещё кто-то во Вселенной, кто тоже разумный

Имплант инопланетян обнаружили в ноге мужчины

Как противостоять энергетическому вампиру

НАСА собирается объявить об открытии инопланетной жизни

Облака обладают разумом

Обнаружены наскальные рисунки возрастом более 5000 лет

Обручальные кольца негативно влияют на здоровье

Призрак приказал отрезать уши дочери

Призраки старинных усадьб и загадки Царского камня

Самые жуткие отели

Самый древний интернет. Как грибы передают информацию

Секрет популярности Битвы экстрасенсов

Тайна огненных волос Солнца

Уже в этом октябре Планета X погубит Землю

Экстрасенс Николь Кузнецова может навсегда потерять голос

Воздушные бомбы виноваты в аномалиях Бермудского треугольника

Есть ли у людей феромоны

Житель Техаса увидел в небе 120-метровый НЛО

Зачем снятся сны

Крушение НЛО в Розуэлле все-таки было

Межзвездные путешествия скоро станут реальностью

Над заливом Сук видели НЛО

Нашли старшего брата Стоунхенджа

Необычные атмосферные феномены

Первый контакт с НЛО

Призрак за дверью

Проклятие Сивиньских оврагов

Родился наполовину баран-наполовину человек

Теория происхождения Вселенной трещит по швам

Уже открыты тысячи экзопланет

Феномен привязчивых душ

Феномену белых ночей нашли объяснение

Человек скоро станет киборгом

Что марийцы просят у деревьев

Что стоит за нашествием морских огурчиков на побережье США

В Солнечной системе существует две Планеты Икс

Величайший геофизический эксперимент

Госдума будет бороться с передачами о непознанном

Загадочный камень атлантов

Иисус Христос не был распят

Мертвые галактики существуют с самого рождения Вселенной

Метеорит упал в Подмосковье

НЛО наблюдали в Мамадыше

Планеты у нейтронных звезд обитаемы

Планы SpaceX по колонизации Марса

Полтергейст поселился в квартире Краснодара

Призрак на старом снимке

Рассказы людей, похищенных инопланетянами

Сверхъестественные явления в жизни знаменитых политиков

Секретные операции у берегов Исландии

Снежный человек поселился в Подмосковье

Тайна явлений Девы Марии в Зейтуне

Что скрывают просторы Марса

Чупакабра орудует в Копейске

Ядерный потенциал Земли под контролем инопланетян

Автомобили не любят мороженое

Два НЛО на закате в Пенсильвании

Доказано существование высокотехнологичной цивилизации

Зачем тысячи ведьм и друидов собрались возле Стоунхенджа

Инопланетные гиганты просыпаются в Антарктиде

Какие сведения из Книги Книг подтверждены наукой

Климатическое оружие в действии

Марсоход ездит не по Земле

Мумия инопланетянина найдена в Перу

Одержимая бабушка задушила месячную внучку

Почему пришельцы хотят захватить Землю

Призрак замка Дадли

Пять НЛО и крупный неоновый диск над Индианополисом

Рядом с базой ВВС США курсировали два НЛО

Снежного человека сняли в Техасе

Снежный человек в Кыштовском районе

Сотни рыб выбросились из озера из-за песен

Технологические стороны летающих тарелок

Трупы инопланетян нашли на Марсе

Человечество должно начать миграцию с Земли

Астронавт рассказал о неудавшемся нападении инопланетян

Водоросль осветила пляж Австралии

Доказательства существования НЛО

Древний туннель из Шотландии в Турцию

Как найти братьев по разуму

Малые зкзопланеты четко делятся на две группы

Место силы Каменная могила

Наскальные рисунки в урочище Калбак Таш

Немцы ищут Янтарную комнату

НЛО гналось за машиной

Поиск планет у Проксимы Центавра продолжается

Почему ничто не может быть быстрее света

Призраки в викторианской карете

Расшифровали предсказания Нострадамуса до 2029 года

Скоро запустят телескоп для поисков двойников Земли

Снежный человек объявился в окрестностях села Черновка

Странное облако над Новосибирском

Тайна пенопластовой экзопланеты

Шесть истребителей сопровождали красный НЛО

Школьник открыл новую экзопланету

Самое популярное онлайн-развлечение

Сколько вы ожидаете выиграть на одноруких бандитах

Аномальные зоны Ростовской области

База или корабль инопланетян обнаружен на Луне

Деревянные Стоунхенджи Европы

Древнее озеро Марса было обитаемо

Инопланетяне наблюдают за нами

Искусственный интеллект спасёт зерновые культуры

Как инопланетяне смогут с нами связаться

Космологи усомнились в открытии гравитационных волн

Криминалистика будущего

Лучше оружие для зомби-апокалипсиса

Найдено десять новых двойников Земли

Новые пиктограммы в Англии

Пирамиду нашли на Луне

Призраки-убийцы австралийской трассы

Раскрыто прошлое столкнувшихся черных дыр

Россия будет процветать после 2020 года

Сценарии возникновения инопланетных цивилизаций

Таинственные обитатели морских глубин

Храм ацтеков нашил в Мехико

Эти магические кошки

Дискообразный НЛО случайно попавший в кадр на Луне

Подписка на новости сайта
Наверх
Рейтинг@Mail.ru Яндекс.Метрика