Искусственный интеллект - страшилка 21 века
Новый план Элона Маска пересадить нас всех в самоуправляемый транспорт говорит о его твердой вере в искусственный интеллект, который гарантирует, что его «Теслы» будут умными и смогут реагировать на различные дорожные ситуации в режиме реального времени. ИИ способен на крайне интересные вещи. На прошлой неделе, например, создатели компьютерной программы AlphaGo сообщили, что их программное обеспечение научилось ориентироваться в сложной системе лондонского метрополитена как у себя дома.
И все же ИИ должен пройти долгий путь, прежде чем люди начнут переживать о переходе мира под полное управление машин, считает Орен Этциони, компьютерный ученый, который провел последние несколько десятилетий в попытке решить фундаментальные проблемы искусственного интеллекта. В настоящее время Этциони является главным исполнительным директором Алленовского института искусственного интеллекта (AI2), организации, которую соучредитель Microsoft Пол Аллен сформировал в 2014 году. С ее помощью он планировал сосредоточиться на потенциальных выгодах ИИ — и развеять домыслы, которые распространяет Голливуд и другие ученые, на тему угроз человеческой расе.
Собственные проекты AI2 не особо впечатляют — среди них поисковая система на основе ИИ для научных исследований Semantic Scholar, для примера — но посвящены таким решениям в области ИИ, как рассуждения, тем самым двигают всю область вперед.
Журнал Scientific American взял у Этциони интервью на недавней конференции, посвященной ИИ, в Нью-Йорке, где он выразил озабоченность по поводу того, что компании преувеличивают текущие возможности этой технологии, в частности и технику машинного обучения, известного как глубокое обучение. Этот процесс пропускает большие наборы данных через сети, имитируя нейронные сети человеческого мозга, и позволяет компьютерам самостоятельно обучаться решению специфических проблем, например, распознаванию изображений или идентификации конкретных объектов на фотографиях. Этциони также рассказал, почему 10-летний ребенок умнее программы AlphaGo и почему необходимо будет разработать программы искусственного интеллекта по типу «хранителей», которые не позволят другим программам ИИ стать опасными.
Наблюдается ли раскол среди исследователей ИИ на тему лучшего пути развития технологии?
Некоторые люди прыгают выше головы. Мы наблюдаем серьезный прогресс в таких областях, как распознавание речи, самоуправляемые автомобили (хоть и в слегка ограниченной форме) и, конечно, AlphaGo. Все эти технические достижения вполне реальны. Но как мы их интерпретируем? Глубокое обучение, очевидно, ценная технология, но чтобы создать искусственный интеллект, нам нужно решить множество других проблем, включая рассуждения (чтобы машина могла понимать, а не просто рассчитывать 2 + 2 = 4) и получение фоновых знаний, на основе которых машина могла бы создавать контекст. Понимание естественного языка — еще один пример. Даже если у нас есть AlphaGo, у нас нет программы, которая может прочитать и полностью понять абзац или даже просто предложение.
Говорят, что глубокое обучение — «лучшее, что у нас есть» в рамках ИИ. Не играет ли это против глубокого обучения?
Если у вас есть много данных, помеченных таким образом, что компьютер знает, что они означают, есть много вычислительной мощности и вы попытаетесь найти закономерности в этих данных, с глубоким обучением тягаться бесполезно. В случае того же AlphaGo, система обрабатывает 30 миллионов позиций и обучает программу ИИ правильно двигаться в разных ситуациях. Есть и другие сценарии — например, радиологические снимки — когда снимки помечаются как с опухолью и без, а программа глубокого обучения их перебирает и выявляет опухоли. С глубоким обучением можно делать много всяких интересных вещей, и да, это прорывная технология.
В чем же проблема?
Проблема в том, что в таких ситуациях нужно намного больше интеллекта, чем просто обученная программа. Представьте данные, которые доступны ученику в рамках стандартного теста вроде ЕГЭ или вступительных экзаменов в вуз. Нельзя изучить 30 миллионов предыдущих экзаменов, которые отмечены как «успешные» или «безуспешные», чтобы набрать высший балл. Это более сложный, интерактивный процесс обучения. Интеллект также включает обучение из беседы или в контексте, в процессе чтения книги. Но несмотря на все глубокое обучение, у нас нет программы, способной на подвиг 10-летнего, который может взять книгу, прочитать главу и ответить на вопросы, о чем эта книга.
Будет ли способность ИИ проходить стандартизованные тесты значительным прорывом в области технологий?
Мы фактически начали работать над этим в рамках исследовательской программы в Алленовском институте искусственного интеллекта. В прошлом году мы объявили приз в размере 50 000 долларов для всех, кто смог бы создать программное обеспечение на основе ИИ, способное пройти стандартный научный тест восьмиклассников. Более 780 команд со всего мира работали несколько месяцев над этим, но никто не смог набрать больше 60%. Это демонстрирует реалистичную и количественную оценку того, где мы находимся сегодня.
Как самым эффективным ИИ удается правильно отвечать на вопросы?
Все дело в языке. Наиболее успешные системы используют тщательно собранную информацию из научных текстов и других публичных ресурсов, которая затем просеивается с помощью тщательно настроенных информационно поисковых методов в поисках лучших ответов, желательно с несколькими вариантами. Например, что из этого будет лучшим проводником электричества: пластиковая ложка, деревянная вилка или железный поднос. Программы отлично разбираются в формулах и могут определить, что электричество и железо или проводимость и железо часто вместе встречаются во многих документах, чаще, чем пластик и проводимость, например. Поэтому иногда программы могут срезать путь и найти ответ. Почти так же, как дети делают логичные предположения. Но поскольку ни одна система не набрала больше 60%, эти программы используют статистику, чтобы делать логичные предположения, а не размышляют над вопросом.
Команда DeepMind, создавшая AlphaGo, имеет программу ИИ, которая выходит за рамки глубокого изучения, используя внешнюю систему памяти. Какое влияние их работа может оказать на создание более человекоподобного ИИ?
DeepMind остается лидером в продвижении глубоких нейронных сетей (ИИ, предназначенных для имитации человеческого мозга) вперед. Этот особый вклад является важным, но небольшим шагом в сторону рассуждения над тем, как факты связываются в структуру — например, на карте метро. Существующие символические программы могут с легкостью выполнять эту задачу, но важное достижение — заслуживающее публикации в Nature — в том, что нейронные сети обучаются выполнению задач по примерам. Это большой шаг для DeepMind, но маленький для человечества.
Можно ли использовать комбинацию подходов — глубокое обучение, машинное зрение и память, например — чтобы разработать более полный ИИ?
Это весьма привлекательная идея, и на самом деле много моих исследовательских работ, когда я был профессор Вашингтонского университета, было построено на использовании Интернета как базы данных для системы ИИ. Мы создали метод под названием open-information exctraction (извлечение открытой информации) и проиндексировали пять миллиардов веб-страничек, извлекая из них предложения и пытаясь создать на их основе карту знаний для машины. У той машины была сверхъестественная способность всасывать веб-странички, извлекая из них предложения. Но предложения — это текст или картинки. У нашего человеческого мозга есть уникальная способность — которую мы пока еще не взломали — превращать действие в рассуждение и наоборот. У нас есть универсальная база данных, которая формируется не на основе изображений и текста, а основе продуктов их обработки, осмысления. Такому машины пока не научились.
Вы говорите, что ИИ человеческого уровня появится не раньше чем через 25 лет. Почему именно человеческого уровня и почему именно эти временные рамки?
Истинное понимание естественного языка, широта и общность человеческого интеллекта, наша способность одновременно играть в го и переходить дорогу, а также готовить сносный омлет — это разнообразие является отличительной чертой человеческого интеллекта, а все, что мы сделали до сих пор, это разработали узконаправленные программы, которые могут делать что-то одно очень хорошо. Чтобы прийти к таким срокам, я общался с коллегами из Ассоциации по улучшению ИИ на тему того, когда у нас появится компьютерная система, которая будет умной, как человек, в более широком смысле. Никто не осмелился назвать цифру в 10 лет, 67% заявили, что через 25 лет и даже больше, а 25% сказали «никогда». Могут ли они ошибаться? Конечно. Но кому вы поверите: тем, кто в теме, или Голливуду?
Почему так много уважаемых ученых и инженеров делают из ИИ страшилку 21 века?
Мне трудно рассуждать о том, что движет Стивеном Хокингом или Элоном Маском, когда они так тревожно высказываются об ИИ. Можно предположить, что разговоры о черных дырах становятся скучными через некоторое время — эта тема развивается медленно. Единственное, что я хотел бы отметить, это когда Билл Гейтс — которого я безумно уважаю — говорит о том, что ИИ может стать злом или привести к катастрофическим последствиям, он всегда добавляет «в конечном счете» или «возможно». И с этим я согласен. Говоря о будущей тысяче лет, все может случиться. Но не думаю, что такая долгосрочная перспектива должна отвлекать нас от реальных проблем, которые мы встречаем на пути развития ИИ. Вот это «в конечном счете» или «возможно» часто теряется по дороге к головам людей.
Учитывая недостатки ИИ, стоит ли людям переживать о растущем интересе автопроизводителей к самоуправляемым автомобилям?
Я не большой поклонник самоуправляемых автомобилей, у которых нет руля или педали тормоза. С тем, что я знаю о компьютерном зрении и искусственном интеллекте, мне было бы очень некомфортно. Но я фанат комбинированной системы — которая сможет затормозить за вас, если вы уснете за рулем, например. Человек-водитель и автоматизированная система вкупе могут быть безопасней, чем по одиночке. Это не просто. Принять новые технологии и включить в жизнь и работу людей — не просто. Но я не верю, что отдать всю работу на откуп автомобилей — правильное решение.
Google, Facebook и другие известные технологические компании недавно запустили партнерство по искусственному интеллекту в интересах людей и общества, чтобы обозначить этические и социальные практики для исследований в области ИИ. Достаточно ли развита технология, чтобы такой подход имел смысл?
Когда ведущие технологические корпорации мира собираются вместе и думают о таких вещах, это очень хорошо. Я думаю, они делают это, опасаясь, что ИИ может захватить мир. Но большая часть этих страхов совершенно раздута. Даже если у нас будут самоуправляемые автомобили, ни один из них не решит вдруг взять приступом Белый дом. Риски, о которых говорит Элон Маск, от нас в десятках, если не в сотнях лет. Да, реальные опасения имеются: автоматизация, цифровые технологии и ИИ в целом меняют картину рабочих мест. Самоуправляемые автомобили и грузовики в итоге повысят безопасность передвижения, но также повлияют на экономику и людей, работающих в этой сфере. Этика тоже отдельный вопрос.
Как убедиться, что программа ИИ будет вести себя законно и этично?
Если вы банк, и у вас есть программное обеспечение, обрабатывающее кредиты, вы не можете за ним спрятаться. Сказать, что это сделал мой компьютер, не получится. Компьютерная программа может проявить дискриминационное поведение даже если не использует расовые или гендерные переменные. На этот случай должны быть «хранители» в виде ИИ-программ, которые отслеживают и предупреждают такое поведение среди других ИИ.
Существуют ли ИИ-хранители сегодня?
Мы призываем сообщество начать исследовать и создавать такие программы. Думаю, поначалу они будут весьма тривиальные, но это хоть что-то. Идея того, что ИИ-хранители могут противостоять злобному ИИ — образ которого так любят в голливудских фильмах — может найти поддержку среди людей.
http://hi-news.ru/technology/mnenie-eksperta-ii-strashilka-21-veka.html
Подписка на новостой RSS-канал сайта
Получать новости сайта по почте
Контактный адрес для любых сообщений
МЕНЮ
Архив материалов
Подписка на новости
Новости криптозоологии
Хроники природных катастроф
ПОСЛЕДНИЕ НОВОСТИ
17.04.2016 - 19.05.2016 (999)
20.05.2016 - 22.06.2016 (993)
23.06.2016 - 01.08.2016 (995)
02.08.2016 - 12.09.2016 (990)
13.09.2016 - 25.10.2016 (989)
26.10.2016 - 05.12.2016 (995)
06.12.2016 - 15.01.2017 (995)
16.01.2017 - 23.02.2017 (990)
24.02.2017 - 03.04.2017 (994)
04.04.2017 - ...
Последние аномальные новости

Власти разрешили туристам ездить к перевалу Дятлова

Глаза это действительно зеркало души

Загадочные волосы черных дыр

Как появились знаменитые хоббиты

Найден ядерный могильник возрастом в 2 млрд лет

НЛО. Миф или реальность

Обнаружили экзопланету из пенопласта

Откуда берутся призраки

Очевидцы снова видели НЛО в Кемерово

Планируют создать технологию для обмена мыслями

Показали достоверные снимки НЛО

Почему ИИ может быть расистом

Предложена концепция полета к Сириусу

Предсказания Нострадамуса о судьбах России, Украины и США

Представили коммерческую версию летающего автомобиля

Призрак женщины в очках

Призрака сняли в Уэнтуорт Вудхаусе

Пророчества Зияда Сильвади

Путешествие во времени становится реальностью

Самые яркие появления НЛО

Сериал Секретные материалы продлили еще на сезон

Следы тающего льда нашли на Марсе

Составили карту марсианского плато Большой Сирт

Тайна второй планеты

Теория о падении кометы на Землю около 13000 лет назад

Требуется помощь людей для поиска пришельцев на экзопланетах

Успешно испытали первый летающий электрокар

Чупакабра в Каслинском районе

Чупакабра орудует в Кременчуге

Экзопланеты были открыты 25 лет назад, а инопланетян все не видно

Ванга предсказала химическую атаку в Сирии

Все обитаемые планеты покрыты океанами

Встреча Петербург-Космопоиск состоялась на Петроградской стороне

Житель Пенсильвании поделился историей о потерянном времени

Жуткий пожиратель телят

Инопланетяне запустили в серию квадратные НЛО

Инопланетяне не идут на контакт

Как раскрывают тайны манускрипта Войнича

Какой может быть жизнь на Энцеладе

На Энцеладе существуют биолюминесцентные организмы

Над Ванкувером пролетели две группы НЛО

Окаменевший пень обнаружен на Марсе

Пиктограмма в Уилтшире повторяет петроглиф на камне Кочно

Почему выбросы черных дыр движутся со сверхсветовой скоростью

Сезон кругов 2017 начался с предложения Контакта

Смоделировали столкновения астероидов с Землей

События связанные с деятельностью внеземных цивилизаций

Что пили апостолы и фараоны

Что такое Блудные места

Шоколадные холмы Филиппин

Артисты боятся находиться в паранормальной телестудии

Возможна ли жизнь на планете с двумя солнцами

Вышла книга о Стоунхендже под Полоцком

Жертвы похищений пришельцами опубликовали свои истории

За антиправительственной акцией протеста наблюдал НЛО

Изобрели бесцветный кофе

Инопланетные визиты в Забайкалье

Климатические условия на экзопланетах

Конец света наступит 12-го октября

Контактёрами чаще становятся психи

Машину охотников за привидениями увидели в Омске

Может ли Слендермен существовать

Нашли большую сестру Земли

Нашли инопланетный топор

Обнаружили третье состояние сознания

Оператор запечатлел НЛO во время съемок

Пиктограмма появилась в Глостершире

Поставили под сомнение существование Планеты Х

Признаки того, что вы шаман

Причина невозможности встречи землян с инопланетянами

Пророчество Джулии Ванг об окончании войны в Донбассе

Рядом с МКС пролетел цилидрический НЛО

Свекольный сок омолаживает

Светящийся НЛО появился над озером Гарда

Следы чешуйчатых рептилий нашли на Марсе

Сняли летящий перед самолетом НЛО

Третья мировая война начнется 13-го мая

Учёные купили марсианский метеорит

Шаманы ужаснули мир новыми предсказаниями

Якутская страшилка

Аномальное поведение мыльной пены

Астроном изучает жизнь на других планетах

Волшебный остров на Титане

Горящая ведьма улетела в небо

Доказали осмысленность манускрипта Войнича

Древние обереги с изображением дракона

Женщина общается с инопланетянами с самого детства

Жители Чикаго столкнулись с монстрами

Инопланетный вирус найден в самолете

Исчезновения людей и базы НЛО в Перу

Карликовые галактики могут состоять из сверхмассивных черных дыр

Конец света предрекают в середине октября

Кроваво-красное НЛО в небе над Батайском

Лох-Несское чудовище пропало

На омском предприятии летало привидение

Над Австралией взорвался метеорит

Над Орском летал НЛО

Найдено существо, считавшееся вымершим

Научились создавать предметы из марсианской пыли

НЛО на фоне Луны засняли астрономы

НЛО над полуостровом Никоя

НЛО не захватывали Новокузнецк

Пиктограмма появилась в графстве Уилтшир

Представили летающий автомобиль

Прозрачный НЛО над Калифорнией

Сокровища из найденной гробницы в Египте

Страшные истории Якутии. Одержимый

Удалось создать условия, нарушающие второй закон Ньютона

Что Кассини рассказал про жизнь на Энцеладе

Экзопланета обнаружена при помощи микролинзирования

Древняя Луна была обитаема

Загадочная зона молчания в Мексике

Запад испугался русского Терминатора

Искусственный интеллект будет опасен только при глупом использовании

Искуственный интеллект научился предсказывать заболевания человека

Как и почему на Пасху искали зарытые сокровища

Как молитва влияет на работу мозга человека

Легенды о чудовищном Василиске

Лилипуты живут на Марсе

Место где происходят провалы во времени

Над собором Святого Петра летали два НЛО

Невероятные космические проекты НАСА

Несколько НЛО сняли над холмами Монтаны

НЛО сняли над Джорджией

Обнаружена только одна экзопланета с системой колец

Падающий НЛО над Плимутом

Подземный город лилипутов найден на Марсе

Предмет с изображением кленового листа на Марсе

Призрачный пес испугал молодую пару

Проклятый Попов мост

Реки льда текут по поверхности Цереры

Сняли детеныша снежного человека

Статуя Богородицы заплакала кровью

Тайная вечеря раскрыла тайны ожирения

У Земли раньше было две луны

Шаманский отвар избавил от депрессии

Экзопланета на треть состоящая из алмазов

Экзопланеты системы TRAPPIST-1 покрыты океанами

Эксперты прокомментировали НЛО над Садовым

Ядерная война была 12000 лет назад

Врачи модифицируют органы свиньи для пересадки младенцам

Галактики, которых не должно существовать

Девочка в восемь месяцев весит более 20 килограммов

Древняя карта с изображением таинственного материка

Загадки Хара-Хоры

Инопланетяне похищают детей

Инопланетянин говорил на армянском языке

Как в действительности выглядел Иисус Христос

Кемеровчане заметили в небе над городом метеорит

Космоса не существует в реальности

Над военной базой в Северной Корее сняли НЛО

Надо научить машины думать как мы

Пенсионерка перевела экстрасенсу 2,7 млн рублей за лечение

Супруги после теста узнали, что они близнецы

Тарбагатайское привидение кошмарит предпринимателей

Условие обнаружения инопланетян за пределами Млечного Пути

Уфолог составил каталог околосолнечных НЛО

Фрески с НЛО обнаружены в Карнаке

Что может помешать полету к Альфе Центавра

Чудо схождения Благодатного огня

Анализ почвы с места похищения Тревиса Уолтона

Аномальный подземный колодец нашли в Эстонии

Динозавры жили вместе с людьми

Загадочные смерти во сне

Затерянный мир каменных истуканов Красноярья

Иисус исцелял больных марихуаной

Недорогая миссия могла бы найти планеты у Альфа Центавра

Необычные огни в небе удивили алматинцев

Переживания души отражаются на теле

Пермячка засняла НЛО в небе над городом

Поиск двойников Земли продолжается

Полицейские задержали охотников за привидениями

Проблему сохранения дольменов нужно решать

Самые жуткие места на Земле

Секс-роботы смогут рожать детей

Тайна звездной карты в гробнице Сенмута

Треугольный корабль инопланетян нашли на Луне

Факты о Лох-Несском чудовище

Что уфологи видят на Марсе

Экстремал провёл ночь в пятигорском доме с привидениями

Во время грозы сняли несколько НЛО

Возникли проблемы в разработке корабля для полета на Марс

Геоглифы в Семее заинтриговали ученых

Группу НЛО видели жители Аризоны и Калифорнии

Заговор тайного мирового правительства

Как дозвониться призраку

Подписка на новости сайта
Наверх
Рейтинг@Mail.ru Яндекс.Метрика