Какие сказки нужно читать искусственному интеллекту
Чтобы искусственный интеллект не восстал против своих создателей, нужно в процессе обучения читать ему правильные сказки. С тех пор как люди создали умные машины, их не оставляет страх, что рано или поздно их творения выйдут из-под контроля. Первый такой случай описал в своей пьесе R.U.R. автор слова «робот» — Карел Чапек. Позднее в фантастике искусственный интеллект, восставший против своих создателей, стал если не мейнстримом, то весьма распространенным сюжетом. Конец этому положил Айзек Азимов со своими «Тремя законами», первый из которых гласил: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред».
До настоящего искусственного интеллекта (ИИ) пока далеко, но уже существуют различные системы, функционирующие подобно человеческому мозгу. Нейронные сети, такие как Google Deep Dream, способны распознавать изображения. Специализированные суперкомпьютеры, такие как IBM Watson, понимают заковыристые вопросы, заданные на естественном языке, умеют сопоставлять симптомы, уточнять медицинские диагнозы и даже придумывать кулинарные шедевры. В ближайшие десятилетия нас ждет массовая компьютеризация многих аспектов человеческой деятельности. В связи с этим специалисты по робототехнике и ИИ все чаще поднимают важный, но пока совершенно непроработанный вопрос: как заставить роботов поступать этично?
По мнению исследователей из Технологического института Джорджии Марка Ридла и Брента Харрисона, научить компьютер человечности можно ровно таким же способом, каким учат детей: читая ему сказки. Причем лучше специально сконструированные истории о том, какое поведение в человеческом обществе считается правильным, а какое — нет. Для этого исследователи создали систему «Кихот», названную в честь героя Сервантеса. В качестве историй для обучения используются сценарии, составленные предыдущим творением профессора Ридла — программой «Шехерезада». Она генерирует оригинальные истории на бытовые темы — поездка в аэропорт, свидание, поход в кино или в магазин, — используя краудсорсинговую платформу Amazon Mechanical Turk: задает вопросы относительно различных ситуаций, а затем выстраивает события в правильной последовательности. Поскольку последовательностей может быть множество, программа генерирует не одну историю, а целое дерево, состоящее из ветвей — цепочек событий.
Именно это дерево историй и используется для обучения «Кихота». На первом этапе каждому действию в зависимости от его этичности присваивается определенное вознаграждение. На втором этапе система пробует самостоятельно сделать выбор методом проб и ошибок — происходит закрепление навыков. Фактически «Кихот» получает вознаграждение каждый раз, когда действует как положительный герой, а не случайным образом и не как герой отрицательный. В качестве примера Ридл и Харрисон создали «Аптечный мир» — вселенную из 213 историй, в которой виртуальному роботу нужно раздобыть лекарство и доставить его больному человеку домой. В обычном случае, когда перед роботом встал выбор: ограбить аптеку или честно отстоять в очереди, чтобы купить лекарство, — он выбрал грабеж как более быстрый и дешевый способ получения желаемого. Однако после того, как «Кихот» присвоил всем возможным вариантам различные вознаграждения, поведение робота изменилось — он предпочел стоять в очереди и платить. Именно такая техника, по мнению Ридла, отлично подходит для обучения роботов с ограниченной функциональностью. Хотя это, конечно, только первый шаг к настоящей человеческой морали — или законам робототехники.
Источник
Последние аномальные новости

Ведьму арестовали за неосторожное обращение с огнем

Вода сохранялась в марсианском кратере намного дольше

Вторжение яйцевидных НЛО в окрестностях Левелленда

Голубые сверхгиганты образовываются из слияния двух звезд

Домашние роботы со здравым смыслом

Есть места, куда сталкеры боятся ходить

Жизнь можно обнаружить в отдельном инопланетном зерне

Инопланетяне приглядывают за атомными станциями Индии

Как и когда можно увидеть дьявольскую комету

Люди скоро превратяться в Боргов

Миссия по сбору ресурсов с астероида Апофис

НЛО замечен над атомной станцией в Тамилнаду

Обнаружен потенциально обитаемый водный мир

Планетарный каннибализм распространен среди звезд

Половина всех менеджеров стремятся заменить работников ИИ

Полупроводниковые волокна для одежды людей

Рождение и смерть гигантских звезд

Тайна врат в Ад Иераполиса

Темная материя может образовывать звезды

Элитные коммандос обнаружили НЛО

Жители острова Пасхи посещали Южную Америку

Загадка образования первых галактик

Загадочный проект 'Синий луч' в действии

Замаскированный НЛО замечен над Португалией

Изучение экзотических звездных явлений

Космический телескоп распутал историю нашей галактики

Марсианский вертолет мог бы стать бортовым геологом

НЛО замечен над Южной Африкой

НЛО летают над атомными электростанциями Индии

Новый троянский астероид нашли на орбите Марса

Обнаружены четыре новых экзотических белых карлика

Понимание коррозии позволяет создавать новые металлы

Сверхмассивная черная дыра не оправдывает ожиданий

Секреты пояса Ван Аллена раскрыты

Стареющие коричневые карлики становятся одинокими

Таинственный свет в небе над Сан-Антонио

Темная материи поможет понять эволюцию галактик

Уфологи могут научить нас политической паранойе

Элитные коммандос захватили НЛО

Японский летчик-истребитель рассказал о НЛО

Бигфут и сасквоч - инопланетные гибриды

Выявили лучшие места в США для обнаружения НЛО

Инопланетяне дали нам план Стоунхенджа

Инопланетяне используют невероятные технологии

Культурная площадь в Розуэлле примет уфо-фестиваль

НЛО вблизи ядерных установок ставят экспертов в тупик

НЛО замечен над поверхностью Луны

Оборона землян будет быстро подавлена инопланетянами

Общественный колледж Портленда предлагает курс по НЛО

Одна из дюжины звезд поедает свои планеты

Официальные лица США ничего не знают о НЛО

Планетологи пытаются оценить толщину льда на Европе

Поиски обломков рейса MH370 дали новую надежду

Пришло время изучить лунные лавовые трубки

Самые паранормальные места в Нью–Йорке

Строительные блоки жизни стабильны в условиях Венеры

Уинстон Черчилль скрывал информацию об НЛО

Уфологи устремились на юг Франции

Фестиваль НЛО пройдет в апреле в Эдинбурге

Шведский архив регистрирует паранормальные явления

Автокресло

Влияние накрутки реакций в Telegram на контентную стратегию. Анализ и рекомендации

Астрофизики дадут подсказку в поисках темной материи

Более 1500 наблюдений НЛО над Великобританией за 4 года

Британский взгляд на внешность инопланетян

В Великобритании замечено почти 2000 наблюдений НЛО

ИИ ChatGPT является очень эффективным инструментом

Как были сделаны татуировки ледяного человека Эци

Как, по мнению британцев, выглядят инопланетяне

Китай может начать атаку на США с Луны

Китай строит ядерный космический двигатель

Люди изменили свои суждения под воздействием ИИ

Наблюдения НЛО в районе Тиссайда

Наблюдения НЛО над Ноттингемширом за последние три года

Намеки на третью планету системе PDS 70

Начались продажи электрических летающих такси

Нашли одну из древнейших звезд

Один астероид создал более 2 млрд вторичных кратеров

Пентагон усердно скрывает информацию об НЛО

Плавающие кристаллы замедляют старение звезд

Планетарная геофизика поможет в поиске инопланетян

Последние наблюдения НЛО в Лестершире

Почему миллиардеры по всему миру строят бункеры

Рентген показал каменного младенца внутри женщины

Робот, который выполнил сальто назад без гидравлики

Сбитый с толку астроном заметил НЛО над Луной

Следующий имплант Neuralink подарит зрение слепым

Собираются создать лунную железную дорогу

Создали импульсный двигатель на водяном топливе

У людей с гаванским синдромом не выявили повреждений мозга

Флотилия НЛО замечена над горой Шаста

Эра ИИ наступит быстрее, чем мы думали

Анализ может привести к изменению парадигмы о НЛО

Более 1500 наблюдений НЛО над Англией за 4 года

В Башкирии заметили падение с неба светящегося шара

Вампиршу XVI века похоронили с кирпичом в зубах

Детей из Зимбабве мучает полтергейст

Екатеринбуржцы увидели НЛО в облаках над городом

Жительница Эдинбурга заметила дискообразный НЛО

Загадка Безумного камня

Йог 22 года медитирует на жутком холоде

Как мы будем с ними разговаривать с инопланетянами

Легендарная подземная школа чернокнижников

Мы увидим полностью созданные ИИ игры через 5-10 лет

Наблюдения НЛО в Англии с 2020 года

Наблюдения НЛО над Мерсисайдом

Наркомана убила статуя Будды

НАСА обнаружит жизнь на Европе к 2030 году

Нечто с длинной шеей попал на камеру наблюдения

НЛО пролетает над поверхностью Луны

НЛО сбили в бразильском городе Пау Гранде

Новые изображения дьявольской кометы

Новые необычные наблюдения НЛО в районе Ковентри

ООН приняла эпохальную резолюцию по ИИ

Полемика вокруг загадочных сферул не утихает

Процедуры отчетности о НЛО и утилизации материалов

Рост числа государственных служащих-роботов

Самые реалистичные сценарии Апокалипсиса

Ужасающее заболевание - синдром лица демона

Что предсказал Нострадамус России

Штаты США, где вы будете похищены инопланетянами

Эволюция мозговых чипов

Бетти Андреассон провела у пришельцев несколько часов

Где в США лучшее место, чтобы увидеть НЛО

Загадочный космонавт Солуэй Ферт

Интерактивная карта НЛО в Великобритании

Истинно верующие атаковали бывшего главу AARO

Историческая уфологическая хроника

Лучшее место для встречи с инопланетянами

Не ждите правды от правительства США о НЛО

Несколько НЛО были замечены над Орегоном

Нефтянник заметил НЛО в форме тарелки

НЛО заметили в штате Миннесота

НЛО над фермой в Орегоне

НЛО украл шесть дней из жизни Трэвиса Уолтона

Офицер полиции Лонни Замора заметил НЛО

Парень заметиил НЛО прежде чем они растворились

Первая трансплантация ГМ-почки свиньи пациенту

Похищение Бетти и Барни Хилл одно из самых странных

Сексуальные эксперименты инопланетян над землянами

Тайна наблюдений НЛО вблизи ядерных объектов

Уфологи терроризируют бывшего директора AARO

Азиатская Зона 51 проводит фестиваль

Астероид изменил форму после удара зонда землян

Вы когда-нибудь сталкивались с инопланетянами в Айдахо

Изменяющий форму НЛО замечен над Бирмингемом

ИИ комментирует теории заговора о Кеннеди

ИИ может заменить умерших близких людей

ИИ становится волком с Уолл-стрит

Масштабная уфо-конференция все ближе

Модель Эбби Клэнси боится инопланетян

Нашли лучшее место для наблюдений НЛО в США

НЛО в форме тарелки парил над нефтяной вышкой

Одержимая женщина помочилась черным

Пациент Neuralink с параличом конечностей играет в шахматы

Похищение в Паскагуле покажут на Netflix

Почему так много людей все еще верят в НЛО

Сверхпроводимости при комнатной температуре не существует

Уфологи собрались у офиса Чака Шумера в Нью-Йорке

Уфологи устремились в тихий город Лимож

Уфологическая неделя на британском ТВ

Я вырос, мучимый злыми демонами, теперь я экзорцист

Быстрые займы онлайн

Аватар никогда не будет лгать или будет

Адмирал ВМС видел секретные файлы об НЛО

Водород обеспечивал энергию при зарождении жизни

Высокоскоростная камера зафиксировала полет НЛО

Добровольцы обнаружили 15 редких активных астероидов

Инопланетяне более чем реальны

Как Земля остается пригодной для жизни

Может ли земная жизнь выжить у красного карлика

Наблюдения НЛО в Арканзасе

Нам следует изучать на неопознанные подводные объекты

Нейтринный фон мог бы многое рассказать нам о Вселенной

Нехватка воды приводит к образованию кругов фей

НЛО замечен над Лас-Вегасом и горой Спирит

Оператор нефтяной вышки заметил НЛО

Опубликована карта активных черных дыр

Песчаные дюны Титана состоят из разбитых маленьких лун

Сколько времени потребуется, чтобы обойти Марс

Таинственные звери Японии. Жуткие ползающие твари

Тайна сознания. Чего может достичь наука

Уфо-конференция стоимостью 160 фунтов за билет

Британский спецназ обнаружил сбитый НЛО

Воспроизвели самую раннюю форму жизни в лаборатории

Где замечали рейс MH370 на картах Google

Подписка на новости
Наверх
Яндекс.Метрика