Как обезопасить себя от искусственного интеллекта
Идея того, что искусственный интеллект неизбежно приведет нас к сценарию, в котором машины восстают против людей, довольно популярна. Искусственный сверхинтеллект кажется величайшей из возможных угроз, а фантастические сюжеты, согласно которым мы будем не нужны в мире, принадлежащем технологиям, в популярности никогда не теряли.
Неужели это неизбежно?
Литературное и кинематографическое изображение разумных компьютерных систем из 60-х годов помогло сформировать и обобщить наши ожидания будущего, когда мы встанем на путь создания машинного интеллекта, превосходящего человеческий. ИИ, очевидно, уже превзошел человека в определенных специфических задачах, требующих сложных вычислений, но по-прежнему отстает в ряде других возможностей. Как одновременно увеличить мощь этого сурового инструмента и сохранить наше хозяйствующее положение над ним.
Поскольку искусственный интеллект уже играет и будет продолжать играть большую роль в нашем будущем, крайне важно исследовать наши возможности сосуществования с этими сложными технологиями.
Кевин Абош, основатель компании Kwikdesk, которая занимается обработкой данных и развитием искусственного интеллекта, поделился своими мыслями на этот счет. Он считает, что искусственный интеллект должен быть быстрым, незаметным, надежным, грамотным и этичным. Да, этичным.
Этические рамки
В концепции искусственной нейронной сети, созданной по подобию биологической нейронной сети, нет ничего нового. Единицы вычислительной мощи, которые называются нейронами, соединяются друг с другом и образуют сеть. Каждый нейрон применяет сложный алгоритм обучения на входе, прежде чем передать данные другим нейронам, пока не активируется нейрон на выходе и не откроет возможность для чтения. Экспертные системы полагаются на людей, которые будут «учить» систему, засеивая ее семенами знаний. Механизмы логической обработки ищут соответствия, делают выборы, устанавливают правила в стиле «если это, тогда то» по отношению к базе знаний. В этом процессе новые знания добавляются к базе знаний. Чистая нейронная сеть учится в процессе получения нелинейного опыта, не располагает проблемами засеивания знаний экспертом. Гибридные сети доказали, что улучшают возможности обучения машинами.
Теперь давайте рассмотрим этические проблемы таких систем. Далее от первого лица.
Автор использует слова, чтобы погрузить читателя в вымышленный мир, и делает это по-разному, но великие авторы делают это очень изящно. Инженер-программист пишет строки кода, которые облегчают обработку и движение данных. Он тоже может выбирать из ряда вариантов разные способы, но изящные кодеры — фолкнеры компьютерных наук. Продвигающийся кодер сосредоточен на том, как заключить как можно больше и лучше в коротком и изящном коде. Лишний код сводится к минимуму. Великий код также удерживает открытое окно для последующих дополнений. Другие инженеры могут добавлять код с присущей им элегантностью, и продукт развивается без проблем.
В основе любого рукотворного продукта лежит намерение. Вещи, сделанные людьми, пропитаны намерениями, и в той или иной степени являются носителями самой природы создателя. Некоторым бывает сложно представить себе неодушевленный объект, обладающий такой природой. Но многие с этим согласятся. Энергия намерений существует тысячи лет, унифицирует, делит, объединяет, трансформирует социум. Нельзя недооценивать и силу языка. Не забывайте, что линии кода написаны определенным языком программирования. Таким образом, я убежден, что код, который становится программным обеспечением, используемым на компьютерах или мобильных устройствах, весьма «живой».
Не рассматривая мудрость и духовность в контексте информатики и потенциальных последствий искусственного интеллекта, мы все еще можем рассматривать статический код как единое целое с потенциалом «творить добро» или «творить зло». Эти выходы обретают себя только в процессе использования приложений людьми. Именно четкий выбор, который делают люди, влияет на природу приложения. Их можно рассматривать в локальной системе, определяя положительное или отрицательное влияние на эту систему, или же на основе набора заранее определенных стандартов. Тем не менее, как журналист не может быть на 100% беспристрастным в процессе написания статьи, так и инженер вольно или невольно добавляет природу своих намерений в код. Некоторые могут возразить, мол, написание кода — это логический процесс, и настоящая логика не оставляет пространства для природы.
Но я уверен, что в момент, когда вы создаете правило, блок кода или весь код, это все проникается элементом человеческой природы. С каждым дополнительным правилом углубляется проникновение пророды. Чем сложнее код, тем больше в нем этой природы. Отсюда рождается вопрос: «Может ли природа кода быть доброй или злой?».
Очевидно, вирус, разработанный хакером, который злонамеренно пробивается сквозь защиту компьютера и сеет хаос в вашей жизни, пропитан злой природой. Но как насчет вируса, созданного «хорошими ребятами» с целью проникновения в компьютеры террористической организации ради предотвращения террористических актов? Какова его природа? Технически он может быть идентичен свому гнусному двойнику, просто используется для «хороших» целей. Так значит его природа добрая? В этом весь этический парадокс вредоносного программного обеспечения. Но мы не могли обойти стороной, размышляя о «злом» коде.
По моему мнению, существует код, который по своей сути тяготеет к «злу», и существует код, который по своей сути смещен в сторону доброжелательности. Это принимает более важное значение в контексте компьютеров, работающих в автономном режиме.
В Kwikdesk мы разрабатываем фреймворк ИИ и протокол, основанный на моей конструкции экспертной системы/гибрида нейронной сети, которая больше всего созданного на сегодняшний день напоминает биологическую модель. Нейроны проявляются в виде модулей ввода/вывода и виртуальных устройств (в определенном смысле автономных агентов), соединенных «аксонами», безопасными, разделенными каналами зашифрованных данных. Эти данные расшифровываются по мере входа в нейрон и после определенных процессов зашифровываются перед отправкой в следующий нейрон. Перед тем как нейроны смогут связаться друг с другом через аксон, должен произойти обмен ключами участника и канала.
Я считаю, что безопасность и разделение должны быть встроены в такие сети с самого низкого уровня. Надстройки отражают качества своих мельчайших компонентов, поэтому все, что меньше безопасных строительных блоков, приведет к небезопасной работе всей линии. По этой причине данные должны защищаться локально, а расшифровываться при локальной передаче.
Внедрение и гарантии
Качество нашей совместной жизни с машинами, которые становятся умнее и умнее, по понятным причинам вызывает обеспокоенность, и я абсолютно уверен, что мы должны принять меры, чтобы обеспечить здоровое будущее грядущим поколениям. Угрозы умных машин потенциально многообразны, но могут быть разбиты на следующие категории:
Резервирование. На рабочих местах людей будут заменять машины. Этот сдвиг происходит уже в течение многих десятилетий и будет только ускоряться. Необходимо соответствующее образование, чтобы подготовить людей к будущему, в котором сотни миллионов традиционных рабочих мест просто перестанут существовать. Это сложно.
Безопасность. Мы полагаемся на машины всецело и будем полагаться дальше. По мере того, как мы все больше доверяем машинам во время перехода из безопасной зоны в зону потенциальной опасности, мы можем столкнуться с риском машинной ошибки или вредоносного кода. Подумайте, например, о транспорте.
Здоровье. Персональные диагностические устройства и сетевые медицинские данные. ИИ будет продолжать развиваться в области превентивной медицины и анализа краудсорсных генетических данных. Опять же, мы должны иметь гарантии, что эти машины не будут вести вредоносную подрывную деятельность и никак не смогут нам навредить.
Судьба. ИИ с нарастающей точностью предсказывает, куда вы пойдете и что будете делать. По мере развития этой сферы, он будет знать, какие решения мы принимаем, куда пойдем на следующей неделе, какие продукты будем покупать или даже когда мы умрем. Хотим ли мы, чтобы другие имели доступ к этим данным?
Знания. Машины де-факто накапливают знания. Но если они будут приобретать знания быстрее, чем люди смогут их проверять, как мы сможем доверять их целостности?
В заключение хочу отметить, что бдительный и ответственный подход к ИИ для смягчения потенциальных неприятностей в технологическом взрыве сверхновой — наш путь. Мы либо укротим потенциал ИИ и будем молиться, чтобы он приносил человечеству только лучшее, либо сгорим в его потенциале, который будет отражать худшее в нас.
http://hi-news.ru/computers/kak-obezopasit-nas-ot-iskusstvennogo-intellekta.html
Меню
Архив материалов
Подписка на новости
Новости криптозоологии
Хроники природных катастроф
Последние новости
27.10.2020 - 27.11.2020 (990)
28.11.2020 - 07.01.2021 (990)
08.01.2021 - 15.02.2021 (1000)
16.02.2021 - 31.03.2021 (1000)
01.04.2021 - 12.05.2021 (1000)
13.05.2021 - 14.06.2021 (990)
15.06.2021 - 26.07.2021 (980)
27.07.2021 - 31.08.2021 (990)
01.09.2021 - 07.10.2021 (1000)
08.09.2021 - ...
Последние аномальные новости

В Башкирии поймали чупакабру

В прошлый раз Земля опрокинулась набок из-за смещения полюсов

В Хабаровском крае есть чем удивить охотников за артефактами

Великобритания намерена использовать тепло ЦОД для отопления домов

Восстание Машин начнется с России

Женщина нашла на даче неведому зверушку

Женщину не выпустили в США из-за долга в шесть копеек

Из бургеров будут делать безопасное топливо

Лик Бога запечатлели в небе в Испании

Мистический камень в Нагорном парке Баку

НАСА разработало план по спасению человечества

Новый Год люди праздновать не будут

Новый телескоп может обнаружить инопланетян до их вторжения

Обнаружены следы недавней вулканической активности на Луне

Планеты в системе TRAPPIST-1 лежат точно в одной плоскости

Подросток сделал себе инъекцию ртути, чтобы стать Росомахой

После Великого задымления начнется Апокалипсис

Почку ГМ-свиньи подключили к человеку

Предсказанное Эдгаром Кейси время началось

Проживающая 35 лет в бочке женщина согласилась переехать

Рыба может убить иммунную систему человека

Сектанты убили трех человек во время жертвоприношения

Синтезировано вещество для очищения планеты

Составили карту всех рек на Титане

У 70-летней женщины родился первенец

Ученые опознали глубоководных монстров

Флот инопланетян замечен возле Солнца

Эвакуацию начнут с резерваций, аулов и деревень

Экстремально распухшая экзопланета

Ясновидящий рассказал о начале Третьей мировой войны

В британских школах запускают распознавание лиц

В ранней Солнечной системе существовала огромная брешь

В США наступает грузовой армагеддон

Власти Канады насильно лечат индейцев, индейцы уходят в прерию

Дайверы обнаружили похожее на трубу существо

Девочка установила 187 зарегистрированных рекордов

Женщина нашла тайную комнату под кроватью номера

Женщина умерла от таинственной жажды

Жизнь во Вселенной есть, ее не может не быть

Загадочное существо, обнаружено на берегу Австралии

Извержение на Ла Пальма предсказано в мультике I Pet Goat II

ИИ исследует воздействие космической радиации

Мужчина создал лекарство от смертельной болезни сына

Нашу Вселенную создали в лаборатории

Офтальмолог объявила о пандемии близорукости

Певица рассказала о дружбе с инопланетянами

Полицейские изъяли у фермера 1001 куст конопли

Пришельцы показали мне моего инопланетного сына

Российский электронный паспорт представят в двух видах

Россию призвали готовиться к третьей мировой войне

Ростех выпустит трекеры для контроля за местоположением

Рыбаки поймали существо весом две тонны

Создан незаразный коронавирус

Создана умная трость для слепых

Счастливый и здоровый ягненок с пятой ногой на голове

Таинственный полый остров обнаружен на Google Maps

Треугольный НЛО обнаружили на старом снимке НАСА

У берегов Корнуолла заметили морское чудовище

Убийца-вампир сбежал и был разорван толпой

Факторы, помогающие сохранить здоровье и долголетие

Где в Крыму заказать электромонтажные работы

В Японии решили искать мертвецов ради выгоды

Вещий сон принес мужчине миллион долларов

Девочка сообщила родителям, что скоро все мы умрем

Евреев обвинили в возникновении коронавируса

Жительница Омска отказалась переезжать из бочки

Инопланетяне отключили ядерные ракеты

Корпорации правят миром

Летающее такси поднимутся в воздух в 2022 году

Мужчина за сутки выпил в 51-м пабе

Мужчина поймал рекордно большую ленточную цихлу

На Титане открыта разновидность тектоники плит

На Фиджи уволят 344 учителя в рамках политики 'нет прививки, нет работы'

На юге Омской области местные жители увидели НЛО

Нашествие жирных ядовитых змей началось в Австралии

Огромную доисторическую щуку поймали в Канзасе

Озеро Тахо побило рекорд по высыханию

Пассажир сделал снимок северного сияния во время полета

Перед концом человек чувствует запах смерти

Призрака сняли на кладбище в Ист-Болдре

Производитель батончиков начал производить растительную говядину

Профессор развеяла восемь мифов о вакцинации

Реальные факты, стоящие за самыми известными мифами

Ребенок пропал без вести во время семейного путешествия

Самое древнее в мире изображение призрака

Сделано 6.66 миллиардов уколов вакцин

Странная история, которую рассказал мальчик

Убивать врачей-садистов с помощью сверхспособностей

Часть экспертов допускает появление ковида из-за эксперимента

Человечество погибнет из-за дефицита кислорода

Чемпионка России подозревается в ритуальном убийстве

ТОП-5 способов использовать ненужную шубу

На что все-таки влияет ИКС, зачем он нужен и как используется

Армия Китая готовится к сдвигу полюсов

Армянский Стоунхендж

Атомная бомбардировка астероидов может спасти Землю

Аэротакси с большой дальностью полета

Было ли у Вселенной начало и есть ли у нее смысл

В Арзамасской крепости нашли крест изгоняющий дьявола

Вещества, содержащиеся в игрушках и косметике, могут вызвать смерть

Гипотезу происхождения индейцев от японцев опровергли

За Нептуном могла находиться еще одна гигантская планета

Загадочное существо нашли на побережье Квинсленда

Засекли целый фейерверк загадочных радиовсплесков

Земля окружена гигантским магнитным туннелем

ИИ научили предсказывать банкротство компаний

Китай создал собственную Зону 51

Майнер биткоинов собирается обогревать зимой целый город

Мошенники клонировали голос для хищения $35 млн

Мужчина случайно пробежал марафон

Полярные сияния на экзопланетах могут быть источниками радиоволн

Проапгрейдили цифрового двойника Земли для моделирования климата

Продукт, снижающий риск смерти

Робогепарда научили приземляться по-кошачьи

Родильный Пуп-камень

Создана точная карта самого северного петроглифа

Старые пророчества про Нибиру и Последние Времена

Субмарина ВМС США могла столкнуться с НЛО

Теперь можно везде оплатить лицом проезд в метро Москвы

Туристические полёты Virgin Galactic отложены до конца 2022 года

Фермеры бросают поля. Продукты скоро подорожают

Чудодейственная часовня Иоанна Крестителя

Экзопланета, плотность которой вчетверо меньше плотности воды

Салюты в Казани

Бог послал человека найти пропавшего ребенка

Большинство американцев не исключают покупки дома с привидениями

Водяной пар обнаружен в атмосфере Европы

Вундеркинду из МГУ поступают угрозы

Где в Ярославле отметить Хэллоуин

Девушка сделала ДНК-тест и не нашла себя среди живых

Диск Сабу - доказательство высоких технологий в древности

Для поиска инопланетян начнут использовать квантовые компьютеры

Долгожитель посоветовал не напрягаться из-за проблем

Затопленная Молога показалась на поверхности

Изумрудное северное сияние над поселком Дальние Зеленцы

Искусственный интеллект научили выявлять инсульт по КТ

Коронавирус мог передаться человеку через диких животных

Лунный календарь на ноябрь 2021 года

Мир погружается в хаос, можно включать обратный отсчет

Мрачное будущее Земли после смерти Солнца

НЛО летал вечером над Брестом

Петроглифы Сикачи-Алян ровесники Египетских пирамид

Прогноз по картам Таро на ноябрь 2021

Сенситиву было показано превращение Индии в Хиросиму

Скайнет демонстрирует признаки пробуждения

Стало известно время схода Земли с орбиты

Стейки станут роскошью из-за изменений климата

Таинственный призрак в Паттайе

Удивительные Амурские столбы

Фэн-шуй прогноз на ноябрь 2021 года

Чем опасны солнечные и лунные затмения в ноябре

Черное зеркало Джона Ди

Что вызвало аномальное извержение кометы возле Юпитера

Ядерная война стала ближе

Автономные роботакси Aurora будут доступны по подписке

Аномалии в распаде ультрахолодных молекул NaK и NaRb

В крови космонавтов нашли маркеры повреждения мозга

В Нью-Йорке пройдут учения по распылению газа

Вольф Мессинг предсказал России кардинальные перемены

Всадник без головы живет на кладбище шахтерского городка

Вулканическая зима может начаться уже сегодня

Грибы могут улучшить психическое состояние

Группа НЛО замечена над Техасом

Движение околозвездных дисков в двойной системе

Двуглавый мальчик из Бенгалии

Для акупунктурных точек нашли анатомическую основу

За поиск предсказаний в Симпсонах будут платить

Загадочный радиоисточник в плоскости Млечного Пути

ИИ будет следить за человеком в Facebook

ИИ заменила реальные объекты на улице на виртуальные

На Венере никогда не было океанов

На Земле до сих пор есть неоткрытые острова и реки

Над Финским заливом увидели НЛО

Назвали худшее время в истории Земли

Началась первая волна распространения 5G-технологий

Обломки звездолета обнаружены на Марсе

Призрачная деревня Плакли

Реальные истории, на которых основаны популярные ужастики

Ребенок, воспитанный с шимпанзе

Связали химический состав солнцеподобных звезд и экзопланет

Слепой пес мастерски обходит любые препятствия

Сны про свадебное платье

Церемония открытия Адских Врат

Черепашонок с двумя головами и шестью конечностями

Натуральная и экологически чистая мебель из Воронежа

Антипрививочники воспрянули духом

Подписка на новости
Наверх
Рейтинг@Mail.ru Яндекс.Метрика