Искусственный интеллект. Опасный враг или добрый помощник
Применение искусственного интеллекта (ИИ) в повседневной жизни стремительно набирает обороты, но эта тенденция все чаще вызывает беспокойство специалистов. Сотрудники Нью-Йоркского университета подготовили доклад с предостережением о рисках использования И. И. По большей части авторы сосредоточились на этических и социальных вопросах, а также на отсутствии законодательной регуляции. Доклад группы AI Now говорит мало нового, но в мировой практике все чаще встает вопрос о необходимости ограничить работу искусственного мышления.
О потенциальных угрозах ИИ говорили почти все визионеры технологического прогресса. Стивен Хокинг в ноябре прошлого года озвучил главные страхи, сопровождающие размышления о развитии техники. По его мнению, компьютеры рано или поздно научатся воспроизводить сами себя. Биологические существа наверняка проиграют кремниевому разуму как в умственных способностях, так и в вопросах приспособленности к окружению, в особенности на другой планете. Рано или поздно умные роботы посчитают человека устаревшей формой и пожелают избавиться от него.
Слова Хокинга пока звучат как страшилка, десятки раз обыгранная в кино и книгах, но даже те, кто работает над внедрением умных систем, стали все чаще опасаться будущего с ИИ, хотя есть и такие, кто считает подобные страхи преждевременными. «Бояться развития ИИ сегодня — все равно что беспокоиться о перенаселении Марса», — заявил Эндрю Ын, глава Google Brain. Однако успокоил он далеко не всех.
Среди крупнейших фобий, связанных с внедрением компьютера во все сферы жизни, стоит отметить три. Первая — компьютерный разум станут использовать в качестве инструмента войны, который значительно превзойдет в разрушительной силе даже ядерное оружие. Вторая — ИИ поработит человека. Третья — как любое человеческое творение, компьютер подвержен ошибкам. На всех трех пунктах можно остановиться подробнее.
21 августа 2017 года ведущие специалисты в области исследований и внедрения искусственного интеллекта, включая глав таких компаний как SpaceX и Deep Mind, направили в ООН открытое письмо. В тексте они предостерегли мировое сообщество от разработки летального автономного оружия, будь то роботы или другие механизмы, предназначенные для убийства противника. Авторы документа обратили внимание на фатальные последствия применения такого вооружения. При его феноменальной эффективности справедливо задаться вопросом, в чьи руки оно попадет. Воспользоваться им может как узкий круг элит, так и террористы.
Авторы письма призвали контрольную организацию, а вместе с ней и научное сообщество, очертить рамки вредоносного использования ИИ. Стоящая перед человеком ответственность за собственное детище обязывает его провести серьезную работу над предотвращением рисков. Кроме законов, ограничить мощь роботов должны и их создатели, которым предстоит поломать голову над тем, как отключить машины в крайних случаях.
Политическое злоупотребление электронными системами уже продемонстрировало себя на примере работы соцсетей и алгоритмов анализа данных. Весной этого года в мире прогремел скандал, связанный с компанией Cambridge Analytica. Ее специалисты провели глубинный анализ данных о пользователях и разместили в Facebook адаптированную индивидуально под каждого человека рекламу.
Работники фирмы не только перешли этические рамки, но и применили современные технологии, работу которых было невозможно проанализировать. Эффективность «машинного обучения» — тема не раз возникающая среди ведущих математиков. Они хором признают, что поражены чрезвычайными успехами компьютерных программ, но совершенно не способны понять работу сложной системы. В Мьянме в апреле этого года посты в Facebook также стали причиной волнения масс, но в отличие от США, где обошлось протестными акциями, в азиатском государстве произошла резня, жертвами которой стали несколько сотен человек. Манипуляция огромным количеством людей — осуществившаяся реальность и роботы здесь могут сыграть с нами злую шутку.
Стоит вспомнить о том же Facebook, где в обращение были запущены чат-боты на базе ИИ. Виртуальных помощников обучали вести диалог с собеседником. Со временем ботов стало не отличить от реальных людей и тогда авторы решили свести роботов друг с другом. Через какое-то время боты стали сокращать лексические структуры и обмениваться абракадаброй. СМИ раздули из новости сенсацию, мол «машины восстали». Но отбросив преувеличения журналистов, справедливо признать, что в случае, когда машины начнут общаться между собой, человек этого может не заметить. И как там они будут жить собственной жизнью — никто не знает.
Усложняющаяся структура компьютерного разума с каждым днем отдаляет нас от понимания принципов его работы. Но хоть большинство алгоритмов и справляется со своими задачами, даже сегодня сложные машины далеки от идеала и совершают ошибки. Для дальнейшего развития ИИ важно понимать не столько его сильные стороны, сколько уязвимости. Именно на этом сосредоточено большое число научных групп, в одной из которых работает специалист из MIT Аниш атали. Всего пару дней назад он рассказал журналистам о наиболее частых ошибках систем распознавания образов.
Его коллеги демонстрировали машине предметы и обнаруживали, что часто отдельные объекты воспринимались электронным зрением неправильно. Компьютер мог назвать бейсбольный мяч чашкой кофе, а распечатанную на 3D-принтере черепашку армейским автоматом. Группа собрала уже около 200 предметов, которые вводят алгоритмы в заблуждение.
Искусственный интеллект вместо восприятия объекта целиком, концентрировался на отдельных его параметрах. ИИ как правило учится на «идеальной» выборке. Когда он сталкивался с явлениями, не соответствующими нормам, он не всегда может отказаться от привычного процесса обработки. Вместо того чтобы признаться в своей неспособности обработать образ, он продолжает попытки прочитать изображение и это приводит к подчас смешным результатам. Вместо формы черепахи электронный мозг пытался считать его текстуру, похожую на камуфляж. Примерно по той же причине автопилоты электронных автомобилей пока не являются на 100% надежными. Машине трудно увидеть силуэт и предположить, что он состоит из отдельных элементов.
И если в ближайшие годы какие-то недочеты удастся поправить, нет никакой гарантии от того, что уязвимостью не воспользуются хакеры. Взломщики электронных устройств на сегодняшний день представляют едва ли не главную причину страхов. Небольшой коллектив программистов способен не только получить доступ к личной информации, но и перенастроить автономные системы, взяв под контроль инструменты колоссальной мощи. И тогда нам всем не поздоровится. Но главный вывод, который можно сделать, пожалуй, традиционный — бояться стоит не машин, а людей.
Источник
Последние аномальные новости

Аорту признали самостоятельным органом

В нашей Вселенной нет темной материи

В Томске встретили черного снегиря

Вулканизма на дне океана Европы нет

Вулканы Марса

Гелий-3 собрались добывать на Луне

ИИ открыл 30 000 спиральных галактик

Как в Бразилии появился свой Розуэлл

Мужчина прожил 39 лет и 100 дней с пересаженным сердцем

Научный сотрудник усомнился в прогнозе коллеги

Новый метод поиска светлой темной материи

Сейсмолог-любитель предрекает мегаземлетрясение

Секреты того, как рождаются планеты

Теплый Юпитер обнаружен у далекой звезды

Удивительные открытия о селевых потоках на Марсе

Фотоноподобные электроны в четырехмерном мире

Цыганский пророк предрек пугающие события

Частицы с одинаковым зарядом притянулись друг к другу

Что климат Арракиса может рассказать нам об экзопланетах

Шарики на морском дне порождены астероидом

Бюджет космических сил США превышает бюджет НАСА

В школе на юге Индии начал работу первый робот-учитель

Воспроизвели ключевой процесс эволюции жизни

Вслед за теленком-клоном могут появиться копии собак

Гигантский вулкан обнаружен на Марсе

Голубая спираль появилась посреди северного сияния

Древний лед может существовать на космических объектах

ИИ помогает определить происхождение тяжелых элементов

Испытывают ли астронавты космические головные боли

Набор зеркал для фокусировки сверхмощных лазеров

Найден способ определять опасные предметы в толпе

НЛО упал в неба в Йорке

Новый минерал открыли в Карелии

Объяснение нитки жемчуга вокруг сверхновой

Пентагон нарушил свое молчание по поводу НЛО

Пентагон публикует новые данные об НЛО

Попробовали бы вы пирог с питоном

Правительство использует дипфейки

Пролетая сквозь шлейфы Энцелада

Редкое явление переноса озона из стратосферы к Земле

Система ИИ для ускорения верификации информации

Скайнет в реальной жизни

Тайна татуировок ледяного человека Эци

Терминаторов обвинят в гибели гражданского населения

Топливозаправщик для спутников с ионными двигателями

Уникальный материал для создания лазеров

Уфологи собрались в Олдхэме

Шеф-повар приготовит еду на орбите

Этанол и другие ингредиенты для молодых миров

Я был похищен инопланетянами в 90-х годах

Белый дом рекомендовал отказаться от C и C++

Более точное понимание темной энергии

В NVIDIA появился отдел исследования сильного ИИ

ВВС США зафиксировали НЛО в Северной Дакоте

Вояджер-1 продолжает слать на Землю бессмысленные сигналы

Все ведущие ИИ нарушают авторские права

Запад США - страна НЛО

ИИ Microsoft Copilot возомнил себя властелином мира

ИИ не угрожает рабочим местам из-за высокой стоимости

ИИ стал для Apple самым серьёзным вызовом

Исследователь выходит за рамки уфо-событий 1966 года

Камера темной энергии запечатлела остатки массивной звезды

Кладбище пришельцев. Шокирующая правдивая история

Максимальная масса невращающейся нейтронной звезды

Молодая Вселенная быстро росла

Новая теория, объясняющая рябь на песках Марса

Определен лучший регион для обнаружения НЛО

Отчет Пентагона об НЛО требует вмешательства Конгресса

Палата представителей должна создать подкомитет по НЛО

Последние сообщения о наблюдениях НЛО в Мэриленде

Рельсотронная катапульта для запуска космопланов

Робот-гуманоид Unitree Robotics H1 установил рекорд скорости

Следующая пандемия уже наступила для дикой природы

Сложная химия в холодных глубинах космоса

Суд обязал NSO поделиться кодом шпионского ПО Pegasus

Телескоп LIFE обнаружил биосигналы на Земле

Телескоп Кондор открывает новый мир для астрофизиков

Трудный путь поисков жизни на Марсе

Хакеры могут взломать мозговой чип Neuralink

Этанол и другие ингредиенты жизни нашли в туманности

Аэрокосмические исследования Аэрофлота

Барханы и линейные дюны Марса

В Аризоне высокий уровень наблюдений НЛО

В документе ЦРУ говорится о быстрых летающих тарелках

В Перуанских Андах обнаружен древний мегалит

Интернет стал расскадником теорий заговора

Как долго инопланетяне будут пытаться связаться с нами

Как космонавт Георгий Гречко НЛО искал

Как раскрывать преступления в космосе

Космонавт оценил перспективу встречи с НЛО

Метеобюро Шотландии объясняет НЛО-облака

Метеорит пролил свет на взрыв из далекого прошлого

Милиционер, державший в холодильнике Алешеньку

На Приморье впервые обрушился огненный смерч

Наблюдения НЛО в районе Ярдли

Ожидаются гигантская комета и экокатастрофы

Разрабатывают искусственные строительные блоки жизни

Расширение Вселенной - загадка остается нерешенной

Секретной работы над инопланетными технологиями нет

Спутник Юпитера Европа производит мало кислорода

Стенограмма закрытого брифинга директора AARO

Титан является испытательным полигоном для метана

Устранение рисков, связанных с ИИ в научных исследованиях

Феномен огней Финикса все еще не разгадан

Череда странных происшествий в Мичигане

Что ждет Россию в високосном году

Что предсказывал Нострадамус России на 2024 год

Экзопланета обречена врезаться в свою звезду

Эксперты обвиняют правительство в искажении правды

Ясновидящая почистила клиентку на 67 млн рублей

Загадка богатой азотом галактики

ИИ доверили сеть железных дорог Китая

Искусственный интеллект назначает встречу в космосе

Как голландская деревня стала одержима НЛО

Как лучше всего упаковать вещи для полета в космос

Наблюдения НЛО в Западном Мичигане

Наблюдения НЛО над штатом Нью-Джерси

Никаких свидетельств сокрытия НЛО не обнаружено

Новое образование на кипящей поверхности Бетельгейзе

Облако НЛО привлекло внимание жителей Окленда

Огни Феникса стали легендой Аризоны

Пентагон одной рукой дает, а другой забирает

Разгадываем тайну оклахомского НЛО

Сеть небольших луноходов готова к запуску

Сокрытие фактов об НЛО рассмотрено в отчете Пентагона

Струя газа в атмосфере Юпитера колеблется раз в 4 года

США предлагает объяснение наблюдений НЛО

Таинственный монолит заметили на уэльском холме

Уфо-лоббист из Вашингтона опровергает отчет Пентагона

Человеческая моча стимулирует рост фасоли на Марсе

2024 год зеленого деревянного дракона, что нам несет

Реставрация зубов. Особенности и этапы

Звезда, разорванная на части черной дырой

ИИ для обнаружения скрытого космического мусора

ИИ, отслеживающий эмоции работников

Крупнейшая в мире конференция на тему НЛО

Лазерное оружие DragonFire показали в действии

Министерство обороны разрабатывает систему Гремлин

Новая порция данных об НЛО

Обнаружили старейшую мертвую галактику

Отчет Пентагона об НЛО вызывает много вопросов

Пентагон не скрывает технологии НЛО

Пентагон раскрыл новую систему наблюдения Гремлин

План Пентагона по реинжинирингу технологий НЛО

Последние наблюдения НЛО в Массачусетсе

Правительство США прячет тела инопланетян

Правительство США хотело реконструировать НЛО

Прокурор города Рок-Спрингс снял НЛО

Таинственные различия между живыми клетками

Телепортирующийся НЛО с оранжевыми огнями

Турист нашел таинственный серебряный монолит

Чем на самом деле является большинство НЛО

Британские охотники за НЛО вызвали инопланетный корабль

Гавайи - горячая точка для наблюдений НЛО

Где в нашей Солнечной системе может скрываться жизнь

Датчики Гремлин помогут выявлять аномалии на орбите

Доказательств существования инопланетян нет

Заявления о наблюдениях НЛО опровергнуты

Интригующие заявления Пентагона об НЛО

Китай клонирует пару тибетских коз

Китай установит на Луне всевидящую систему наблюдения

Майли Сайрус вступала в контакт с инопланетянином

Наблюдения НЛО были ошибочной идентификацией

Надежды найти жизнь на Европе рухнули

Нет никаких свидетельств инопланетных технологий

Нет никаких свидетельств контактов с инопланетянами

НЛО были ошибочно идентифицированы

Отчет Пентагона развенчивает мифы об НЛО

Официальные лица правительства США незнают о НЛО

Полиция Розуэлла представила новые нашивки с НЛО

Полное отсутствие доказательств существования НЛО

Уфолог вызвал инопланетный космический корабль

Риелторское агентство. Плюсы сотрудничества

Большинство НЛО были обычными объектами

Виновата ли Тейлор Свифт в теории заговора о соцсетях

Доказательств присутствия инопланетян не обнаружено

ИИ для ультразвукового исследования астронавтов

Инопланетяне или военная техника

Искусство ИИ и креативность человека

Как превратить Марс в пригодный для жизни мир

Миссия Кеплер позволила открыть тысячи экзопланет

Многие наблюдения НЛО были военными испытаниями

Мумифицированный плод может быть инопланетянином

Мы никогда не видели НЛО и не работали с их технологиями

Очень странное поведение электронов

Пентагон не нашел инопланетных технологий

Подписка на новости
Наверх
Яндекс.Метрика