|
ИИ заменит командиров на поле боя
|
|
|
|
Современные военные операции, будь то боевые, медицинские или помощь при стихийных бедствиях, требуют очень быстрого принятия сложных решений, и для их принятия можно использовать ИИ. Агентство перспективных оборонных исследовательских проектов (DARPA) запустило новую программу, направленную на внедрение искусственного интеллекта в процесс принятия решений. Это связано с тем, что в реальной чрезвычайной ситуации может потребоваться мгновенный выбор между тем, кто получает помощь, а кто нет, ответ не всегда ясен, и люди расходятся во мнениях относительно правильного курса действий - ИИ примет быстрое решение. Последняя инициатива DARPA под названием «In the Moment» будет включать новую технологию, которая может принимать трудные решения в стрессовых ситуациях, используя анализ данных в реальном времени, таких как состояние пациентов в случае массовых жертв и доступность лекарств, сообщает Daily Mail.
|
|
|
|
Это происходит из-за того, что американские военные все больше полагаются на технологии для уменьшения человеческих ошибок, а DARPA утверждает, что устранение человеческого предубеждения при принятии решений «спасет жизни». По данным DARPA, на обучение нового ИИ уйдет два года, затем еще 18 месяцев на подготовку, прежде чем он, вероятно, будет использоваться в реальных условиях. «ИИ отлично умеет считать вещи», - сказала Washington Post Салли А. Эплин, эксперт по взаимодействию ИИ и этики, добавив: «Я думаю, что это может создать прецедент, когда решение о чьей-то жизни передается в руки машина.' По данным DARPA, технология - это только часть проблемы, когда речь идет о переходе на ИИ для принятия решений, остальное - укрепление доверия людей.
|
|
|
«Поскольку системы ИИ становятся все более продвинутыми в совместной работе с людьми, формирование надлежащего доверия людей к способности ИИ принимать обоснованные решения имеет жизненно важное значение», - пояснил представитель военной исследовательской организации. «Захват ключевых характеристик, лежащих в основе экспертного принятия решений человеком в динамических условиях, и вычислительное представление этих данных в алгоритмах, принимающих решения, может быть важным элементом для обеспечения того, чтобы алгоритмы делали заслуживающий доверия выбор в сложных обстоятельствах». Ранее в этом месяце DARPA объявило о программе In the Moment (ITM), первой задачей которой является работа с доверенными людьми, принимающими решения, для изучения наилучших вариантов, когда нет очевидного согласованного правильного ответа.
|
|
|
|
«ITM отличается от типичных подходов к разработке ИИ, которые требуют согласия человека в отношении правильных результатов, - сказал Мэтт Турек, руководитель программы ITM. «Отсутствие правильного ответа в сложных сценариях не позволяет нам использовать традиционные методы оценки ИИ, которые неявно требуют согласия человека для создания достоверных данных». Например, алгоритмы, используемые в беспилотных автомобилях, могут основываться на достоверности правильных и неправильных действий при вождении - на основе дорожных знаков и правил дорожного движения. Когда правила не меняются, для обучения ИИ можно использовать жестко закодированные значения риска, но это не сработает для Министерства обороны (DoD). «Учет универсальных значений риска не будет работать с точки зрения Министерства обороны, поскольку боевые ситуации развиваются быстро, а намерения командира меняются от сценария к сценарию, - сказал Турек.
|
|
|
|
«Министерству обороны нужны строгие, измеримые и масштабируемые подходы к оценке и созданию алгоритмических систем для принятия сложных решений, когда объективная истина недоступна. «Сложные решения - это те решения, в которых люди, которым доверяют, не согласны друг с другом, правильного ответа не существует, а неопределенность, нехватка времени и противоречивые ценности создают серьезные проблемы для принятия решений». Чтобы решить эту проблему, DARPA черпает вдохновение в области анализа медицинских изображений. В этой области были разработаны методы оценки систем, даже когда опытные эксперты могут не согласиться. «Опираясь на данные медицинской визуализации, ITM разработает количественную основу для оценки принятия решений алгоритмами в очень сложных областях», - сказал Турек. «Мы создадим реалистичные, сложные сценарии принятия решений, которые требуют ответов от доверенных лиц, чтобы зафиксировать распределение ключевых атрибутов лиц, принимающих решения. Затем мы подвергнем алгоритм принятия решений тем же сложным сценариям и сопоставим его ответы с эталонным распределением, чтобы сравнить его с доверенными лицами, принимающими решения».
|
|
|
|
Программа состоит из четырех технических областей, охватывающих различные аспекты исследований. В первом рассматривается создание характеристики лиц, принимающих решения, целью которой является определение ключевых качеств людей, которым поручено принимать решения в полевых условиях. Второй будет заключаться в создании оценки между принятием решений человеком и алгоритмом - с целью создания алгоритмических решений, которым люди могут доверять. Третьим будет создание программы на основе этих баллов, которую можно будет оценить, а четвертым будет разработка политики и практики ее использования. По данным DARPA, пройдет три с половиной года, прежде чем будет достигнут финальный этап, причем первые два года будут потрачены на создание базового ИИ и его тестирование в различных сценариях. Вторая половина, охватывающая последние 18 месяцев, будет включать в себя расширение возможностей ИИ и его тестирование на более сложных событиях с многочисленными жертвами.
|
|
|
|
НАТО также работает над созданием помощников ИИ, которые могут помочь в принятии решений, в данном случае помощника по сортировке в сотрудничестве с Университетом Джона Хопкинса. Полковник Сохраб Далал, глава медицинского отдела Верховного командования объединенных сил НАТО по трансформации, сказал Washington Post, что при сортировке не помешает обновление. Это процесс, когда клиницисты посещают солдат, чтобы оценить, насколько срочно им нужна помощь, и за последние 200 лет он не сильно изменился. Его команда будет использовать данные NATA о травмах, а также системы оценки травм, прогнозы и информацию о состоянии пациентов, чтобы выбрать, кому следует оказать помощь в первую очередь. «Это действительно хорошее применение искусственного интеллекта», - сказал Далал, дипломированный врач. «Суть в том, что это улучшит лечение пациентов и спасет жизни».
|
|
|
|
Источник
|
