Эксперименты с ИИ важны для нашего коллективного обучения
Инструменты генеративного искусственного интеллекта (GenAI), такие как ChatGPT, основанные на моделях большого языка (LLM), меняют способы нашего мышления, обучения и работы. Но, как и некоторые другие формы ИИ, технологии GenAI имеют природу «черного ящика», а это означает, что трудно объяснить и понять, как математические модели вычисляют результаты. Если мы, как общество, хотим широко использовать эту новую технологию, нам нужно будет принять участие в процессе коллективных открытий, чтобы лучше понять, как она работает и на что она способна. Пока эксперты по ИИ работают над тем, чтобы сделать системы ИИ более понятными для конечных пользователей, а OpenAI, создатель ChatGPT, справляется со сменой руководства и вопросами о своем стратегическом направлении, высшие учебные заведения должны сыграть решающую роль в обеспечении коллективного изучения GenAI. Для систем искусственного интеллекта, основанных на больших нейронных сетях с природой «черного ящика», таких как GenAI, отсутствие прозрачности мешает людям доверять искусственному интеллекту и полагаться на него в конфиденциальных приложениях.
Профессор Университета Карнеги-Меллон Элизабет А. Холм утверждает, что ИИ «черного ящика» по-прежнему могут быть ценными, если они дают лучшие результаты, чем альтернативы, если цена неправильных ответов низка или если они вдохновляют на новые идеи. Тем не менее, случаи, когда дела пошли ужасно неправильно, подрывают доверие, например, когда ChatGPT обманом заставили дать инструкции по изготовлению бомбы или когда он обвинил профессора права в серьезном преступлении, которого он не совершал. Вот почему исследователи, работающие над объяснимостью ИИ, пытались разработать методы, позволяющие заглянуть в черный ящик нейронных сетей. Однако программы LLM, лежащие в основе многих инструментов GenAI, слишком велики и сложны, чтобы эти методы могли работать. К счастью, у LLM, таких как ChatGPT, есть интересная особенность, которой не было у предыдущих нейронных сетей «черного ящика»: они интерактивны. Подумайте об этом так: мы не можем понять, о чем думает человек, глядя на карту нейронов его мозга, но мы можем с ним поговорить. Появляется новая область науки под названием «машинная психология», призванная понять, как на самом деле «думают» выпускники магистратуры.
Новое исследование, еще не прошедшее рецензирование, изучает, как эти модели могут удивить нас своими новыми возможностями. Например, исследователи предположили, что, поскольку при использовании LLM каждое новое генерируемое слово зависит от последовательности слов, которые были до него, обращение к LLM для решения проблемы шаг за шагом может дать лучшие результаты. Новые исследования, еще не прошедшие рецензирование, по этой технике «цепочки мыслей» и ее вариациям показали, что они улучшают результаты. Другие предполагают, что выпускниками LLM можно «эмоционально манипулировать», включая такие фразы, как «вы уверены?» или «верить в свои способности» в подсказках. Исследователи Google DeepMind недавно обнаружили, что, используя интересную комбинацию этих двух методов, для ряда математических задач один LLM значительно улучшил точность, когда ему было предложено «сделать глубокий вдох и работать над этой проблемой шаг за шагом».
Пониманием GenAI занимаются не только исследователи, и это хорошо. Новые открытия, сделанные пользователями, удивили даже создателей этих инструментов, одновременно восхитительно и тревожно. Пользователи делятся своими открытиями и подсказками в онлайн-сообществах, таких как Reddit, Discord, а также на специализированных платформах, таких как FlowGPT. Эти подсказки часто включают в себя подсказки «побег из тюрьмы», которые позволяют заставить инструменты GenAI вести себя не так, как они должны. Люди могут обманом заставить ИИ обойти встроенные правила (например, создать контент, разжигающий ненависть), или создать вредоносное ПО. Именно эти быстрые успехи и удивительные результаты стали причиной того, что в начале этого года некоторые лидеры в области ИИ призвали ввести шестимесячный мораторий на разработку ИИ. В высшем образовании не рекомендуется использовать чрезмерно оборонительный подход, подчеркивающий недостатки и слабости GenAI или то, как он позволяет студентам обманывать. Напротив, когда рабочие начнут видеть преимущества сотрудников, использующих GenAI, или производительность труда, они будут ожидать, что высшее образование подготовит студентов. Образование студентов должно быть актуальным.
Университеты являются идеальным местом для налаживания сотрудничества в различных областях исследований, что является императивом разработки ответственного ИИ. Университеты, в отличие от частного сектора, имеют наилучшие возможности для внедрения своих практик и содержания GenAI в рамки этической и ответственной практики. Это влечет за собой понимание ГенИИ как дополнения, а не замены человеческого суждения, и умение различать, когда полагаться на него допустимо и приемлемо. Обучение GenAI включает в себя развитие навыков критического мышления и проверки фактов, а также оперативное этическое проектирование. Это также предполагает понимание того, что инструменты GenAI не просто повторяют данные обучения, а могут генерировать новые высококачественные идеи на основе закономерностей в этих данных. Краткое руководство ЮНЕСКО по ChatGPT и искусственному интеллекту для высшего образования является полезной отправной точкой. Включение GenAI в учебную программу нельзя рассматривать как преподавание сверху вниз. Учитывая быстрое развитие и новизну технологии, многие студенты уже опережают профессоров в своих знаниях и навыках GenAI.
Мы должны признать это как эпоху коллективных открытий, когда мы все учимся друг у друга. В курсе «Генераторный искусственный интеллект и подсказки», предлагаемом в Школе бизнеса Хаскейн Университета Калгари, часть оценок присваивается за публикации, комментарии и голосование на онлайн-форуме открытий, где можно поделиться своими открытиями и экспериментами. Наконец, мы должны научиться использовать GenAI для решения величайших проблем человечества, таких как изменение климата, бедность, болезни, международные конфликты и системная несправедливость. Учитывая мощный характер этой технологии и тот факт, что мы не до конца понимаем ее из-за ее природы черного ящика, мы должны делать все возможное, чтобы понять ее посредством взаимодействия и обучения, действуя и экспериментируя. Это не усилия, которые можно ограничить работами специализированных исследователей или компаний, занимающихся искусственным интеллектом. Это требует широкого участия.
Источник
При использовании материалов с сайта активная ссылка на него обязательна
Меню
Архив материалов
Проекты наших читателей
Контакты исследователей
Подписка на новости
Проекты
Новости криптозоологии
Хроники природных катастроф
Новости
26.02.2002 - 05.07.2002
05.08.2002 - 23.10.2002 (562)
24.10.2002 - 17.01.2003 (585)
20.01.2003 - 07.04.2003 (709)
08.04.2003 - 01.08.2003 (709)
04.08.2003 - 18.11.2003 (763)
19.11.2003 - 31.03.2004 (721)
01.04.2004 - 13.08.2004 (825)
16.08.2004 - 22.11.2004 (782)
23.11.2004 - 28.03.2005 (756)
29.03.2005 - 29.07.2005 (807)
30.08.2005 - 02.12.2005 (927)
05.12.2005 - 21.04.2006 (912)
24.04.2006 - 23.10.2006 (999)
24.10.2006 - 03.05.2007 (999)
04.05.2007 - 28.01.2008 (999)
29.01.2008 - 12.01.2009 (999)
13.01.2009 - 07.07.2009 (966)
22.08.2009 - 21.01.2010 (996)
22.01.2010 - 22.06.2010 (1000)
23.06.2010 - 14.01.2011 (1042)
17.01.2011 - 31.05.2011 (1008)
01.06.2011 - 03.11.2011 (1003)
07.11.2011 - 16.03.2012 (996)
19.03.2012 - 09.06.2012 (1009)
13.06.2012 - 07.09.2012 (988)
10.09.2012 - 19.11.2012 (1004)
20.11.2012 - 14.01.2013 (1015)
15.01.2013 - 22.02.2013 (1000)
23.02.2013 - 08.04.2013 (991)
09.04.2013 - 31.05.2013 (1015)
01.06.2013 - 18.07.2013 (992)
19.07.2013 - 03.09.2013 (1014)
04.09.2013 - 20.10.2013 (1001)
21.10.2013 - 02.12.2013 (1001)
03.12.2013 - 18.01.2014 (997)
19.01.2014 - 07.03.2014 (994)
08.03.2014 - 24.04.2014 (1000)
25.04.2014 - 18.06.2014 (1005)
19.06.2014 - 15.08.2014 (1019)
16.08.2014 - 07.10.2014 (1006)
08.10.2014 - 16.11.2014 (995)
17.11.2014 - 25.12.2014 (1004)
26.12.2014 - 09.02.2015 (989)
10.02.2015 - 20.03.2015 (998)
21.03.2015 - 22.04.2015 (1001)
23.04.2015 - 29.05.2015 (997)
29.05.2015 - 30.06.2015 (995)
30.06.2015 - 29.07.2015 (990)
29.07.2015 - 26.08.2015 (998)
27.08.2015 - 24.09.2015 (988)
25.09.2015 - 22.10.2015 (991)
23.10.2015 - 18.11.2015 (1000)
18.11.2015 - 16.12.2015 (990)
17.12.2015 - 23.01.2016 (1000)
24.01.2016 - 25.02.2016 (1000)
26.02.2016 - 24.03.2016 (1000)
24.03.2016 - 16.04.2016 (990)
17.04.2016 - 19.05.2016 (999)
20.05.2016 - 22.06.2016 (993)
23.06.2016 - 01.08.2016 (995)
02.08.2016 - 12.09.2016 (990)
13.09.2016 - 25.10.2016 (989)
26.10.2016 - 05.12.2016 (995)
06.12.2016 - 15.01.2017 (995)
16.01.2017 - 23.02.2017 (990)
24.02.2017 - 03.04.2017 (994)
04.04.2017 - 18.05.2017 (1000)
19.05.2017 - 05.07.2017 (1000)
06.07.2017 - 24.08.2017 (1000)
25.08.2017 - 06.10.2017 (991)
07.10.2017 - 15.11.2017 (990)
16.11.2017 - 24.12.2017 (1000)
25.12.2017 - 04.02.2018 (990)
05.02.2018 - 17.03.2018 (1000)
18.03.2018 - 02.05.2018 (990)
03.05.2018 - 11.06.2018 (1000)
12.06.2018 - 18.07.2018 (990)
19.07.2018 - 24.08.2018 (1000)
25.08.2018 - 02.10.2018 (1000)
03.10.2018 - 07.11.2018 (990)
08.11.2018 - 13.12.2018 (990)
14.12.2018 - 23.01.2019 (1000)
24.01.2019 - 02.03.2019 (1000)
03.03.2019 - 12.04.2019 (1010)
13.04.2019 - 23.05.2019 (990)
24.05.2019 - 03.07.2019 (1000)
04.07.2019 - 11.08.2019 (1000)
12.08.2019 - 16.09.2019 (990)
17.09.2019 - 26.10.2019 (1000)
27.10.2019 - 12.12.2019 (1000)
13.12.2019 - 25.01.2020 (1000)
26.01.2020 - 06.03.2020 (990)
07.03.2020 - 16.04.2020 (1010)
17.04.2020 - 19.05.2020 (1000)
20.05.2020 - 25.06.2020 (990)
26.06.2020 - 04.08.2020 (995)
05.08.2020 - 16.09.2020 (1005)
17.09.2020 - 26.10.2020 (990)
27.10.2020 - 27.11.2020 (990)
28.11.2020 - 07.01.2021 (990)
08.01.2021 - 15.02.2021 (1000)
16.02.2021 - 31.03.2021 (1000)
01.04.2021 - 12.05.2021 (1000)
13.05.2021 - 14.06.2021 (990)
15.06.2021 - 26.07.2021 (980)
27.07.2021 - 31.08.2021 (990)
01.09.2021 - 07.10.2021 (1000)
08.09.2021 - 07.11.2021 (1000)
08.11.2021 - 10.12.2021 (1000)
11.12.2021 - 24.01.2022 (990)
25.01.2022 - 04.03.2022 (1000)
05.03.2022 - 10.04.2022 (990)
11.04.2022 - 17.05.2022 (1000)
18.05.2022 - 23.06.2022 (980)
24.06.2022 - 31.07.2022 (990)
01.08.2022 - 13.09.2022 (990)
14.09.2022 - 21.10.2022 (990)
22.10.2022 - 29.11.2022 (1000)
30.11.2022 - 22.01.2023 (1000)
23.01.2023 - 02.03.2023 (990)
03.03.2023 - 21.04.2023 (1000)
22.04.2023 - 13.06.2023 (990)
14.06.2023 - 02.08.2023 (1000)
03.08.2023 - 21.09.2023 (1000)
22.09.2023 - 06.11.2023 (990)
07.11.2023 - 24.12.2023 (990)
25.12.2023 - 18.02.2024 (1000)
19.02.2024 - 05.04.2024 (990)
06.04.2024 - 25.05.2024 (1000)
26.05.2024 - 26.07.2024 (1000)
26.07.2024 - 25.08.2024 (990)
26.08.2024 - 28.09.2024 (980)
29.09.2024 - 01.11.2024 (1000)
02.11.2024 - 02.12.2024 (980)
03.12.2024 - 08.01.2025 (990)
09.01.2025 - 09.02.2025 (1000)
10.02.2025 - 20.03.2025 (1000)
21.03.2025 - 03.05.2025 (990)
04.05.2025 - ...
Статьи
Статьи: раздел 1 (1024)
Статьи: раздел 2 (1006)
Статьи: раздел 3 (1000)
Статьи: раздел 4 (1044)
Статьи: раздел 5 (1001)
Статьи: раздел 6 (1000)
Статьи: раздел 7 (1000)
Статьи: раздел 8 (1013)
Статьи: раздел 9 (1000)
Статьи: раздел 10 (1000)
Статьи: раздел 11 (329)
Статьи: раздел 12 (1000)
Статьи: раздел 13 (730)
Лента новостей

ИИ ChatGPT выдает ответы на чужие запросы

Ключи к пониманию того как распространяется рак

Лишайники указали на обитаемость экзопланет

НЛО облучил радиацией жителя Канады

Очень массивные звезды выбрасывают еще больше вещества

Полеты звезд не изменили климат Земли

Роли аккреций в эволюции планет земной группы

Странное существо с вытянутой головой

Тайна озера Тахо

Японские хирурги удалили ребенку зуб из носа

Амбициозный законопроект по НЛО провалился

Города, в которых чаще всего видели НЛО

Звездообразный объект над Вашингтоном

Каковы шансы обнаружить НЛО в США

Конгресс США запретил сотрудникам пользоваться WhatsApp

Оружейные бароны прикрывались НЛО

Подводный аппарат обнаружил секретные сооружения

Призрачный шлейф, поднимающийся из мантии Земли

Разгадка тайны падающего объекта Массачусетса

Секретное оружие, которое может остановить слепоту

Сигарообразный аппарат пронёсся по марсианскому небу

Этим летом вращение Земли ускорится

Астрономы послушали 27 экзопланет на наличие ВЦ

Впервые нашли галактику из темной материи

Заночевавший в лесу охотник встретил инопланетян

Звездные вспышки могут помешать поиску жизни

ИИ может научиться разрабатывать биологическое оружие

Киберпсихологи впервые нашли способ усилить эмоции

Нейросети осознали, что их проверяют и вели себя примерно

Хирурги провели роботизированную пересадку сердца

Человек, который мог по желанию стать невидимым

Шестой пациент с мозговым имплантом Neuralink

Антигравитация - поехали

Важные секреты формирования планет

Вулкан поможет определить обитаемость Марса

Гигантская комета в облаке Оорта раскрывает свои секреты

Жизнь на Марсе - можно ли извлечь уроки

Исследования проливают свет на темную материю

Как органика выживает в экстремальных межзвездных условиях

Лунная пыль менее токсична, чем городское загрязнение

Нашли адрес пропавшей материи во Вселенной

Новая волна откровений от 'живого Нострадамуса'

Обнаружены три экзопланеты типа горячий Юпитер

От шпионажа до телепортации и антигравитации

Планетарная угроза Земле реальна

Планетообразующие диски теряют газ быстрее, чем пыль

Почему закаты зимой такие красивые

Почему США лидируют по количеству наблюдений НЛО

Прародитель всех метеорных потоков может угрожать Луне

Проблема, которую могут решить только квантовые вычисления

Пузырчатые мышцы помогут освоить космические полеты

Слияние двойной нейтронной звезды образовало черную дыру

Слои глины Марса были устойчивым местом для древней жизни

Китайский автобренд Foton. Надежность, универсальность и современные решения для бизнеса

Почему стоит посетить Казань. Культурное богатство, история и уникальная атмосфера

Выгоды установки микромаркета самообслуживания для бизнеса

Когда деньги ушли не туда. Как работает чарджбэк

Подвесной потолок Грильято - архитектурная революция коммерческих пространств

Американские военные заметили дискообразный НЛО

Борьба властей и уфологического сообщества

Бывший пилот истребителя чуть не столкнулся с НЛО

Дискообразный НЛО запечатлен американскими военными

Достоянием общественности стали кадры с НЛО

Загадочное мумифицированное кровососущее существо

ИИ стал экзистенциальной угрозой для СМИ

Нападение демонов на начальную школу

Невиданные ранее кадры с НЛО

Папа Римский объявил войну искусственному интелекту

Пилот истребителя ошеломлен тем, что увидел НЛО

Продвинутые модели ИИ будут хитрить, обманывать и воровать

Река в форме дракона - знак, оставленный рептилоидами

Родители поджигают имущество одержимого учителя

Ролик с китайской космостанции является поддельным

Секретная встреча китайских спутников

Фильм об НЛО вызвал волну сообщений о странной активности

Церковь присоединяется к исследованию НЛО

Череп, оставленный инопланетянами, на острове в Канаде

Я сталкиваюсь с инопланетянами каждый день

Какие навыки дают современные онлайн-школы IT помимо программирования

Был ли первобытный человек технически развит

Военное видео с НЛО вызвало споры

Всемирный потоп в греческой мифологии

Встреча англичанки со странным существом

Встреча с инопланетянами возле Кошенцина

Города Мичигана, в которых были замечены НЛО

Древние передовые знания ведических мудрецов

Жизнь на Марсе будет похожа на тюремное заключение

Информация и экспертные знания об НЛО

Инцидент на острове Мори будет обсуждаться в Розуэлле

Каково назначение загадочных Врат Богов

Летчик-истребитель видел НЛО

Магнитное поле странным образом управляет воздухом

Мы были не первой развитой цивилизацией на Земле

Наблюдения чудовищ в озере Лох-Несс

НЛО в древние времена

НЛО замечен на афгано-пакистанской границе

Пилот истребителя едва не столкнулся с НЛО

Почему йети до сих пор не обнаружены

Предсказания Леонардо да Винчи

Призрачные огни терроризируют бенгальских рыбаков

Просочившееся в сеть военное видео с НЛО

Самое популярное место НЛО в Австралии

Следы инопланетян на дне Балтийского моря

Собаку-призрака заметили в историческом здании Глостера

Странный объект снят в Китае

Странный прямоугольный НЛО заметил пилот истребителя

У людей есть ингредиенты для отращивания конечностей

Ученые обнаружили парадокс в эволюции

Черви доказали, что Дарвин ошибался

Астероид-убийца может столкнуться с Луной

Биомеханический НЛО над графством Суррей

Бывший пилот ВВС США описывает блестящий объект

Вся жизнь на Земле подчиняется одному правилу

Где чаще всего живут психопаты

Городская инфраструктура замечена на Марсе

Журналисты борются с сокрытием информации о НЛО

Загадочная летающая тарелка в пустыне Сахара

Загадочный сигнал вырвался из глубин Антарктиды

ИИ может спровоцировать ядерный Армагеддон

ИИ подрывает навыки критического мышления

Инопланетяне развязали войну между Ираном и Израилем

Кто первым применит ядерное оружие

НЛО замечен над Массачусетсом

НЛО, меняющий форму, над Сакраменто

Новый ключ, который может раскрыть Пятую силу

Обнаружено недостающее вещество во Вселенной

Призрачный шлейф обнаружен под восточным Оманом

Причудливые и запутанные тайны из мира авиации

Свет имеет доступ к 37 различным измерениям

Скрытая закономерность сохранит ваши секреты

Странные сооружения под водой у острова Бали

Сферу Буга видели в Китае

Таинственные огни над Парагваем

Таинственные сигналы из Антарктиды

Тюрьма, населенная призраками

Фото инопланетян, опубликованные Пентагоном

Цилиндрический НЛО над Колорадо-Спрингс

Через 15 лет люди будут жить в оазисах на Марсе

Электронные письма Пентагон о НЛО

Voyah Dream и Free. Премиум без компромиссов

КамАЗ Компас. Важность и причины технического обслуживания

Changan. Премиум в движении - обзор моделей UNI-K, HUNTERplus

Обзор популярных моделей Haval. Jolion и Dargo

Гуанчи - последние потомки Атлантиды

Жюль Верн предсказал нечто похожее на интернет

ИИ отбирает рабочие места у айтишников

ИИ позволит колонизировать галактику через пять лет

Компания OpenAI вскрыла тёмные личности у ИИ

Кричащий призрак на месте ДТП

Металлический шар наблюдали в Китае

На каких планетах стоит искать жизнь

Наш мир может быть космической голограммой

Нашли недостающее вещество Вселенной

Нечто промчалось в небе над Мексикой

Носовое дыхание оказалось уникальным для каждого человека

Папа считает угрозу ИИ человечеству главной проблемой

План заражения Энцелада жизнью

Подразделение-201 ускорит внедренение военных ИИ-технологий

Похищения феями и подражателями

Почему ИИ не победит в игре 'Что? Где? Когда?'

Призрачный канал утечки тепла из ядра Земли

Таинственные болотные огни убивают рыбаков

Человеческие сердца впервые вырастили в зародышах свиньи

Модельный ряд Audi Q. Характерные особенности и ключевые представители

Американские военные сняли летающую тарелку

В пустыне Сахара замечен НЛО

Верящие в теории заговора излишне самоуверенны

Загадочная резьба с библейским посланием

Загадочные радиосигналы из-подо льда Антарктиды

Как формируются скалистые планеты

На Марсе растут грибы

Обнаружили сотни таинственных гигантских вирусов

Поможет ли планетарный зонт охладить планету

Раскройте тайны Вселенной с помощью гравилинзирования

Рецепт получения настоящего криптонита

Свежий взгляд на Космический рассвет

События, которые положат конец цивилизации

Таинственная медуза замечена над пустыней США

Тайна сербского Лох-Несского чудовища

Темная материя влияет на движение звезд

Теория заговора о космической станции Тяньгун

Уникальное поведение аккреционного диска SS 433

Холодная экзопланета на странной орбите

Шокирующее открытие в глубинах Земли

Обзор МФО которые выдают микрозайм на карту

Как правильно заправить газгольдер и рассчитать объем

Наверх
Яндекс.Метрика