Эксперименты с ИИ важны для нашего коллективного обучения
Инструменты генеративного искусственного интеллекта (GenAI), такие как ChatGPT, основанные на моделях большого языка (LLM), меняют способы нашего мышления, обучения и работы. Но, как и некоторые другие формы ИИ, технологии GenAI имеют природу «черного ящика», а это означает, что трудно объяснить и понять, как математические модели вычисляют результаты. Если мы, как общество, хотим широко использовать эту новую технологию, нам нужно будет принять участие в процессе коллективных открытий, чтобы лучше понять, как она работает и на что она способна. Пока эксперты по ИИ работают над тем, чтобы сделать системы ИИ более понятными для конечных пользователей, а OpenAI, создатель ChatGPT, справляется со сменой руководства и вопросами о своем стратегическом направлении, высшие учебные заведения должны сыграть решающую роль в обеспечении коллективного изучения GenAI. Для систем искусственного интеллекта, основанных на больших нейронных сетях с природой «черного ящика», таких как GenAI, отсутствие прозрачности мешает людям доверять искусственному интеллекту и полагаться на него в конфиденциальных приложениях.
Профессор Университета Карнеги-Меллон Элизабет А. Холм утверждает, что ИИ «черного ящика» по-прежнему могут быть ценными, если они дают лучшие результаты, чем альтернативы, если цена неправильных ответов низка или если они вдохновляют на новые идеи. Тем не менее, случаи, когда дела пошли ужасно неправильно, подрывают доверие, например, когда ChatGPT обманом заставили дать инструкции по изготовлению бомбы или когда он обвинил профессора права в серьезном преступлении, которого он не совершал. Вот почему исследователи, работающие над объяснимостью ИИ, пытались разработать методы, позволяющие заглянуть в черный ящик нейронных сетей. Однако программы LLM, лежащие в основе многих инструментов GenAI, слишком велики и сложны, чтобы эти методы могли работать. К счастью, у LLM, таких как ChatGPT, есть интересная особенность, которой не было у предыдущих нейронных сетей «черного ящика»: они интерактивны. Подумайте об этом так: мы не можем понять, о чем думает человек, глядя на карту нейронов его мозга, но мы можем с ним поговорить. Появляется новая область науки под названием «машинная психология», призванная понять, как на самом деле «думают» выпускники магистратуры.
Новое исследование, еще не прошедшее рецензирование, изучает, как эти модели могут удивить нас своими новыми возможностями. Например, исследователи предположили, что, поскольку при использовании LLM каждое новое генерируемое слово зависит от последовательности слов, которые были до него, обращение к LLM для решения проблемы шаг за шагом может дать лучшие результаты. Новые исследования, еще не прошедшие рецензирование, по этой технике «цепочки мыслей» и ее вариациям показали, что они улучшают результаты. Другие предполагают, что выпускниками LLM можно «эмоционально манипулировать», включая такие фразы, как «вы уверены?» или «верить в свои способности» в подсказках. Исследователи Google DeepMind недавно обнаружили, что, используя интересную комбинацию этих двух методов, для ряда математических задач один LLM значительно улучшил точность, когда ему было предложено «сделать глубокий вдох и работать над этой проблемой шаг за шагом».
Пониманием GenAI занимаются не только исследователи, и это хорошо. Новые открытия, сделанные пользователями, удивили даже создателей этих инструментов, одновременно восхитительно и тревожно. Пользователи делятся своими открытиями и подсказками в онлайн-сообществах, таких как Reddit, Discord, а также на специализированных платформах, таких как FlowGPT. Эти подсказки часто включают в себя подсказки «побег из тюрьмы», которые позволяют заставить инструменты GenAI вести себя не так, как они должны. Люди могут обманом заставить ИИ обойти встроенные правила (например, создать контент, разжигающий ненависть), или создать вредоносное ПО. Именно эти быстрые успехи и удивительные результаты стали причиной того, что в начале этого года некоторые лидеры в области ИИ призвали ввести шестимесячный мораторий на разработку ИИ. В высшем образовании не рекомендуется использовать чрезмерно оборонительный подход, подчеркивающий недостатки и слабости GenAI или то, как он позволяет студентам обманывать. Напротив, когда рабочие начнут видеть преимущества сотрудников, использующих GenAI, или производительность труда, они будут ожидать, что высшее образование подготовит студентов. Образование студентов должно быть актуальным.
Университеты являются идеальным местом для налаживания сотрудничества в различных областях исследований, что является императивом разработки ответственного ИИ. Университеты, в отличие от частного сектора, имеют наилучшие возможности для внедрения своих практик и содержания GenAI в рамки этической и ответственной практики. Это влечет за собой понимание ГенИИ как дополнения, а не замены человеческого суждения, и умение различать, когда полагаться на него допустимо и приемлемо. Обучение GenAI включает в себя развитие навыков критического мышления и проверки фактов, а также оперативное этическое проектирование. Это также предполагает понимание того, что инструменты GenAI не просто повторяют данные обучения, а могут генерировать новые высококачественные идеи на основе закономерностей в этих данных. Краткое руководство ЮНЕСКО по ChatGPT и искусственному интеллекту для высшего образования является полезной отправной точкой. Включение GenAI в учебную программу нельзя рассматривать как преподавание сверху вниз. Учитывая быстрое развитие и новизну технологии, многие студенты уже опережают профессоров в своих знаниях и навыках GenAI.
Мы должны признать это как эпоху коллективных открытий, когда мы все учимся друг у друга. В курсе «Генераторный искусственный интеллект и подсказки», предлагаемом в Школе бизнеса Хаскейн Университета Калгари, часть оценок присваивается за публикации, комментарии и голосование на онлайн-форуме открытий, где можно поделиться своими открытиями и экспериментами. Наконец, мы должны научиться использовать GenAI для решения величайших проблем человечества, таких как изменение климата, бедность, болезни, международные конфликты и системная несправедливость. Учитывая мощный характер этой технологии и тот факт, что мы не до конца понимаем ее из-за ее природы черного ящика, мы должны делать все возможное, чтобы понять ее посредством взаимодействия и обучения, действуя и экспериментируя. Это не усилия, которые можно ограничить работами специализированных исследователей или компаний, занимающихся искусственным интеллектом. Это требует широкого участия.
Источник
Последние аномальные новости

Большинство наблюдений НЛО происходит на Западе США

Возможность существования жизни на Марсе в прошлом

Если бы инопланетяне раскрыли себя

Жуткие дыры в облаках над Флоридой

Запад США лучше всего подходит для обнаружения НЛО

Излучение массивных звезд формирует планетные системы

Измерили самую тяжелую пару черных дыр

ИИ раскрывает секретные дороги

ИИ распространяет фейки с угрожающей скоростью

Кому принадлежит Луна

Майли Сайрус рассказала о пугающей встрече с НЛО

Монтана и Юта идеально подходят для наблюдений НЛО

Оранжевые огни освещали побережье острова Поулис

Официальное исследование НЛО в Канаде

Охрана окружающей среды с помощью ChatGPT

Письма разведывательного управления США о НЛО

Составили карту воды в протопланетном диске

Таинственное черное кольцо замечено над Аргентиной

Уфологический ресторан в Розуэлле

Черной дыры и возникновение галактик

В британском эпицентре наблюдений НЛО

Владелец ранчо Скинуокер высказался по поводу НЛО

Где в США лучше всего наблюдать НЛО

Годовщина инцидента с мясным душем в Кентукки

Горячие точки НЛО в Шотландии

Загадочный треугольник Брод-Хейвен

Карликовые галактики реионизировали Вселенную

Карты формируют нашу жизнь, показывая нам кто мы такие

Леброн Джеймс и Барак Обама охотятся на НЛО

Лучшее место для наблюдений НЛО

Лучшие места Шотландии для наблюдения за НЛО

Необычный химический состав переменной звезды

Пилот сообщает о загадочных оранжевых огнях

Предположительно 83 года назад в Миссури видели НЛО

Представляем статуэтки пришельцев из Паскагулы

Пугающий радиосообщение пилота об НЛО

Раскрываем секреты Голливуда и теории НЛО

Сага об НЛО в Брод-Хейвен 1977 года

Сериал Симпсоны предсказали опыт Вилли Вонка

Тайна заоблачных высот Миртл-Бич

Влияние падающих спутников на климат Земли

Гигантский череп обнаружен в Антарктиде

Горячие точки НЛО в США показали на карте

Горячие точки НЛО, выявленные при анализе наблюдений НЛО

Еще одно наблюдение НЛО над Нью-Йорком

Защита астронавтов от вредной пыли на Марсе

Зонд, столкнувшийся с астероидом, изменил его форму

ИИ, нечеловеческий интеллект и колониализм

Металлический шрам обнаружен на белом карлике

Миссия LIFE может обнаружить следы жизни на экзопланетах

Могли ли тихоходки колонизировать Луну

Музыкант-уфолог написал роман о НЛО

На наблюдения НЛО влияет окружающая среда

Пилот заметил в полете НЛО

Планеты могут формироваться легче, чем считалось

Почти 100 000 наблюдений НЛО за два десятилетия

Связь окружающей среды с резким увеличением числа НЛО

Сигнал GRB 230307A был вызван слиянием нейтронных звезд

Теории заговора против вакцинации приобретают вес

Ярчайшие галактики в космической паутине

Искушающие вкусы. Сырный рай с Бри и Камамбером

Аксионные звезды расскажут, что такое темная материя

Запад США лучше всего подходит для наблюдений НЛО

ИИ-клоны людей станут поворотным моментом эволюции

Инопланетяне существуют, но мы никогда не встретимся

Капсулу с противовирусными препаратами вернули из космоса

Космическая пыль помогла зарождению жизни на Земле

Миллиардеры начали готовиться к Судному дню

Может ли ИИ помочь ученым найти инопланетян

НЛО в небе Нью-Хартфорда

НЛО заметили над Диснейлендом

НЛО играют с нашим разумом

Новые открытия в гравитационных волнах

Пилот сообщает о поразительных маневрах НЛО

Разгадка 120-летней морской тайны судна Немезида

Скептики и сторонники изменения климата

Спекуляции вокруг НЛО в Шотландии

Средиземноморский уфологический центр сообщил о НЛО

Страна монстров, где, по слухам, бродят бигфуты

Темная материя составляет более 80% всей материи

У Урана и Нептуна обнаружили новые луны

Более четкое представление о нашей галактике

Британскую Бабу Вангу считали ведьмой

В Пенсильвании были замечены НЛО

Врачи удалили 150 живых насекомых из носа пациента

Житель Австралии снял НЛО на систему видеонаблюдения

Жуткий лес недалеко от Бостона

ИИ оставит программистов без работы

Наблюдения НЛО в Джорджии

Наблюдения НЛО в ирландском небе

Наблюдения НЛО над Сицилией

Найден загадочный подземный лабиринт

НЛО замечены в небе Шотландии

НЛО сигарообразной формы сняли в зоне СВО

Обнаружили чрезвычайно красную черную дыру

Первые подробные изображения астероида

Польский монетный двор выпустил парящую монету

Предоставлено объяснение воздушным шарам над США

Странное явление на небе заметили кузбассовцы

Тайна 'Страны монстров' в Массачусетсе

Теория термоядерного синтеза на Солнце

Скрипты хайпов, для чего используются и какие бывают

Всемирный день НЛО отмечает две отдельные даты

Гигантская фигура вышла из пожара

Голливудский альянс по раскрытию информации

Изучение людьми своего генома должно быть осознанным

Инопланетяне похитили полицейского

Как бы мог выглядеть Марс Илона Маска

Лес, где регулярно замечают НЛО и бигфута

Новый способ генного редактирования растений

О встречах с НЛО сообщили более 50 лет спустя

Охотничья камера засняла жуткую фигуру

Повешенный бродяга вернулся в виде призрака

Психология великих художников. Мифы об одиночистве

Работа с ИИ требует правовых изменений

Раскрывая тайны похищения в Паскагуле

Растущая черная дыра массой в 17 миллиардов солнц

Рука призрака коснулась ребенка в кроватке

США делают новаторский поворот в дискусе об НЛО

Таинственные звери Японии. Смертоносные монстры

Чип с пластиной из алмаза для высокотехнологичного оружия

Эволюция древней Земли

Компания Чистый Лист, отзывы о chistiylist.com

Мебель-трансформер. Новые модели в 2024 году

High Yield Investment Program. Надежность и создание

Антивирус Avast продавал данных пользователей

Вода в протопланетных дисках туманности Ориона

ГМ-бананы одобрили к употреблению

Жители Нефтеюганска увидели световые столбы

Загадочные океаны гикеанских миров

Инопланетяне существуют, но мы их не встретим

Как миссионер бросил вызов папуасским колдунам

Мужчина съел 1176 таблеток ибупрофена за месяц

Научились воровать отпечатки пальцев по звукам свайпов

Национальный архив запускает базу данных НЛО

Опасность слишком большого внимания к тестам IQ

Природный феномен красный лёд у станции Восток

Психокинез юной Иоасии Гаевской

Пугающее фото над башнями-близнецами до событий 9-11

Рейтинг убежищ Великобритании от зомби-апокалипсиса

Роботы копируют голоса епископов для обмана монахинь

Сын Перси Фосетта видел маленьких человечков

Учительница заметила НЛО в форме яйца

Человека-тень заглянул в школу

Электронная музыка изменила состояние сознания

Partners Special Capital Limited - отзывы трейдеров 2024

Full stack разработчик. Ключевые навыки и рекомендации

Большой брат следит за нами из космоса

Влияние темной материи на эволюцию галактик

Военные США, озадачены неопознанным воздушным шаром

Женщина сняла возле дома большую кошку

ИИ Google Gemini AI вышел из под контроля

Как мы могли бы шпионить за внеземными сетями связи

Капсула, которая доставит космических туристов

Ключ к разгадке природы темной энергии

Нейтронная звезда на месте сверхновой SN 1987A

Первые роботы для массового рынка

Поиски пригодных для жизни Татуинов

Пополнение подземных вод в водоносном горизонте Марса

Сила и удовольствие от теорий заговора

Три года спустя поиски жизни на Марсе продолжаются

Ужасающие встречи с инопланетянами

Физика Солнца и поиск жизни за пределами Земли

Хакеры могут использовать ИИ для копирования голоса

Хиросима и первые конденсаты Солнечной системы

Черная пирамида обнаружена в отдаленном районе Аляски

Экзотический эффект квантовой интерференции в изоляторе

Виды надежных дверных замков

Долгое путешествие на Марс опасно

Зачем нам нужны високосные годы

Знаменитые наблюдения НЛО в долине Гудзона

ИИ незаметно заменяет сотрудников Google

Илон Маск отправит миллиона человек на Марс

Информация об осведомителе НЛО засекречена

Мужчины и женщины действительно устроены по-разному

Наблюдения НЛО в Северной Дакоте

НАСА ищет астронавтов, которые будут жить в модели Марса

Низколетящий НЛО оставил следы на теле

Отдел НАСА по предупреждению об астероидах

План по воскрешению вымершего дронта

Прототип телескопа Эйнштейн прошел первые тесты

Разрушение атмосферы обитаемой экзопланеты

Ранние галактики походили на нашу

Самая маленькая из когда-либо наблюдавшихся звезд

Самый высокий мужчина встретил самую низкую женщину

Совершенно секретный отчет об НЛО 1948 года

Подписка на новости
Наверх
Яндекс.Метрика