|
Скоро ИИ станет непредсказуемым
|
|
|
|
Бывший главный научный сотрудник OpenAI Илья Суцкевер, один из самых известных специалистов в области искусственного интеллекта, в пятницу сделал прогноз: способность рассуждать сделает технологии гораздо менее предсказуемыми.
|
|
|
|
По его словам, идея, которую его команда исследовала десять лет назад, о том, что масштабирование данных для "предварительной подготовки" систем искусственного интеллекта позволит им достичь новых высот, начинает достигать своих пределов. Увеличение объема данных и вычислительной мощности привело к появлению ChatGPT, который OpenAI запустил в 2022 году и получил мировое признание.
|
|
|
|
"Но предварительная подготовка, какой мы ее знаем, несомненно, закончится", - заявил Суцкевер перед тысячами участников конференции NeurIPS в Ванкувере. "В то время как вычислительная мощность растет, - сказал он, - объем данных не растет, потому что у нас есть только один Интернет".
|
|
|
|
Суцкевер предложил несколько способов продвинуться вперед, несмотря на эту загадку. Он сказал, что технология сама по себе может генерировать новые данные, или модели искусственного интеллекта могут оценивать множество ответов, прежде чем выбрать наилучший ответ для пользователя, чтобы повысить точность. Другие ученые обратили внимание на данные из реального мира.
|
|
|
|
|
|
|
Но кульминацией его выступления стало предсказание будущего сверхразумных машин, которое, по его словам, "очевидно", ждет, с чем некоторые не согласны. В этом году Суцкевер стал соучредителем Safe Superintelligence Inc после того, как сыграл свою роль в кратковременном отстранении Сэма Альтмана от OpenAI, о чем, по его словам, он пожалел через несколько дней.
|
|
|
|
По его словам, в будущем ИИ-агенты, которые уже давно работают, получат более глубокое понимание и самосознание. Он сказал, что ИИ будет решать проблемы так же, как это могут делать люди.
|
|
Есть одна загвоздка.
|
|
|
|
"Чем больше причин возникает, тем более непредсказуемой она становится", - сказал он.
|
|
|
|
Перебирая миллионы вариантов, можно сделать любой результат неочевидным. Например, AlphaGo, система, созданная компанией DeepMind из Alphabet, удивила знатоков этой чрезвычайно сложной настольной игры своим загадочным 37-м ходом, что позволило ей победить Ли Седола в матче в 2016 году.
|
|
|
|
Суцкевер сказал то же самое: "Шахматные ИИ, по-настоящему хорошие, непредсказуемы для лучших шахматистов-людей".
|
|
|
|
ИИ, каким мы его знаем, по его словам, будет "радикально отличаться".
|
|
|
|
Источник
|
