«Крестный отец ИИ» объявил о критической угрозе со стороны нейросетей
. Он оценил вероятность того, что ИИ уничтожит человечество«Крестный отец ИИ» Джеффри Хинтон объявил об экзистенциальной угрозе нейросетей
Джеффри Хинтон
Вероятность того, что искусственный интеллект приведет к вымиранию человечества в течение ближайших 30 лет, составляет от 10 до 20%, заявил «крестный отец ИИ» Джеффри Хинтон. Его слова передает The Guardian.
Британский и канадский ученый-программист и лауреат Нобелевской премии по физике Джеффри Хинтон, которого часто называют «крестным отцом» искусственного интеллекта, оценил вероятность того, что ИИ уничтожит человечество в ближайшие три десятилетия, от 10 до 20%. При этом ученый отметил, что темпы развития технологий «намного выше», чем ожидалось. Ранее Хинтон оценивал эту вероятность в 10%.
«Понимаете, нам никогда не приходилось иметь дело с чем-то более разумным, чем мы сами», — сказал ученый.
В 2023 году Джеффри Хинтон уволился из компании Google, чтобы иметь возможность более открыто говорить о рисках, связанных с развитием искусственного интеллекта. Он считает, что ИИ вполне может выйти из-под контроля человека и стать «экзистенциальной угрозой».
Ученый призывает к государственному регулированию технологии искусственного интеллекта.
«Стремление крупных компаний к прибыли не сможет гарантировать безопасность их разработок. Единственное, что может заставить эти крупные компании проводить больше исследований в области безопасности, — это государственное регулирование», — заявил ученый.
Джеффри Хинтон является одним из пионеров в разработке нейросетей, он стал лауреатом премии Тьюринга — эквивалента Нобелевской премии в области компьютерных наук.
Хинтон работал над развитием нейросетей с 1970-х. В 2012 году его компанию, которая разработала технологию распознавания изображений, за $44 млн приобрела Google. Сотрудником Хинтона тогда был Илья Суцкевер, который впоследствии стал главным научным сотрудником OpenAI, компании — создателя чат-бота ChatGPT.
В 2024 году он стал лауреатом Нобелевской премии по физике «за фундаментальные открытия и изобретения, обеспечивающие машинное обучение с помощью искусственных нейронных сетей». По словам председателя Нобелевского комитета по физике Эллен Мунс, работа лауреатов уже принесла пользу научному обществу. «В физике мы используем искусственные нейронные сети в самых разных областях, например при разработке новых материалов с особыми свойствами», — объяснила Мунс.
