Доставка от 185 ₽ · бесплатно от 2 000 ₽ в Екб, от 4 000 ₽ в Москве
«Если кто-то его создаст — все погибнут. Почему сверхчеловеческий ИИ уничтожит нас всех» — это нон-фикшн о риске создания сверхчеловеческого искусственного интеллекта и конфликте между технологическим прогрессом и безопасностью человечества. Книга появилась в момент, когда разговор об ИИ вышел за пределы научных кругов и стал частью повседневной жизни. Элиезер Юдковский и Нейт Соарес пишут не о далёкой фантастике, а о сценарии, который рассматривают как реальную угрозу. Текст сосредоточен не на технических деталях ради самих деталей, а на главном вопросе: что произойдёт, если система окажется умнее человека и перестанет подчиняться его целям. По теме и масштабу тревоги книга близка работам Ника Бострома и научно-популярным трудам о будущем технологий, а по остроте постановки вопроса её можно сопоставить с публицистикой о цивилизационных рисках.
В центре книги — идея о том, что переход от современных ИИ-систем к сверхразуму может закончиться катастрофой для людей. Авторы разбирают, почему сам факт высокого интеллекта машины не означает её управляемость и почему ошибка на этапе создания может иметь необратимые последствия. Внутри — рассуждения о неконтролируемом развитии ИИ, о проблеме согласования целей и о том, как человечество может подойти к опасной черте, не успев подготовиться. Текст выстроен как предупреждение: читателя ждёт последовательный разбор угроз, связанных с технологическим ускорением, и жёсткий спор с привычной верой в то, что любую новую систему потом удастся просто «настроить».
Доставка от 185 ₽
Бесплатно от 2 000 ₽ в Екатеринбурге, от 4 000 ₽ в Москве, от 5 000 ₽ в СПб
Автор
Элиезер Шломо Юдковский (Eliezer S. Yudkowsky) — один из активнейших рационалистов современной Америки, компьютерный исследователь и популяризатор идеи «дружелюбного искусственного интеллекта». В неакадемических кругах больше известен как автор фанфика «Гарри Поттер и методы рационального мышления», написанный под псевдонимом Less Wrong.
Родился 11 сентября 1979 года.
Юдковский — сооснователь и научный сотрудник Института Сингулярности по созданию Искусственного Интеллекта (Singularity Institute for Artificial Intelligence, SIAI). Он — автор многочисленный книг и статей по искусственному интеллекту. Юдковский не обучался в вузах и является автодидактом без формального образования в исследуемой области. Помимо исследовательской работы, Юдковский известен своими объяснениями сложных моделей на неакадемическом языке, доступном широкому кругу читателей.
Юдковский исследует те конструкции искусственного интеллекта, которые способны к самопониманию, самомодификации и рекурсивному самоулучшению, а также такие архитектуры, которые будут обладать стабильной и позитивной структурой мотивации (Дружественный искусственный интеллект).
Юдковский был вместе с Робином Хансоном одним из главных авторов блога "Overcoming Bias". В начале 2009 года он участвовал в организации блога "LessWrong", нацеленного на «развитие рациональности человека и преодоление когнитивных искажений». После этого "Overcoming Bias" стал личным блогом Хансона. Материал, представленный на этих блогах, был организован в виде цепочек постов, которые смогли привлечь тысячи читателей.
Юдковский — автор нескольких научно-фантастических рассказов, в которых он иллюстрирует некоторые темы, связанные с когнитивной наукой и рациональностью. Элиезер Юдковский — автор философского романа «Гарри Поттер и методы рационализма», публиковавшегося частями в интернете в период с 2010 по 2015 год. В нём Гарри растёт в семье оксфордского учёного и перед путешествием в Хогвартс учится у него методам рационального мышления.
