Главная   •   Новости   •   Элиезер Юдковски об искусственном интеллекте. Является ли искусственный интеллект фактором глобального риска
Элиезер Юдковски об искусственном интеллекте. Является ли искусственный интеллект фактором глобального риска PDF Печать E-mail
Автор: Administrator   
18.07.2012 21:51

Никто из здравомыслящих людей не стал бы причинять непоправимый вред Земле, ведущий к ее уничтожению, намеренно. Но сценарий уничтожения планеты вследствие ошибки, выглядит вполне реалистичным. Красную кнопку никто не нажмет, понимая последствия. Но многие имеют искаженное понимание истинного предназначения красной кнопки, и это вселяет тревогу.

Основной опасностью искусственного интеллекта Е. Юдковски (исследователь искусственного интеллекта) в своей книге «Риски глобальной катастрофы», вышедшей в 2007 году в Оксфорде, считает то, что люди преждевременно делали вывод, что понимают его.

Мы научились моделировать людей, то есть полностью понимать их. Люди понимают друг друга путем эмпатии, то есть, ставя себя на место другого человека. В этой ситуации моделирующий должен быть похож на того, кого он моделирует. Часто, мы склонны очеловечивать, наделять присущими нам чертами того, кто человеком не является. Обращение к собственному уму дает необходимые подсказки, когда надо понимать других людей.

Вопреки всем базовым установкам, люди неосознанно антропоморфизируют (наделяют человеческими качествами) искусственный интеллект.

Пространство ума очень широко. Два искусственных интеллекта могут быть совершенно не подобны друг другу.

Человеческий мозг может предсказать только поведение другого человека. Как же он будет предсказывать поведение искусственного интеллекта, которым сам не является. Инженеры создают микросхемы, которые выполняют заданные действия потому, что используют понятные проекты.

Искусственный интеллект может  возникнуть в результате случайного совпадения алгоритмов в руках ученого, не имеющего достаточного представления о том, как работает вся эта система. Конечно, исследователь будет думать, что искусственный интеллект будет дружественным. Ошибочная вера в заведомую дружественность искусственного интеллекта – путь к глобальной катастрофе.