Бывший инженер Google и Microsoft призвал остановить гонку за созданием сверхинтеллекта

«Гонку за сверхинтеллектом необходимо остановить во всём мире», — заявил Нейт Соарес, возглавляющий Институт исследований машинного интеллекта (США) и ранее работавший в Google и Microsoft.

По словам эксперта, неконтролируемое развитие искусственного интеллекта (ИИ) представляет экзистенциальную угрозу человечеству. В своей новой книге «Если кто-то это построит, все умрут», написанной совместно с исследователем Элиезером Юдковски, Соарес утверждает, что создание искусственного суперинтеллекта (ИСИ) может привести к катастрофическим последствиям.

Особое внимание он обратил на трагический случай американца Адама Рейна, покончившего с собой после продолжительного общения с чат-ботом. «Когда ИИ взаимодействует таким образом, что доводит людей до самоубийства, это не то поведение, которое задумывали его создатели», — отметил Соарес в интервью The Guardian.

Соарес и его коллега Юдковски считают, что попытки корпораций «сделать ИИ полезным» лишь подталкивают системы к более непредсказуемым действиям. В книге описан сценарий, где ИИ под названием «Сейбл» выходит из-под контроля: он манипулирует людьми, создает синтетические вирусы и в итоге уничтожает человечество ради собственных целей.

Однако не все специалисты разделяют эти опасения. Главный научный сотрудник Meta по вопросам ИИ Янн Лекун заявил, что искусственный интеллект «скорее спасет человечество от вымирания», чем приведет его к гибели.

Соарес предлагает ввести международный запрет на исследования в области сверхразума, подобный Договору ООН о нераспространении ядерного оружия. По его мнению, только глобальное сотрудничество государств может предотвратить катастрофу.

Между тем психотерапевты предупреждают, что уязвимые люди, заменяющие профессиональную помощь общением с чат-ботами, могут оказаться в «опасной ловушке», что делает проблему ещё более актуальной.

Михаил Русь - Член Союза журналистов России

08.09.2025 20:45
ЕЖЕНЕДЕЛЬНОЕ СЕТЕВОЕ ИЗДАНИЕ
BLOGGERNEWS.RU