Исследователь Anthropic уволился и заявил: создатели ИИ понимают риск гибели человечества, но продолжают гонку

Исследователь Джейкоб Коксон, который последние три года обучал нейросети в OpenAI и Anthropic, уволился и рассказал о внутренней кухне ИИ-гигантов.

По его словам, разработчики прекрасно осознают, что создание сверхразума может привести к гибели человечества, но никто не собирается останавливаться.

Почему они продолжают

Компании попали в ловушку бесконечной гонки. Логика простая: «Если не мы, то суперинтеллект первыми создадут конкуренты, а они могут оказаться не такими осторожными». По оценке Коксона, в OpenAI просто недооценивают масштаб угрозы. В Anthropic риски осознают четко, но боятся отстать от рынка.

При этом нейросети стремительно эволюционируют. Коксон уверен: скоро ИИ сможет самостоятельно взламывать любые системы, совершать научные прорывы за считанные часы и получать реальное влияние.

Самое тревожное — это подтверждают изнутри 

Слова уволившегося исследователя публично поддержал Эван Хубингер, действующий глава отдела безопасности ИИ в Anthropic. Он подтвердил три пугающих факта:

• Внутри компании сценарий гибели человечества от ИИ считают абсолютно реальным.

• Вероятность такого исхода в ближайшие 10 лет он оценивает выше 10%.

• У исследователей пока нет решения, как сделать сверхразум безопасным для людей.

Итог: Люди, которые лучше всех понимают потенциальную опасность искусственного интеллекта, продолжают его создавать, потому что боятся уступить конкурентам. И этот человеческий фактор пугает куда сильнее «восстания машин».