Сотрудники Anthropic — одной из ведущих компаний в мире по разработке искусственного интеллекта — в последние недели активно обсуждают покупку земли в отдалённых регионах США. По данным The Wall Street Journal, они рассматривают эти участки как убежище на случай, если ИИ выйдет из-под контроля. И это не шутка.

«Спокойнее уже никогда не будет»

В сообществе специалистов по безопасности ИИ сценарии глобальной катастрофы обсуждают уже много лет. Неформальные встречи проходили в районе залива Сан-Франциско, в Беркли и даже на Багамах.

Среди предложений — покупка удалённых островов, создание запасов йодных препаратов и строительство убежищ, защищённых от электромагнитного излучения. Звучит как сценарий голливудского блокбастера, но для этих людей это реальный план.

В Anthropic эта тема особенно актуальна. Сотрудники обсуждают сценарии катастроф в закрытом Slack-канале. Некоторые даже носят на ноутбуках девиз: «Things Will Never Be Chill Again» — «Спокойнее уже никогда не будет». Если разработчики ИИ так нервничают — стоит ли и нам напрячься?

При чём тут Сэм Бэнкман-Фрид

Идеи подготовки к катастрофам активно распространялись среди сторонников эффективного альтруизма. Когда Anthropic привлекала средства на раннем этапе, её руководитель Дарио Амодей обращался к представителям этого сообщества.

Среди них был Сэм Бэнкман-Фрид — основатель криптовалютной биржи FTX. В 2024 году его приговорили к 25 годам тюрьмы за мошенничество и отмывание денег. Но до ареста он был одним из главных спонсоров идей «эффективного альтруизма» и безопасного ИИ.

Так что связь между деньгами, технологиями и апокалиптическими сценариями — не случайная. Это целая философская экосистема.

Остров Науру — крайний план

Согласно документам по делу о банкротстве FTX, в 2023 году стало известно о предложении приобрести тихоокеанское государство Науру. Да, целую страну.

План был такой: построить там убежище на случай катастрофы, в которой погибла бы значительная часть населения Земли. Выжившие сторонники эффективного альтруизма должны были использовать объект для создания лаборатории и сохранения человеческой популяции.

То есть, если всё пойдёт прахом — небольшая группа людей на крошечном острове в Тихом океане будет пытаться перезапустить цивилизацию. И эти люди разрабатывают ИИ, которым мы пользуемся каждый день.

Что со всем этим делать

Самое жуткое в этой истории — не бункеры и не остров Науру. А то, что люди, которые лучше всех понимают, как развивается ИИ, считают сценарий глобальной катастрофы достаточно вероятным, чтобы тратить на него реальные деньги и время.

Может, это просто паранойя технарей, которые слишком много думают о рисках. А может — сигнал, который стоит услышать. Ведь когда разработчики нового лекарства сами отказываются его принимать — это как минимум подозрительно.

Поделиться ссылкой: