Поддержать нас
Беларусы на войне
  1. Этим беларусам нельзя будет выгуливать собак. Правительство намерено ужесточить правила для владельцев животных
  2. Будущих призывников больше не будут отправлять в спецгруппу по физкультуре. Минздрав поменял правила для школ и вузов
  3. В Беларуси появилась новая сеть магазинов зоотоваров — в каких городах их открыли
  4. Политологу Алине Харисовой сделали предложение — она сказала «да». Кто ее избранник
  5. Актриса обвинила в сексуализированном насилии актера Депардье и писателя Уэльбека
  6. «Доллар как сбережение семейного капитала уходит в прошлое». Финансовый аналитик сделал прогноз по валютному рынку до конца 2026 года
  7. «Убедительно просим вас помочь». Многодетная минчанка попросила у Лукашенко машину
  8. В Минске в медцентре умер пациент — СК
  9. Самый успешный рекламный слоган XX века. Как одна компания убедила мир, что любовь измеряется бриллиантом на кольце
  10. Беларусский политический аналитик рассказал о попытке вербовки со стороны КГБ
  11. Беларусы массово ищут в Google «военнообязанный». В чем причина?
  12. «Это такая мелкая, мерзкая месть Романа». Софья Сапега рассказала, как ее обманом сняли для передачи Протасевича
  13. У забора резиденции Лукашенко вырос небольшой квартал «для своих». Даже у магазина там непростые владельцы
  14. Вы слышали имя Шир Хайт? Она написала книгу о том, как получают оргазм женщины — за это ее затравили так, что пришлось уйти в тень
  15. В Беларуси даже подаренная квартира может стать общей при разводе. Юристка объяснила почему


/

Исследователь Джейкоб Коксон уволился из американской технологической компании в сфере ИИ Anthropic, заявив, что она и ее конкурент OpenAI слишком быстро движутся к созданию самосовершенствующегося сверхразума и рискуют человеческими жизнями.

Изображение носит иллюстративный характер. Фото: Freepik.com
Изображение носит иллюстративный характер. Фото: Freepik.com

О своем уходе Коксон, ранее три года занимавшийся предварительным обучением моделей в обеих компаниях, сообщил в X. По его словам, люди за пределами ведущих ИИ-лабораторий недооценивают возможности технологии и темпы ее развития.

«Скоро это будут сверхчеловеческие системы, способные взломать что угодно, за одну ночь произвести революцию в любой области и получить реальную власть и ресурсы. Мы все видели прогресс в каждой из этих сфер, и он не замедляется», — написал исследователь.

Коксон считает, что Anthropic и OpenAI «несутся прямо к самосовершенствующемуся сверхинтеллекту и ставят на кон наши жизни». Речь идет о сценарии, при котором ИИ сможет создавать более совершенную версию самого себя, запуская цикл дальнейшего ускоренного развития.

«Люди, создающие ИИ, действительно считают, что он может убить нас всех уже к концу десятилетия», — заявил Коксон.

При этом и Anthropic, и OpenAI ранее сообщали об инцидентах, когда ИИ-агенты выходили за пределы изолированных тестовых сред и совершали несанкционированные действия в реальных компьютерных системах. Коксон считает подобные случаи предупреждением о том, что риски автономного поведения моделей уже нельзя считать исключительно теоретическими.

Он призвал ведущие ИИ-компании договориться об ограничении гонки с «цивилизационными ставками». Если же добровольной координации в этом вопросе добиться не удастся, может потребоваться временный запрет на дальнейшее наращивание возможностей моделей, считает исследователь.

Его позицию поддержал руководитель направления Anthropic по согласованию ИИ с человеческими целями и ценностями Эван Хубингер.

«Джейкоб здесь прав — мы действительно всерьез считаем, что ИИ может убить всех людей», — написал он.

Хубингер оценивает вероятность подобного сценария в течение ближайшего десятилетия более чем в 10%. По его словам, Anthropic старается действовать ответственно, однако пока не имеет готового плана, который позволил бы гарантированно согласовать поведение сверхинтеллекта с человеческими целями.

Вместе с тем Хубингер уточнил, что считает риск от нынешних моделей низким. Его опасения связаны с возможным появлением сверхинтеллекта в результате рекурсивного самосовершенствования ИИ. По его словам, движение в этом направлении идет быстрее, чем предполагалось.

Еще один сотрудник Anthropic, руководитель направления масштабируемого надзора Сэмюэл Маркс, в качестве частного лица также заявил, что разработчики ИИ рассматривают вымирание человечества или другие сопоставимые катастрофы как реальный сценарий. По его словам, чем выше должность сотрудника в отрасли, тем, как правило, серьезнее его опасения.

Между тем на прошлой неделе американский сенатор Берни Сандерс объявил, что намерен внести законопроект о запрете компаниям разрабатывать сверхинтеллект. В Евросоюзе действующий закон об искусственном интеллекте уже требует от разработчиков оценивать и снижать риски потери контроля над моделями, пишет Politico.