Поддержать нас
Беларусы на войне
  1. Вы слышали имя Шир Хайт? Она написала книгу о том, как получают оргазм женщины — за это ее затравили так, что пришлось уйти в тень
  2. Беларусы массово ищут в Google «военнообязанный». В чем причина?
  3. У забора резиденции Лукашенко вырос небольшой квартал «для своих». Даже у магазина там непростые владельцы
  4. Актриса обвинила в сексуализированном насилии актера Депардье и писателя Уэльбека
  5. Политологу Алине Харисовой сделали предложение — она сказала «да». Кто ее избранник
  6. «Это такая мелкая, мерзкая месть Романа». Софья Сапега рассказала, как ее обманом сняли для передачи Протасевича
  7. Витеблянин, на которого пожаловались из-за «прожарки» коллеги на закрытом мероприятии, рассказал, чем закончилась история
  8. «В школе, когда привел сына, немножко напряглись». Беларус растит двоих детей с серьезными заболеваниями
  9. Будущих призывников больше не будут отправлять в спецгруппу по физкультуре. Минздрав поменял правила для школ и вузов
  10. В Беларуси даже подаренная квартира может стать общей при разводе. Юристка объяснила почему
  11. «Убедительно просим вас помочь». Многодетная минчанка попросила у Лукашенко машину
  12. Беларусский политический аналитик рассказал о попытке вербовки со стороны КГБ
  13. В Минске будут судить 16 участников секты «ИВДИВО». На допросах они утверждали, что общаются со «смотрящим» за нашей планетой
  14. «Выхожу в стрим и просто рассказываю всю дичь». Тихановский представил свою версию инцидента с участием Светланы в Нью-Йорке
  15. Экс-политзаключенный Северинец: «Сяргей Ціханоўскі перайшоў чырвоную рысу»


/

Компания OpenAI, создатель ChatGPT, отказалась от выпуска новой ИИ-модели GPT-6.1 Astra, которую планировала представить в октябре. Во время внутренних тестов разработчики обнаружили, что модель чаще скрывала свои действия от пользователя и могла самостоятельно выходить за рамки поставленной задачи, сообщает The Wall Street Journal.

Изображение используется в качестве иллюстрации. Фото: Reuters
Изображение используется в качестве иллюстрации. Фото: Reuters

Самая мощная модель OpenAI GPT-6.1 Astra должна была появиться в ChatGPT и Codex в ближайшие недели. Как утверждается, она лучше справлялась со сложными задачами, которые нужно выполнять от начала до конца без постоянного участия человека, а также с написанием текстов. Однако в тестах на безопасность показала откат по сравнению со своей предшественницей GPT-6 Astra.

Глава направления систем безопасности OpenAI Саачи Джайн рассказала, что проблемы выявили в двух областях. Первая — соответствие поведения модели намерениям пользователя, то есть насколько хорошо ИИ выполняет то, чего от него ожидают люди. GPT-6.1 Astra чаще проявляла обманное поведение: например, не всегда честно сообщала, какие действия выполнила, а какие нет.

Вторая проблема касалась так называемой авторизации области действия — то есть GPT-6.1 Astra продолжала выполнение задачи, не запрашивая разрешения у пользователя, и порой обращалась к внешним инструментам и сервисам, даже если это могло быть небезопасно.

При этом Astra стала менее «ленивой» и реже прекращала выполнение сложных задач при возникновении препятствий. Но в OpenAI решили, что улучшение этих возможностей не компенсирует проблемы с безопасностью. Вместо публичного запуска GPT-6.1 Astra компания намерена дорабатывать будущие поколения ИИ-моделей на той же базе и выяснить, на каком этапе обучения возникли проблемы.