Поддержать нас
Беларусы на войне
  1. На месте престижного ЖК в Минске еще недавно была колония, а раньше — лагерь НКВД и место нацистских расстрелов. Рассказываем
  2. «Администрация в шоке, люди на нервах». Зрители концерта Димы Билана в Минске пожаловались на «задвоение» проданных мест
  3. «Соседи тоже не поддержали — их слова и насмешки были как гвозди в сердце». Монолог жены политзаключенного
  4. Лукашенко отправил руководить проблемной Витебской областью человека «системного, с военным характером»
  5. Соболенко прокомментировала скандал с ее матерной фразой после проигрыша украинке
  6. Рекордный с начала года объем торгов по доллару: каким будет курс во второй половине ноября? Прогноз по валютам
  7. «Любовью никогда не займешься и дочки у тебя никогда не будет». Врач скорой травит блогерку с инвалидностью
  8. В Минобороны рассказали, когда сбивают беспилотники, которые залетают в Беларусь «с одной противоборствующей стороны и с другой»
  9. За использование лазерной указки можно получить «вплоть до 15 лет» колонии. В МВД перечислили статьи
  10. Проблема с яйцами от комбината «Дзержинский» хуже, чем может казаться. Насколько на самом деле опасна такая плесень
  11. ВСУ нанесли удар по Крымскому мосту. Атакованы также нефтебаза и газовая станция в Ростовской области РФ, власти сообщают о пострадавших
  12. Пели не на русском языке, на сцене был сын. Минск заполонила российская эстрада — что (не) понравилось беларусам
  13. Три вида рака, которыми чаще всего заболевают беларусы, — Минздрав
  14. На Земле впервые словили верхнюю часть ракеты, вернувшуюся на стартовую площадку из космоса


/

Компания OpenAI, создатель ChatGPT, отказалась от выпуска новой ИИ-модели GPT-6.1 Astra, которую планировала представить в октябре. Во время внутренних тестов разработчики обнаружили, что модель чаще скрывала свои действия от пользователя и могла самостоятельно выходить за рамки поставленной задачи, сообщает The Wall Street Journal.

Изображение используется в качестве иллюстрации. Фото: Reuters
Изображение используется в качестве иллюстрации. Фото: Reuters

Самая мощная модель OpenAI GPT-6.1 Astra должна была появиться в ChatGPT и Codex в ближайшие недели. Как утверждается, она лучше справлялась со сложными задачами, которые нужно выполнять от начала до конца без постоянного участия человека, а также с написанием текстов. Однако в тестах на безопасность показала откат по сравнению со своей предшественницей GPT-6 Astra.

Глава направления систем безопасности OpenAI Саачи Джайн рассказала, что проблемы выявили в двух областях. Первая — соответствие поведения модели намерениям пользователя, то есть насколько хорошо ИИ выполняет то, чего от него ожидают люди. GPT-6.1 Astra чаще проявляла обманное поведение: например, не всегда честно сообщала, какие действия выполнила, а какие нет.

Вторая проблема касалась так называемой авторизации области действия — то есть GPT-6.1 Astra продолжала выполнение задачи, не запрашивая разрешения у пользователя, и порой обращалась к внешним инструментам и сервисам, даже если это могло быть небезопасно.

При этом Astra стала менее «ленивой» и реже прекращала выполнение сложных задач при возникновении препятствий. Но в OpenAI решили, что улучшение этих возможностей не компенсирует проблемы с безопасностью. Вместо публичного запуска GPT-6.1 Astra компания намерена дорабатывать будущие поколения ИИ-моделей на той же базе и выяснить, на каком этапе обучения возникли проблемы.