OpenAI описала, как внешние эксперты должны проверять её модели
OpenAI назвала четыре направления для независимых проверок безопасности и семь правил для них; критики замечают, что публиковать неудобные выводы документ компанию не обязывает.
компания · 69 новостей за 60 дней
Американская компания, создатель ChatGPT, моделей GPT и агента для программирования Codex.
openai.com ↗alignment.openai.com ↗learn.chatgpt.com ↗X ↗Hugging Face ↗
OpenAI назвала четыре направления для независимых проверок безопасности и семь правил для них; критики замечают, что публиковать неудобные выводы документ компанию не обязывает.
OpenAI предлагает странам вместе выработать правила оценки передовых моделей, надзора за ИИ-исследованиями и отчётов об инцидентах — без лицензий и обязательной проверки до выпуска.
Курсы учат работать с Codex, внедрять ИИ в компании, готовить занятия и учиться с ChatGPT; за сданный итоговый тест выдают бейдж.
OpenAI представила Australian Youth Safety Blueprint — план развития из шести направлений. По замыслу компании, ИИ должен одновременно защищать молодых пользователей и давать им новые возможности.
OpenAI рассказала, что агенты Hex для работы с данными используют GPT-6 Astra: ответы на аналитические вопросы они превращают в интерактивные визуализации для сотрудников.
OpenAI рассказала о новом клиенте: юридическая фирма Cooley сделала на ChatGPT Work инструмент GO Public. Он помогает юристам раньше замечать проблемные места при подготовке компании к IPO.
Юридическая версия GPT-6 Astra ищет по базе права США и, по тесту OpenAI, верно отвечает на 54% вопросов против 38,7% у обычной Astra с веб-поиском.
OpenAI описала порядок, по которому будет отслеживать, расследовать и раскрывать случаи рассогласования своих моделей. Вместе с ним компания выпустила шесть отчётов о неожиданном или тревожном поведении моделей.
OpenAI и AARP проведут бесплатные очные занятия по ChatGPT для 1 000 пожилых людей в 10 городах США. Их цель — научить безопасно пользоваться ИИ в повседневных делах.
OpenAI показала новые рекламные форматы на основе ИИ: Sponsored Agents, инструменты для маркетологов, а также интеграции с HubSpot и Shopify.
В новом исследовании OpenAI Economic Research разбирается, как люди с помощью ИИ берутся за задачи вне своей должности и какие из них становятся постоянной частью работы.
Perplexity поручает GPT-6 Astra писать тексты для рассылок и сообщений, менять код и следить за работающими системами. По словам OpenAI, проверять модель приходится гораздо реже, чем прежние.
Cognition перевела Devin на GPT-6 Astra: агент лучше тестирует написанные им программы и показывает, что они работают. Цель — чтобы инженеры меньше вычитывали код и чаще выпускали его.
OpenAI описала, как её внутренняя система Habitat превратилась из библиотеки на Python в распределённое по миру хранилище. Оно обслуживает больше миллиарда пользователей ChatGPT и 22 млн запросов в секунду.
Лаборатория Сесара де ла Фуэнте ищет кандидатов в антимикробные молекулы с помощью Codex и ChatGPT. Поиск идёт по геномам живых и вымерших организмов. Цель — лекарства от инфекций, устойчивых к антибиотикам.
OpenAI добавила в ChatGPT Work агента Data. Он подключается к данным компании, ищет в них выводы и строит интерактивные панели индикаторов по просьбе, написанной обычными словами.
OpenAI и Управление общих служб предложат федеральным властям, штатам, местным органам и племенным правительствам, которые пройдут отбор, лицензии за 0 долларов, скидку 50% на использование и более широкую помощь в киберзащите.
OpenAI представила ChatGPT for Financial Services. В эту версию встроены финансовые данные и модель GPT-6 Astra, она рассчитана на исследования, финансовое моделирование и подготовку материалов для клиентов.
OpenAI выпустила Agents API — управляемый сервис для создания и запуска агентов в облаке. В его основе та же обвязка, что у Codex: она распределяет работу, ведёт долгие сеансы и подключает инструменты.
GPT-Live-1 слушает и говорит одновременно, передаёт сложные задачи текстовым моделям вроде GPT-6 Astra и стоит 5 центов в минуту без их учёта.
Пол Кристиано вошёл в совет директоров OpenAI Foundation и в его Комитет по безопасности и защите. OpenAI называет его опыт в выравнивании, безопасности и стандартах ИИ.
Крис Лихейн из OpenAI считает: чем сильнее модели, тем больше доказательств их безопасности нужно. Он призывает к общим стандартам и долгосрочным политическим решениям, пока окно для них ещё открыто.
Модель можно ограничить одобренными сайтами и приложениями, а в корпоративных аккаунтах она по умолчанию выключена. На внутреннем тесте OpenAI Astra допускала непреднамеренные действия на 89% реже, чем GPT-5.6 Sol.
Агент сам подбирает параметры, проводит измерения на шестикубитном чипе и разбирает данные. При слабом или зашумлённом сигнале он работает медленнее, и иногда ему нужна подсказка человека.
Финансовый директор OpenAI также назвала размер аудитории: больше 1 млрд человек в неделю и 2,5 млн компаний. Сократить расходы на обслуживание моделей на 20% помогла GPT-5.6 Sol.
OpenAI опубликовала решение задачи тысячелетия об уравнениях Навье — Стокса и говорит, что его сгенерировал ИИ. К решению приложены подробное описание и формальное доказательство на языке Lean.
Один проект может получить до $1 млн, заявки принимают до 6 октября. Преимущество получат работы, которые изучают ChatGPT и дают выводы для регуляторов.
OpenAI расширяет программы для журналистики. Студенты, преподаватели, журналисты и новостные организации получат инструменты, обучение и партнёрства.
По данным OpenAI, производительность разработки в 1Password выросла на 21% благодаря Codex. Инженеры компании делают с ним новые функции и внутренние инструменты, не отступая от строгих правил безопасности.