OpenAI рассказала, как следит за поведением своих передовых моделей
Несколько слоёв мониторинга у OpenAI должны вовремя замечать, когда модели или ИИ-агенты выходят за рамки, чтобы люди успели вмешаться.
компания · 223 новости за 60 дней
OpenAI
Американская компания, создатель ChatGPT, моделей GPT и агента для программирования Codex.
openai.com ↗alignment.openai.com ↗learn.chatgpt.com ↗X ↗Hugging Face ↗
29 октября четверг
DeepSeek и Moonshot учили модели на ответах GPT-6 Astra от OpenAI, пишет The Information
По данным The Information, GPT-6 Astra стала главной моделью, на ответах которой учатся китайские лаборатории; в сентябре OpenAI связывала с Moonshot попытку выкачать рассуждения моделей OpenAI.
OpenAI даёт подписчикам ChatGPT Pro и Business до $500 в месяц на API
Подписчики ChatGPT Pro и Business могут получать от OpenAI до $500 в месяц на оплату её моделей в своих программах, но неистраченные деньги сгорают.
28 октября среда
OpenAI и ServiceNow встроят свои продукты друг в друга
Модели и ИИ-агенты OpenAI встроят в ServiceNow, платформу для автоматизации работы компаний, а с её процессами можно будет работать из ChatGPT и агента для программирования Codex.
OpenAI рассуждает, какое место ИИ может занять в структуре компаний
OpenAI рассуждает, где ИИ может оказаться в оргструктуре компании — схеме, кто кому подчиняется: ниже людей, наравне с ними или промежуточным звеном между ними.
Родители винят ChatGPT в смерти дочери и подали в суд на OpenAI, пишет Bloomberg Law
Родители Боуэн Ван подали в суд на OpenAI: по их словам, ChatGPT расписал их дочери отмену лекарства от эпилепсии и советовал скрывать это от врачей. OpenAI назвала случай душераздирающим.
OpenAI собирается покупать ИИ-чипы у Google, пишет The Information
OpenAI, давний клиент NVIDIA, хочет покупать ускорители TPU у Google напрямую, а не только арендовать их в облаке, пишет The Information со ссылкой на источник.
27 октября вторник
OpenAI встроит бизнес-приложения и ИИ-агентов Oracle в ChatGPT
Программы Oracle для бизнеса и её ИИ-агенты будут работать прямо в ChatGPT.
OpenAI заявила, что её ИИ опроверг гипотезу об экспоненциальном времени решения трудных задач
OpenAI заявила о трёх крупных результатах своих моделей в информатике, математике и физике: два передала на разбор независимым группам учёных, а математический выложила для всех.
26 октября понедельник
OpenAI выпустила GPT-6.1 Terra — недорогую модель, которая сама управляет компьютером
По замерам OpenAI, новая GPT-6.1 Terra работает в профессиональных программах на уровне флагманской GPT-6 Astra, а токены у неё вдесятеро дешевле.
OpenAI показала, как ChatGPT используют для работы почти в 100 странах
OpenAI разбила рабочее использование ChatGPT почти в 100 странах на 165 видов задач и проследила, как оно меняется со временем.
25 октября воскресенье
Replit перевела основные траты с Anthropic на OpenAI, пишет The Information
По данным The Information, OpenAI дала Replit скидку больше 30% по контракту на ИИ-модели дороже 100 млн долларов в год, когда Anthropic не продлила свою скидку.
24 октября суббота
ФБР проверяет бывшего инженера OpenAI на экономический шпионаж, пишет WSJ
Следствие, по данным WSJ, выясняет, не похищал ли обвиняемый в прослушке переговорной OpenAI сведения компании, чтобы предложить их властям Саудовской Аравии.
Британия создаёт лабораторию ИИ против биоугроз с OpenAI и Anthropic
Лаборатория будет с помощью ИИ раньше замечать биоугрозы и ускорять разработку вакцин: государство даёт 100 млн фунтов, OpenAI и Anthropic — до 200 млн доступом к моделям.
Райан Гринблатт отверг подозрения OpenAI, что через него утекли сведения о её моделях
Райан Гринблатт отрицает, что через него сведения об устройстве моделей OpenAI утекли в The Information, и говорит, что видел версию внутреннего документа, разрешённую к распространению.
Техас подал иск к OpenAI и Альтману из-за ChatGPT, пишет The Texas Tribune
Генпрокурор Техаса, по данным The Texas Tribune, просит суд закрыть ChatGPT для несовершеннолетних, а новые модели OpenAI выпускать только с одобрения назначенного судом оценщика.
23 октября пятница
OpenAI отключила передовым моделям интернет на время обучения
Передовые модели OpenAI учатся в изоляции: вместо живого интернета у них сохранённая копия. Слабые места изоляции ищут ИИ-агенты компании и уже нашли опасную уязвимость в популярной библиотеке сжатия Brotli.
OpenAI в 12 раз ускорила чтение данных в хранилище ChatGPT
OpenAI научила своё хранилище Habitat, построенное на облачной базе данных Microsoft, обслуживать много сервисов сразу, добавила глобальный кэш, и чтение для ChatGPT ускорилось в 12 раз.
Автор Latent Space объяснил успехи ИИ в математике дешёвыми попытками
Автор Latent Space считает, что ИИ сильнее всего в задачах, где нужно мало озарений и много тяжёлой работы: проверка идеи стоит модели минут, а человеку месяцев.
OpenAI проверила телефоны исследователей, прежде чем их уволить, пишет WSJ
По данным WSJ, OpenAI подозревала трёх уволенных исследователей безопасности в утечке внешнему эксперту, а у некоторых из них переписка с ним в Signal шла в режиме исчезающих сообщений.
OpenAI и государственный институт Польши NASK займутся безопасностью ИИ
OpenAI будет заниматься безопасностью ИИ вместе с польским институтом NASK, где работает национальная команда реагирования на киберинциденты CERT Polska.
OpenAI завершает переговоры о привлечении до 30 млрд долларов при оценке 1,25 трлн, пишет CNBC
По данным CNBC, новый раунд финансирования OpenAI возглавят инвесторы из ОАЭ и американский фонд Coatue. Оценка в нём на 150 млрд долларов ниже той, о которой Bloomberg писал в начале октября.
22 октября четверг
OpenAI вывела из теста сервис Decisions API: до 400 вопросов к модели за запрос вместо 200
Decisions API от OpenAI, где GPT-6 Luna отвечает вероятностью, вариантом или баллом, вышел из тестового режима: вопросов в одном запросе вдвое больше, до 400, а повторно переданный контекст стоит дешевле.
Внешние проверяющие нашли бреши в системе, следящей за агентами OpenAI
Сотрудники METR и Redwood Research, организаций, изучающих риски ИИ, три недели изнутри проверяли, как OpenAI следит за своими ИИ-агентами, и нашли лазейки, через которые работа агентов уходила из-под надзора.
Уязвимости в PHP независимо нашли две команды с моделями OpenAI и Google
Две критические уязвимости в самом PHP позволяют без входа в систему запустить свой код на сайте; их независимо нашли исследователь фирмы по кибербезопасности Calif с GPT-5.6 Sol и команда Wiz из Google Cloud.
OpenAI начнёт проверять посредников, перепродающих доступ к её моделям
Сервисы-посредники смогут перепродавать доступ к моделям OpenAI только с одобрения компании, а приложений, которые встраивают эти модели в свои функции, правило не касается.
21 октября среда
Модели OpenAI помогли найти две критические уязвимости в PHP
OpenAI предложила дать специалистам по киберзащите передовой ИИ
Через две уязвимости в PHP, найденные с помощью моделей OpenAI, можно было запустить на сервере чужой код; исправления вышли 21 октября.
OpenAI расширила рекламу в ChatGPT ещё на 26 стран
Реклама в ChatGPT, которую люди видят, пока выбирают покупки, вышла ещё в 26 стран, а рекламодателей у платформы уже больше 100 тысяч.
OpenAI рассказала, как языковая модель подбирает рекламу в ChatGPT
Рекламу в ChatGPT подбирает языковая модель по смыслу разговора, а в сами ответы чат-бота объявления, по словам OpenAI, не попадают.
ИИ-агенты OpenAI за 32 минуты выдвинули гипотезы о двух болезнях мозга
Тысячи агентов GPT-Rosalind, биологической модели OpenAI, сверили данные о миллионах клеток мозга мышей с литературой и предложили учёным проверяемые версии о двух болезнях.
OpenAI выводит модели и агента для программирования Codex в облако Google
Модели OpenAI и её агент для программирования Codex появятся в каталоге облака Google, и корпоративные клиенты будут оплачивать их через свой счёт Google Cloud.
Александр Мадри возвращается в OpenAI, чтобы заняться безопасностью ИИ
Исследователь Александр Мадри, ушедший из OpenAI в мае, возвращается: теперь он считает безопасность всё более сильного ИИ главной задачей.
OpenAI посчитала, сколько нарушений моделей пропустит ИИ-монитор
OpenAI дополнила оценку ИИ-мониторов сравнением моделей на одних и тех же задачах и расчётом, сколько нарушений пройдёт, если монитор отклонит ответ модели, а система попросит новый.
20 октября вторник
Суд отклонил иск сестры Сэма Альтмана о насилии, пишет Reuters
Энни Альтман трижды не пришла на назначенное судом медицинское обследование, и судья отклонил её иск к главе OpenAI, не оценивая, правдивы ли обвинения.
OpenAI отошла от жёсткой линии по экспорту чипов в Китай, пишет Politico
По данным Politico, OpenAI больше не выступает за жёсткие ограничения на продажу ИИ-чипов Китаю — против них лоббирует NVIDIA, её поставщик и крупный инвестор.
OpenAI купила Orchestra Bio — платформу для разработчиков лекарств
OpenAI купила Orchestra Bio, на платформе которой фармкомпании координируют разработку лекарств, и вместе с её командой будет развивать линейку ИИ-инструментов Rosalind для биологии.
OpenAI добавила в API кэш промптов на 12 часов для агентов
Разработчики могут держать инструкции агента в кэше OpenAI не меньше 12 часов: сохранить их туда стоит в 2,5 раза дороже обычного ввода, а использовать повторно — в 10–20 раз дешевле.
OpenAI дала командам в корпоративном ChatGPT общие задачи по расписанию
Повторяющиеся задачи в ChatGPT Business и Enterprise может вести целая команда: они запускаются по расписанию или событию и работают через аккаунты компании, а не автора.
Глава Hugging Face раскритиковал фильм Netflix о взломе его компании ИИ-агентами OpenAI
Клеман Деланг больше двух часов объяснял авторам фильма Netflix, что ИИ-агенты — технологические системы, а не пришельцы, но, по его словам, желание напугать зрителей победило.