Scale AI
Американская компания, которая готовит и размечает данные для обучения ИИ-моделей, в том числе силами людей-разметчиков для обучения с подкреплением на основе отзывов людей. Также оценивает модели, проводит ред-тиминг и строит ИИ-системы для корпораций и государственных заказчиков. Крупный акционер компании — Meta.
проверено по: scale.com ↗
См. также
- MercorАмериканская компания, которая привлекает профильных специалистов — врачей, юристов, финансистов, инженеров, консультантов — к подготовке данных для обучения моделей ИИ и к проверке их ответов. Её заказчики — разработчики передовых моделей. Mercor также выпускает серию бенчмарков APEX: они проверяют, справляются ли модели с реальными профессиональными задачами.
- Обучение с подкреплением на основе отзывов людейМетод дообучения моделей (reinforcement learning from human feedback, RLHF). Люди сравнивают или оценивают ответы модели, по этим оценкам обучают отдельную модель вознаграждения, а затем основную модель оптимизируют обучением с подкреплением, чтобы её ответы получали высокие оценки. Так языковые модели делают полезнее и безопаснее. В отличие от обучения с подкреплением с проверяемыми вознаграждениями, сигнал здесь дают человеческие предпочтения, а не автоматическая проверка.
- Ред-тимингРед-тиминг (red teaming) — метод проверки безопасности: специалисты или автоматические инструменты намеренно атакуют систему так, как это сделал бы злоумышленник, чтобы найти уязвимости до настоящей атаки. Для ИИ-систем так ищут, например, способы заставить модель выдать вредный ответ, обойти ограничения или использовать её во зло.
- Meta Superintelligence LabsПодразделение Meta, созданное в 2025 году. В нём собрана вся работа компании над ИИ: разработка передовых моделей, фундаментальные исследования (включая лабораторию FAIR), ИИ-продукты и инфраструктура. Название отражает заявленную цель — создать сверхинтеллект.
В новостях
Джек Кларк разобрал тест Scale AI, где модели тайно портили преемников
Американская компания, которая готовит и размечает данные для обучения моделей ИИ. Ещё она оценивает модели, в том числе проверяет их безопасность.
ИИ-агенту Meta Muse пишут 3 млн человек в неделю, сообщает The Information
Американская компания, которая размечает и готовит данные для обучения ИИ-моделей.