Core AI
Фреймворк Apple для запуска нейросетевых моделей, в том числе больших языковых и генеративных, прямо на устройствах с чипами Apple Silicon: iPhone, iPad, Mac и Apple Vision Pro. Поддерживает модели, сконвертированные из PyTorch, и заранее оптимизированные открытые модели. Apple представляет его как преемника Core ML для нейросетевых задач, а классическое машинное обучение остаётся за Core ML.
проверено по: infoq.com ↗
См. также
- Apple Foundation ModelsСемейство собственных генеративных моделей Apple (сокращённо AFM), на которых работают функции Apple Intelligence, в том числе Siri. Компактные модели работают прямо на устройстве, на чипах Apple, а более крупные — в облаке через защищённую среду Private Cloud Compute. Разработчики приложений могут обращаться к модели на устройстве через фреймворк Foundation Models.
- Apple IntelligenceНабор функций генеративного ИИ от Apple, встроенный в операционные системы iPhone, iPad, Mac и других устройств компании: помощь в написании и правке текстов, сводки уведомлений и писем, создание изображений, обновлённый ассистент Siri, который учитывает личные данные пользователя. Простые запросы модели обрабатывают на самом устройстве, сложные — на серверах Apple в системе Private Cloud Compute. Работает только на сравнительно новых моделях устройств.
- Neural EngineNeural Engine — специализированный блок для ускорения нейросетей (нейронный процессор, NPU) в чипах Apple: он есть во всех процессорах серий A и M начиная с A11 Bionic. Задачи машинного обучения, например Face ID, обработку фотографий и функции Apple Intelligence, он выполняет быстрее и с меньшим расходом энергии, чем центральный и графический процессоры. Разработчики приложений обращаются к нему через фреймворк Core ML.
- PyTorchОткрытая библиотека (фреймворк) для создания, обучения и запуска нейросетей на Python с ускорением на графических процессорах. Её создала Meta, а с 2022 года проект развивается под управлением PyTorch Foundation в составе Linux Foundation. Один из самых распространённых инструментов машинного обучения в исследованиях и промышленности; среди альтернатив — TensorFlow и JAX.
- ИнференсРабота уже обученной модели на новых данных: ответы на запросы, генерация текста или изображений, предсказания (англ. inference). Обучение создаёт модель, а инференс — это её использование. Для инференса особенно важны скорость ответа и стоимость каждого запроса, поэтому под него часто делают отдельные чипы и отдельную инфраструктуру.
- ONNX Runtime WebONNX Runtime Web — браузерная сборка ONNX Runtime, открытого движка Microsoft для исполнения моделей в формате ONNX. Позволяет запускать модели на стороне пользователя через WebAssembly или WebGPU, без отправки данных на сервер.
В новостях
Hugging Face выпустила для Mac и iPhone библиотеки распознавания речи и выбора ответа из вариантов
Фреймворк Apple, через который приложения запускают модели прямо на устройстве; появился в iOS 27 и macOS 27 и пришёл на смену прежнему Core ML.