Словарь
llama.cpp
llama.cpp — открытый движок на C/C++ для запуска больших языковых моделей на обычных компьютерах, включая машины без мощной видеокарты и компьютеры Apple. Использует квантованные модели формата GGUF и служит основой для многих локальных ИИ-приложений.