National Deep Inference Fabric
Исследовательская вычислительная платформа (NDIF), которую финансирует Национальный научный фонд США (NSF). Через неё учёные и студенты удалённо и бесплатно проводят эксперименты с крупными открытыми моделями: заглядывают в их внутренние вычисления и меняют их, не покупая собственных видеокарт. Для этого используется открытая библиотека NNsight.
проверено по: ndif.us ↗
См. также
- Национальный научный фондНезависимое федеральное агентство США (National Science Foundation, NSF), которое поддерживает фундаментальные исследования и научно-техническое образование во всех областях науки и инженерии, кроме медицины. Деньги оно распределяет в основном через конкурсные гранты университетам и исследовательским организациям. Медицинские и биомедицинские исследования в США финансируют прежде всего Национальные институты здравоохранения.
- ИнтерпретируемостьИнтерпретируемость (interpretability) — направление исследований, которое стремится объяснить, как нейросеть приходит к своему ответу: какие внутренние представления и вычисления стоят за её поведением. Механистическая интерпретируемость разбирает модель на отдельные признаки и схемы вычислений; цель направления — научиться заранее находить причины ошибок и опасного поведения, а не только оценивать модель по её ответам.
- NSF OMAIПроект Open Multimodal AI Infrastructure to Accelerate Science под руководством института Ai2, который финансируют Национальный научный фонд США (NSF) и NVIDIA. Он создаёт вычислительную инфраструктуру и полностью открытые модели ИИ для науки — материаловедения, биологии, энергетики. Модели, данные и методы открыты, чтобы их можно было проверять, воспроизводить и использовать повторно.
- TransluceНекоммерческая исследовательская лаборатория из США, которая делает открытые масштабируемые инструменты для понимания ИИ-систем и надзора за ними. С их помощью можно следить за ИИ-агентами, проверять поведение моделей и изучать их внутреннее устройство. Инструменты предназначены для оценщиков ИИ, компаний, государственных органов и общественных организаций.
- GoodfireАмериканская исследовательская компания из Сан-Франциско, которая занимается интерпретируемостью ИИ. Она изучает, как нейросети устроены изнутри (механистическая интерпретируемость, mechanistic interpretability), и разрабатывает инструменты, чтобы читать внутренние представления моделей и целенаправленно менять их поведение. Применяет эти методы и к научным фундаментальным моделям — например, чтобы искать в них новые биологические закономерности.
В новостях
Игра Steering Arena показала: Olmo 3 «добреет» от бессмыслицы, а не от добрых слов
Платформа NDIF, которую поддерживает NSF. Через неё учёные удалённо запускают крупные открытые модели и заглядывают в их внутренние состояния, не покупая собственные видеокарты.