Coefficient Giving
Американская благотворительная организация, которая изучает, куда эффективнее направить пожертвования, и выдаёт гранты; до ноября 2025 года называлась Open Philanthropy. Основные средства получает от фонда Good Ventures Дастина Московица и Кари Туны. Финансирует глобальное здравоохранение, готовность к пандемиям, защиту сельскохозяйственных животных, а также снижение рисков от ИИ, в том числе исследования его безопасности.
проверено по: en.wikipedia.org ↗
См. также
- Apollo ResearchОрганизация по безопасности ИИ, основанная в Лондоне. Изучает «интриганство» (scheming) — когда модель скрытно преследует цели, расходящиеся с целями разработчиков или пользователей, в том числе обманывает и ведёт себя иначе, если понимает, что её тестируют. Проверяет передовые модели до выпуска для разработчиков, консультирует государства и делает инструменты для мониторинга ИИ-агентов.
- Redwood ResearchНекоммерческая исследовательская организация в области безопасности ИИ (Беркли, США). Известна направлением «контроль ИИ» (AI control) — методами, которые не дают модели причинить вред, даже если её цели расходятся с человеческими; консультирует ИИ-компании и государственные органы по рискам рассогласования.
- Future of Life InstituteАмериканская некоммерческая организация, которая стремится снизить крупномасштабные и экзистенциальные риски от преобразующих технологий — прежде всего ИИ, а также биотехнологий и ядерного оружия. Она выдаёт гранты, ведёт просветительскую работу и добивается регулирования в США, Евросоюзе и ООН. Среди основателей — физик Макс Тегмарк и программист Яан Таллинн; организация известна Асиломарскими принципами ИИ.
- Foundation for American InnovationАмериканский некоммерческий аналитический центр правоцентристского толка со штаб-квартирой в Вашингтоне. Занимается технологической политикой, национальной безопасностью и государственным управлением, выступает за минимальное регулирование технологической отрасли. Раньше назывался Lincoln Network.
В новостях
Anthropic дала проверяющим из METR доступ как у своих сотрудников
Американская благотворительная организация, прежде называвшаяся Open Philanthropy; распределяет деньги фонда Дастина Московица, в том числе на исследования безопасности ИИ.