Имя Stoica стоит на основополагающих статьях о Spark (распределённая обработка данных), Ray (распределённый Python для ML-нагрузок), а также на работах по более широкому стеку, который vLLM использует для эффективного обслуживания языковых моделей, — артефактах, ставших фактической инфраструктурной основой ML в индустрии. Паттерн устойчив: спроектировать систему вокруг реальных вычислительных узких мест, с которыми сталкиваются исследователи и инженеры, выпустить её как open-source вместе с коммерческой компанией рядом и позволить экосистеме подтвердить проектные решения. Для ai100, который запускает сотни аудитов по нескольким LLM-движкам, инфраструктурная сторона, построенная группой Stoica, — не фон, а слой, который определяет, насколько вообще возможно провести крупномасштабное сравнение моделей.

Стоит читать, когда
вы хотите понять инфраструктурные ограничения, которые задают, что крупномасштабная оценка LLM реально может делать, помимо методологической рамки.
Темы
распределённые ML-системы и инфраструктура (Spark, Ray, vLLM); экономика и инженерия обслуживания моделей в большом масштабе; паттерн open-source-плюс-коммерческая-компания в ML-инфраструктуре.
Ключевые работы
Apache Spark (2010, соавтор-создатель); распределённый фреймворк Ray (2018, соруководитель); вклад в стек эффективного обслуживания vLLM (2023, продолжается).