Основные идеи SLT: как и зачем измерять сложность модели
Отчетный доклад в рамках стажировки
🎙️ Спикер: Слава Меритон
О чем:
Singular Learning Theory (SLT) говорит, что количество параметров не показывает настоящую сложность модели. Вместо этого она предлагает искать другие, более точные способы измерять эту сложность.
- Что мы понимаем под сложностью модели, и зачем ее измерять?
- Почему большие модели не всегда «сложнее»?
- Как связаны байесовская перспектива, сложность модели и ее обучение?
- Что это значит для анализа и интерпретации нейросетей?
Доклад задуман как краткое и ориентированное на непрофессионалов объяснение базовых идей SLT.
Что будет:
- Общий обзор того, какие существуют подходы к измерению сложности.
- Пересказ статьи из программы стажировки: You’re Measuring Model Complexity Wrong.
- Обсуждение.
📍Адрес: Ломоносовский проспект, 25к3. По вопросам прохода на территорию — пишите @MonoidAdmin.