Новости ML, AI и technical safety
Это регулярные встречи дискуссионной группы по ML, AI и technical safety. Мы ищем статьи, которые что-то значат для области, чтобы их обсудить и попытаться понять и их смысл, и их роль.
На этой неделе читаем:
- AI safety via debate - вариант реализации “Scalable oversight”, о котором мы немного говорили в прошлый раз: идея использования пары ИИ для достижения более устойчивых и безопасных результатов, которая продолжает звучать в разных вариациях.
- Super Co-alignment of Human and AI for Sustainable Symbiotic Society - недавний взгляд на задачу согласования (под вывеской “Superalignment”, потому что у слов тоже есть инфляция), который в том числе ставит под сомнение работоспособность подхода первой статьи.
Чтобы поучаствовать во встрече, нужно:
- ️прочитать статью,
- ️прийти и обсудить прочитанное.
📍Адрес: Ломоносовский проспект, 25к3, по вопросам прохода на территорию пишите @MonoidAdmin