Готові до научно-популярного контенту? Колись в опитуванні тут багато хто проголосував за те, щоб дізнатись більше про інтерпретабельність (mechanistic interpretability) -- науку про те, що відбувається в мозку моделей (ЛЛМок і не тільки). То в цьому (і наступньому) пості постараємся задовільнити запит. Перший пост розігрівчий: почнемо з навчального контенту по трансформерам (архітектурі більшості мовних моделей) -- для інтерпретабельності важливо розуміти хоча б базові принципи звідти. І тут важко найти кращі матеріали, ніж Ютуб відео двох каналів, на яких я сам "виріс" фактично. Враховуючи, що Ютуб вже давно має хороші вбудовані субтитри з англійської на будь-яку іншу мову, вважаю що це найкраще джерело для входу в цю сферу для любої аудиторії: Відео каналу 3blue1brown про механізм уваги (серце сучасних трансформерів): https://www.youtube.com/watch?v=eMlx5fFNoYc&list=PLZHQObOWTQDNU6R1_67000Dx_ZCJB-3pi&index=7 В нього є цілий плейлист про нейромережі (видимий справа, якщо перейдете по ссилці), який вже став золотим стандартом ввідного контенту в нейромережі (фактично як курс міні-лекцій, який радять для перегляду навіть в топ універах). Зверху я долучив основне, що нам знадобиться для інтерпретабельності, але незнайомим читачам раджу глянути і попередні відео: 2. Що таке нейромережа на пальцях: https://www.youtube.com/watch?v=aircAruvnKk&list=PLZHQObOWTQDNU6R1_67000Dx_ZCJB-3pi&index=1 3. Як працює мовна модель на загальному рівні: https://www.youtube.com/watch?v=wjZofJX0v4M&list=PLZHQObOWTQDNU6R1_67000Dx_ZCJB-3pi&index=6 Цікавий момент, що хоч механізм уваги це одна з визначальних рис трансформерів, є набагато більш проста і фундаментальна архітектурна особливість, без якої в нас би не було ЛЛМок в сучасному виді. Йдеться про так званий резидуальний потік (residual stream), і якраз 3blue1brown недостатньо йому приділяє уваги, як на мене. Тому хорошим доповненням до відео вище буде оцей недавній шедевр від каналу Welch Labs "Найбільш цитована стаття столітя - це геніальний хак": https://www.youtube.com/watch?v=QgH9sr7G13Q Фінальний дисклеймер: в новачків, які починають знайомитись з нейромережами, часто виникає ілюзія, що нам (чи дослідникам) про них все добре відомо, так само як (наприклад) проекторам машини добре відома її конструкція і механізми. Частково це побічний продукт якісних пояснень: вони настільки добре пояснюють базові принципи на простих прикладах, що не завжди очевидно, що реальність набагато складніша за ці прості приклади. Тому "а як насправді в реальності" ми залишимо якраз на наступний пост.