Аналитика Telegram-канала
Подписчики
24 744
Охват за 24 ч
1,9K
ER за 24 ч
7,68%
Публикаций
6 078

Динамика подписчиков

7 дней 30 дней 6 месяцев Больше
14 ноя17 ноя20 ноя
Показаны последние 7 дней Больше истории →

Охваты публикаций

17.1119.1119.1119.1119.1119.11
481
Средний охват
1,2K
Лучший результат
Показаны 6 публикаций — последние в канале Больше статистики →

Упоминания

1 703
Упоминаний
693
Из них репостов
261
Каналов
Все упоминания

Последние посты

3 из 6 078 2 из 6 078
Фото
4. Richard W. Hamming, The Art of Doing Science and Engineering (1997) Отличная книга о том, как думать учёному и инженеру, выросшая из курса лекций Хэмминга (того самого, в честь которого названы коды и расстояние). Попутно это история вычислительной техники глазами человека, который наблюдал её практически с самого начала, а ещё теория кодирования и информации, цифровые фильтры, симуляции и три главы про AI. Наверное, все знают, но лишний раз порекомендую главу про n-мерное пространство, где на пальцах показано, как в высоких размерностях ломается наша трёхмерная интуиция: объём шара уходит к поверхности, а сфера, зажатая между шарами в углах куба, начиная с n=10 вылезает за его грани. ML-щику полезнейшее чтение. Опыт Хэмминга очень релевантен и в текущий момент. Он отстаивал языки высокого уровня, когда опытные программисты были уверены, что надёжно и эффективно можно писать только на низком уровне. С AI сейчас происходит то же самое, вы безусловно слышали всю эту аргументацию, почему написанный агентами код не будет работать. В пару к этому сюжету хорошо идёт классика от Рича Саттона The Bitter Lesson о том, как за 70 лет исследований AI общие методы, которые масштабируются вместе с вычислениями, то есть поиск и обучение, раз за разом обыгрывали системы, в которые исследователи вручную закладывали своё знание о задаче. У Хэмминга есть и волшебная лекция про то, как делать рисёрч, You and Your Research, она же стала последней главой книги. И хорошая статья The Unreasonable Effectiveness of Mathematics (1980), ответ на знаменитое эссе Вигнера, с замечательной мыслью: если есть запахи и звуки, доступные собакам, но недоступные нам, то почему бы не быть и мыслям, которые мы не способны подумать? Эволюция вполне могла закрыть нам какие-то направления мышления. 5. Clayton M. Christensen, The Innovator's Dilemma (1997) Старая, но по-прежнему важная книга о подрывных инновациях. Объясняет, почему сильные, хорошо управляемые компании проигрывают новым технологиям, причём именно потому, что всё делают «правильно»: слушают лучших клиентов и вкладываются в самые прибыльные направления. Кристенсен показывает это на данных из индустрии жёстких дисков, экскаваторов и сталелитейных мини-заводов. Подрывная технология поначалу хуже привычной по главной для рынка метрике и интересна только нишевым клиентам, поэтому лидерам рационально её игнорировать. Но улучшается она быстрее, чем растут потребности рынка, и в какой-то момент догоняет снизу. Звучит знакомо? На маленькие дешёвые модели и на агентов, которые «пока хуже сеньора», эта логика ложится очень хорошо. У книги есть два продолжения, The Innovator's Solution (2003) и Seeing What's Next (2004), где больше про то, что делать, чтобы задизраптить рынок самому. Английская версия на Substack: https://gonzoml.substack.com/p/five-books-for-the-age-of-agents
ещё
406 25 2 19 ноя, 18:09
Пять книг для эпохи агентов и не только Что-то давно я обзоров книг не писал. После недавнего интервью Постнауке меня попросили порекомендовать пять книг. Я подумал и порекомендовал. Почти пять. Ни одной про LLM среди них не оказалось, а три из пяти вышли в 1997 году. И всё по-прежнему актуально, возможно, даже больше, чем раньше. 1. Cal Newport, Deep Work (2016) и Slow Productivity (2024) В эпоху мультитаскинга, когда параллельно работает несколько агентов, а ты между ними скачешь, эти книги актуальны как никогда. Первая посвящена глубокой концентрации: результат высокого качества требует длинных блоков работы без прерываний, иначе получаются поверхностные решения. Вторая о том, как добиваться больших результатов на длинной дистанции и не выгорать: делать меньше дел одновременно, работать в естественном темпе и быть одержимым качеством. Про длинную дистанцию хорошо напоминает известная арифметика: 1.01^365 ≈ 37.8, а 0.99^365 ≈ 0.03. Обе книги поднимают вопрос о том, как измерять эффективность интеллектуального труда. Привычную подмену, когда видимую занятость принимают за результат, Ньюпорт называет pseudo-productivity. Задача по-прежнему не решена, а с приходом агентов её придётся переосмыслить ещё раз. 2. B. Jack Copeland (ed.), The Essential Turing (2004) Сборник ключевых работ Тьюринга с комментариями составителя и важным историческим контекстом. Тьюринга знают почти все как автора знаменитого теста на способность машин мыслить. Многие слышали и про взлом «Энигмы», в который он внёс серьёзный вклад (см. также пост про польских учёных и прекрасный музей в Познани). Практически любой айтишник знает, что Тьюринг ещё 90 лет назад предложил модель вычислений, известную теперь как машина Тьюринга. Заметно меньше людей помнят, что в той же работе он доказал существование невычислимых задач, а в статье с тестом есть раздел Learning Machines, где он предлагает сделать «машину-ребёнка» и учить её поощрениями и наказаниями, то есть по сути описывает RL. Ещё меньше знают о его уходе в биологию и работах по морфогенезу, где реакционно-диффузионная модель объясняет, как в однородной среде возникают паттерны (например, пятна на шкурах животных). Ещё меньше в курсе его участия в создании первых компьютеров в Манчестере, где по его настоянию в Ferranti Mark 1 встроили аппаратный генератор случайных чисел (кажется, это был первый такой встроенный в компьютер). И совсем немногие слышали про «неорганизованные машины» из отчёта 1948 года. Это сети из случайно соединённых NAND-элементов, которые предлагается обучать, то есть нейросети, описанные в отдельной от Мак-Каллока и Питтса ветви. Опубликовали этот отчёт только через двадцать лет. Книга даёт хорошее представление о каждой из этих работ. 3. David Deutsch, The Fabric of Reality (1997) Дойч разбирает четыре «нити», наши лучшие теории, объясняющие мир: квантовую физику, теорию эволюции, эпистемологию и теорию вычислений, и показывает, что вместе они складываются в единую картину реальности. Особенно интересно, что теория вычислений у него оказывается способом говорить о том, что вообще возможно в физическом мире, а не просто дисциплиной о компьютерах. Отсюда и принцип Тьюринга в формулировке Дойча: универсальный компьютер способен симулировать любую физически возможную систему. Дойч знает, о чём говорит: в 1985 году он описал универсальный квантовый компьютер и первый квантовый алгоритм. Маст рид. Заодно лучше поймёте про мультивёрс и почему Дойч считает копенгагенскую интерпретацию хренью. Вторая книга Дойча, The Beginning of Infinity («Начало бесконечности»), про природу объяснений, знания и прогресса, тоже стоит прочтения.
ещё
519 31 1 19 ноя, 18:01
Фото
ещё
479 4 1 19 ноя, 01:10
Больше постов

Продолжить анализ этого канала

  • История роста подписчиков
  • Просмотры и охваты публикаций
  • Кто упоминает канал и кого упоминает он
  • Похожие каналы и подбор для рекламы
Открыть аналитику
Демо до 14 дней