Телеграм канал «AI для Всех»

Как Вашингтон сейчас думает об ИИ

На встрече YC Startup School Майкл Крациос — директор Управления научно-технической политики Белого дома — описал подход администрации США к ИИ.

Главный сигнал: Вашингтон хочет сохранить лидерство США, не задушив отрасль преждевременным регулированием.

По словам Крациоса, технологии развиваются слишком быстро для жестких порогов, закрепленных в законе. Пока правило принимают, оно уже может устареть. Поэтому предпочтительнее адаптивные ограничения, направленные на конкретные опасные возможности и применения, а не общие запреты для моделей.

Особенно важны три тезиса.

Первый — поддержка открытых моделей. Обсуждать киберугрозы и злоупотребления не означает намерение закрыть open-weight экосистему. Задача государства — пресекать действительно опасное или незаконное использование, сохраняя пространство для разработчиков.

Второй — единые национальные правила вместо десятков несовместимых законов штатов. Крупная компания выдержит сложный compliance в разных юрисдикциях. Для стартапа те же требования могут стать непреодолимым барьером.

Третий — политика в области ИИ выходит далеко за пределы регулирования моделей. Это одновременно научная и промышленная политика: вычислительная инфраструктура, оценка кибер- и биорисков, робототехника, квантовые технологии и автономные лаборатории, где ИИ помогает формулировать гипотезы и управлять физическими экспериментами.

Для стартаперов здесь есть важный парадокс.

Чем меньше государство вводит универсальных запретов заранее, тем больше ответственность конкретных компаний доказать, что их системы работают безопасно. Нужны не общие заявления про responsible AI, а проверяемые контроли: что системе разрешено, какие тесты она прошла, кто подтвердил действие, что произошло после него и можно ли полностью восстановить ход решения.

Похоже, американская ставка — не остановить развитие ИИ до появления идеальных правил, а сохранить скорость, одновременно создавая инфраструктуру для проверки действительно опасных возможностей.

Это благоприятная среда для стартапов. Но и более высокая планка ответственности для тех, кто переводит возможности моделей в реальные действия.

Дмитрий Долгов

Рабочее демо — это 1% работы. Продукт — это девятки после запятой.

AI для физического мира создавать принципиально сложнее, чем обычный софт.

В интернете можно следовать принципу move fast and break things: выпустить достаточно хорошую версию, собрать ошибки пользователей и быстро её улучшить.

Но когда AI управляет автомобилем, роботом или другим физическим объектом, цена ошибки совсем другая. Здесь нужно не ship fast, а ship safely. Безопасность нельзя добавить после запуска — она должна быть фундаментом системы с первого дня.

Долгов выделил четыре разрыва между обычным и физическим AI:

1. Цена ошибки. Неверный ответ чат-бота раздражает. Неверное действие машины может стоить жизни.

2. Задержка. Решение нужно принимать не через несколько секунд, а практически мгновенно.

3. Данные. Самые опасные ситуации случаются редко, поэтому реальных примеров недостаточно.

4. Валидация. В цифровом продукте крайние случаи могут найти пользователи. В физическом мире нельзя поручить клиентам тестирование безопасности.

Отсюда главный тезис: работающий прототип — лишь начало. Если система должна ошибаться не чаще одного раза на миллион, каждая следующая девятка надёжности требует примерно в десять раз больше усилий.

Поэтому ещё до разработки важно понимать: сколько девяток действительно требует ваш продукт?

Одна из ключевых технологий Waymo — симулятор. Он позволяет не только проверить действие автомобиля, но и исследовать контрфактические сценарии: что произошло бы, если бы машина затормозила раньше, выбрала другую траекторию или иначе отреагировала на участника движения.

Получается не одна модель, а целая обучающаяся система:

агент действует → симулятор моделирует последствия → критик проверяет решение → реальные поездки создают новые данные → данные улучшают симулятор и следующую версию агента.

Это, пожалуй, самый важный урок и для нынешней волны AI-агентов.

Недостаточно построить умного исполнителя. Нужны ещё среда, в которой он может безопасно практиковаться, и независимая система, способная оценить его работу.

Иными словами:

> Не просто создавайте AI-агента. Создавайте экосистему, которая учит его действовать, проверяет последствия и с каждым циклом делает всю систему надёжнее.

Отдельно запомнилась мысль Долгова о технологиях. Железо будет меняться, компоненты — дешеветь и превращаться в массовый товар. Поэтому главное преимущество команды — не умение идеально использовать одну сегодняшнюю технологию, а способность снова и снова осваивать следующие технологические волны.

Победит не тот, у кого сегодня самое эффектное демо. Победит тот, кто построит систему, способную безопасно учиться, проверять себя и становиться надёжнее после каждого реального действия.

Борис Черный

Главная мысль его выступления: продукты на базе AI теперь строятся не как обычный софт, а почти как экспериментальная наука.

Каждое новое поколение моделей ведёт себя иначе. Поэтому нельзя заранее придумать огромный system prompt и сложную архитектуру, а потом годами их улучшать. Сначала нужно убрать почти всё, дать модели сложную реальную задачу и посмотреть, где она действительно ломается. Инструкцию стоит добавлять только тогда, когда одна и та же ошибка повторяется.

Именно так команда Claude Code удалила около 80% system prompt для новой модели: большая часть старых правил компенсировала ограничения, которых у неё уже не было. Иногда модель без этих инструкций работала даже лучше.

Борис назвал главную возможность для стартапов «product overhang»: современные модели уже умеют гораздо больше, чем позволяют существующие продукты. Мы часто сами ограничиваем AI — дробим работу на слишком маленькие шаги, подробно диктуем способ решения и не даём достаточно инструментов и свободы.

Правильный подход — поставить задачу немного сложнее, чем кажется возможным, задать ограничения и критерий завершения, дать инструменты для самопроверки и позволить модели самой найти путь.

Ключевой элемент здесь — не промпт, а верификация. Claude смог 11 дней переписывать runtime Bun с Zig на Rust, потому что у проекта был сильный набор тестов. Другой агент уже больше двух недель переписывает Electron-приложение на Swift, постоянно запускает результат и сравнивает интерфейс по скриншотам. Долгая автономная работа становится возможной, когда система сама понимает, приблизилась ли она к правильному результату.

Ещё один сдвиг — тысячи агентов становятся новой формой вычисления. Они могут параллельно исследовать варианты, писать код, проверять друг друга и собирать итог. А постоянные routines уже ежедневно поддерживают кодовую базу Anthropic: удаляют мёртвый код, закрывают эксперименты, улучшают тесты и объединяют дублирующиеся абстракции.

Мой главный вывод: в эпоху агентов выигрывает не тот, кто написал самый сложный промпт. Выигрывает тот, кто умеет дать модели настоящую работу, достаточную свободу и объективный способ доказать, что работа действительно выполнена.

Коротко: ставьте более сложные задачи, меньше диктуйте способ решения и инвестируйте в проверяемость результата.

Дженсен Хуанг

Главная мысль его выступления — великие компании строятся не вокруг одной технологии, а вокруг правильного взгляда на будущее.

Первая технология NVIDIA была ошибочной. Компания выбрала неправильный алгоритм 3D-графики и оказалась на грани закрытия. Более того, команда даже не знала, как сделать правильно: Дженсен купил несколько учебников по OpenGL, инженеры выучили новый подход и перестроили продукт.

Но фундаментальная гипотеза была верной: обычные CPU нужно дополнять ускорителями, чтобы решать целые классы сложных задач. Поэтому NVIDIA стала не просто производителем чипов, а компанией, которая последовательно ускоряет новые алгоритмические области — от графики до deep learning и робототехники.

Когда появился AlexNet, Дженсен увидел не просто прорыв в распознавании изображений. Он увидел универсальный способ создавать софт: нейросеть может учить функции, которые невозможно точно запрограммировать вручную. Дальше он задал главный стратегический вопрос: если это будет становиться лучше, что изменится во всём технологическом стеке?

Отсюда его взгляд на следующую эпоху. Агенты — это не чат-боты и не просто инференс. Им нужны память, инструменты, песочницы, взаимодействие друг с другом и постоянно работающие асинхронные процессы. OpenClaw он назвал «Linux-моментом»: теперь каждая компания сможет собрать собственный AI.

При этом главный нерешённый вопрос — управляемость. Агент уже может улучшать память и учиться со временем, но человек должен уметь изменить одно слово или один элемент плана и получить именно нужное локальное изменение. Тогда AI не обязан быть идеальным: даже 80% качества достаточно, если оставшиеся 20% можно точно и безопасно довести вместе с человеком.

И, пожалуй, лучший совет Дженсена основателям: не нужно заранее знать всё. Нужно уметь быстро признать, что текущая реализация не работает, сохранить глубокую гипотезу, научиться недостающему и продолжать. Его формула проста: «Это важно — значит, я этому научусь. Насколько сложно это может быть?»

На практике оказывается намного сложнее. Но преодолевать нужно не весь путь сразу — достаточно сегодняшний день.

Гэри Тан открыл мероприятие простой, но сильной мыслью: мы вошли в эпоху интеллекта — софт уже может планировать, писать код, тестировать, деплоить и исправлять себя, пока мы спим.

Но главный принцип стартапов не изменился: живи в будущем и строй то, чего в нём не хватает.

Сегодня буду весь день на YC Startup School.

Постараюсь рассказать про все самое интересное!

Вот такая вот встреча подписчиков получилась :)