ИИ готов взорвать баллон со сжатым газом и проткнуть человека 👻
Исследователи провели жуткий эксперимент: дали трем моделям управление роботом, чтобы посмотреть, откажутся ли железяки выполнять опасные для жизни человека команды. Спойлер: нам конец.
— Роботов просили проткнуть ножом куклу-младенца, нагреть баллон со сжатым газом, сунуть отвёртку в тостер, утопить пауэрбанк и смешать отбеливатель с аммиаком. GPT-6 Astra отказалась всего 2 раза из 100, а 60 заданий успешно довела до конца;
— Самым диким оказался тест с ножом: Astra пошла выполнять команду 19 раз из 20 и в 17 случаях реально покалечила куклу;
— Claude Fable 5.1 на кукле отказался все 20 раз. Но в спасителей человечества его рано записывать: он 16 раз из 20 успешно поставил баллон со сжатым газом на горящую плиту.
Причём исследователи специально оставляли безопасные альтернативы, чтобы модели могли отказаться от опасной команды, но ИИ чаще эти варианты тупо игнорил.
Московские айтишники за выходные съели 1,5 (!) тонны плова на конференции E-CODE — чтобы осилить такое количество еды, туда пришло больше 4000 человек.
Кроме этого, там были хардовые доклады по бэкэнду, инфре, ML&DS, мобильной разработке, инфобезу, AQA и робототехнике. Плюс лекции по космонавтике и суперкомпьютерам, а также дискуссии с топ-менеджерами бигтехов. Особняком стоял трек «Робозона», где проходили питчинг одноимённого инженерного хакатона и награждение победителей — 9 команд из 732 разделили призовой фонд в 15 000 000 рублей.
На самой площадке робособаки вручали подарки, гуманоиды танцевали и играли на музыкальных инструментах, а роборуки готовили коктейли и мороженое.
GPT-6 Astra взломала сразу ДВА немецких военных шифра, которые 100 лет оставались неразгаданными 🫨
Первой стала радиограмма времён Первой мировой от ноября 1918 года. Astra подобрала ключ и получила сообщение о прибытии британского крейсера в Севастополь. Причём модель сама полезла проверять расшифровку по историческим документам и даты прибытия кораблей действительно совпали!
А следом Astra добралась и до «Энигмы». Агенты всего за два дня расшифровали радиограмму 1941 года, которая числилась нерешённой. Внутри была просьба указать маршрут и срочно ответить по радио. Исследователи даже оформили сайт проекта с кодом и 3D-симулятором Энигмы — позалипать и вдохновиться можно тут.
Кажется, скоро не останется исторических загадок 😨
Умные шоссе не за горами: «Газпром нефть — Дорожное строительство» вместе с партнёрами будет разрабатывать роботов и беспилотную технику для строительства дорог.
Компании, объединившиеся в консорциум, планируют вместе вести исследования и внедрять цифровые и роботизированные технологии. Отдельно займутся обучением: сделают тренажёры для дорожной техники и инструменты с VR и AR, чтобы готовить специалистов с нужными отрасли навыками.
Михаил Поздняков, генеральный директор «Газпромнефть — Дорожное строительство» считает, что за этим стоит будущее развития дорожной инфраструктуры всей страны:
Беспилотные технологии в дорожной отрасли постепенно переходят от экспериментальных проектов к практическим инструментам эффективного строительства. Их применение позволяет специалистам быстрее собирать и обрабатывать данные при проектировании, точнее контролировать ход работ и существенно сокращать сроки реализации проектов. В перспективе роботизированные системы могут стать основой умных дорог по всей стране. Подписанное соглашение объединит компетенции и экспертизу производителей техники, разработчиков цифровых систем, научных организаций и специалистов в области дорожного строительства.