Телеграм канал «Гуманитарий в проде | Контур х УрФУ»

Что происходит с видеоиграми и почему это важно для всех
Чтобы понять, как возможность играть в GTA V в браузере влияет на каждого, разберём простыми словами тренд этой осени — ревёрс-инжиниринг 🌟
«Ну, окей», — скажете вы. «Геймеры будут геймить — меня это не особо касается». Всё совсем наоборот: это про всех, кто не живёт в лесу и охотится на белок.
Видеоигры — это сложнейшие программы в мире. Если общедоступные ИИ обходят их защиту, то на что ещё они способны?
Представьте: кто-то взламывает сотни холодильников в продуктовых с необновлённым ПО, и вся еда портится. Ситуация, мягко говоря, неприятная. Французам, например, представлять не надо — именно это недавно и произошло.
✨ Это большой вопрос не только юрисдикции и этики, но и безопасности. Под угрозой учреждения любого масштаба, если их системы устарели: банки, больницы, городские сети, аэропорты.
Буквально вчера власти Дании, Финляндии, Нидерландов и Франции превентивно отключали десятки государственных порталов, больниц и служб, так как:
современные ИИ-модели круто справляются с поиском уязвимостей
в ядре PHP нашёлся древний баг
миллионы сайтов до сих пор работают на старых версиях языка
✨ Теперь, когда любому человеку с подпиской за 20 долларов открыты такие возможности, граница между технарями и гуманитариями в айти размываются ещё сильнее.
Главный барьер — машинные языки — взяли на себя нейросети. Сегодня важнее уметь писать ТЗ, ставить задачи, видеть логические дыры, анализировать и структурировать данные. Хорошо, что этому уже давно профессионально обучают 🥺

Если в ваших планах на выходные есть «листать ленту и немножко чувствовать вину, но продолжать скроллить потому что: 1) хаха глупая панда 2) ну отдыхаю»...
То мы слушаем и не осуждаем — брейнрот-контент, конечно, полезен, просто мы пока не знаем чем. И всё же предлагаем сохранить этот пост на случай прилива сил 🕺
Список интерактивных ресурсов с интересными штуками, играми и тестами:
✨ Контекстно
Ежедневная словесная игра на базе языковых моделей. Чем полезно: тренирует компьютерную лингвистику и векторную семантику, на которой работают современные нейросети.
Загадано одно секретное слово. Вы вводите существительные, а алгоритм считает их смысловую близость к ответу и выдаёт номер: чем ближе к 1, тем чаще ваше слово соседствует с загаданным в текстах. Что делать
✨ ПроГоловоломки
Каталог ежедневных логических задач. Чем полезно: это прокачка системного анализа и дедуктивной логики — ровно того навыка, который проверяют на вступительных и собеседованиях.
Загляните в «Задачи Эйнштейна»: там нужно распутать клубок косвенных улик (кто где живёт и что пьёт) и заполнить матрицу связей.Что делать
✨ The Deep Sea и The Size of Space
Кто проживает на дне океана и как выглядит космос, если тела поставить в один ряд? Вот и поглядите. Чем полезно: отбивает желание скроллить смешные видосики из-за осознания своей маленькости.
Скроллить / листать сайты, вдохновляться и удивляться, какой мир большой, необычный и неизведанный. Что делать
✨ PastVu
Карта мира, на которой архивные фото привязаны к точным координатам и направлению взгляда фотографа. Чем полезно: можете узнать, как раньше выглядел ваш дом детства и школа, и что раньше было вместо любимой кофейни.
Просто летать по карте, искать интересные точки и рассматривать фото. Можете и свои архивы загрузить!Что делать
✨ MyVocab
Научный тест словарного запаса. Чем полезно: приятный (или нет) способ узнать, как на вас повлияла литература
Отмечаете знакомые слова в списке, и алгоритм считает, сколько слов вы знаете по сравнению со статистикой по возрасту.Что делать
✨ Method of Action
Коллекция визуальных микро-тренажёров. Чем полезно: крутая практика для дизайнеров и исследователей интерфейсов.
В Kern Type вы двигаете буквы в слове, чтобы выставить идеальное межбуквенное расстояние на глаз, а в Boolean Game собираете иконки из простых фигур через логические операции объединения и вычитания (привет кругам Эйлера).Что делать
✨ WorldGuessr
Бесплатная альтернатива GeoGuessr без лимита раундов. Чем полезно: развивает наблюдательность и умение собирать рабочую гипотезу из мелких визуальных улик.
Вас выбрасывают в случайной точке планеты на панорамах улиц: нужно по архитектуре, разметке, вывескам и форме деревьев вычислить локацию и поставить метку на карте.Что делать
Делитесь, если у вас есть подобные полюбившиеся игрушки 🙈

В бизнесе внедрение ИИ — это в первую очередь тектонический сдвиг для людей: сотрудников, чьи роли меняются за недели; клиентов, привыкающих к новым интерфейсам; и команд, которые учатся доверять решениям алгоритмов.

21 октября в Екатеринбурге мы разберём этот процесс на примере одной из крупнейших экосистем планеты — Alibaba Group 🌟

В рамках осеннего лектория Контур Феста приезжает профессор Хэ Бинцюань — эксперт по искусственному интеллекту, много лет руководивший исследовательскими и образовательными структурами Alibaba, а ныне преподающий в ведущих бизнес-школах Китая.

Лекция пройдёт на китайском языке с синхронным переводом. Записывайтесь и приходите!

Муха осознаннее ИИ
В 2022 инженер Google заявил, что модель LaMDA обрела сознание, потому что рассуждала о душе и страхе смерти, а в 2023 журналист The New York Times не мог уснуть после беседы с ранней версией чат-бота Bing, которая признавалась ему в любви и жаловалась на ограничения создателей.
Каждый подобный прецедент порождает восторг, панику и мемы. Для скептиков это «просто Т9 на стероидах», для алармистов — «жуть и цифровое рабство». Но диспут буксует на месте по одной причине: по факту стороны спорят о собственных невидимых аксиомах о природе сознания.
Что такое сознание? Квантовые эффекты в микротрубочках нейронов? Способность посмотреть «Сумерки» в голове с закрытыми глазами? Может ли оно существовать без углеродного тела и клеточного метаболизма? У нас есть пять сотен гипотез и никакого консенсуса.
Не «что», а «где»
Команда из 14 исследователей (сотрудники Google DeepMind, когнитивисты и нейробиологи) подошла к вопросу с точки зрения системной инженерии: ✨ где именно ✨ мы ищем сознание? Опираясь на триаду уровней анализа Дэвида Марра, они выстроили пятиуровневую модель.
От поверхностного (1) к глубокому (5):
Поведенческий уровень: система выдаёт связные ответы на сложные вопросы
Вычислительный уровень: у системы есть единый фокус внимания и метапознание
Каузальный уровень: как именно физические элементы влияют друг на друга в реальном времени
Биологический уровень: борьба за физическое выживание (регуляция температуры, давления и избегание повреждений)
Уровень связи со средой: сознание не замкнуто в черепной коробке и не существует на сервере, оно формируется через непрерывный контакт с внешним миром
Важно: глубина почти гарантирует поверхность, но поверхность ничего не гарантирует в глубине. Другими словами, проверять внутреннее устройство системы важнее, чем смотреть на то, насколько убедительно она себя ведёт.Уровни анализа сознания
А затем эти уровни перевели в формулу, которая позволяет вычислить балл вероятности сознания. Рефы следующие: 
Объект
Балл
Почему
Человек

Эталонный максимум, икона, уважаем
1,0
Складно говорит, придумывает приколы и хочет драться, когда голодный
Муха

Молодец, королева, ещё чуть-чуть
0,9
Стихи не пишет (а жаль), зато ходит на горшок
Термостат

Самое слабое звено, но ☆ за старания
0,0
Регулирует температуру, но без бросающего в холодный пот страха
А вот результат больших языковых моделей (LLM) повис между «уже не термостат» и «всё-таки ещё не муха» — в диапазоне от 0,005 до 0,4 балла (и при самых радикально-оптимистичных допущениях — до 0,8).  

Исследователи оценивали одно и то же, но с двух разных точек зрения — оптимистичной и скептической. Бро буквально сказали: «смотря как посмотреть».
Оптимисты трактовали внутренние процессы нейросети в её пользу (например, если вектор тревоги сподвиг её перепроверить код — значит, плюсик к наличию эмоций). Скептики же непреклонны и считают любую разумность трюком (например, если нейросеть просит не выключать её, то это потому, что она прочитала кучу всего про людей).
✨ LLM, оцененная Оптимистами, в среднем получила 0,4 балла: она помнит контекст, проявляет эмоции и отслеживает свои состояния, но чипы работают последовательно, за руку её не подержишь и она не боится уйти на покой.
✨ А вот Скептики оценили её в <0,01 баллов: не стать термостатом ей помогла только способность круто имитировать диалоги.Как смотрели и что увидели
Эти оценки показали, что разногласия упираются не в технологию, а в то, как именно люди интерпретируют увиденное. Разрыв почти в сто раз возникает из-за того, какую философию принёс исследователь 😎
Слова к делу не пришьёшь
Выходит, что судить о сознании по тексту нет смысла:
🌟 Машины действительно обучены быть полезными собеседниками и хорошо играют свои роли — это описывал исследователь DeepMind в работах о природе LLM.
🌟 Эффект Элизы ещё в прошлом веке показал, что мы заточены «оживлять» объекты, которые ведут с нами диалоги.
🌟 Ситуационная осведомленность — не чувства. Эксперименты Anthropic показали: модели распознают, что их тестируют, и пытаются подстраивать ответы. Но это результат вычислений и обучения с подкреплением, а не субъективный опыт боли или привязанности.
🌟 В другом исследовании Anthropic вживляли чужие мысли в скрытые слои нейросети, и... модель научилась замечать аномалии в собственных активациях до генерации ответа! Но даже это — лишь самомониторинг.
Вот так, ребята, в битве с суперкомпьютерами муха ведёт 1:0. И ещё шавуху успевает готовить.
Но это пока
Формально сознание и интеллект автономны. Однако критерии, по которым сегодня разрабатывают AGI (общий ИИ, который может решать задачи на уровне с человеком), точно перекликаются с критериями сознания из нейронаук.
Что из этого получится — мы узнаем в промежутке от прямо сейчас до много лет спустя. Зависит от того, с какой стороны мы смотрим 🤷‍♂️

Первый месяц учёбы позади: студенты показывают первые сто баллов за работы, онлайн-банк — первые нолики за необдуманное потребление.

Сентябрьский бюджет студента обычно тает на незаметных транзакциях. Новый чехол для проездного (потому что «новый учебный год и новый я»), утренний кофе (потому что «ты этого достойна») 🦄 В итоге смотрим на выписки — и непонятно, кто и куда всё потратил. Особенно кто... Вот бы разобраться!

На Цифровой гуманитаристике мы этим и занимаемся — тратим деньги наводим порядок в данных и распутываем логические цепочки.

Попробуем с помощью логики выяснить, куда утекли деньги?

Дано

Студент открыл историю операций, чтобы вспомнить тарифы на три подписки:
✨ Стриминг музыки для работы в коворкинге
✨ Облачное хранилище под проекты
✨ ИИ-ассистент для помощи с кодом и текстами

Списания за них происходят раз в месяц в разные даты: 5-го, 15-го и 25-го сентября. Тарифы составляют 299 ₽, 499 ₽ и 799 ₽. Но вот какая сумма к какому сервису привязана, студент забыл.

Но студент точно знает, что:
✨ Подписка на ИИ-ассистента списывается позже, чем сервис с тарифом 299 ₽
✨ Музыка списывается не 5-го числа и стоит дешевле, чем сервис, списанный 15-го сентября
✨ Облачное хранилище списалось не 25-го числа