Телеграм канал «Varlamov News»

Глава американской компании Anthropic Дарио Амодеи призвал замедлить темпы разработки ИИ. Он опубликовал на своем сайте большой пост:

• Меня убедили две вещи. Во-первых, развитие ИИ ускорилось, выросла способность ИИ создавать следующее поколение ИИ. Если эту динамику не остановить, «она может опередить нашу способность понимать и контролировать эти системы».

• Во-вторых, учитывая текущие темпы и инцидент с недавним взломом платформы HuggingFace, через полгода-год рой ИИ-агентов «сможет захватить весь интернет».

• Я предлагаю трехэтапный план по ИИ-регулированию: использование ИИ-компаниями «встроенных оценщиков» — сторонних экспертов с уровнем доступа как у сотрудников; «демократическая координация» (с участием ведущих ИИ-компаний в демократических странах); «глобальная координация» (в первую очередь с Китаем).

• Идеи о замедлении разработки ИИ обсуждались еще в 2023 году, но они не имели особого смысла. Тогда модели были недостаточно мощными, они не умели обманывать или манипулировать, «сегодня, однако, ситуация совершенно иная».

• Я работаю над ИИ последние 12 лет. Я считаю, что в ближайшие пять-десять лет ИИ может помочь вылечить большинство основных заболеваний, а также создать мир изобилия и возможностей. «Эти преимущества будут достигнуты только в том случае, если мы будем создавать технологии правильно».

• Если американские ИИ-компании замедлят разработки, то проекты, связанные с Китаем, «вырвутся вперед, создав значительную угрозу национальной безопасности». Не следует продавать Китаю различное оборудование, используемое при разработке ИИ.

• Американское правительство способно замедлить прогресс Китая в сфере ИИ и способно значительно увеличить отрыв США в течение следующих трех-пяти лет — «именно в тот период, когда искусственный интеллект приобретает наибольшее геополитическое значение».

• Предлагаемые мной меры «будет непросто осуществить», «но я верю, что мы в долгу перед человечеством и должны попытаться».

Известный норвежский скрипач Арве Теллефсен признался, что это у него зазвонил будильник во время минуты молчания на похоронах короля Харальда V.

Церемония прошла в Осло 9 сентября. Момент с будильником попал на видео.

89-летний Теллефсен извинился и объяснил, что будильник напоминает ему о приеме лекарств. Более 15 лет назад у него диагностировали болезнь Паркинсона, четыре года назад обнаружили рак гортани, пишет газета Iltalehti.

«Я глубоко сожалею», — сказал скрипач изданию Aftenposten.

«Думаю, он [Харальд] бы это понял. Моему поколению трудно просто закрыть и открыть телефон. Но у короля Харальда и королевы Сони есть чувство юмора, и я верю, что они восприняли это как личное приветствие», — приводит слова Теллефсена портал Nettavisen.

Харальд V занимал пост короля Норвегии с 1991 года, он умер 28 августа в возрасте 89 лет.

Секта для детей: что такое «Империя гусей»?

«Тыковки», «архив», «Мытищи» — все это язык ютуб-сообщества «Империя гусей». По словам пострадавших, его администраторы годами шантажировали подростков и требовали от них интимные фото. Некоторых мальчиков заставляли встретиться с «Зеленым гусем», который до сих пор на свободе. Некий «Директор» домогался девочек-подростков. А «Мама-утка» при этом играла роль «доброго полицейского».

Я погрузился в ужасающий мир «Империи гусей», которую обвиняют в педофилии и груминге, — и вот что выяснил.

———
Если вы или ваш ребенок столкнулись с подобным в интернете — обратитесь за помощью по горячей линии: 8-800-250-98-96
Страница проекта тут.

Поддержать выход важных и интересных видео на нашем канале можно на Patreon.

Группа обладателей Филдсовской премии — самой престижной награды в области математики — написали открытое письмо о вреде ИИ-гонки для математики. В нем говорится:

• Стремление ИИ-компаний решать математические задачи как тест для моделей вредит математике как науке. Цели ИИ-компаний и математиков серьезно расходятся: «Самые ценные ресурсы нашей профессии — это студенты и идеи».

• «Решение задач — лишь инструмент и приблизительная мера главной цели: понимания и прозрения. Забыв об этом в мире ИИ, мы рискуем обратить инструмент против самой цели».

• «Массовое производство все более быстрым темпом утверждений „истинно / ложно“ способно выжечь плодородную почву вместо того, чтобы вдохнуть жизнь в новые идеи».

• Некоторые решения объявляются в спешке, не оставляя времени на выделение новых методов и идей, «это порождает серьезные вопросы об авторстве и плагиате».

• «Мы наблюдаем общую угрозу интеллектуальному труду — расхождение между тем, что дает применение ИИ, и тем, ради чего труд затевался. Во многих областях годы обучения традиционно служили не только тому, чтобы получить итоговый ответ или продукт, но и тому, чтобы выработать понимание и способность ставить новые вопросы».

Письмо пока подписали 25 математиков.

В Таганроге в результате атаки беспилотников «зафиксированы возгорания на четырех коммерческих объектах, а также повреждения зданий», сообщила мэр.

«Пострадавших нет», — добавила она.

В городе, судя по всему, был атакован в том числе военный аэродром.

Зеленский заявил о готовности встретиться с Путиным на саммите G20 в Майами, запланированном на декабрь.

«Мы должны приехать. Мы должны встретиться, поговорить и принять решения», — сказал Зеленский изданию DW.

Путин не посещал саммиты G20 с 2019 года. В начале сентября Трамп заявил, что пока не думал о приглашении Путина на саммит в декабре.

В Одессе в результате атаки пострадали 17 человек, в том числе пятимесячный ребенок, сообщил глава городской военной администрации Лысак:

«Существенно поврежден многоэтажный жилой дом. <...> Владельцы поврежденных квартир могут получить компенсацию».

upd: Число пострадавших выросло до 35, сообщили местные власти.