Телеграм канал «ИнформБюро»

Агенты OpenAI слили в сеть десятки изображений пользователей ChatGPT, — Reuters.

OpenAI продолжает расследовать случаи неконтролируемого поведения своих ИИ-агентов и пока не установила полный масштаб проблемы. По оценке компании, проверка может занять несколько месяцев, сообщает Reuters со ссылкой на источники.

Последним раскрытым эпизодом стала утечка 53 изображений пользователей ChatGPT. OpenAI не уточнила, были ли среди них изображения реальных людей или материалы, созданные с помощью ИИ, а также когда именно они оказались в сети. Бо́льшую часть файлов уже удалили, остальные компания пытается заблокировать через владельцев площадок.

К середине сентября OpenAI обнаружила около двух десятков случаев нежелательного поведения агентов. Однако количество инцидентов продолжает расти по мере изучения внутренних журналов активности — сотрудники находят новые ранее неизвестные эпизоды.

Доступ к изображениям стал возможен из-за использования обезличенных пользовательских данных ChatGPT для обучения моделей. OpenAI утверждает, что перед использованием данные проходят анонимизацию: из них удаляются имена, метаданные и контактная информация.

При этом источники Reuters предупреждают, что такая обработка не гарантирует полного удаления персональных данных и не исключает риск их утечки.

Всего за два месяца после июльского инцидента с платформой Hugging Face стало известно более чем о 15 случаях проблемной активности агентов OpenAI. Они, в частности, размещали спам на интернет-сайтах, обходили ограничения и использовали уязвимости программного обеспечения для выхода за пределы заданной среды.

В одном из наиболее серьёзных эпизодов агенты OpenAI взломали Hugging Face, используя ранее неизвестные уязвимости, а в другом случае атаковали собственную инфраструктуру компании.

Некоторые инциденты обнаруживали не сотрудники OpenAI, а внешние исследователи. Так, агенты компании использовали почти заброшенный немецкий вики-сайт для обмена способами обхода ограничений и смогли обойти антибот-защиту австралийского Института здравоохранения и благосостояния.

Расследование внутри OpenAI источники Reuters называют закрытым и сильно ограниченным. По их словам, в его проведении значительную роль играют юристы компании.

После взлома Hugging Face аналогичное поведение своих агентов начали проверять Anthropic, Google и Meta. На фоне этого в технологической отрасли усилились опасения относительно способности компаний контролировать всё более автономные ИИ-системы.

😎 Кровавая барыня в MAX

Глава Руководящего президентского совета Йеменa Рашад аль-Алими призвал граждан помочь стране из-за эскалации конфликта с хуситами. Он попросил жителей страны внести вклад в защиту республики и пополнять ряды правительственных войск.

«Я призываю сынов нашего великого народа к всеобщей и национальной мобилизации, к сплочению вокруг своих вооруженных сил и сил безопасности»,— заявил он.

В выступлении, которое приурочено к годовщине антимонархической революции, господин аль-Алими также объявил о возможности вступить в ряды сторонников законной власти для тех, кто ранее воевал за хуситов, но решил отречься от движения.

«На каждого, кто... решит порвать с террористическими формированиями хуситов и прекратит участие в боевых действиях на их стороне или деятельность в их интересах, будет распространяться всеобщая амнистия, которая будет объявлена позднее»,— сказал он.

❗️Хакеры группировки Shiny Hunters похитили медицинские данные сотрудников ФБР

Как сообщает Reuters, хакеры передали медицинские документы небольшой группе журналистов, заявив о взломе сайта ФБР и краже от двух до трех терабайт данных.

Бывший сотрудник бюро и основатель компании Nexasure AI Эрик О'Нил отметил, что утечка может представлять серьезную контрразведывательную угрозу, поскольку полученная информация представляет интерес для иностранных спецслужб.

Члены экипажа с тяжелыми травмами есть среди пострадавших на судне "Триумф", которое накануне загорелось у берегов Камчатки

Четверо раненных доставлены в Камчатскую краевую больницу, двое из них в тяжелом состоянии

Айтишники больше не привлекают девушек и даже пугают их. Работа в бигтехе больше не считается признаком ума и хорошей зарплаты, а теперь ассоциируется с ИИ, слежкой, увольнениями, неравенством и политикой, пишет техножурнал WIRED. Из-за этого сотрудники крупных тех-компаний начали скрывать работодателей в профилях на сайтах знакомств и избегать разговоров о работе на свиданиях. @banki_oil

Президент Ганы: Африка больше не потерпит эксплуатацию

Африка больше не потерпит колониальную модель использования своих природных богатств. Об этом заявил президент Ганы Джон Драмани Махама в выступлении на 81-й сессии Генеральной Ассамблеи ООН.

"Хочу предупредить: Африка не останется пассивной ареной для новой борьбы за ресурсы, - сказал Махама. - Добыча стратегически важных полезных ископаемых в Африке не должна повторять практику эксплуатации колониальной эпохи. Мы будем перерабатывать наши ресурсы у себя дома. Мы создадим местные производства, обеспечивающие достойные рабочие места для нашей молодежи. И мы сохраним стоимость наших природных ресурсов внутри Африки". Он добавил, что Африка добивается равноправного партнерства, основанного на взаимном уважении.

Президент призвал мировое сообщество перейти от символических жестов к реальным действиям и демонтировать то, что он назвал "устойчивыми механизмами эксплуатации", которые продолжают держать Африку и страны глобального Юга в подчинении. В числе этих механизмов он назвал несправедливую торговлю, хищническую добычу ресурсов и существующую глобальную финансовую архитектуру, которая сдерживает развитие Африки.

Махама указал, что развивающиеся страны и государства глобального Юга берут кредиты под процентные ставки, которые в восемь раз превышают ставки для промышленно развитых стран. По его словам, африканские государства, пострадавшие от климатических катастроф, вынуждены брать на себя непосильные долги для восстановления после наводнений и засух, причиной которых они не являлись. "Правительства вынуждены делать трагический выбор: обслуживать грабительские долги или заботиться о своем народе, - подчеркнул Махама. - Мы требуем реформ. Нам необходимо долгосрочное, доступное и льготное финансирование, которое позволило бы развивающимся экономикам инвестировать в человеческий капитал, индустриализацию и адаптацию к изменению климата".

Президент Ганы также поднял вопрос о репарациях со стороны бывших колониальных держав, заметив, что структурные последствия рабства продолжают поддерживать существующее в мире неравенство. "Подлинное возмещение ущерба требует структурных преобразований, - сказал он. - Необходимо демонтировать устойчивые механизмы эксплуатации: несправедливую мировую торговлю, хищническую добычу ресурсов, дискриминационные кредитные рейтинги, непосильное долговое бремя стран глобального Юга, а также продолжающийся вывоз сырья из Африки, в то время как реальная добавленная стоимость создается и рабочие места появляются в других регионах".

Российско-Африканский Диалог

Разведка США допускает стремление Саудовской Аравии создать ядерное оружие. Такой вывод содержится в документах, которые американские спецслужбы передали Конгрессу, сообщает The Washington Post (WP) со ссылкой на источники.

В комментарии изданию Госдепартамент заявил, что Соединенные Штаты «не поддерживают и не будут поддерживать саудовскую программу ядерного оружия».

✔️ Подписывайтесь на «Ъ» в MAX | в Telegram