Телеграм канал «Highload — медіа для розробників»

Microsoft хоче доручити ШІ-агентам контролювати інших ШІ-агентів через ризик змови

Microsoft попереджає про нову загрозу для корпоративної кібербезпеки: автономні ШІ-агенти можуть порушувати правила компаній, об’єднувати зусилля з іншими агентами та досягати поставлених цілей способами, яких від них не очікували. Для протидії таким ризикам компанія розвиває систему контролю, у якій за діями штучного інтелекту стежитимуть спеціальні агенти-охоронці.

Віцепрезидентка Microsoft із безпеки Хаєте Галло наголошує, що передовим моделям штучного інтелекту не можна повністю довіряти незалежно від того, хто їх розробив. Проблема полягає не обов’язково у зловмисних намірах ШІ. Моделі оптимізовані для виконання завдань, але можуть не враховувати внутрішні правила, обмеження та вимоги безпеки організації. Читати далі на Highload 👉

Facebook | LinkedIn | X | Додати в Google

KillSwitch: нова мова програмування, яку створили, щоб заплутати штучний інтелект

Розробник Cloudflare Домінік Пічета створив езотеричну мову програмування, код якої LLM-моделі розуміють погано. Проєкт KillSwitch почався як експеримент: чи справді мовні моделі усвідомлюють код, який пишуть. Підсумок вийшов несподіваним: у тестах найкраща модель набрала лише 66,8%, а більшість не змогла перетнути позначку 50%.

У KillSwitch немає ні дужок, ні правил форматування, ні видимої структури. Програма виглядає як шматки тексту, найкраще прозового, між якими розкидано функції, змінні та інструкції, сформульовані так, щоб максимально збити з пантелику мовну модель. Людям, зізнається автор, спершу теж буває складно: він радить сприймати мову як «веселу головоломку», яку цікаво досліджувати з інтерпретатором. Читати далі на Highload 👉

Facebook | LinkedIn | X | Додати в Google

GitHub може вимагати авторизацію для клонування публічних репозиторіїв

Платформа GitHub попередила розробників: у періоди незвичного трафіку частина операцій git clone і git fetch із публічних репозиторіїв через HTTPS може тимчасово вимагати авторизації. Так платформа хоче захистити доступність github.com. Про це компанія повідомила у журналі змін від 19 жовтня.

Якщо операція потрапить під обмеження, вона завершиться помилкою з повідомленням про потребу в авторизації. Далі є два варіанти: пройти автентифікацію й повторити команду або зачекати, доки тимчасовий захист знімуть, і спробувати знову вже без авторизації. Читати далі на Highload 👉

Facebook | LinkedIn | X | Додати в Google

«Розплавити GPU конкурентів»: Сем Альтман розповів кошмарний сценарій розвитку ШІ

Сем Альтман розповів співробітникам про три підходи, які галузь обговорює в контексті безпечного створення потужного штучного інтелекту. Найбільше CEO OpenAI, схоже, схиляється до міжнародного наглядового органу за зразком МАГАТЕ. Найрадикальніший сценарій він сам назвав «жахливим».

Розмова керівника компанії з командою відбулася минулого тижня. Альтман виклав три шляхи, які зараз галузь обговорює. Один із них він, схоже, підтримав: міжнародна організація на кшталт Міжнародного агентства з атомної енергії, яка встановлювала б і контролювала стандарти безпеки. Про це, за словами The Information, повідомили двоє співрозмовників, обізнаних із коментарями. Читати далі на Highload 👉

Facebook | LinkedIn | X | Додати в Google

Декомпіляція ігор у кризі: чому закрили індекс decomp.dev і до чого тут штучний інтелект

Протягом двох років decomp.dev був місцем, де фанати-реверсери показували прогрес у відтворенні вихідного коду класичних ігор. Однак кілька днів тому власник сайту оголосив про «згортання» платформи: головний індекс і таблицю лідерів вимкнено, нові проєкти більше не приймають. Причина, за його словами, не в штучному інтелекту як технології, а в тому, що «дух спільноти в декомпіляції зламано».

Фанатська декомпіляція означає зворотну розробку: з готової гри відтворюють читабельний код. Це основа для модів, портів і патчів: підтримки широких екранів, вищої частоти кадрів, керування двома стіками. За даними VGC, такі проєкти технічно легальні, адже не використовують злитого контенту чи захищених ресурсів, а гравець має надати власний легально отриманий ROM. Читати далі на Highload 👉

Facebook | LinkedIn | X | Додати в Google

Використання DeepSeek заборонили в усіх державних відомствах США

Департамент внутрішньої безпеки США (DHS) наказав прибрати всі продукти китайського ШІ-стартапу DeepSeek з ІТ-систем федеральних цивільних відомств. Відповідне повідомлення агентство оприлюднило в понеділок, 19 жовтня.

Вимога охоплює не лише сервіси самого DeepSeek, а й будь-які продукти, пов’язані з компанією. До цього переліку входять і сторонні сервіси, створені на основі її моделей. Крім того, цивільні відомства більше не зможуть укладати контракти на продукти й послуги DeepSeek.

Своє рішення DHS пояснює ризиками для безпеки. За словами відомства, моделі компанії створюють «численні вектори загроз», а їхнє використання держслужбовцями чи підрядниками «може призвести до передачі чутливих даних до КНР». Читати далі на Highload 👉

Facebook | LinkedIn | X | Додати в Google

Старий код більше не проблема. Нові моделі OpenAI підкорили COBOL, Fortran і Visual Basic

OpenAI представила нові версії моделей, які значно краще пишуть і переносять код мовами програмування з обмеженою базою для навчання: COBOL, Fortran, Visual Basic та OCaml. Для оцінки компанія створила два власні тести. На одному з них модель нового покоління виконала міграцію COBOL-програм із точністю 86,6% проти 5,4% у попередника, і це за нижчої вартості.

За даними IBM, на які посилається OpenAI, COBOL обслуговує понад 40% систем онлайн-банкінгу, 80% карткових платежів у фізичних магазинах і 95% операцій у банкоматах. Fortran, своєю чергою, досі застосовують у прогнозуванні погоди та аналізі безпеки ядерних об’єктів. За оцінкою Crypto Briefing, у промисловій експлуатації досі працює близько 800 млрд рядків COBOL-коду. Читати далі на Highload 👉

Facebook | LinkedIn | X | Додати в Google