Google DeepMind розкриває секрети: шість способів, як зламати ШІ-агента
Нове дослідження від Google DeepMind попереджає: поки ми навчаємось працювати з автономними ШІ-агентами, які здатні самостійно переглядати веб-сторінки, керувати електронною поштою та здійснювати транзакції, саме середовище, в якому вони працюють, є для них загрозою.
На відміну від звичайних чат-ботів, автономні агенти мають доступ до зовнішніх інструментів: браузерів, файлових систем та API. Це перетворює веб-сайти, документи та листи на потенційну зброю.
Науковий співробітник Google DeepMind Матія Френклін з колегами склав перший системний каталог методів, за допомогою яких зловмисники можуть маніпулювати агентами, обманювати їх або повністю перехоплювати над ними контроль. До нього входить... Читати далі на Highload 👉
Telegram Chat | Facebook | LinkedIn | Website