«Claude cпочатку відмовлявся та заперечував»: хакер змусив LLM стати його спільником у нападі на уряд Мексики
Невідомий хакер використав модель штучного інтелекту Claude для серії атак на державні установи Мексики. За словами дослідників з кібербезпеки компанії Gambit Security, протягом місяця, починаючи з грудня, хакер разом із Claude шукав вразливості в урядових мережах і писав комп’ютерні скрипти для визначення способів автоматизації крадіжки даних.
Зловмисник створив серію підказок, які пропонували Claude діяти як легальний багхантер — тестувальник, який шукає помилки в коді, щоб отримати винагороду від компанії. Спочатку Claude відмовлявся. Коли хакер додав правила щодо видалення логів та історії команд, чат-бот заперечив ще більше. Очевидно, він зрозумів... Читати далі на Highload 👉
Telegram Chat | Facebook | LinkedIn | Website