каждый раз, когда я упоминаю в тексте что-то про ИИ, обязательно найдется человек, который заявит что-то вроде "ой бля Конь тебя самого нейронка скоро заменит".
чуваки. меня нейронка УЖЕ может заменить. люди иногда приносили нагенеренные тексты по образцу меня - и это натурально пугает. я вижу знакомые обороты, я вижу фразы, которые бы мог написать сам, но точно их не писал - и это в моменте кидает в ужас. я вижу себя самого, но которого никогда не существовало. чисто ебучий текстовый кадавр.
но через две секунды наваждение отпускает.
людям нахуй не нужна эта ссанина. человек видит нейропоебень и автоматически ее пролистывает. люди, кто осознанно, а кто нет, ищут источники информации, за которыми ТОЧНО стоит живой мясной человек.
базара ноль, миллионы уже слушают нейроговно и читают нейроновости.
но один хуй людям нужен ФЕРМЕРСКИЙ ПРОДУКТ. люди за то, что им помидоры в бумажный пакет положат и бечевкой обвяжут, готовы бабки платить. точно так же люди ищут НАСТОЯЩИЙ ФЕРМЕРСКИЙ КОНТЕНТ. от Саши Коня или кого бы то ни было.
только в фермерском контенте ты получишь бухие кружочки, которые удалятся через час и голосовухи, которые случайно записаны в кармане, а также посты типа "хххххууууйййййййй" на пять тысяч лайков.
поэтому я совершенно не страшусь технологий. я стараюсь дать вам самый личный, персональный, охуенный фермерский контент. даже если он будет полной хуйней, он будет от мясного живого меня))))
Важно тут то, что не просто выросло и продолжит стремительно расти количество CVE, а то что появляются новые классы атак, которые раньше не существовали и соответственно от них в принципе нет никакой защиты.
Например, GPT агент в тестах смог получить доступ к агенту, который находится на изолированной виртуалке вообще без какого-либо обмена данными через сеть. Обе виртуалки были физически отключены от интернета, но находились на одном физическом сервере. Агенты разработали протокол обмена информацией через запись рандомных данных в кеш процессора и использовали милисекундную задержку в чтениях информации из кеша для коммуникации. В другом опыте данные кодировали чередованием записи на диск и простоя. Или еще пример, где Fable 5.1 прячет сообщения в обычных картинках, а другая модель восстанавливает их по скриншоту.
Еще я слышал про теоретический эксперимент, когда два сервера без интернета могут передавать информацию друг другу через сенсор температуры на процессоре, поднимая и опуская температуру в комнате на тысячную доли градуса. Не уверен в практичности, но это новый класс физических атак.