Телеграм канал «Vibecoding Haven (BotfatherDEV)»

Спекулятивна, але можлива відповідь:
як навчити штучний інтелект трюкам біологічних обчислень

сучасні нейромережі неймовірно марнотратні. навчання однієї великої моделі споживає мегавати енергії, бо ШІ намагається вивчити кожну закономірність з нуля через підбір мільярдів статичних ваг. живий мозок витрачає копійки енергії, бо використовує зовсім інші принципи.

щоб наблизити ШІ до ефективності біології, сучасним архітектурам бракує кількох критичних елементів

відмова від суто синаптичного навчання
у сучасних ШІ всі знання записані у статичних зв'язках, тобто у вагах нейронів. щоб змінити модель, нам треба провести зворотне поширення помилки через усю мережу, що є супердорогим процесом

також, біологія використовує динамічні поля. як показує Ерл Міллер, коливання різних частот (хвилі) працюють як тимчасові маршрутизатори інформації. він каже, ніби вони організовують роботу мережі на ходу, не змінюючи фізичні контакти між клітинами. ШІ потрібні динамічні архітектури, де інформація передається не просто через статичні зв'язки, а через накладання та резонанс хвиль.

вбудовані закони замість навчання з нуля
еволюція не прописує в геномі детальне креслення тіла чи мозку. вона створює фізичний приймач (клітини), який автоматично підключається до законів фізики та математики.

сучасний ШІ намагається вивчити закони світу з нуля через мільйони прикладів. замість цього нам потрібні моделі з жорсткими топологічними та математичними симетріями. мережа не повинна вчити, що таке тривимірний простір чи закони збереження, сам її фізичний або логічний субстрат має бути побудований так, що інші варіанти просто неможливі. це і буде підключення до Платонівського простору готових алгоритмів

єдність коду та заліза
у цифрових комп'ютерах пам'ять і процесор розділені, що створює величезне вузьке місце за швидкістю та енергією.

у біології обчислення відбуваються безпосередньо через фізичні процеси в матеріалі. щоб зробити ШІ дешевим, нам потрібен перехід на аналогове та нейроморфне залізо (наприклад, мемристори або оптичні обчислення). там додавання та віднімання хвиль світла чи електричного струму відбувається природно через закони фізики, що взагалі не потребує витрат обчислювальної

тоді, можливо, об'єднавши логіку алгоритму з фізикою носія ми зможемо вийти з глухого кута гігантських дата-центрів

Питання 2.

Левін та гості погоджуються, що біологічні клітини черпають складні життєві алгоритми з простору математичних законів (Платонівського простору), не витрачаючи енергію на еволюційне навчання з нуля.

Питання до тебе:
Як на твою думку, чи можемо ми навчити класичні цифрові нейромережі підключатися до таких «готових» математичних законів або копіювати цей трюк еволюції?

Яких саме архітектурних рішень бракує сучасним ШІ-моделям, щоб перестати бути марнотратними «цифровими зомбі» (які споживають мегавати на навчання) та почати використовувати аналогові закономірності поля, як це робить жива біофізика?

Спекулятивна, але можлива відповідь:
як навчити штучний інтелект трюкам біологічних обчислень

сучасні нейромережі неймовірно марнотратні. навчання однієї великої моделі споживає мегавати енергії, бо ШІ намагається вивчити кожну закономірність з нуля через підбір мільярдів статичних ваг. живий мозок витрачає копійки енергії, бо використовує зовсім інші принципи.

щоб наблизити ШІ до ефективності біології, сучасним архітектурам бракує кількох критичних елементів

відмова від суто синаптичного навчання
у сучасних ШІ всі знання записані у статичних зв'язках, тобто у вагах нейронів. щоб змінити модель, нам треба провести зворотне поширення помилки через усю мережу, що є супердорогим процесом

також, біологія використовує динамічні поля. як показує Ерл Міллер, коливання різних частот (хвилі) працюють як тимчасові маршрутизатори інформації. він каже, ніби вони організовують роботу мережі на ходу, не змінюючи фізичні контакти між клітинами. ШІ потрібні динамічні архітектури, де інформація передається не просто через статичні зв'язки, а через накладання та резонанс хвиль.

вбудовані закони замість навчання з нуля
еволюція не прописує в геномі детальне креслення тіла чи мозку. вона створює фізичний приймач (клітини), який автоматично підключається до законів фізики та математики.

сучасний ШІ намагається вивчити закони світу з нуля через мільйони прикладів. замість цього нам потрібні моделі з жорсткими топологічними та математичними симетріями. мережа не повинна вчити, що таке тривимірний простір чи закони збереження, сам її фізичний або логічний субстрат має бути побудований так, що інші варіанти просто неможливі. це і буде підключення до Платонівського простору готових алгоритмів

єдність коду та заліза
у цифрових комп'ютерах пам'ять і процесор розділені, що створює величезне вузьке місце за швидкістю та енергією.

у біології обчислення відбуваються безпосередньо через фізичні процеси в матеріалі. щоб зробити ШІ дешевим, нам потрібен перехід на аналогове та нейроморфне залізо (наприклад, мемристори або оптичні обчислення). там додавання та віднімання хвиль світла чи електричного струму відбувається природно через закони фізики, що взагалі не потребує витрат обчислювальної

тоді, можливо, об'єднавши логіку алгоритму з фізикою носія ми зможемо вийти з глухого кута гігантських дата-центрів

Чутки, але схоже що рішення Трампа і взагалі правління США щодо Fable 5 тепер розповсюджується на інші модельки, через що навіть гпт5.6 і джеміні 3.5 про затримуються

Почнемо Q/A з обговорення свідомості та штучного інтелекту

питання
уявімо дві системи з абсолютно однаковою поведінкою. перша — це біологічний мозок із живими клітинами, хімією та складними електричними полями. друга — це звичайний цифровий комп'ютер, який просто запускає програму-симуляцію цього мозку. на виході вони видають однаковий результат, наприклад, однаково відповідають на питання про свої почуття

гості вважають, що їхній внутрішній стан буде різним. біологічний мозок матиме справжні відчуття, а цифрова копія буде просто бездушною імітацією, яку в філософії називають «зомбі».

як саме гості лекції пояснюють цю різницю. чому реальна фізична структура (залізо чи живі клітини) має значення для появи відчуттів і чому звичайний цифровий код не здатний їх відтворити?
Відповідь буде у коментах

я домовився про інтерв'ю з Майклом Левіним

він погодився поспілкуватися десь восени, якщо плани не зміняться.

ми вже розбирали його лекції, але тепер це буде нормальна жива розмова. планую викласти запис тут і на YouTube з українським дубляжем, але цього разу переклад зроблю значно якіснішим за попередній)

у мене назбиралося багато своїх думок та ідей, якими хочу поділитися, і питань, яких задати. але я не хочу, щоб це було щось, що він вже десь відповідав, тому я хочу підготуватися

і пропоную готуватися до цього інтерв'ю разом прямо тут на каналі. спробую ділитися матеріалами, щоб ті кому стане цікаво — крок за кроком в усьому розібралися

будемо говорити по біологію, нейронки, свідомість

тисніть лайк, якщо подобається така ідея

Комусь реально потрібна Claude sonnet 5?