Телеграм канал «Стартап дня. Александр Горный.»

Сэкономить на токенах в 10 раз

В наивной реализации нейросеть читает чат каждый раз заново и прогоняет через видеокарту всю историю диалога – хотя от запроса к запросу старые реплики не менялись. Для оптимизации провайдеры придумали кэширование – оно позволяет посчитать этот кусок однажды и дальше подставлять готовым. У Anthropic, например, чтение из кэша стоит раз в десять дешевле обычного, плюс ответ приходит быстрее.

К сожалению, лекарство неполное. Кэш живёт в памяти видеокарты, а её мало и она дорогая, поэтому под нагрузкой старые куски вытесняются и всё опять считается заново. Есть и привязка ко времени – отошёл человек от чата на час, вернулся, а контекст уже протух. В итоге глобально проблема никуда не делась – её просто немного сгладили.

Идея #стартапдня Tensormesh – не выбрасывать посчитанное, когда в видеопамяти кончается место, а сгружать кэш ниже: в обычную оперативную память, на SSD, в сетевое хранилище. Заодно он становится общим для всех видеокарт разом. Готовый кусок тогда переживает и вытеснение, и паузу, и переезд на другой сервер, а пересчитывать приходится заметно реже.

Движок можно скачать и использовать бесплатно. Он относительно популярен, на Github у проекта 9 600 звезд. У Nginx для сравнения 31 000, у OpenClaw 380 000. Зарабатывает Tensormesh на собственном хостинге чужих opensource моделей. Его формула – “кэшированные токены отдаем бесплатно”. Утверждается, что в каких-то сценариях это выйдет и в 10 раз дешевле обычной цены.

https://www.tensormesh.ai/

#ai #технология #rounda #сша

На самом старте сломалось партнерство. Довольно значимое – не жизнеопределяющее, но заработать вполне прилично планировали. В масштабах года было бы заметно. Долго обсуждали, наконец ударили по рукам, “делаем”, а через два дня письмо от партнера “мы передумали”.

В промежутке – неприятная переписка в мессенджере. Мне показалось, что они просто долбанулись и, видимо, это было взаимно. Не совпали по ценностям, так сказать.

Подумал, что повезло. Если мы настолько разные, то рано или поздно это бы точно вылезло, и финал был бы такой же все равно. Но чем позже – тем больнее и дороже, и времени бы больше потеряли.

“Неудачное свидание может испортить вечер, удачное – поломать жизнь” (c).

#простомысли

Taxfix через 4 года

Общения с бюрократией нормальный человек боится, зато ему может помочь бизнес. Немецкий #стартапдня Taxfix разработал сервис для простого заполнения налоговых деклараций. Работает так: пользователь регистрируется, 20 минут отвечает на вопросы чат-бота, с помощью «умного» распознавания прикрепляет необходимые документы — и Taxfix автоматически отправляет запрос в налоговую.

Передача документов стоит 40 евро, сервис требует денег только за последний шаг, остальные формы можно прокликать бесплатно. Цена сопоставимой с парой часов работы среднего немца, заплатить их вполне рационально, так как быстрее вряд ли получится заполнить все бумажки вручную, да и ошибиться можно.

У стартапа всё хорошо: миллионы клиентов, 330 миллионов долларов инвестиций и оценка в миллиард по итогам последнего раунда. Единственный вопрос, который меня мучает, — а зачем он, собственно, нужен? Почему немецкая налоговая не в состоянии запрограммировать удобный интерфейс приёма документов? Я понимаю, частная инициатива должна выигрывать в каких-то сложных конкурентных областях — но здесь-то что?

Заместить же просто. Сколько в Taxfix человек в продуктовой команде? 30? 50? 100? Неужели нельзя нанять столько же и сделать так же красиво и просто? Сейчас стартап работает как скрытый налог на криворукость государства — и, судя по оценке в миллиард долларов, это довольно существенный налог. А ещё есть налог на время и ошибки тех, кто Taxfix не пользуется и мучается. Вот почему их нельзя отменить? Десятки миллионов долларов и человеко-часов на что-то полезное пойдут, стране польза будет.

И это, естественно, не немецкая проблема, почти во всём мире есть некое умолчание, что «государство нормально не может». Дайте другой глобус, пожалуйста.

—
Вот такой #субботнийповтор из 2022 года. Основной вопрос для стартапа сейчас – а нужен ли он после появления ChatGPT. Компания говорит о том, что мы сами внедряем AI, но у нас это “ответственный” AI. Я предполагаю, что пользователи ей не верят и все чаще пользуются обычным чатом – но это мои догадки, а не факт, надежной статистики нет. Единственные имеющиеся твердые данные – весьма скромный рост выручки Taxfix в 2024 году и покупка им нескольких мелких аналогов из других европейских стран. То и другое можно по-разному интерпретировать. Кто-то ударение на “рост”, а кто-то на “скромный” поставит. Я среди скептиков.

Мой старый пост: https://t.me/startupoftheday/2356

По ассоциации с инвестор-клиент пришел в голову Яндекс. У него есть свой BNPL-сервис – Яндекс.Сплит. Клиент платит за товар в магазине в бесплатную рассрочку. Продавец получает деньги сразу. Яндекс берет комиссию за риск неоплаты со стороны покупателя, ну и за то, что платит вперед. 

Модель требует много оборотного капитала, Яндекс выпустил облигации, чтобы не замораживать свой. Они абсолютно обычные, торгуются на бирже, доступны в один клик у всех брокеров.

И собственно вопрос: а как много людей зарабатывают на этом с двух концов? Откладывают платеж за покупку через Сплит, а потом на эти деньги покупают его облигации? Взял в долг под 0%, дал под 16%? Это же невероятно красиво? 

#fintech

Не халявщик, а партнер!

Одна из модных концепций ковидного времени: переплетение клиентов и инвесторов. Всучи миллениалу пару акций McDonalds – это и капитализацию корпорации чуть повысит, и ходить в Burger King человек перестанет. Двойная выгода для макдака.

К сожалению, механика работает, только если рынок растет и акциями владеть приятно. Когда он падает или хотя бы в бок идет, то бренд в такой схеме наращивает негатив вместо лояльности. А в Японии, например, биржевой индекс 35 лет не мог побить рекорды 1989 года, там ни маркетолог, ни клиент не поставят на стабильный рост.

Но сделать покупателей инвесторами, а инвесторов покупателями все равно хочется, и решение нашел #стартапдня Funds. Если народ не верит в акции – давайте предложим ему облигации или, точнее, их аналоги.

Стартап организовал краудленговую площадку, где простые японцы дают в долг крупным корпорациям. Ставка выше местных депозитов (выше нуля быть нетрудно), возврат более-менее гарантирован – клиенты туда идут и, заодно, вместе с процентами получают какие-то бонусы: “каждая восьмая чашка кофе бесплатна для уважаемого кредитора”.

Ну а дальше – те же психологические ловушки, которые в Штатах работали. Если уж дал кому-то в долг, то возникает эмоциональная связь и желание поддержать бренд. Да и бесплатную чашку кофе получить хочется. В итоге корпорация получает, видимо, не самые дешевые деньги на рынке, но зато к ним прилагается лояльный потребитель, комиссию Funds платит маркетинговый, а не финансовый департамент.

http://funds.jp/

#fintech #маркетинг #вклады #япония #roundb

Где-то лет до 30 я дико боялся своего бизнеса. Пожарные инспекции, взятки налоговой — я думал, предпринимательство состоит только из этого. Чисто техническое открытие ИП для оформления консалтинга было для меня сложным шагом — и, кстати говоря, весьма негладкий процесс регистрации отлично подтвердил мои тогдашние страхи. В общем, если б не ужас перед рутиной, я бы вполне мог уйти в свой бизнес на годы раньше. Наверное, было бы лучше. Не проверить уже.

Ксении Сидориной из Санкт-Петербурга повезло больше меня. Ей с рутиной помог Т-Банк. Она реставратор и сооснователь волонтёрской команды «Гэнгъ». 7 лет восстанавливает исторические детали Питера: витражи, элементы парадных, фрагменты дореволюционной архитектуры. Весной она открыла ИП в Т-Бизнесе, и теперь реставрация для неё не только миссия, но и предпринимательство. А Т-Банк сделал её даже лицом своей рекламной кампании.

Не бойтесь запускать бизнес. За 7 лет я ни разу не встретил пожарного инспектора. Или что вас останавливает, как он останавливал меня?

А доверить рутину Т-Бизнесу можно по ссылке.

Обратная сторона вайбкодинга

Подумал еще об «AI не работает» для малого бизнеса. Тут в целом все так же, как у корпораций: много рассказов про «Клод у меня все процессы переделал, бизнес на агентах теперь», мало новых яхт у владельцев.

Не претендую на универсальность ответа, но вижу среди окружающих одну и ту же модель, которая объясняет парадокс. Да и сам я тем же страдаю, что греха таить.

Работа с Claude Code или аналогами — реально прикольно. Людям нравится с ними возиться. А давай попробуем такое — вжух. А теперь такое — щелк. Лепота! Начальника у предпринимателя нет, никто не мешает развлекаться. Совесть тоже молчит, ты ж типа работаешь, а не рилсы смотришь.

В итоге реально полезных дел основатель успевает сделать меньше, а не больше. А так как малый бизнес сильно от собственника зависит, выручка закономерно страдает.

#ai #простомысли