Телеграм канал «Плюшевый Питон»

Пока все стараются экономить агентские токены (ну ладно, не все - ещё немало компаний верят в token maxxing), я открыл для себя пользу более развёрнутых и понятных объяснений от модели.

По умолчанию, агенты часто стараются писать довольно лаконично. Наверное, в "детстве" (обучении) их много ругали за болтливость. Но эта лаконичность иногда вырождается в загадочность, а то и откровенное очковтирательство. Особенно Астра этим грешит: о хороших результатах будет трубить, а о плохих так напустит туману, что не сразу и поймёшь, что она всю ночь делала бесполезную ерунду вместо непосредственной задачи. (А вы думали, только люди так умеют?)

Но ладно Астра, Опус тоже иногда пишет о результатах так кратко, что ничего не понятно. Наверно, я просто туповат, раз не понимаю его с полуслова, но чтобы не усугублять эту проблему, попросил его писать понятнее и более развёрнуто (буквально: "optimize for clarity rather than brevity"). И что бы вы думали, помогло! Пусть сгорит больше токенов, но в итоге снижаются другие затраты - когнитивные. В результате и задачи решаются быстрее, потому что моё недопонимание больше не становится ботлнеком. Заметил, что с более подробными объяснениями Клода мне и самому чаще приходят новые идеи, как бы "по касательной". Так что здесь можно вставить мем с мужиком в красной куртке: Caveman - фу, optimize for clarity - лайк!

На работе я ещё дополнительно потратил время на написание кастомного скилла для человекочитаемых отчётов по экспериментам. Было нетривиально заставить модель писать понятнее, но вроде тоже получилось, и оно того стоило.

Любопытно, что у меня и с людьми наблюдаются похожие проблемы понимания. Напишет мне человек что-то из своего контекста, которого у меня нет, - и я сижу и перечитываю текст по сто раз, не в силах уловить великий смысл. Но человека-то не запромптишь, он и послать может.

Какой же вывод из всего этого? Да никакого, просто делюсь.