никто не удосужился или не нашлось спонса? характер еблана сделать ему, дать свободу действий и цель развиваться на форуме, пусть пишет темы, смотрит те что захочет и коментит, запоминает и тд, VLM не новизна, сделать изи (ниче нового придумывать не надо) угар ведь не
Тут в принципе проблема в реализации проактивной его части, что бы он именно что мог совершать псевдо-выбор (очевидно по триггерам каким то), да и прикола нет, для ллмки развитие в инференсе не существует, разве что прикрутитить "вечную память", но все равно, не будет желаемого эффекта
gggamefor, флаг в руки не беру без спонса с чего это не передается в промпт, щас все чатботы имеют память о переписке и за пределами, перед каждым действием/прочтением темы отдельный механизм решает сохранять в памяти или нет. Само действие что он прочитал какую то тему можно оставить наверно. Сохранять также обобщенно, либо вообще RAG прикрутить персонализировать легко, опять же дообучить на стиле общения+знаниях и промпт-инжинеринг насчет проактивным-реактивным, так просто выделять моменты в которые бот может выбрать из списка действий которые может сделать, и пусть выбирает в зависимости от контекста нужды опять же, это все промпт-инжинирнг и грамотная архитектура, тогда будет проактивный бот
iuh, Я говоря о вечной памяти и имею ввиду RAG, и да, такого рода память в промпт каждый запрос не передается ( это делается в конверсатион буффер мемори, которая краткая ) Да и добавлять роутер, который будет решать добавить в память или нет, это конечно тоже непрост. Поэтому, в основном существует в чат ботах долговременная память, которую ты сам можно сказать заполняешь, а все остальное это буфферизация с последующим добавлением контекста в каждый запрос. Потом, function calling/react механизмы которые ты имеешь ввиду( список действий(инструментов)) это крайне баганная штука, хорошо работающая только последовательных простых операциях ( опять же, здесь чисто по моему опыту, ибо других реализаций я не видел, а мои наброски таковыми вышли, что на готовых агентных фреймворках что на кастомном контракте) Промпт инжиниринг не панацея в такой неясной сырой и мало того креативной задаче. Проактивность - это следующий этап, когда ллм будет реал тайм существовать Сейчас, как бы ты не старался это будет псевдо-проактивность. По триггерам, или, например в промпте указать, что должен выводить в конце ответа предложения по запросу, и так далее. А вообще, лучше остановлюсь здесь
gggamefor, буфферы бывают разные, краткосрочные как раз и есть conversation buffer, долгосрочные - RAG и векторная база данных псевдо-проактивность, если грамотно спроектирована, достаточно убедительная для такой задачи. Анализировать темы, выбирать где участвовать, и генерировать осмысленные сообщения, уже воспринимается как проактивное поведение. выбирать, сохранять в память или нет – lightweight задача, ту же ллм без role-промпта спросить чтобы обобщила для себя и результат пойдет в память, ниче сложного и быстро function calling и правда могут быть нестабильны…на момент 2023-2024. модельки по-новее лучше с этим справляются, плюс действий не так много чтобы запутать модель. не проблема. промпт-инжиниринга и правда недостаточно до фулл про-активности, но опять же, все что я предложил сверху – уже достаточно чтобы сделать убедительно хорошего бота, хоть и "псевдо-проактивного, если грамотно сделать то и не отличишь от проактивного