никто не удосужился или не нашлось спонса? характер еблана сделать ему, дать свободу действий и цель развиваться на форуме, пусть пишет темы, смотрит те что захочет и коментит, запоминает и тд, VLM не новизна, сделать изи (ниче нового придумывать не надо) угар ведь не
Тут в принципе проблема в реализации проактивной его части, что бы он именно что мог совершать псевдо-выбор (очевидно по триггерам каким то), да и прикола нет, для ллмки развитие в инференсе не существует, разве что прикрутитить "вечную память", но все равно, не будет желаемого эффекта
iuh, Так вечная память не предполагает буфферизации, иначе говоря - хоть с 8к токенами можно память реализовывать, потому что вечная память в вакууме и в промпт каждый запрос не передается. см. Google Titans А на счет давать заголовки, персонализацию - это просто тяжело. Персонализацию следует достигать за счет технологий Lora/Qlora , в крайнем случае дообучать, но чревато последствиями Ну и если надо почесать голову и норм сделать - ну флаг в руки Опять же, просто отвечалку, которая в такое то время то-то пишет/или ведет реакционную деятельность(отвечает на прямой запрос) с простенькой инструкцией внутренней по поведению - легко А вот сделать его проактивным и персонализированным - это пока myth
gggamefor, флаг в руки не беру без спонса с чего это не передается в промпт, щас все чатботы имеют память о переписке и за пределами, перед каждым действием/прочтением темы отдельный механизм решает сохранять в памяти или нет. Само действие что он прочитал какую то тему можно оставить наверно. Сохранять также обобщенно, либо вообще RAG прикрутить персонализировать легко, опять же дообучить на стиле общения+знаниях и промпт-инжинеринг насчет проактивным-реактивным, так просто выделять моменты в которые бот может выбрать из списка действий которые может сделать, и пусть выбирает в зависимости от контекста нужды опять же, это все промпт-инжинирнг и грамотная архитектура, тогда будет проактивный бот
iuh, Я говоря о вечной памяти и имею ввиду RAG, и да, такого рода память в промпт каждый запрос не передается ( это делается в конверсатион буффер мемори, которая краткая ) Да и добавлять роутер, который будет решать добавить в память или нет, это конечно тоже непрост. Поэтому, в основном существует в чат ботах долговременная память, которую ты сам можно сказать заполняешь, а все остальное это буфферизация с последующим добавлением контекста в каждый запрос. Потом, function calling/react механизмы которые ты имеешь ввиду( список действий(инструментов)) это крайне баганная штука, хорошо работающая только последовательных простых операциях ( опять же, здесь чисто по моему опыту, ибо других реализаций я не видел, а мои наброски таковыми вышли, что на готовых агентных фреймворках что на кастомном контракте) Промпт инжиниринг не панацея в такой неясной сырой и мало того креативной задаче. Проактивность - это следующий этап, когда ллм будет реал тайм существовать Сейчас, как бы ты не старался это будет псевдо-проактивность. По триггерам, или, например в промпте указать, что должен выводить в конце ответа предложения по запросу, и так далее. А вообще, лучше остановлюсь здесь