Загрузка...

Script QIYANAChat | Coding Assistant | Unfolding model with hugging face without moms, dads and credits

Thread in Python created by Киана Nov 16, 2024. (bumped Dec 30, 2024) 1960 views

  1. Киана
    Киана Topic starter Nov 16, 2024 Реклама от Кианы - lolz.live/threads/7756293/
    [IMG]

    Привет. Частенько вижу что люди ищут аналог чата гпт и тд и тп.
    Ну а чем мы хуже, если можем развернуть локальную модель для написания кода? Ну я и взялся, помогу другим и прокачаю навыки.


    Вот создал красивое GUI.
    Модель Qwen 0.5B. Базовая модель для начала программирования.

    (Ну она еще и ест мало ресурсов для поддержки)

    [IMG]
    [IMG]
    Локальное выполнение
    Поддержка GPU
    Оптимизированная обработка запросов
    Логирование операций
    Отправляем запрос и ждем, пока ответит.
    [IMG]
    [IMG]
    [IMG][IMG][IMG]
    [IMG]
    https://github.com/qiyanaitsme/QIYANASCHAT/
    python -m venv venv
    .\venv\Scripts\activate
    pip install -r requirements.txt​
     
    1. View previous comments (1)
  2. ToSa
    ToSa Nov 16, 2024 guest, боже, храни кьют-рок. :beer::beer::beer: 24,040 Dec 18, 2021
    теперь не только с настоящей, но и с виртуальной киянкой помощником общаться можно, главное чтоб не говнокодила
     
    1. Киана Topic starter
      ToSa, на 14B можно скачать модель. Там люто создает. А 0,5 чисто для начала. Плюс все легко менять в config.py просто изменив название
  3. MALWARE
    MALWARE Nov 16, 2024 мяукаю 12,040 Mar 12, 2021
    это конечно очень круто, но неудобно использовать в терминале. сделай пожалуйста его в виде апи, чтобы можно было использовать в интерфейсах, во всяких LobeChat, BetterChatGPT, тогда будет вообще имба
     
    1. View previous comments (6)
    2. Киана Topic starter
      MALWARE, почти 0. Как тот же SpiderGPT и DarkWorm
    3. MALWARE
      Киана, в чём заключается "почти"? поддерживает ли она изображения, файлы?
    4. Киана Topic starter
      MALWARE, костыльно обходить с учетом напиши мне код такой, а потом надо уже свое пожелание выдавать
  4. September
    September Nov 16, 2024 :thomas: 11,821 Mar 16, 2023
    :thomas:Не думал, что буду использовать QIYANAChat вместо ChatGPT... Куда-то картинка с двумя девушками пропала.
     
    1. Киана Topic starter
      September, я бы обозвал qiyanagpt
    2. September
    3. Киана Topic starter
  5. akkaunt310
    akkaunt310 Nov 16, 2024 15 Jan 25, 2024
    Нихуя
    Круто :2011_like:
     
  6. antifront_inactive716913
    интересно время ответа такого ии на реальной машине на сколько быстро отвечает?
     
    1. Киана Topic starter
      antifront_inactive716913, большой вопрос - долго ждать. все зависит от видеокарты.
    2. antifront_inactive716913
      Киана, уже написал на его основе телеграм бота , коротко о его работе короткие сообщения обрабатывает практически мгновенно на большие около минуты у вас в коде ошибка и модель загружается в кеш от того его работа замедлена если переделать код и загружать модель и локального хранилища то скорость его работы возрастает
    3. Киана Topic starter
      antifront_inactive716913, так не я обучал )). Она лежит на huggingface уже обученная и можно качать другие модели
  7. antifront_inactive716913
    [IMG]
    The post was merged to previous Nov 16, 2024
    в общем рабочая тема не ясно как обучается данная модель чтоб бот был обучаем на основе диалога с ним так бы и обучение в код прилепил бы , если есть об этом информация дайте знать, а так только контекст могу прилепить не более, поигравшись еще с этой моделью понял одно она слабая очень а ресурсов жрет как не в себя переделал код под gemma 2 2b жрет меньше и дает более развернутые ответы, спасибо вам за толчок а то всегда хотелось попробовать сделать но было лень делать ))))))
     
    1. Киана Topic starter
  8. nikitaromp
    nikitaromp Dec 7, 2024 Читай правила и все будет хорошо :cat_eat: 103 Apr 18, 2023
    А там есть ограничения как в чат гпт который на «некоторые вопросы» не отвечает?
     
    1. Киана Topic starter
      nikitaromp, на момент 7.12.2024 нету такого пока.
    2. nikitaromp
    3. nikitaromp
      Киана, если че я про цензуру
  9. детектив
    детектив Dec 21, 2024 elvis has left the building 278 Nov 19, 2019
    в виде телеграм бота сделай
     
  10. LunarMoon
    LunarMoon Dec 29, 2024 Banned 261 Oct 7, 2024
    [IMG]

    какая то она конченная хз
     
Top
Loading...