Загрузка...

Парсер youpin898 (скины Steam)

Тема в разделе Python создана пользователем strelok_cccp 29 июл 2025. 145 просмотров

  1. strelok_cccp
    strelok_cccp Автор темы 29 июл 2025 1 16 июн 2022
    Задача:
    Получение минимальной цены и количества офферов по каждому уникальному market hash name раз в час.

    Текущий подход:
    1) нашёл api, который подгружает продаваемые предметы
    2) https://api.youpin898.com/api/homepage/pc/goods/market/queryOnSaleCommodityList Вот по этому url в body лежат все данные.
    3) Минимальная цена в data[0] (см. скрин)
    4) Кол-во офферов в корне (TotalCount: 1366 - см. скрин)
    5) Опытным путём понял, что одно устройство (один curl) может получить 25-30 данных, а далее блокировка.
    6) Это не IP блок, т.к. бан не снимается при использовании ***, а снимается при открытии вкладки в инкогнито режиме.
    7) Блокировка вероятнее всего идёт по хэдерам, поэтому я решил что нужно использовать Selenium и собирать уникальные абсолютно новые хэдеры, чтобы менять сессию каждые 25-30 запросов после получения блокировки.
    8) Также для сбора новых хэдеров я использую библиотеку fake-useragent.
    9) ****** пока что не использую, потому что убедился что не по IP блокировка.

    По итогу: я застрял на моменте, как мне обходить детект сайта. В этой теме я новичёк, буквально дня 3-4 изучаю парсинг.
    Буду рад вашей помощи, спасибо!
    [IMG]
     
    29 июл 2025 Изменено
  2. Lologhh
    Lologhh 29 июл 2025 хацкер 52 17 апр 2023
    тебе короче нужно как что через менеджера селениум сделать антидетект полный
     
    1. Lologhh
      Lologhh, не помню как это делаеться но управление по вообще не видно там очень мутарно у тебя чтобы антидетект полностью обойти строк 200 понадобиться написать
    2. strelok_cccp Автор темы
      29 июл 2025 Изменено
    3. Lologhh
      strelok_cccp, неа , там другая даже какаято библеотека используеться
    4. Посмотреть следующие комментарии (8)
  3. sunshine
    sunshine 29 июл 2025 Сначала мы жили бедно, а потом нас обокрали...
    зачем ваще парсинг через селениум
     
    1. strelok_cccp Автор темы
      sunshine, Слушай, ну я пару дней этим занимаюсь. Ты мне говори что делать, не задавай вопросы. Вопросов у меня самого много)
    2. sunshine
      strelok_cccp, закрывай селениум изучай запросы
    3. strelok_cccp Автор темы
Top
Загрузка...