Загрузка...

Как правильно читать большую базу?

Тема в разделе Python создана пользователем V0tson 29 дек 2024. 174 просмотра

  1. V0tson
    V0tson Автор темы 29 дек 2024 https://lolz.live/threads/7685889/ <= CODE 784 20 сен 2022
    Как правильнее будет читать большую базу строк?
    Строк более 5 миллионов, они в txt файле, как я понимаю, нужно обязательно в sql перенести.
    Как лучше запросы строить к ней и в целом работать? python
    Заранее спасибо, да хороший ответ, накину чут чут на лолз)
     
    1. Локет
      V0tson, бля ну попроси гпт тебе на с или ++ сделать залупу эту, по хуйне же задача
  2. el9in
    el9in 29 дек 2024 lolz.live/threads/7387449 — USDT TRC без комиссии
    Разбить базу на несколько файлов самый очевидный вариант.
     
    1. Посмотреть предыдущие комментарии (6)
    2. 005
      el9in, фейк информация это если на питоне открыть, такое будет
    3. TheBoossya
      el9in, кто не откроется?
  3. derkown
    with open("base.txt") as file:
    for line in file:
    print(line)
     
    1. КонфеточныйБум
      derkown, выдаст ошибку(5кк строк выйдет за рамки)Базу нужно разбить на более мелкие и если нужно все соединить то потом через математические выражния выполнить и вывести если это не обходимо.
  4. противоположник
    для начала sqlite, потом postgresql/mysql для больших данных.

    ⁡executemany
    ⁡ юзаешь для массовой вставки строк из файла

    ну и для запросов, создаешь индексы для ускорения поиска
     
Top
Загрузка...