Гость
Форумы / Вопросы по форуму [закрыт для гостей] / Бэкапы форумов / 25 сообщений из 29, страница 1 из 2
19.12.2024, 13:38
    #1265120
basename
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Бэкапы форумов
На старом сервере была автоматизирована система бэкапов, всё нужное бэкапилось ежедневно и выкладывалось на Яндекс Диск.

Однако, архитектура была привязана к работе официального клиента Яндекс Диск, который оказался крайне бедным по функционалу и плохо показал себя в работе с такой задачей - неудобный, часто подвисал и гадил какой-то служебной хренью, жрал память и проц. Претензий нет, оно и понятно, клиент предназначен для домашнего использования, скопировал нужное, пару документов, фоточке с корпоратива, с котом в синхронизируемую папочку, оно выгрузилось в облако. И всё. А на перманентной дрочке резервным копированием оно частенько охуевало и вываливалось на хуй.

Господин Иназ, огромное спасибо ему за это, где-то нарыл такую ссылочку https://neblog.info/skript-bekapa-na-yandeks-disk?ysclid=lqaufsd6g9584100748

Что в ней ценного - готовые методы работы с Яндекс REST API, хотя чуть раньше про апи Пашэ сказал, а я даже и не знал, что там апи свободное и так можно было.

Как готовое решение, для меня скрипт вообще никак не подходит, человек там все базы и файлы архивирует в один флакон, ну у него проект небольшой, свой блог просто архивирует, а вот функции я, естественно, заюзал, немного адаптировал, проверил работу, всё выгружает.

Нюансы, яндекс дико режет скорость для некоторых расширений. Решение - переименовать расширение и скорость лютая
https://yadisk.readthedocs.io/ru/dev/known_issues.html

#####

Выбор архиватора.

Раньше я использовал bzip2 для сжатия дампов БД. Жмёт хорошо, но долго, распаковывает тоже долго.

Попробовал (опции сжатия дефолтные)
- xz - лютый ваще, юзает lzma, дамп пожал где-то в 40 раз, а при максимальном сжатии наверное в 100 раз пожмёт. Дефекатор точно не распакует, бугога
- bzip2 - жмёт похуже, чем xz, работает помедленнее, чем xz
- gzip - жмет хуже примерно в 2+ раза чем xz, но по сравнению с предыдущими - просто с лютой скоростью
- zip - примерно тоже самое, что gzip

Короче, остановился на gzip. Оптимально по скорости и размеру.

Что делать с вложениями.

Я затарил без сжатия каталоги с данными для форумов. Планирую регулярно делать подобный срез, на основе его выгружаемый архив, а сам срез ежеденвно обновлять при помощи tar -uf. Ну, то есть, например
- вскр - срез, сделал tar и на основе его тут же выгружаемый архив со сжатием
- пн - сб - tar -uf, gzip upload

Касательно сопоставление вложений с записями в БД.

Ну тут, очевидно, нужно вначале задампить БД, потом тарить вложения, тогда не будет - картинки не существует, но абсолютной синхронности не будет, в момент дампа кто-то насрёт лог тапков и архиве вложений на день бэкапа будут вложения, для которых нет сопоставления в БД на этот же день бэкапа. Ну это не представлю, как сделать чётко.
pasted_image.png
...
Рейтинг: 0 / 0
19.12.2024, 13:55
    #1265137
Green
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Бэкапы форумов
basename  19.12.2024, 13:38
[игнорируется]
Ну тут, очевидно, нужно вначале задампить БД, потом тарить вложения, тогда не будет - картинки не существует, но абсолютной синхронности не будет, в момент дампа кто-то насрёт лог тапков и архиве вложений на день бэкапа будут вложения, для которых нет сопоставления в БД на этот же день бэкапа. Ну это не представлю, как сделать чётко.
Может по дате смотреть, если картинки за датой бекапа базы, то не брать?
...
Рейтинг: 0 / 0
19.12.2024, 13:57
    #1265141
basename
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Бэкапы форумов
Green  19.12.2024, 13:55
[игнорируется]
basename  19.12.2024, 13:38
[игнорируется]
Ну тут, очевидно, нужно вначале задампить БД, потом тарить вложения, тогда не будет - картинки не существует, но абсолютной синхронности не будет, в момент дампа кто-то насрёт лог тапков и архиве вложений на день бэкапа будут вложения, для которых нет сопоставления в БД на этот же день бэкапа. Ну это не представлю, как сделать чётко.
Может по дате смотреть, если картинки за датой бекапа базы, то не брать?
Год назад вложений было 70000+

Проще пренебречь зомби-трупаками.
...
Рейтинг: 0 / 0
19.12.2024, 14:37
    #1265177
basename
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Бэкапы форумов
Вот ещё простейше по Яндекс REST API

https://gist.github.com/YPermitin/b4749277683a49621991769e4d061444
...
Рейтинг: 0 / 0
19.12.2024, 15:06
    #1265214
Межгалактический разум
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Бэкапы форумов
basename [игнорируется] 

Базя чё ты там бекапишь?) Кому оно надо?)
p.s У меня почти весь бекап ПТ хрен знает с какого года выпуска в одном спаршеном файлике сжатый лежит на крохотной флехе ужатый до размера ~100 мб))
p.s Могу воскресить для прикола)
PT.jpg
...
Рейтинг: 0 / 0
19.12.2024, 15:30
    #1265226
basename
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Бэкапы форумов
Межгалактический разум  19.12.2024, 15:06
[игнорируется]
basename [игнорируется] 

Базя чё ты там бекапишь?) Кому оно надо?)
p.s У меня почти весь бекап ПТ хрен знает с какого года выпуска в одном спаршеном файлике сжатый лежит на крохотной флехе ужатый до размера ~100 мб))
p.s Могу воскресить для прикола)
PT.jpg
ПТ то старый есть

https://resql.ru/forum/forum.php?fid=3
...
Рейтинг: 0 / 0
19.12.2024, 16:20
    #1265255
Межгалактический разум
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Бэкапы форумов
basename  19.12.2024, 15:30
[игнорируется]
ПТ то старый есть
https://resql.ru/forum/forum.php?fid=3
Ты не понял мой посыл) Ты изнашиваешь оборудование каждодневными своими бэкапами, точней ежечасными) Ну хранится инфа и пусть хранится.

Смысл её теребенить каждый час? Тут вся инфа на форуме не стоит одного винчестера на котором она крутится..)
...
Изменено: 19.12.2024, 16:23 - Межгалактический разум
Рейтинг: 0 / 0
19.12.2024, 16:22
    #1265257
basename
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Бэкапы форумов
Межгалактический разум  19.12.2024, 16:20
[игнорируется]
basename  19.12.2024, 15:30
[игнорируется]
ПТ то старый есть
https://resql.ru/forum/forum.php?fid=3
Ты не понял мой посыл) Ты изнашиваешь оборудование каждодневными своими бэкапами, точней ежечасными) Ну хранится инфа и пусть хранится.

Смысл её теребить каждый час? Тут вся инфа на форуме не стоит одного винчестера на которой она крутится..)
не, зачем каждый час. раз в сутки я раньше делал и сейчас тоже планирую раз в сутки.
...
Рейтинг: 0 / 0
19.12.2024, 16:24
    #1265260
Гарыныч
Участник
[игнорирует гостей кроме]
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Бэкапы форумов
Цитата 
[игнорируется]
p.s У меня почти весь бекап ПТ хрен знает с какого года выпуска в одном спаршеном файлике сжатый лежит на крохотной флехе ужатый до размера ~100 мб))
p.s Могу воскресить для прикола)
Разум, а Разум,

какого ПТ у тебя ? Джуждевого, Дедового?
...
Рейтинг: 0 / 0
19.12.2024, 16:55
    #1265275
Межгалактический разум
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Бэкапы форумов
basename  19.12.2024, 16:22
[игнорируется]
не, зачем каждый час. раз в сутки я раньше делал и сейчас тоже планирую раз в сутки.
То что ты научился делать бэкапы это типа хорошо, но у тебя сайт каждый день выпадает из за каких то технических работ?!
Как может форум на котором 1 с половиной юзера почти каждый день виснуть из-за бэкапов хуяпов?)
То есть или ты рукажоп которого допустили к кнопочке, либо сам форум рукажопом составлен, что не выдерживает одну страницу форума поддержимвать без ежедневных бэкапов?
То есть ты после каждого нового топика на пт, полностью бэкапишь всю бд форума? Так выходит?
То есть ютуб или вк тоже должны уходить на бекап после каждого нового комента под видео к примеру?)
...
Изменено: 19.12.2024, 16:57 - Межгалактический разум
Рейтинг: 0 / 0
19.12.2024, 17:28
    #1265310
Гарыныч
Участник
[игнорирует гостей кроме]
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Бэкапы форумов
Разум, скройся в тумане.....
...
Рейтинг: 0 / 0
19.12.2024, 18:02
    #1265323
Межгалактический разум
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Бэкапы форумов
Гарыныч [игнорируется] 

Это чё за наглость?) Типа тут помню, тут не помню?)
g.jpg
...
Рейтинг: 0 / 0
19.12.2024, 18:11
    #1265324
Гарыныч
Участник
[игнорирует гостей кроме]
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Бэкапы форумов
Разум, тебя это не должно ипать!, есть мягкий игнор у деды :)))
ты не знал?
...
Рейтинг: 0 / 0
19.12.2024, 18:15
    #1265325
Межгалактический разум
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Бэкапы форумов
Гарыныч  19.12.2024, 18:11
[игнорируется]
Разум, тебя это не должно ипать!, есть мягкий игнор у деды :)))
ты не знал?
У деды может там много чего есть, но тебя это как-то касается? Может ты у него и по карманам шаришь?
Где ты и где деда)) Ты что себя с дедой решил сравнить?) Он могуч) А ты жалок)
...
Изменено: 19.12.2024, 18:15 - Межгалактический разум
Рейтинг: 0 / 0
19.12.2024, 18:22
    #1265327
Гарыныч
Участник
[игнорирует гостей кроме]
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Бэкапы форумов
я пользуюсь фунциклионаром Деды...., можно? :)))

понятно , что я далеко от деды......, но : он для юзверей же сделал, не?

зы: а ты, ты сам то кто: не менее ли ты жалкий мембер, как и я? :)))
...
Изменено: 19.12.2024, 18:23 - Гарыныч
Рейтинг: 0 / 0
19.12.2024, 18:27
    #1265328
Межгалактический разум
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Бэкапы форумов
Гарыныч  19.12.2024, 18:22
[игнорируется]
я пользуюсь фунциклионаром Деды...., можно? :)))

понятно , что я далеко от деды......, но : он для юзверей же сделал, не?

зы: а ты, ты сам то кто: не менее ли ты жалкий мембер, как и я? :)))
Свинье подготовленной для забоя фермером, нет смысла подрожать фермеру) Это ничего не даст)
Ну хочешь подражать, подражай, ведь в этом был весь смысл твоей некчёмной жизни) Другого от тебя ничего не видели?!)
Фермер хоть собак своих мясом покормит) А ты что? Кому? Когда? Зачем? Вообщем одним словом..)
...
Рейтинг: 1 / 0
Нравится: defecator
19.12.2024, 18:29
    #1265329
Гарыныч
Участник
[игнорирует гостей кроме]
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Бэкапы форумов
Межгалактический, ты что там куришь? а? :)))
...
Рейтинг: 0 / 0
19.12.2024, 18:32
    #1265330
Межгалактический разум
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Бэкапы форумов
Гарыныч  19.12.2024, 18:29
[игнорируется]
Межгалактический, ты что там куришь? а? :)))
Это система так устроена, есть чёткие правила и законы, ты их нарушил, то есть твоя таблица оказалась не верна, а дедына таблица оказалась более верной, отсюда и выводы, что за дедой стоит больше учеников, чем за тобой. Ты один а их много)
...
Рейтинг: 0 / 0
19.12.2024, 18:44
    #1265332
Гарыныч
Участник
[игнорирует гостей кроме]
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Бэкапы форумов
Межгалактика, ты ебанутый?
...
Рейтинг: 0 / 0
19.12.2024, 18:46
    #1265335
Межгалактический разум
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Бэкапы форумов
Гарыныч  19.12.2024, 18:44
[игнорируется]
Межгалактика, ты ебанутый?
Система больше не может тратить на тебя ресурсы в пустую, от тебя нет отдачи.
Проще завести собаку от неё больше толку чем от тебя)
Просто тебе это не говорят пока, может из жалости, может все еще ты в тени деды укрываешся) Хрен пойми..
...
Рейтинг: 0 / 0
19.12.2024, 18:46
    #1265336
basename
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Бэкапы форумов
Межгалактический разум  19.12.2024, 16:55
[игнорируется]
basename  19.12.2024, 16:22
[игнорируется]
не, зачем каждый час. раз в сутки я раньше делал и сейчас тоже планирую раз в сутки.
То что ты научился делать бэкапы это типа хорошо, но у тебя сайт каждый день выпадает из за каких то технических работ?!
Как может форум на котором 1 с половиной юзера почти каждый день виснуть из-за бэкапов хуяпов?)
То есть или ты рукажоп которого допустили к кнопочке, либо сам форум рукажопом составлен, что не выдерживает одну страницу форума поддержимвать без ежедневных бэкапов?
То есть ты после каждого нового топика на пт, полностью бэкапишь всю бд форума? Так выходит?
То есть ютуб или вк тоже должны уходить на бекап после каждого нового комента под видео к примеру?)
Эта техническая площадка для экспериментов. Поддерживаеттся двумя энтузиастами. Деду стоит времени, мне - времени и денег. За потраченные деньги, я, как понятно, хочу получить какое-то удовольствие, которое в данном случае заключается в экспериментах. Социальная часть мне не сильно интересна. Поэтому форум может не работать сутками, неделями, часами или минутами. Либо работать, если я его не трогаю. Когда люди донатили - подход был несколько другой, донат - это уже надо предоставить более менее кодоступный сервис с минимизацией простоев. Донаты - это надо отчитываться о работах, предупреждать заранее, проводить в малопосещаемое время - неудобно.

Тем не менее, несмотря на то, что это всё никому не нужно, к бэкапам стоит отнестись серьёзно, если не хочется потерять все данные и откатываться к какой-то древней версии, так как ебнуться всё может в любой момент.
...
Рейтинг: 0 / 0
19.12.2024, 18:48
    #1265337
basename
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Бэкапы форумов
basename  19.12.2024, 18:46
[игнорируется]
Межгалактический разум  19.12.2024, 16:55
[игнорируется]
basename  19.12.2024, 16:22
[игнорируется]
не, зачем каждый час. раз в сутки я раньше делал и сейчас тоже планирую раз в сутки.
То что ты научился делать бэкапы это типа хорошо, но у тебя сайт каждый день выпадает из за каких то технических работ?!
Как может форум на котором 1 с половиной юзера почти каждый день виснуть из-за бэкапов хуяпов?)
То есть или ты рукажоп которого допустили к кнопочке, либо сам форум рукажопом составлен, что не выдерживает одну страницу форума поддержимвать без ежедневных бэкапов?
То есть ты после каждого нового топика на пт, полностью бэкапишь всю бд форума? Так выходит?
То есть ютуб или вк тоже должны уходить на бекап после каждого нового комента под видео к примеру?)
Эта техническая площадка для экспериментов. Поддерживаеттся двумя энтузиастами. Деду стоит времени, мне - времени и денег. За потраченные деньги, я, как понятно, хочу получить какое-то удовольствие, которое в данном случае заключается в экспериментах. Социальная часть мне не сильно интересна. Поэтому форум может не работать сутками, неделями, часами или минутами. Либо работать, если я его не трогаю. Когда люди донатили - подход был несколько другой, донат - это уже надо предоставить более менее кодоступный сервис с минимизацией простоев. Донаты - это надо отчитываться о работах, предупреждать заранее, проводить в малопосещаемое время - неудобно.

Тем не менее, несмотря на то, что это всё никому не нужно, к бэкапам стоит отнестись серьёзно, если не хочется потерять все данные и откатываться к какой-то древней версии, так как ебнуться всё может в любой момент.
А вообще я тему создал, с подробным описанием, что я делать хочу, чтобы вдруг кто, что интересной по делу подскажет.
...
Рейтинг: 0 / 0
19.12.2024, 18:51
    #1265341
Межгалактический разум
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Бэкапы форумов
basename  19.12.2024, 18:48
[игнорируется]
basename  19.12.2024, 18:46
[игнорируется]
Межгалактический разум  19.12.2024, 16:55
[игнорируется]
basename  19.12.2024, 16:22
[игнорируется]
не, зачем каждый час. раз в сутки я раньше делал и сейчас тоже планирую раз в сутки.
То что ты научился делать бэкапы это типа хорошо, но у тебя сайт каждый день выпадает из за каких то технических работ?!
Как может форум на котором 1 с половиной юзера почти каждый день виснуть из-за бэкапов хуяпов?)
То есть или ты рукажоп которого допустили к кнопочке, либо сам форум рукажопом составлен, что не выдерживает одну страницу форума поддержимвать без ежедневных бэкапов?
То есть ты после каждого нового топика на пт, полностью бэкапишь всю бд форума? Так выходит?
То есть ютуб или вк тоже должны уходить на бекап после каждого нового комента под видео к примеру?)
Эта техническая площадка для экспериментов. Поддерживаеттся двумя энтузиастами. Деду стоит времени, мне - времени и денег. За потраченные деньги, я, как понятно, хочу получить какое-то удовольствие, которое в данном случае заключается в экспериментах. Социальная часть мне не сильно интересна. Поэтому форум может не работать сутками, неделями, часами или минутами. Либо работать, если я его не трогаю. Когда люди донатили - подход был несколько другой, донат - это уже надо предоставить более менее кодоступный сервис с минимизацией простоев. Донаты - это надо отчитываться о работах, предупреждать заранее, проводить в малопосещаемое время - неудобно.

Тем не менее, несмотря на то, что это всё никому не нужно, к бэкапам стоит отнестись серьёзно, если не хочется потерять все данные и откатываться к какой-то древней версии, так как ебнуться всё может в любой момент.
А вообще я тему создал, с подробным описанием, что я делать хочу, чтобы вдруг кто, что интересной по делу подскажет.
Это всё понятно, типа практикуешся, на живом примере. Просто у тебя регрес идёт. Ты уже играешся типа, с оборудованием, которое наверняка стоит не малых денег, и оно судя по всему не твоё, ты просто арендуешь некую его часть, и вот ты решил раз вложил 5 копеек то можешь затереть свою часть до дыр?)

Типа купил билет на проезд в метро и будешь кататся пока тебя в депо за шкирку не выкинут так типа?)
...
Изменено: 19.12.2024, 18:52 - Межгалактический разум
Рейтинг: 0 / 0
19.12.2024, 18:51
    #1265342
Гарыныч
Участник
[игнорирует гостей кроме]
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Бэкапы форумов
basename  19.12.2024, 18:46
[игнорируется]
Донаты - это надо отчитываться о работах, предупреждать заранее, проводить в малопосещаемое время - неудобно.
ты слишком предвзят к донатам (имхо)
донатируют, не чтобы качать там что-то ( какие-то права ) , а чтобы форум жил и дальше (имхо 2)

а ты себя накрутил с этими донатами.... ( имхо 3 )

как-то так....
...
Изменено: 19.12.2024, 18:52 - Гарыныч
Рейтинг: 0 / 0
19.12.2024, 18:55
    #1265346
basename
Участник
Скрыть профиль Поместить в игнор-лист Сообщения автора в теме
Бэкапы форумов
Межгалактический разум [игнорируется] 

Гарыныч [игнорируется] 

Ладно, парни, ссорян, но работы много, вдаваться в дискуссию не могу.
...
Рейтинг: 1 / 0
Нравится: Гарыныч
Форумы / Вопросы по форуму [закрыт для гостей] / Бэкапы форумов / 25 сообщений из 29, страница 1 из 2
Целевая тема:
Создать новую тему:
Автор:
Найденые пользователи ...
Разблокировать пользователей ...
Читали форум (0):
Пользователи онлайн (0):
x
x
Закрыть


Просмотр
0 / 0
Close
Debug Console [Select Text]