Главная Юзердоски Каталог Трекер NSFW Настройки

Криптоанархия

Ответить в тред Ответить в тред

Доска закрыта.

Check this out!
<<
Назад | Вниз | Каталог | Обновить | Автообновление | 41 4 34
Интересный ресурс Аноним # OP 09/11/19 Суб 15:52:29 44147 1
1573303923658.png 9Кб, 247x83
247x83
Сап, Аноны! Хотел обратиться с вопросом к знающим людям. Если тема будет неприемлема, больше не буду. В общем вопрос такой: есть один форум лесной тематики. forums.wood.ru, так вот не могу его спарсить уже целый месяц. Дело в том, что этот ресурс непонятным для меня образом палит парсинг и блокирует доступ к сайту, напрочь. Что делал: пытался забирать Селениумом - палит, пытался обычным реквестом на Пайтон - тоже самое, пытался puppeteer на node.js - безуспешно (ни одной страницы), пытался через Тор, впн, покупку анонимных проксей - все без толку. Они что непобедимые? Даже курл на пэхопэ не берёт. Я в отчаянии, прошу помощи, может знает кто?
Аноним 09/11/19 Суб 16:03:37 44148 2
изображение.png 27Кб, 1232x516
1232x516
Аноним # OP 09/11/19 Суб 16:08:14 44149 3
>>44148
Да, достойные ребята.
Аноним 10/11/19 Вск 02:13:02 44150 4
Если я тебе напишу способ как его парсить на питоне - заплатишь?
Аноним 10/11/19 Вск 15:17:43 44151 5
>>44148
когда тестил бурпом не видел там запросов подозрительных?
Аноним 10/11/19 Вск 16:06:55 44152 6
>>44151
Он на любой запрос отдает пустую страницу.
Может мой диапазон айпи там забанен, я не знаю.
Аноним 12/11/19 Втр 16:36:31 44161 7
Что за сборище школьников итт? Пиздец, спарсить сайт с примитивной защитой они не могут
Аноним 12/11/19 Втр 17:00:09 44162 8
>>44161
удачи, лопушок
Аноним 13/11/19 Срд 16:17:35 44690 9
Screenshot20191[...].png 118Кб, 2499x548
2499x548
>>44162
>кококо
А теперь иди на хуй, школьник
Аноним 13/11/19 Срд 18:31:42 44691 10
>>44690
нахуй пойдешь ты. хули ты мне кидаешь сурс одной страницы то? думаешь без тебя - дятла не додумались, что так можно? если пруфанешь тем, что ресурс тебя не заблочил, когда ты +10500 страниц форума забирал, тогда возьму свои слова обратно
Аноним 13/11/19 Срд 18:49:17 44692 11
>>44691
Какую проблему я увидел изначально в треде:
>палит парсинг и блокирует доступ к сайту, напрочь
>Он на любой запрос отдает пустую страницу.
Эту проблему я решил.

То что тебя после 100500 запросов с одного айпишника 99% сайтов забанит и так очевидно. И решение этой проблемы очевиднейшее.
Так бы и писал в оп посте:
"Сап двач, я даун. Как спарсить сайт в 100500 страниц и не словить бан?".

А знаешь кто из нас сходил на хуй? Ты! Потому что хуй ты теперь выпросишь у меня код делающий запросы без получения бана. Парсь дальше свою пустую страницу и делай бочку.
Аноним 13/11/19 Срд 19:13:17 44693 12
>>44692
Где написано было, что парсил с одного айпишника, довен? Прочёл жопой оп пост и жидко обосрался. По существу есть что сказать, или так и будешь, как баран, отрицать очевидное?
Аноним 13/11/19 Срд 19:14:54 44694 13
Модерат - хуй сосат
Аноним # OP 13/11/19 Срд 19:15:23 44695 14
>>44692
Лол, так что ты хуем своим трясешь то? Мы ведь тут не письками меряемся как ты школодаун. То что единоразовый доступ у тебя есть, так это давно всем известно. Рабочего решения у тебя нет, хули ты завелся то, если пруфануть не можешь?
Аноним 18/11/19 Пнд 19:09:49 44706 15
Так тебе тупо сайт перекачать надо? Есть же кошерный Teleport Pro, только он по http.
Аноним 21/11/19 Чтв 23:59:24 44717 16
>>44706
Боюсь он тоже не справляется
24/11/19 Вск 22:12:13 44720 17
ОП-хуй, только что спарсил около 150 страниц, все работает нормально.
Аноним 26/11/19 Втр 19:35:40 44736 18
>>44717
Тогда значит сайт грузит скрипт, который кидает ответ серверу. Видно, если ответ не придет, то хуй страницу вытянешь.
Аноним 27/11/19 Срд 15:23:33 44739 19
Чего в этом сайте такого? Зачем его целый месяц парсить? Обычная доска объявлений, спарси другую. Или у тебя заказ на этот? Отказывайся, спокойнее спать будешь. Если реально месяц потрачен, то дешевле было бы попробовать базу купить, а то и весь сайт.
Аноним # OP 30/11/19 Суб 12:54:40 44743 20
>>44739
там база мыл и имен людей занимающихся лесом. Как ни странно бы это не звучало, но закономерность в этой мысли прослеживается: на этой площадке сидят люди из 90-х, которые сколотили большой капитал, контактов их нигде больше нет, собственно никак кроме этой площадки с ними не связаться. Поэтому администрация форума тщательно скрывает данные и меня интересует во первых как и во вторых как ее все же можно обойти?
Аноним # OP 30/11/19 Суб 13:07:13 44744 21
>>44743
забыл добавить: после прочтения может показаться, что я гонюсь за диким бабло и поэтому прошу Анона сделать работу за меня. Нет. в перспективе имея такую базу и клиентов можно было бы конечно продавать, но меня в первую очередь интересует механизм блокировки. До этого имея дело с множеством различных ресурсов я никогда не сталкивался с таким агрессивным баном, прокси, смена ЮА как правило решали, но тут абсолютно ничто не помогает. Как то анон запилил годный скрипт на js, но после тестирования он тоже провалился либо они пропалили и все исправили. Поэтому если аноны которые посчитают меня далбаебом и ебанутым фанатиком - прошу Вас не беспокоить, это мои личные проблемы, а те кому из спортивного интереса есть дело до такого энтузиазма и нужны детали и подробности - прошу в тред, господа!
Аноним 22/12/19 Вск 07:26:43 44845 22
>>44736
Скриптов там нет почти. При беглом осмотре я заметил скрипт только на странице темы и то он там, вроде, ничего не отправляет
Аноним 24/12/19 Втр 16:12:30 44856 23
>>44845
Двачую. Может стоит глянуть в сторону движка форума? vBulletin вроде, может слышал кто?
Аноним 30/12/19 Пнд 09:40:26 44875 24
Никакой особой защиты там нет, чисто от дурака примочки. Вангую, что ОП даже маркет не распарсит без бана и капчи.
Аноним 05/01/20 Вск 08:20:34 44898 25
>>44743
Пиздец ты фантазер, ахахахаха. Тебе сколько лет?
Аноним 10/01/20 Птн 02:55:48 44951 26
Как успехи, криптоанончики?
Кто-то кроме >>44692 смог написать парсер?
У меня как у >>44148 и >>44152
Пробовал крутить requests, libcurl, selenium. Один хуй пустая страница
Аноним 10/01/20 Птн 05:10:38 44952 27
>>44951
Ок, попробую скоро в свободное время.
Аноним 12/01/20 Вск 18:07:20 44965 28
>>44875
Бля вот пруфани, что сможешь сделать парсер. Ты же видишь, что все пишут, как сложно получить доступ, по твоему все дауны что ли?
Аноним 14/01/20 Втр 22:30:39 44978 29
14568321370220.jpg 25Кб, 604x501
604x501
>>44965
>по твоему все дауны что ли?
Аноним 31/01/20 Птн 09:05:56 45025 30
Ну и как успехи? Снова все в стиле быдла: сами не умеем, а тех кто разбирается шлем нахуй?
Аноним 31/01/20 Птн 20:28:42 45027 31
>>45025
У меня сайт не открывается. Он умер? Хотел попробовать. Что именно спарсить там надо?
Аноним 01/02/20 Суб 08:19:16 45028 32
>>45025
Так ты конструктивно можешь предложить как его спарсить или подкинуть идеи?
Аноним 21/02/20 Птн 01:14:51 45099 33
>>44147 (OP)
селениумом точно можно спарить любой сайт, прост в дефолтном режиме он палиться. Какой браузер для него юзал?
Аноним 02/03/20 Пнд 09:49:20 45128 34
>>44147 (OP)
Не в те дебри ты полез, сынок, ой не в те.
Аноним 07/03/20 Суб 15:16:02 45132 35
Аноним 07/03/20 Суб 15:16:28 45133 36
Аноним 06/05/20 Срд 06:51:36 45308 37
парсить надо с российских айпи
Аноним 11/07/20 Суб 06:16:11 45666 38
>>45028
Я вам выше уже кидал скрин своего успеха, но меня на хуй послали.
Ну так как у вас успехи?
Увидел на фрилансе заказ по парсингу оного сайта и вспомнил про вас
Аноним 11/07/20 Суб 06:20:13 45667 39
>>45666
Ан нет, это не мой скрин, походу я вам так и не скинул свой
Вот так я обосрался
Аноним 21/08/20 Птн 16:35:06 45846 40
Аноним 14/08/21 Суб 16:24:17 47227 41
нихуя тред какой древний то, я ебал. забрёл сюда случайно, если чё я оп, вышеописанную проблему послал нахуй, отчаялся искать решение
Ответить в тред Ответить в тред

Check this out!

Настройки X
Ответить в тред X
15000
Добавить файл/ctrl-v
Стикеры X
Избранное / Топ тредов