Автоматическое скачивание страниц сайта с обходом блокировки (для последющего парсинга)

  • Опубликовано 4 года назад
  • Просмотры 3
  • Закончить проект

Описание

Требуется на C# реализовать функцию, которая на входе принимала бы строку-адрес URL вида

"www.similarweb.com/websit..." (участок между последними двумя слэшами будет варьироваться),и возвращала бы html-код указанной страницы. Планируется в день парсить несколько десятков таких страничек

желательно чтобы решение было гибким – могло работать и с другими сайтами

оптимально через ротацию бесплатных прокси-серверов
о если совсем не полчится, вариант с подключением платных прокси-сервисов нас устроит, желательно не дороже 1000 в месяц.

сам код страницы распарсить не требуется, эта часть реализована на нашей стороне. Те есть основная задача – это решить проблему скачивания странички без попадания в блок со стороны сайта

Опубликовано 4 года назад