2016-11-05 12:08发布
需要爬取的网页需要登陆才可以获取，但是又对爬取ip有限制，所以我想要使用代理ip进行爬取；但是我在request的session中使用proxy后无法爬取到有信息的网页，所以猜想可能是代理地址没有进行头部转发，这里想请教一下大家！
如果是从某个代理ip网站上抓取的ip，绝大部分是不可用的，可用的也因为超时等原因影响程序的稳定性，requests会自动帮你对HTTP头部的处理了，不存在你猜想的问题，应该是你代理ip的问题，看看我的使用代理ip
最多设置5个标签!
{var%20f='http://v.t.sina.com.cn/share/share.php?appkey=1515056452',u=z||d.location,p=['&url=',e(u),'&title=',e(t||d.title),'&source=',e(r),'&sourceUrl=',e(l),'&content=',c||'gb2312','&pic=',e(p||'')].join('');function%20a(){if(!window.open([f,p].join(''),'mb',['toolbar=0,status=0,resizable=1,width=440,height=430,left=',(s.width-440)/2,',top=',(s.height-430)/2].join('')))u.href=[f,p].join('');};if(/Firefox/.test(navigator.userAgent))setTimeout(a,0);else%20a();})(screen,document,encodeURIComponent,'','','https://wenda.whatsns.com/data/attach/logo/logo.png', '推荐 小米哥哥2 的问题《requests.get使用代理能转发http头部吗》','https://wenda.whatsns.com/q-305044.html','页面编码gb2312|utf-8默认gb2312'));){kind=link}
如果是从某个代理ip网站上抓取的ip，绝大部分是不可用的，可用的也因为超时等原因影响程序的稳定性，requests会自动帮你对HTTP头部的处理了，不存在你猜想的问题，应该是你代理ip的问题，看看我的使用代理ip
![]()
一周热门 更多>