当前位置: 首页 > news >正文

爬虫问题整理(2025.3.27)

此时此刻,困扰我一天的两个问题终于得到了解决,在此分享给大家。

问题1:使用anaconda prompt无法进行pip安装,这里只是一个示例,实际安装任何模块都会出现类似报错。

解决办法:关掉梯子......没错,就这么简单。

问题2:使用PyCharm运行爬虫,始终运行不起来,出不来进度。

前提条件:我是想要爬取外网数据,所以需要挂梯子。

解决办法:参考某乎博客  爬虫外网代理:https://zhuanlan.zhihu.com/p/609389450

一般本机的Clash软件的HTTP代理地址为127.0.0.1:7890,可以通过以下代码来设置代理:

import requests

proxies = {
    "http": "http://127.0.0.1:7890",
    "https": "http://127.0.0.1:7890",
}

response = requests.get("https://www.example.com", proxies=proxies)

再运行就会发现好啦!!! 

相关文章:

  • linux0.11内核源码修仙传第十章——进程调度始化
  • Retinexformer:基于 Retinex 的单阶段 Transformer 低光照图像增强方法
  • 【消息队列】几个mq组件的对比: redis stream/rabbitmq/rocketmq/kafka
  • 【Python网络编程基础】
  • 六、小白学JAVA-类和对象
  • 【漏洞修复】Android 10 系统源码中的 glibc、curl、openssl、cups、zlib 更新到最新版本
  • ubuntu 22.04 一键安装 lxd
  • 【git拉取冲突解决】Please move or remove them before you merge. Aborting
  • RTMP推流+EasyDSS云服务+边缘AI分析的无人机监控系统设计
  • 【C++游戏引擎开发】《线性代数》(1):环境配置与基础矩阵类设计
  • PHP安装HTML转图片的扩展GD库的使用
  • 江西核威环保科技:打造世界前沿的固液分离设备高新企业
  • 【C++】httplib:轻量级的 HTTP 服务器和客户端
  • 神奇的FlexBox弹性布局
  • R语言——循环
  • vue 自定义 tabs 控件,可自动左右滑动使得选中项居中显示
  • VulnHub-FALL通关攻略
  • CSS3学习教程,从入门到精通,CSS3 弹性盒子(Flexbox)布局全面指南(20)
  • linux ACL权限控制之用户权限控制程序设计
  • HO与OH差异之Navigation三
  • WordPress移动端加搜索框/优化网站打开速度
  • 设计制作生态瓶教学反思/广州seo网站
  • 创建商务站点的主要工作/色盲眼中的世界
  • 自己可以学做网站吗/小红书关键词排名优化
  • 创建网站的目的是什么/新乡seo推广
  • 网站做301还是302/爱站网关键词查询网站的工具