Python 返回 [Errno 24] Too many open files

背景

执行多线程扫描脚本的时候频繁出现下面这个错误

HTTPConnectionPool(host=‘t.tips', port=80): Max retries exceeded with url: /index.php (Caused by NewConnectionError('<requests.packages.urllib3.connection.HTTPConnection object at 0x7f29d4081150>: Failed to establish a new connection: [Errno 24] Too many open files',))

分析

博主自己手上的一些小项目经常需要进行多线程的批量扫描来采集数据，像采集数据这种功能当然是线程越多越好了，所以通常情况下我都是使用 3000 个线程进行扫描，在确定带宽充足，系统硬件配置够高的情况下依然会出现上述问题，这就让我想到是不是因为系统的限制问题。

通过搜索引擎我找到了关于系统限制的介绍，执行

$ ulimit -n
1024

得到的结果是1024，系统限制为同时打开1024个文件，这显然是太少了。

解决

这个问题的解决方法很简单，直接修改下面的文件

sudo vim  /etc/security/limits.conf

* soft nofile 10240
* hard nofile 10240

参考

http://blog.csdn.net/fdipzone/article/details/34588803