
精通Python系列
从零开始带你深入Python大数据分析与运维
冰 河
这个作者很懒,什么都没留下…
展开
-
域名还能绑定动态IP?看完又涨知识了!!
我用Python实现了域名绑定动态IP!!原创 2020-10-11 01:36:11 · 5985 阅读 · 0 评论 -
Kafka之——Python3.X执行Python编写的生产者和消费者报错
转载请注明出处:https://blog.csdn.net/l1028386804/article/details/98966741Python3.X执行Python编写的生产者和消费者报错,报错信息如下:Traceback (most recent call last): File "mykit_kafka_producer.py", line 9, in <module&g...原创 2019-08-09 16:51:18 · 4242 阅读 · 1 评论 -
Python之——爬取千千静听(百度音乐)歌曲
还是直接上代码吧:#!/usr/bin/env python# -*- coding: utf-8 -*-# -*- coding: gbk -*-# Date: 2019/7/15# Created by 冰河# Description # 博客 https://blog.csdn.net/l1028386804import requestsimport pprinti...原创 2019-10-23 13:48:14 · 2801 阅读 · 1 评论 -
Python之——pip is configured with locations that require TLS/SSL, however the ssl module in Python
转载请注明出处:https://blog.csdn.net/l1028386804/article/details/95938590问题:安装Python后,使用pip命令安装Python库,报错,如下:$ pip install numpypip is configured with locations that require TLS/SSL, however the ssl ...原创 2019-07-15 09:30:28 · 6567 阅读 · 0 评论 -
渗透之——MySQL暴力破解工具多线程版(基于Python语言编写)
转载请注明出处:https://blog.csdn.net/l1028386804/article/details/85566045今天是2019年元旦,首先祝大家元旦快乐,在这个喜庆的日子里,不知道大家有没有坚持研究自己所在领域的知识。其实,每项知识、技能的积累,需要的是日复一日的坚持,正所谓——持之以恒,贵在坚持,这样才能做到每天进步一点点。好了,步入正题,今天,闲来无事,基于Python...原创 2019-01-01 22:42:38 · 3635 阅读 · 0 评论 -
Python之——Requests入门
一、Requests基础API#HTTP请求类型#get类型r = requests.get('https://github.com/timeline.json')#post类型r = requests.post("http://m.ctrip.com/post")#put类型r = requests.put("http://m.ctrip.com/put")#delet...原创 2018-10-19 12:43:37 · 828 阅读 · 0 评论 -
Web前端之——Xpath高级用法
xpath速度比较快,是爬虫在网页定位中的较优选择,但是很多网页前端代码混乱难以定位,而学习定位也较为不易(主要是全面的教程较少),这里列出一点编程过程中可能有用的东西,欢迎共同学习批评指正。试验环境:Python环境,lxml.etree试验所使用的html代码<!DOCTYPE html><html><head> <title&g...转载 2018-10-14 23:33:35 · 1989 阅读 · 0 评论 -
python之——CentOS 6.5安装Python setuptools2.6
转载请注明出处:https://blog.csdn.net/l1028386804/article/details/79069295在 PyPI 可以找到 setuptools 的安装文档:http://pypi.python.org/pypi/setuptools下载setuptools-0.6c11-py2.6.egg也可以到链接:http://download.cs原创 2018-01-15 21:59:11 · 2567 阅读 · 0 评论 -
Python之——实现简单的爬虫功能(支持Post和Get请求)
转载请注明出处:https://blog.csdn.net/l1028386804/article/details/91511464废话不多说,直接上代码:#!/usr/bin/env python# -*- coding: utf-8 -*-# -*- coding: gbk -*-# Date: 2019/6/12# Created by 冰河# Description P...原创 2019-06-12 13:47:13 · 915 阅读 · 0 评论 -
Python之——打包工具pyinstaller的用法
转载请注明出处:https://blog.csdn.net/l1028386804/article/details/87877581pyinstaller是一个很好用的python打包工具,在Windows环境下可以将python脚本打包成一个exe可执行文件,并且脚本中所依赖的各种第三方库在打包时候都会被统一处理到一起,这样打包成的exe文件就可以在没有安装这些库的电脑上执行,甚至也可以在没...原创 2019-02-22 14:20:22 · 949 阅读 · 0 评论 -
Python之——python2.7 安装pycrypto库报错解决方案
使用pycharm时安装pycrypto库,一直安装不上,提示安装成功,退出去一看,依旧没有最后选择了pip安装,但一直报错(Microsoft Visual C++ 9.0 is required (Unable to find vcvarsall.bat)),一直反复报,跟着网上的教程改路径,配置文件,下个vs 9.0一堆插件不说,还不好使,。。。,如何你的电脑已经安装了visua...转载 2019-02-11 17:03:58 · 3857 阅读 · 0 评论 -
Python之——Python version X.X required, which was not found 注册表问题解决方法
转载请注明出处:https://blog.csdn.net/l1028386804/article/details/86984920这里以Python2.7为例。最近在windows下用exe文件安装python中的numpy,scipy等模块时经常会发现跳出以上的问题,解决方法网上有很多,可行的并不多。这里我采取直接修改注册表键值的方法:1. 打开注册表:win+R调出运行模...原创 2019-02-11 11:31:00 · 842 阅读 · 1 评论 -
Python之——CentOS 6.8上安装Python 2.7.12
转载请注明出处:https://blog.csdn.net/l1028386804/article/details/83279018CentOS 6.8自带的是Python 2.6.6,yum中最新的也是Python 2.6.6,只能下载Python 2.7.12的源代码自己编译安装。操作步骤如下:1)安装Development toolsyum groupinstall "Dev...原创 2018-10-22 21:14:16 · 1379 阅读 · 0 评论 -
Python之——获取电脑连接过的所有wifi名称和密码
转载请注明出处:https://blog.csdn.net/l1028386804/article/details/83277219不多说,上代码:# -*- coding: UTF-8 -*-import osimport sysreload(sys)sys.setdefaultencoding('utf-8')# 定义一个函数checkWIFI,获取电脑连接过的所有w...原创 2018-10-22 19:01:38 · 3590 阅读 · 4 评论 -
Python之——解决Kali安装python-dev时依赖出错的问题
转载请注明出处:https://blog.csdn.net/l1028386804/article/details/83120113一、问题现象在Kali下写python代码的时候,有时会需要安装一些第三方的库,安装的时候提示:SystemError: Cannot compile 'Python.h'. Perhaps you need to install python-dev....原创 2018-10-18 00:10:32 · 5793 阅读 · 1 评论 -
Python之——网络编程
转载请注明出处:https://blog.csdn.net/l1028386804/article/details/83046191一、C/S架构客户端/服务端架构二、OSI七层架构七层模型,亦称OSI(Open System Interconnection)参考模型,是参考模型是国际标准化组织(ISO)制定的一个用于计算机或通信系统间互联的标准体系。它是一个七层的、抽象的模型体,...原创 2018-10-14 12:47:29 · 1147 阅读 · 0 评论 -
Python之——Socket类型与函数说明
转载请注明出处:https://blog.csdn.net/l1028386804/article/details/83045857Python 提供了两个基本的 socket 模块。第一个是 Socket,它提供了标准的 BSD Sockets API。 第二个是 SocketServer, 它提供了服务器中心类,可以简化网络服务器的开发。下面讲的是Socket模块功能1、Soc...原创 2018-10-14 11:52:31 · 1732 阅读 · 0 评论 -
Python之——分布式进程
转载请注明出处:https://blog.csdn.net/l1028386804/article/details/83045503分布式进程是指将Process进程分布到多台机器上,充分利用多台机器的性能完成复杂的任务。分布式进程在Python中依然要用到的multiprocessing模块。multiprocessing模块不但支持多进程,其中managers子模块还支持把多进程分不到多...原创 2018-10-14 11:13:41 · 2078 阅读 · 0 评论 -
Python之——协程
转载请注明出处:https://blog.csdn.net/l1028386804/article/details/83042357协程(coroutine),又称微线程,是一种用户级的轻量级线程。协程拥有自己的寄存器上下文和栈。协程调度切换时,将寄存器上下文和栈保存到其他地方,在切回来的时候,恢复先前保存的寄存器上下文和栈。因此协程保留上一次调用时的状态,每次过程重入时,就相当于进入上一次调...原创 2018-10-13 21:24:35 · 688 阅读 · 0 评论 -
Python之——Python中的多进程和多线程
转载请注明出处:https://blog.csdn.net/l1028386804/article/details/83042246一、多进程Python实现对进程的方式主要有两种,一种方法是使用os模块中的fork方法,另一种方法是使用multiprocessing模块。区别在于:前者仅适用于Unix/Linux操作系统,对Windows不支持,后者则是跨平台的实现方式。1、使用os...原创 2018-10-13 21:19:42 · 886 阅读 · 1 评论 -
Python之——IO编程
转载请注明出处:https://blog.csdn.net/l1028386804/article/details/830416031、操作文件和目录 在Python中对文件和目录的操作经常用到os模块和shutil模块。 获得当前Python脚本工作的目录路径:os.getcwd() 返回指定目录下的所有文件和目录名:os.listdir()。例如:返回C盘下的...原创 2018-10-13 20:02:33 · 891 阅读 · 0 评论 -
Python之——Python之生成并解析电子邮件
转载请注明出处:https://blog.csdn.net/l1028386804/article/details/79972801一、生成电子邮件示例中有两个创建电子邮件消息的示例,即 make_mpa_msg()和 make_img_msg(),两者都创建了一条带有附件的电子邮件消息。前者创建并发送了一条多部分消息,后者创建并发送了一条电子邮件消息,其中含有一幅图片。示例代码后面是逐行解释。具...原创 2018-04-17 12:03:09 · 5925 阅读 · 0 评论 -
Python之——基于twisted实现TCP编程
转载请注明出处:https://blog.csdn.net/l1028386804/article/details/799653501、服务端# -*- coding:UTF-8 -*-'''Created on 2018年4月16日@author: liuyazhuang'''from twisted.internet import protocol, reactorfrom ti...原创 2018-04-16 19:51:11 · 3279 阅读 · 1 评论 -
Python之——Undefined variable from import: listenTCP
转载请注明出处:https://blog.csdn.net/l1028386804/article/details/79961668最近基于eclipse+pydev使用twisted时,出现了“Undefined variable from import: listenTCP”的错误提示,但是代码是可以正确运行的,具体问题如下:问题:reactor.listenTCP(8080, ChatFac...原创 2018-04-16 15:51:24 · 1540 阅读 · 0 评论 -
Python之——Socket编程
转载请注明出处:https://blog.csdn.net/l1028386804/article/details/79959156今天,就给大家带来一篇利用Python3.6实现的Socket编程,这里列举一个TCP实例和UDP实例,同时,利用encode()和decode()对网络消息进行编码和解码操作。实例说明:TCP实例和UDP实例实现的功能均如下:1)客户端对发送的消息进行编码(enco...原创 2018-04-16 12:58:46 · 1225 阅读 · 0 评论 -
Python之——Python 3.6 Socket TypeError: a bytes-like object is required, not 'str' 错误提示
转载请注明出处:https://blog.csdn.net/l1028386804/article/details/79957607最近,在做Python套接字编程时,在Python2.7上的功能,迁移到Python3.6上,尼玛,各种发送、接收数据问题,查了相关的文档后,发现,Python3.6和Python2.7在套接字编程方便是有区别的,尼玛,好坑啊!特此记录,以查备忘。发现这里python...原创 2018-04-16 10:52:44 · 6890 阅读 · 2 评论 -
Python之——实现自动抢火车票(基于Python3.6+splinter)
转载请注明出处:https://blog.csdn.net/l1028386804/article/details/79134306splinter使用首先介绍一下splinter使用:plinter.brower是一个开源工具,通过Python自动化测试web,通过电脑自动操作网页。Splinter模块是python egg,下载当然很简单,安装: pip install原创 2018-01-22 22:17:52 · 7890 阅读 · 4 评论 -
Python之——/usr/bin/python^M: bad interpreter: No such file or directory
转载请注明出处:https://blog.csdn.net/l1028386804/article/details/79055410在windows系统下写的python脚本,在linux下赋予权限chmod +x xxx.py 以后,执行./xxx.py运行提示:bash: /usr/bin/autocrorder: /usr/bin/python^M: bad interpreter原创 2018-01-14 10:59:42 · 6989 阅读 · 0 评论 -
Python之——使用原生Python编写Hadoop MapReduce程序(基于Hadoop 2.5.2)
转载请注明出处:https://blog.csdn.net/l1028386804/article/details/79055459一、简单说明本例中我们实现一个统计文本文件中所有单词出现的词频功能,这里我们使用原生的Python来编写MapReduce。同时,本例中我们将要输入的单词文本input.txt和Python脚本放到/usr/local/python/source目录下。文本原创 2018-01-14 11:49:16 · 8417 阅读 · 0 评论 -
Python之——用Mrjob框架编写Hadoop MapReduce程序(基于Hadoop 2.5.2)
转载请注明出处:https://blog.csdn.net/l1028386804/article/details/79056120一、环境准备想了解如何使用原生Python编写MapReduce程序或者如何搭建Hadoop环境请参考博文《Python之——使用原生Python编写Hadoop MapReduce程序(基于Hadoop 2.5.2) 》的内容Mrjob(http:原创 2018-01-14 14:15:18 · 4808 阅读 · 0 评论 -
Python之——自动上传本地log文件到HDFS(基于Hadoop 2.5.2)
转载请注明出处:https://blog.csdn.net/l1028386804/article/details/79056674一、场景描述比如我们的网站共有5台Web设备,日志文件存放在/data/logs/日期(20180114)/access.log。日志为默认的Nginx定义格式,如下所示:10.2.2.234 - - [12/Jan/2018:08:36:23 +0800...原创 2018-01-14 15:10:22 · 3956 阅读 · 1 评论 -
Python之——网站访问流量统计
转载请注明出处:https://blog.csdn.net/l1028386804/article/details/79056976一、场景描述数据源准备工作详见博文《Python之——自动上传本地log文件到HDFS(基于Hadoop 2.5.2)》。网站访问流量作为衡量一个站点的价值、热度的重要标准,另外,在CDN服务中心流量会涉及计费,如何快速准确分析当前站点的流量数据至关重要原创 2018-01-14 15:56:30 · 7454 阅读 · 0 评论 -
Python之——网站HTTP状态码统计
转载请注明出处:https://blog.csdn.net/l1028386804/article/details/79057362一、场景描述数据源准备工作详见博文《Python之——自动上传本地log文件到HDFS(基于Hadoop 2.5.2)》。统计一个网站的HTTP状态码比例数据,可以帮助我们了解网站的可用度及健康状态,比如我们关注的200、404、5xx状态等。在此示例中原创 2018-01-14 16:36:13 · 1529 阅读 · 0 评论 -
Python之——网站分钟级请求数统计
转载请注明出处:https://blog.csdn.net/l1028386804/article/details/79057521一、场景描述数据源准备工作详见博文《Python之——自动上传本地log文件到HDFS(基于Hadoop 2.5.2)》。一个网站的请求量大小,直接关系到网站的访问质量,有必要对该数据进行分析且关注,本实例一分钟为单位对网站的访问数进行统计。二、原创 2018-01-14 16:59:29 · 2226 阅读 · 0 评论 -
Python之——网站访问来源IP统计
转载请注明出处:https://blog.csdn.net/l1028386804/article/details/79057671一、场景描述数据源准备工作详见博文《Python之——自动上传本地log文件到HDFS(基于Hadoop 2.5.2)》。统计用户的访问来源IP可以更好的了解用户的分布,同时也可以帮助安全人员捕捉攻击来源。实现的原理是:定义匹配IP正则,将匹配到的字原创 2018-01-14 17:20:43 · 3185 阅读 · 0 评论 -
Python之——网站文件或接口访问统计
转载请注明出处:https://blog.csdn.net/l1028386804/article/details/79057819一、场景描述数据源准备工作详见博文《Python之——自动上传本地log文件到HDFS(基于Hadoop 2.5.2)》。通过统计网站文件的访问次数可以帮助运维人员了解访问最集中的文件,以便进行有针对性的优化,比如调整静态文件过期策略,优化cgi的执原创 2018-01-14 17:50:37 · 2378 阅读 · 0 评论 -
Python之——Saltstack的安装
转载请注明出处:https://blog.csdn.net/l1028386804/article/details/79051200一、服务器规划二、安装EPEL目前,RHEL官网yum源还没有Saltstack的安装包支持,因此先安装EPEL作为部署Saltstack的默认yum源。RHEL(CentOS 5)版本:rpm -Uvh下载地址为:http://mirror.p原创 2018-01-13 14:51:12 · 2410 阅读 · 0 评论 -
Python之——Func的安装
转载请注明出处:https://blog.csdn.net/l1028386804/article/details/79051930一、服务器规划二、安装Func1、主控端服务器安装主控端部署在主机liuyazhuang121上,用过yum方式安装,如下:# yum install func -y# /sbin/chkconfig --level 345 cer原创 2018-01-13 16:32:09 · 2421 阅读 · 0 评论 -
Python之——集中化管理平台Ansible环境的安装
转载请注明出处:https://blog.csdn.net/l1028386804/article/details/79049837一、服务器规划二、环境安装1、安装EPEL由于目前RHEL官网的yum源还没有得到Ansible的安装包支持,因此先安装EPEL作为部署Ansible的默认yum源。rpm -Uvh http://ftp.linux.ncsu.edu原创 2018-01-13 10:37:35 · 1810 阅读 · 0 评论 -
Python之——Ansible常用模块及API
转载请注明出处:https://blog.csdn.net/l1028386804/article/details/79050132一、远程命令模块1、功能模块包括command、script、shell,都可以实现远程shell命令运行。command:作为Ansible的默认模块,可以运行远程权限范围所有的shell命令;script: 在远程主机执行主控端存储的shel原创 2018-01-13 11:15:23 · 6082 阅读 · 2 评论