目录
- Retrieving Data over HTTP
- Retrieving Data with urllib
- Retrieving Data from XML
- Retrieving Data from JSON
Retrieving Data over HTTP
Python 内置了 sockets 可以实现与网络连接并通过 Python 提取数据的功能。
socket 是可以提供双向连接的，我们可以对同一个 socket 进行读写操作。比方说，A 对 socket 写入信息，并且将其发送给 socket 连接另一端 B；那么 B 读取 socket 的内容就可以得到 A 的信息。但是这样会有一个问题，比如说， A端并没有发送任何信息，而 B 端一直在尝试读取 socket 的内容，那么 A 端和 B 端只能陷入漫长的等待。所以就引入了通信协议。协议通过规定谁先发送，谁后响应等来规避上述的问题。
import socket
mysock = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
mysock.connect(('fakeserver.com', 80)) # connect to server
cmd = 'GET http://fakeserver.com/fake.txt HTTP/1.0\r\n\r\n'.encode()
# send GET command followed by a blank line
mysock.send(cmd)
while True: # receive data and print out
data = mysock.recv(512)
if (len(data) 1):
break
print(data.decode())
mysock.close()
Retrieving Data with urllib
利用 socket 我们可以与网站服务器，邮件服务器等建立连接。但是在建立连接之前，我们需要查询文档了解通信协议，然后根据协议编写程序。所以相较于 socket 这种黑魔法，我们可以利用更为简单的 Python Package。
利用 urllib.urlopen() 打开网页后，我们就可以读取数据，像读取本地文件一样。
import urllib.request
fhand = urllib.request.urlopen('http://fakeserver.com/fake.txt')
for line in fhand:
#convert UTF-8 to unicode string and print out
print(line.decode().strip())
因为 urllib 使用简洁方便，所以也常用与网络爬虫。网络爬虫除了要网页读取数据以外还需要在 HTML 格式中解释出可用数据，所以除了 urllib 还有另一常用利器就是 BeautifulSoup。
import urllib.request, urllib.parse, urllib.error
from bs4 import BeautifulSoup
import ssl
# Ignore SSL certificate errors
ctx = ssl.create_default_context()
ctx.check_hostname = False
ctx.verify_mode = ssl.CERT_NONE
html = urllib.request.urlopen('http://fakeserver.com/fake.html', context=ctx).read()
soup = BeautifulSoup(html, 'html.parser')
tags = soup('a')
# Retrieve all of the anchor tags
for tag in tags:
print(tag.get('href', None))
Retrieving Data from XML
在网络交换数据，我们常用的格式有两种，一是 XML; 二是 JSON。
XML 长得就像是 HTML 的近亲，可以看做是树的一种。利用 Python Package ElementTree 我们可以将 XML 文件转换为树，这样可以方便我们后续提取有效的数据。
import xml.etree.ElementTree as ET
data = '''
person>
name>Jack/name>
phone>+123456789/phone>
email office="yes"/>
/person>
'''
tree = ET.fromstring(data) # convert xml into a tree
print('Name:', tree.find('name').text)
print('Attr:', tree.find('email').get('office'))
Retrieving Data from JSON
JSON 结构相较于 XML 来说更为简单，所以他的功能就没有那么强大。但是 JSON 有一个优势就是可以直接映射到 Python 的 dictionaries 和 lists 中，非常实用。
我们可以直接利用 Python Package json 来解释 JSON。
import json
data = '''
{
"name" : "Jack",
"phone" : {
"type" : "intl",
"number" : "+123456789"
},
"email" : {
"office" : "yes"
}
}
'''
info = json.loads(data) # convert json into a dictianary
print('Name:', info['name'])
print('Attr:', info['email']['office'])
作者：Yuki
出处：https://www.cnblogs.com/yukiwu/
以上就是python如何获取网络数据的详细内容，更多关于python获取网络数据的资料请关注脚本之家其它相关文章！
您可能感兴趣的文章:- Python udp网络程序实现发送、接收数据功能示例
- Python大数据之网络爬虫的post请求、get请求区别实例分析
- Python 网络编程之UDP发送接收数据功能示例【基于socket套接字】
- 详解Python3网络爬虫(二)：利用urllib.urlopen向有道翻译发送数据获得翻译结果
- Python下载网络文本数据到本地内存的四种实现方法示例
- Python爬虫实例_城市公交网络站点数据的爬取方法
- python网络编程调用recv函数完整接收数据的三种方法
- python网络编程之数据传输UDP实例分析
- python网络编程学习笔记(九)：数据库客户端 DB-API
