博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
requests bs4 datetime re json
阅读量:6672 次
发布时间:2019-06-25

本文共 2109 字,大约阅读时间需要 7 分钟。

 
import reimport jsonimport requestsfrom bs4 import BeautifulSoupfrom datetime import datetimeurl='https://news.qq.com/a/20180520/008334.htm'fuck={}res=requests.get(url)soup = BeautifulSoup(res.text, 'html.parser')res.encoding='utf-8'fuck['title']=soup.select('.hd h1')[0].textfuck['editor']=soup.select('#QQeditor')[0].textfuck['origin']=soup.select('.a_source')[0].textfuck['time']=soup.select('.a_time')[0].text#timesource = soup.select('.time-source')[0].contents[0].strip()#time1=soup.select('.a_time')[0].contents[0].strip()#fuck['dt'] = datetime.strptime(time1,'%Y年%m月%d日%H:%M')fuck['article']='@'.join([p.text.strip() for p in soup.select('#Cnt-Main-Article-QQ p')[:]])#到哪一步fuck
 

 

#原来的一个案例 2016 import requestsfrom bs4 import BeautifulSoupfrom datetime import datetimeimport reimport jsoncommenturl = 'http://comment5.news.sina.com.cn/page/info?version=1&format=js&channel=gn&newsid=comos-{}&\group=&compress=0&ie=utf-8&oe=utf-8&page=1&\page_size=20' def getCommentCounts(newsurl):    m = re.search('doc-i(.*).shtml', newsurl)    newsid = m.group(1)    comments = requests.get(commenturl.format(newsid))    print(commenturl.format(newsid))    jd = json.loads(comments.text.strip('var data='))    return jd['result']['count']['total']def getNewsDetail(newsurl):    result = {}    res = requests.get(newsurl)    res.encoding = 'utf-8'    soup = BeautifulSoup(res.text, 'html.parser')    result['title'] = soup.select('#artibodyTitle')[0].text    result['newssource'] = soup.select('.time-source span a')[0].text    timesource = soup.select('.time-source')[0].contents[0].strip()    result['dt'] = datetime.strptime(timesource,'%Y年%m月%d日%H:%M')    result['article'] = '@'.join([p.text.strip() for p in soup.select('#artibody p')[:-1]])    result['editor'] = soup.select('.article-editor')[0].text.strip('责任编辑:')    result['comments'] = getCommentCounts(newsurl)    return resultnewsurl = 'http://news.sina.com.cn/c/nd/2016-12-18/doc-ifxytqax6457791.shtml' #只要这条代码中的newsurl具体赋值就可以了print(getNewsDetail(newsurl))

 

posted on
2018-05-20 17:47 阅读(
...) 评论(
...)

转载于:https://www.cnblogs.com/leolaosao/p/9064013.html

你可能感兴趣的文章
Essential Grid for WPF
查看>>
python实现一个简单的dnspod api
查看>>
我是在工作?学习?混日子?
查看>>
内存管理初级基础--代码
查看>>
关于Android Force Close 出现的原因 以及解决方法
查看>>
linux tar、find命令运维实践
查看>>
查询oracle数据库编码
查看>>
分发系统-expect-批量同步文件、批量执行命令
查看>>
activiti相关配置
查看>>
poj(1458)(最长公共子序列)
查看>>
virtualbox增加硬盘
查看>>
Exchange 2010邮件收发信大小限制
查看>>
js闭包浅了解
查看>>
解决"win8"无法使用内置管理员账户打开
查看>>
ProxmoxVE 之 创建win10基础镜像模板
查看>>
yum
查看>>
JQuery 级联(ul仿select级联)
查看>>
Delphi 2009 中 TStrings 与 TStream 的增强
查看>>
JSON 之 SuperObject(9): TSuperType
查看>>
Java反射机制
查看>>