用requests库和BeautifulSoup4库爬取新闻列表

1.用requests库和BeautifulSoup4库，爬取校园新闻列表的时间、标题、链接、来源、详细内容。

2.将其中的时间str转换成datetime类型。

3.将取得详细内容的代码包装成函数。

from bs4 import BeautifulSoup
url1='http://news.gzcc.cn/html/xiaoyuanxinwen/'
res=requests.get(url1)
res.encoding='utf-8'
soup=BeautifulSoup(res.text,'html.parser')
##print(res.text)
print("~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~")
for news in soup.select('li'):
    if len((news.select('.news-list-title')))>0:
        time=news.select('.news-list-info')[0].span.text#时间
        title=news.select('.news-list-title')[0].contents[0]#标题
        url=news.select('a')[0]['href']#链接
        source=news.select('.news-list-info')[0].select('span')[1].text
        print( "时间:",time,"\t标题:",title,"\t链接:",url,"来源:",source)