简单的Python爬虫应用_学习笔记001

从网站抓取标题及日期_005

import urllib
from bs4 import BeautifulSoup
url = "http://www.autohome.com.cn/list/c70-1.html"
def get_content_from_autohome(url_address):
    html = urllib.urlopen(url_address)
    content = html.read()
    html.close()
    soup = BeautifulSoup(content)   

找到唯一的ID标签,找到所有的文章标题

    all_title = soup.find_all('div', id = "ArticlesTitlesLeft")
    for t in all_title:
        print t.a['href'] //拿出所有文章链接
        print t.a.string //提取所有标题   

找到唯一的ID标签,找到所有的文章日期

    all_date = soup.find_all('div', id = "ArticlesTitlesRigth")
    for d in all_date:
        print d.get_text() //提取所有日期

列表推导式表达

    all_title = soup.find_all('div', id = "ArticlesTitlesLeft")
    all_date = soup.find_all('div', id = "ArticlesTitlesRigth")
    
    title_string = [t.a.string for t in all_title]
    date_string  = [d.get_text() for d in all_date]

组织成字典的形式

    all_info = zip(title_string, date_string)
    zip_to_dict = dict(all_info)
    return zip_to_dict
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 136,365评论 19 139
  • Android 自定义View的各种姿势1 Activity的显示之ViewRootImpl详解 Activity...
    passiontim阅读 177,843评论 25 709
  • 除了牙齿,每天必刷的还有朋友圈。 是的,刷朋友圈已经是每天必不可少的功课了,醒来第一件事,刷朋友圈然后刷牙。睡前最...
    新生的新生活阅读 211评论 0 0
  • 盛夏。 一个小娃子跟在爷爷后面,沿着山路边玩耍。 一只大个儿的蚂蚁走出蚁洞,闷头向前走。 小娃子一把抓住大蚂蚁,放...
    斑斓糖衣阅读 270评论 0 1

友情链接更多精彩内容