基于XML的Web信息抽取技术研究
随着Internet的快速发展,Web上的数据信息急剧增加,成为了世界上规模最大的公共数据资源,而信息展示网页是主要的展现媒介,大量Web信息是在信息展示页面中表现的,这些信息是用户感兴趣信息的主要来源,因此,研究如何对这类网页进行Web信息抽取有重大的意义。
HTML在展示数据方面十分成功,它着重于文本内容的表现而不是数据的描述,根据标签无法获得它们所包含的文本内容。XML是着重于数据描述的一个新的语言,易于对数据进行控制与操作,所以通过XML技术进行信息抽取具有很大的优势。而XHTML做为HTML与XML之间的桥梁,可以将HTML格式转换为符合XML技术标准的XHTML格式。
本文采用可扩展标记语言XML的相关技术来抽取信息展示网页中的信息。其解决方案是:首先,对获取的网页进行预处理,主要包括对HTML网页进行标签清洗,将清洗后HTML文档转换为XHTML文档,并解析XHTML文档生成DOM树;随后,通过改进基于XML的分块算法,采用DOM树节点赋权值方法进行主数据块的抽取,并形成数据记录;最后,基于XML行业词汇与文字数量特征对数据记录进行二次识别,最终抽取出信息展示页的主要内容。
本文对信息抽取的相关技术进行了研究,根据信息展示网页的特点确定了抽取信息的方法,最后建立了抽取的实验模型。在进行信息抽取时,由于抽取主数据块采用了合理的权值,所以很好的去掉噪音信息;同时还采用了二次识别权值的方法,精确的抽取出主要信息。试验结果表明,采用该方法在召回率和准确率上都得到了良好的效果。
- 作者:
- 范春晓
- 学位授予单位:
- 沈阳理工大学
- 专业名称:
- 计算机软件与理论
- 授予学位:
- 硕士
- 学位年度:
- 2010年
- 导师姓名:
- 和晓军
- 中图分类号:
- TP393.09;TP312
- 关键词:
- Web信息抽取;XML;数据描述;DOM树;节点赋权值
- Web Information Extraction;XML;Information Display Page;Weight Coefficient