把wikipedia中文数据库导入mysql

Wikidata 数据包下载+格式转换+入库MySQL 维基数据是一个自由的协作式的多语言辅助数据库,用于收集结构化的数据,旨在支援维基百科、维基共享资源以及其他维基媒体运动中的项目,也支援世界上的每一个人。 阅读详情
把wikipedia中文数据库导入mysql1.在官网上下最新版的page-article.xmlhttp://download.wikipedia.com/zhwiki/latest/zhwiki-latest-pages-articles.xml.bz22.在mysql中创建库和表(例如:wikipedia_zh_20121123)mysql> create database wikipedia_zh_20121123 DEFAULT CHARACTER SET utf8 COLLATE utf8_general_ci;Query OK, 1 row affected (0.00 sec)mysql> use wikipedia_zh_20121123Database changedmysql> CREATE TABLE page ( page_id int unsigned NOT NULL PRIMARY KEY AUTO_INCREMENT, page_namespace int NOT NULL, page_title varchar(255) binary NOT NULL, page_restrictions tinyblob NOT NULL, page_counter bigint unsigned NOT NULL default 0, page_is_redirect tinyint unsigned NOT NULL default 0, page_is_new tinyint unsigned NOT NULL default 0, page_random real unsigned NOT NULL, page_touched binary(14) NOT NULL default '', page_latest int unsigned NOT NULL, page_len int unsigned NOT NULL ) ENGINE=InnoDB DEFAULT CHARSET=utf8;Query OK, 0 rows affected (0.10 sec)mysql> CREATE TABLE revision ( rev_id int unsigned NOT NULL PRIMARY KEY AUTO_INCREMENT, rev_page int unsigned NOT NULL, rev_text_id int unsigned NOT NULL, rev_comment tinyblob NOT NULL, rev_user int unsigned NOT NULL default 0, rev_user_text varchar(255) binary NOT NULL default '', rev_timestamp binary(14) NOT NULL default '', rev_minor_edit tinyint unsigned NOT NULL default 0, rev_deleted tinyint unsigned NOT NULL default 0, rev_len int unsigned, rev_parent_id int unsigned default NULL, rev_sha1 varbinary(32) NOT NULL default '' ) ENGINE=InnoDB DEFAULT CHARSET=utf8 MAX_ROWS=10000000 AVG_ROW_LENGTH=1024;Query OK, 0 rows affected (0.09 sec)mysql> CREATE TABLE text ( old_id int unsigned NOT NULL PRIMARY KEY AUTO_INCREMENT, old_text mediumblob NOT NULL, old_flags tinyblob NOT NULL ) ENGINE=InnoDB DEFAULT CHARSET=utf8 MAX_ROWS=10000000 AVG_ROW_LENGTH=10240;Query OK, 0 rows affected (0.07 sec)mysql> ALTER TABLE revision MODIFY COLUMN rev_comment BLOB NOT null -> ;Query OK, 0 rows affected (0.20 sec)Records: 0 Duplicates: 0 Warnings: 0mysql> ALTER TABLE text DEFAULT CHARACTER SET BINARY;Query OK, 0 rows affected (0.17 sec)Records: 0 Duplicates: 0 Warnings: 0mysql> ALTER TABLE page DEFAULT CHARACTER SET BINARY; Query OK, 0 rows affected (0.18 sec)Records: 0 Duplicates: 0 Warnings: 0mysql> ALTER TABLE revision DEFAULT CHARACTER SET BINARY;Query OK, 0 rows affected (0.18 sec)Records: 0 Duplicates: 0 Warnings: 0 mwdumper修复了一个bug,但是第三方提供的mwdumper.jar没有及时更新,直接用jar包导入最新的wikipedia数据运行到一半就挂了,所以需要自己编译可以先用mwdumper.jar试试看,如果出错了再自行编译。3.下载mwdumper工程git clone https://gerrit.wikimedia.org/r/p/mediawiki/tools/mwdumper.git4.编译mwdumper:在mwdumper目录下mvn install5.用eclipse导入mwdumper工程,运行Dumper类run configuration:program argument:--output=mysql://localhost/wikipedia_zh_20121123?user=root&password=xxxx&characterEncoding=utf8 --format=sql:1.5 zhwiki-latest-pages-articles.xml.bz2vm argument:-Xms128m -Xmx1000
【项目部署篇】-从0搭建一套wiki知识库系统 因为 mm_wiki 内置了一个轻量级的 Web 服务器(Go HTTP Server),可以直接在其上运行,不需要额外安装和配置应用服务器软件。当你启动 mm_wiki 时,它会自动启动内置的 Web 服务器,并监听指定的端口,等待用户的访问请求。mm-wiki的安装是需要mysql数据库的,我们需要首先安装mysql-server。我们可以将mysql和mm-wiki安装在同一台。github的下载地址:https://github.com/phachon/mm-wiki/releases。 阅读详情

相关推荐

维基百科英文条目数据库

sqlserver2016数据库,兼容级别2008,只有一个表pageen 4600多万条记录 sqlserver2016数据库,兼容级别2008,只有一个表pageen 4600多万条记录

[转]维基百科数据导入

<br />本文来自:http://app.cnzer.cn/html-83146-1.html<br /> <br />两篇文章分别总结了各自的wikipedia数据导入过程,来不及学习,故先转载: <br /><br />   (一)wmdumper.jar <br /><br />   from: GipSky <br /><br />   本文试图总结架设Wikipedia镜像的过程。 <br /><br />   准备工作 <br /><br />   首先需要安装Mediawiki软

chjshan55的专栏 9474

KLayout教程(二)编辑不同的形状

首先画一个基础的矩形,然后双击他可以定义他的坐标

集成光电子 1万+

Python爬虫(3)——将维基百科词条导入MySQL

最近需要大量爬取数据,像之前那样存储在单个文件中已不合适,本文主要以维基百科为例,将爬取的词条数据导入到MySQL中。在用Python连接MySQL之前,需要先安装一个Python包pymsql。 在Anaconda中的安装过程如下图所示;1.Python连接MySQL数据库在正式开始之前,先介绍下Python连接MySQL的标准流程。在Python中将数据存储到MySQL的流程主要包括连接数据库

FlySky1991的专栏 1856

QT触摸屏开发:如何通过重写事件处理实现精准按键长按检测

本文针对QT触摸屏开发中按键长按检测不精准的常见问题,深入剖析了传统信号机制失效的原因,并提供了通过重写事件处理函数(event)的解决方案。文章详细介绍了创建自定义TouchButton类、直接处理QTouchEvent以实现可靠长按检测的完整步骤与代码示例,并分享了进阶优化与避坑指南,帮助开发者实现跨平台一致的精准交互。

weixin_29207149的博客 95

利用Sigrity的SPEED2000进行时域电源噪声分析

SPEED2000进行时域电源噪声分析

ZHENGSA的博客 3620

利用MySql数据库接受维基百科信息

from bs4 import BeautifulSoup from urllib import urlopen from bs4 import BeautifulSoup import re import datetime import random import pymysql conn = pymysql.connect(host='localhost',user='root...

lzh_86的博客 820

C# 进程间 双内存共享 高帧率图像传输

演示了两个进程之间通过 双内存共享 的方式, 来实时处理图像,并以高帧率(40~60FPS)传输的基本示例。 进程间内存共享的优点:高性能、低延迟、资源效率高、简单可靠。 适用场景:实时图像处理、大数据传输、多进程协作、实时监控系统,等等。

qianqiansd 1996

架设Wikipedia的本地镜像

本文试图总结架设Wikipedia镜像的过程。   准备工作 首先需要安装Mediawiki软件,以及Mediawiki所依赖的软件,Apache,Php5,Mysql等,这里就不详细讲解了。对于懒人,有两个选择: 第一是安装Debian[1],这样apt-get install mediawiki就可以完成软件的安装。 第二是下载VMWare Player[...

http://john2007.javaeye.com/ 2415

Unity调用手机摄像头避坑指南:从权限检测到自动对焦问题解决

本文深入解析了Unity移动端集成手机摄像头时遇到的权限、对焦与性能等核心难题。针对权限管理,提供了健壮的原生接口调用方案;针对自动对焦模糊问题,详细对比了原生插件与第三方插件两种解决路径;并分享了分辨率选择、数据处理及功耗控制等关键性能优化技巧,帮助开发者构建稳定高效的摄像头功能。

weixin_29007243的博客 472

LabView实现modbus通讯

labview实现modbus通讯

Lrj的博客 7663

架设Wikipedia的本地镜像(Linux联盟收集整理)

zengxianghu的专栏 4209

用Python爬虫抓取大宗交易成交数据:全面解析与实战代码

大宗交易是指在证券市场中,涉及大额买卖的交易。此类交易通常由机构投资者进行,其交易量较大,对市场的影响显著。大宗交易数据包含了买卖双方的成交价格、成交量等关键信息,这些数据对于投资者和分析师而言,具有重要的市场预测意义。Python爬虫是一种自动化抓取互联网上数据的工具。通过爬虫,我们可以定期获取大宗交易数据,节省人工查询的时间。爬虫的工作原理通常包括:发送HTTP请求、获取响应数据、解析网页内容、提取关键信息、存储和展示数据。

2201_76125261的博客 417

django mysql数据库配置以及管理界面提交中文错误解决

第一步:连接数据库 开发环境:ubuntu 修改settings.pyDATABASES = { 'default': { 'ENGINE': 'django.db.backends.mysql',   'NAME': 'blog',     'USER': 'root',

ruiyiin的专栏 7171

华为面试手撕真题【字符串压缩】

华为面试手撕真题【字符串压缩】

MISAYAONE的博客 1万+

Data-Structures-and-Algorithm-Analysis-in-Java.pdf

作者: Weiss, Mark A. 出版社: Addison Wesley Data Structures and Algorithm Analysis in Java is an “advanced algorithms” book that fits between traditional CS2 and Algorithms Analysis courses. In the old ACM Curriculum Guidelines, this course was known as CS7. This text is for readers who want to learn good programming and algorithm analysis skills simultaneously so that they can develop such programs with the maximum amo...

WikiPedia技术架构学习笔记

维基百科(Wikipedia)是一个基于Wiki技术的全球性多语言百科全书协作计划,同时也是一部在网际网路上呈现的网路百科全书,其目标及宗旨是为全人类提供自由的百科全书──用他们所选择的语言来书写而成的,是一个动态的、可自由和的全球知识体。 wikipedia在IT架构方面的经验,对于我们构建网站极有参考价值,因为wikipedia提供的这些信息非常详细和确凿。下面是我学习Wikipedia架构

我的Github 5928

汉书HE8,好用的汇编代码编写工具

汉书HE8,好用的汇编代码编写工具早期编写汇编代码所用功能强大

类似国外多语言wikipedia百度百科网站源码

这个程序代码,目前在国内还是比较少的,特别是类似国外多语言wikipedia百度百科网站源码的,之前有一个做百科系统的,不知道什么原因,后来不做了,不过那个界面也比较差一点,不说这么多了,说这个程序代码吧。 程序开发:PHP+MySQL 程序显示:简体中文 程序版权:开源代码 演示网站:baike.yetukeji.cn ...

网站开发专家 705

文档:亲测可用解决vnc灰屏,黑屏,鼠标大黑叉情况

主要解决vnc-viewer灰屏,黑屏,鼠标大黑叉等现象,详细见文档。

锂电池充电器电路设计 里面有电路

锂电池充电器电路设计 里面有电路 3.7V升压到5V电路设计。

django配置MySQL出错_Django MySQL数据库配置以及管理界面提交中文错误解决

第一步:连接数据库修改settings.pyDATABASES = {'default': {'ENGINE': 'django.db.backends.MySQL', 'NAME': 'blog', 'USER': 'root','PASSWORD': 'root','HOST': '127.0.0.1', 'P...

weixin_31833307的博客 109

使用JWPL来操作维基百科数据源

因为要做信息抽取,老师给的数据源是Wikipedia,所以需要去下载Wikipedia的数据源并将其保存为结构化数据便于操作。经过多方面的资料查找,总算成功,现在把过程以及各方面资料整理综合记录一下。 参考资源:1.https://blog.youkuaiyun.com/Icy233333/article/details/80383336 2.https://www.cnblogs.com/CherishF...

qq_39023569的博客 1549

wikipedia的mysql utf-8中文在.net中的处理

  使用Mysql.Net connector,而不是odbc或oledb进行数据库连接。即使用MySqlConnection, MySqlCommand等类。   然后每次连接数据库之后,先执行SQL:   set names 'utf8'   针对 varbinary类型的字段:   输入,     MySqlParameter param = new MySqlParameter("...

weixin_34267123的博客 113

mysql json 中文乱码_MySQL对JSON类型UTF-8编码导致中文乱码探讨

前言继上文发表之后,结合评论意见并亲自验证最终发现是编码的问题,但是对于字符编码还是有点不解,于是乎,有了本文,我们来学习字符编码,在学习的过程中,我发现对于MySQL中JSON类型的编码导致数据中文出现乱码还有可深挖之处,接下来我们来分析一下,若有错误之处,还请批评指出。字符编码评论中指出任何不在基本多文本平面的Unicode字符,都无法使用MySQL的utf8字符集存储,包括Emoji 表情(...

weixin_39521651的博客 463

wikipedia简易安装

mediawiki简易安装 wiki服务器安装前提条件apache+php+mysql 1、准备工作&gt;&gt;1、下载MediaWiki程序 wget 程序解压: http://nchc.dl.sourceforge.net/sourceforge/wikipedia/mediawiki-1.5.4.tar.gzLinux : tar -zxvf mediawiki-1.4.6.tar.gz...

编程资料大全 257

MySQL对JSON类型UTF-8编码导致中文乱码探讨

前言 继上文发表之后,结合评论意见并亲自验证最终发现是编码的问题,但是对于字符编码还是有点不解,于是乎,有了本文,我们来学习字符编码,在学习的过程中,我发现对于MySQL中JSON类型的编码导致数据中文出现乱码还有可深挖之处,接下来我们来分析一下,若有错误之处,还请批评指出。 字符编码 评论中指出任何不在基本多文本平面的Unicode字符,都无法使用MySQL的utf8字符集存储,包括E...

weixin_35736086的博客 1597
上一篇: 5 神经网络(PRML)
下一篇: Kali-linux安装之后的简单设置
大浪淘沙1
博客等级 码龄19年 42粉丝 38原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值