MySQL中使用LOAD命令快速导入数据mysql中load

一、MySQL中使用LOAD命令快速导入数据mysql中load

1、MySQL中使用LOAD命令快速导入数据

2、在数据库管理中，数据的导入是一项重要的工作，有时候手动导入数据会非常麻烦，而MySQL提供了LOAD命令来快速导入数据，生成一条条SQL实现快速导入的目的。

3、LOAD DATA [LOW_PRIORITY| CONCURRENT] [LOCAL] INFILE‘filename’

4、[TERMINATED BY‘string’]

5、[[OPTIONALLY] ENCLOSED BY‘char’]

6、[ESCAPED BY‘char’]

7、[STARTING BY‘string’]

8、[TERMINATED BY‘string’]

9、[(col_name_or_user_var,…)]

10、其中，LOAD DATA是命令名称，LOW_PRIORITY表示限制LOAD的优先级，CONCURRENT表示追加数据时进行并发操作而不是一次性操作。LOCAL表示从客户端的文件系统中读取文件。REPLACE、IGNORE指定了具体的导入方式，REPLACE表示如果存在相同记录，则覆盖，否则插入，而IGNORE表示如果出现同名的记录，会忽略掉。INTO TABLE指定导入的目标表名。

11、在FIELDS和COLUMNS之后，分别是各个字段的分隔符和边界符。在LINES之后设置为行分隔符和行首字符。如果想跳过几行，可以使用IGNORE number LINES来忽略一定数量的行。

12、在设置了表和字段分隔符之后，可以通过(col_name_or_user_var,…)来指定应该将哪些列插入，可以使用SET col_name= expr语法来插入计算字段。

13、假设我们有一个student表，有三个字段：id、name、age。并且我们有一个名为students.txt的文件，它包含了要插入到student表中的数据（tab分隔符）：

14、我们可以使用以下命令来把students.txt数据导入到student表：

15、LOAD DATA LOCAL INFILE‘students.txt’ INTO TABLE student

16、FIELDS TERMINATED BY‘\t’ LINES TERMINATED BY‘\n’

17、当然，如果students.txt的分隔符是逗号分隔符，那么应该使用FIELDS TERMINATED BY‘,’。如果行分隔符是\r\n而不是\n，应该使用LINES TERMINATED BY‘\r\n’。

18、使用LOAD命令时，需要将数据放在MySQL server machine的本地磁盘中。如果需要导入非常大的数据集，LOAD命令会变得非常慢，因为它会一行一行地插入，而使用LOAD LOCAL命令则可以直接跳过服务器磁盘上的所有数据，直接读取客户端本地磁盘上的数据，这样可以大大提高导入速度。

19、LOAD命令是MySQL中一个非常有用的工具，可以快速地将数据导入到数据库中。它允许用户对具体的导入方式、目标表和字段进行指定，并且支持跳过行。在我们处理大量数据时，使用LOAD LOCAL可以大大缩短导入时间。

二、mysql 如何备份和还原数据库

目前 MySQL支持的免费备份工具有：mysqldump、mysqlhotcopy，还可以用 SQL语法进行备份：BACKUP TABLE或者 SELECT INTO OUTFILE，又或者备份二进制日志（binlog），还可以是直接拷贝数据文件和相关的配置文件。MyISAM表是保存成文件的形式，因此相对比较容易备份，上面提到的几种方法都可以使用。Innodb所有的表都保存在同一个数据文件 ibdata1中（也可能是多个文件，或者是独立的表空间文件），相对来说比较不好备份，免费的方案可以是拷贝数据文件、备份 binlog，或者用 mysqldump。

mysqldump是采用SQL级别的备份机制，它将数据表导成 SQL脚本文件，在不同的 MySQL版本之间升级时相对比较合适，这也是最常用的备份方法。现在来讲一下 mysqldump的一些主要参数：

它告诉 mysqldump，导出的数据将和哪种数据库或哪个旧版本的 MySQL服务器相兼容。值可以为 ansi、mysql323、mysql40、postgresql、oracle、mssql、db2、maxdb、no_key_options、no_tables_options、no_field_options等，要使用几个值，用逗号将它们隔开。当然了，它并不保证能完全兼容，而是尽量兼容。

导出的数据采用包含字段名的完整 INSERT方式，也就是把所有的值都写在一行。这么做能提高插入效率，但是可能会受到 max_allowed_packet参数的影响而导致插入失败。因此，需要谨慎使用该参数，至少我不推荐。

•--default-character-set=charset

指定导出数据时采用何种字符集，如果数据表不是采用默认的 latin1字符集的话，那么导出时必须指定该选项，否则再次导入数据后将产生乱码问题。

告诉 mysqldump在 INSERT语句的开头和结尾增加/*!40000 ALTER TABLE table DISABLE KEYS*/;和/*!40000 ALTER TABLE table ENABLE KEYS*/;语句，这能大大提高插入语句的速度，因为它是在插入完所有数据后才重建索引的。该选项只适合 MyISAM表。

•--extended-insert= true|false

默认情况下，mysqldump开启--complete-insert模式，因此不想用它的的话，就使用本选项，设定它的值为 false即可。

使用十六进制格式导出二进制字符串字段。如果有二进制数据就必须使用本选项。影响到的字段类型有 BINARY、VARBINARY、BLOB。

在开始导出之前，提交请求锁定所有数据库中的所有表，以保证数据的一致性。这是一个全局读锁，并且自动关闭--single-transaction和--lock-tables选项。

它和--lock-all-tables类似，不过是锁定当前导出的数据表，而不是一下子锁定全部库下的表。本选项只适用于 MyISAM表，如果是 Innodb表可以用--single-transaction选项。

只导出数据，而不添加 CREATE TABLE语句。

不导出任何数据，只导出数据库表结构。

这只是一个快捷选项，等同于同时添加--add-drop-tables--add-locking--create-option--disable-keys--extended-insert--lock-tables--quick--set-charset选项。本选项能让 mysqldump很快的导出数据，并且导出的数据能很快导回。该选项默认开启，但可以用--skip-opt禁用。注意，如果运行 mysqldump没有指定--quick或--opt选项，则会将整个结果集放在内存中。如果导出大数据库的话可能会出现问题。

该选项在导出大表时很有用，它强制 mysqldump从服务器查询取得记录直接输出而不是取得所有记录后将它们缓存到内存中。

该选项在导出数据之前提交一个 BEGIN SQL语句，BEGIN不会阻塞任何应用程序且能保证导出时数据库的一致性状态。它只适用于事务表，例如 InnoDB和 BDB。本选项和--lock-tables选项是互斥的，因为 LOCK TABLES会使任何挂起的事务隐含提交。要想导出大表的话，应结合使用--quick选项。

同时导出触发器。该选项默认启用，用--skip-triggers禁用它。

其他参数详情请参考手册，我通常使用以下 SQL来备份 MyISAM表：

/usr/local/mysql/bin/mysqldump-uyejr-pyejr--default-character-set=utf8--opt--extended-insert=false\

--triggers-R--hex-blob-x db_name> db_name.sql

/usr/local/mysql/bin/mysqldump-uyejr-pyejr--default-character-set=utf8--opt--extended-insert=false\

--triggers-R--hex-blob--single-transaction db_name> db_name.sql

用 mysqldump备份出来的文件是一个可以直接倒入的 SQL脚本，有两种方法可以将数据导入。

/usr/local/mysql/bin/mysql-uyejr-pyejr db_name< db_name.sql

其实这不是标准的 SQL语法，而是 mysql客户端提供的功能，例如：

这里需要指定文件的绝对路径，并且必须是 mysqld运行用户(例如 nobody)有权限读取的文件。

mysqlhotcopy是一个 PERL程序，最初由Tim Bunce编写。它使用 LOCK TABLES、FLUSH TABLES和 cp或 scp来快速备份数据库。它是备份数据库或单个表的最快的途径，但它只能运行在数据库文件（包括数据表定义文件、数据文件、索引文件）所在的机器上。mysqlhotcopy只能用于备份 MyISAM，并且只能运行在类Unix和 NetWare系统上。

mysqlhotcopy支持一次性拷贝多个数据库，同时还支持正则表达。以下是几个例子：

root#/usr/local/mysql/bin/mysqlhotcopy-h=localhost-u=yejr-p=yejr db_name/tmp(把数据库目录 db_name拷贝到/tmp下)

root#/usr/local/mysql/bin/mysqlhotcopy-h=localhost-u=yejr-p=yejr db_name_1... db_name_n/tmp

root#/usr/local/mysql/bin/mysqlhotcopy-h=localhost-u=yejr-p=yejr db_name./regex//tmp

更详细的使用方法请查看手册，或者调用下面的命令来查看 mysqlhotcopy的帮助：

perldoc/usr/local/mysql/bin/mysqlhotcopy

注意，想要使用 mysqlhotcopy，必须要有 SELECT、RELOAD(要执行 FLUSH TABLES)权限，并且还必须要能够有读取 datadir/db_name目录的权限。

mysqlhotcopy备份出来的是整个数据库目录，使用时可以直接拷贝到 mysqld指定的 datadir(在这里是/usr/local/mysql/data/)目录下即可，同时要注意权限的问题，如下例：

root#cp-rf db_name/usr/local/mysql/data/

root#chown-R nobody:nobody/usr/local/mysql/data/(将 db_name目录的属主改成 mysqld运行用户)

BACKUP TABLE语法其实和 mysqlhotcopy的工作原理差不多，都是锁表，然后拷贝数据文件。它能实现在线备份，但是效果不理想，因此不推荐使用。它只拷贝表结构文件和数据文件，不同时拷贝索引文件，因此恢复时比较慢。例子：

BACK TABLE tbl_name TO'/tmp/db_name/';

注意，必须要有 FILE权限才能执行本SQL，并且目录/tmp/db_name/必须能被 mysqld用户可写，导出的文件不能覆盖已经存在的文件，以避免安全问题。

SELECT INTO OUTFILE则是把数据导出来成为普通的文本文件，可以自定义字段间隔的方式，方便处理这些数据。例子：

SELECT INTO OUTFILE'/tmp/db_name/tbl_name.txt' FROM tbl_name;

注意，必须要有 FILE权限才能执行本SQL，并且文件/tmp/db_name/tbl_name.txt必须能被 mysqld用户可写，导出的文件不能覆盖已经存在的文件，以避免安全问题。

用 BACKUP TABLE方法备份出来的文件，可以运行 RESTORE TABLE语句来恢复数据表。例子：

RESTORE TABLE FROM'/tmp/db_name/';

用 SELECT INTO OUTFILE方法备份出来的文件，可以运行 LOAD DATA INFILE语句来恢复数据表。例子：

LOAD DATA INFILE'/tmp/db_name/tbl_name.txt' INTO TABLE tbl_name;

权限要求类似上面所述。倒入数据之前，数据表要已经存在才行。如果担心数据会发生重复，可以增加 REPLACE关键字来替换已有记录或者用 IGNORE关键字来忽略他们。

shell> mysqldump--quick db_name| gzip> db_name.contents.gz(该例子中创建的文件是压缩格式）。

shell> gunzip< db_name.contents.gz| mysql db_name以上命令,适用于*nix操作系统的机器

采用 binlog的方法相对来说更灵活，省心省力，而且还可以支持增量备份。

启用 binlog时必须要重启 mysqld。首先，关闭 mysqld，打开 my.cnf，加入以下几行：

然后启动 mysqld就可以了。运行过程中会产生 binlog.000001以及 binlog.index，前面的文件是 mysqld记录所有对数据的更新操作，后面的文件则是所有 binlog的索引，都不能轻易删除。关于 binlog的信息请查看手册。

需要备份时，可以先执行一下 SQL语句，让 mysqld终止对当前 binlog的写入，就可以把文件直接备份，这样的话就能达到增量备份的目的了：

FLUSH LOGS;如果是备份复制系统中的从服务器，还应该备份 master.info和 relay-log.info文件。

备份出来的 binlog文件可以用 MySQL提供的工具 mysqlbinlog来查看，如：

/usr/local/mysql/bin/mysqlbinlog/tmp/binlog.000001

该工具允许你显示指定的数据库下的所有 SQL语句，并且还可以限定时间范围，相当的方便，详细的请查看手册。

恢复时，可以采用类似以下语句来做到：

/usr/local/mysql/bin/mysqlbinlog/tmp/binlog.000001| mysql-uyejr-pyejr db_name

把 mysqlbinlog输出的 SQL语句直接作为输入来执行它。

如果你有空闲的机器，不妨采用这种方式来备份。由于作为 slave的机器性能要求相对不是那么高，因此成本低，用低成本就能实现增量备份而且还能分担一部分数据查询压力，何乐而不为呢？

相较前几种方法，备份数据文件最为直接、快速、方便，缺点是基本上不能实现增量备份。为了保证数据的一致性，需要在靠背文件前，执行以下 SQL语句：

FLUSH TABLES WITH READ LOCK;也就是把内存中的数据都刷新到磁盘中，同时锁定数据表，以保证拷贝过程中不会有新的数据写入。这种方法备份出来的数据恢复也很简单，直接拷贝回原来的数据库目录下即可。

注意，对于 Innodb类型表来说，还需要备份其日志文件，即 ib_logfile*文件。因为当 Innodb表损坏时，就可以依靠这些日志文件来恢复。

对于中等级别业务量的系统来说，备份策略可以这么定：第一次全量备份，每天一次增量备份，每周再做一次全量备份，如此一直重复。而对于重要的且繁忙的系统来说，则可能需要每天一次全量备份，每小时一次增量备份，甚至更频繁。为了不影响线上业务，实现在线备份，并且能增量备份，最好的办法就是采用主从复制机制(replication)，在 slave机器上做备份。

作为一名DBA(我目前还不是，呵呵)，最重要的工作内容之一是保证数据表能安全、稳定、高速使用。因此，需要定期维护你的数据表。以下 SQL语句就很有用：

CHECK TABLE或 REPAIR TABLE，检查或维护 MyISAM表

当然了，上面这些命令起始都可以通过工具 myisamchk来完成，在这里不作详述。

Innodb表则可以通过执行以下语句来整理碎片，提高索引速度：

ALTER TABLE tbl_name ENGINE= Innodb;

这其实是一个 NULL操作，表面上看什么也不做，实际上重新整理碎片了。

通常使用的 MyISAM表可以用上面提到的恢复方法来完成。如果是索引坏了，可以用 myisamchk工具来重建索引。而对于 Innodb表来说，就没这么直接了，因为它把所有的表都保存在一个表空间了。不过 Innodb有一个检查机制叫模糊检查点，只要保存了日志文件，就能根据日志文件来修复错误。可以在 my.cnf文件中，增加以下参数，让 mysqld在启动时自动检查日志文件：

三、MySQL数据库对dat文件的处理datmysql

MySQL是目前最流行的开源关系型数据库管理系统，支持多种操作系统和编程语言。它可以处理各种类型的数据，包括文本、数字、图像和音频等。其中，.dat文件是数据的一种常见格式，在MySQL中也可以进行处理。

MySQL提供了多种方法来处理.dat文件。一种方法是使用LOAD DATA语句将.dat文件导入 MySQL数据库中。以下是一个示例代码，演示如何使用LOAD DATA语句加载.dat文件：

LOAD DATA LOCAL INFILE‘data.dat’

FIELDS TERMINATED BY‘,’

LINES TERMINATED BY‘\n’

这段代码中，’data.dat’是待导入的.dat文件名，table_name是目标表的名称，FIELDS TERMINATED BY‘,’指定了字段之间的分隔符为逗号，LINES TERMINATED BY‘\n’指定了每行数据的结束符为换行符。最后一行IGNORE 1 ROWS指示MySQL忽略.dat文件中的第一行，因为这通常是列名。

另一种处理.dat文件的方法是使用外部工具如yxdb。yxdb是一个由Yingxin Finance开发的MySQL扩展，可以直接读取DAT格式的数据。使用yxdb导入.dat文件的过程如下：

wget

yxdb-h host-P port-u user-p password-d database file.dat

这个命令中，host、port、user、password和database都是MySQL连接信息，file.dat是待导入的.dat文件名。

需要注意的是，如果.dat文件中的数据类型不是MySQL支持的类型，就需要将它们转换为MySQL支持的类型。这可以通过使用转换函数或手动转换来实现。

MySQL可以方便地处理.dat文件。无论是使用LOAD DATA语句还是外部工具，都可以快速、高效地将.dat文件导入MySQL数据库中。这为数据分析和处理提供了很大的便利，也为企业的业务决策提供了有力的支持。