您的位置:首页 > 数据库 > > 正文

用mysql编写test数据库(MySQL制作具有千万条测试数据的测试库的方法)

更多 时间:2022-01-27 01:01:13 类别:数据库 浏览量:2023

用mysql编写test数据库

MySQL制作具有千万条测试数据的测试库的方法

有时候需要制造一些测试的数据,以mysql官方给的测试库为基础,插入十万,百万或者千万条数据。利用一些函数和存储过程来完成。

官方给的测试库地址:https://github.com/datacharmer/test_db

导入官方的数据库,做了一些简化,留下了部门表,员工表和雇佣表三张表,去掉了外键关联。因为是测试数据,日期的对应关系不具备准确性。

必要的函数

生成随机字符串

RAND():生成0~1之间的随机数

FLOOR:向下整数 (FlOOR(1.2)=1)

CEILING 向上取整 (CEILING(1.2)=2)

substring:截取字符串

concat:字符串连接

  • ?
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • CREATE DEFINER=`root`@`localhost` FUNCTION `rand_string`(n INT) RETURNS varchar(255) CHARSET latin1
  • BEGIN
  •     DECLARE chars_str   varchar(100) DEFAULT 'ABCDEFGHIJKLMNOPQRSTUVWXYZabcdefghijklmnopqrstuvwxyz';
  •   DECLARE return_str    varchar(255) DEFAULT '';
  •   DECLARE i INT DEFAULT 0;
  •   WHILE i < n DO
  •     SET return_str = concat(return_str,substring(chars_str , FLOOR(1 + RAND()*62 ),1));
  •     SET i = i +1;
  •   END WHILE;
  •   RETURN return_str;
  • END
  • 查看自定义的所有函数

  • ?
  • 1
  • show function status
  • 测试使用:

  • ?
  • 1
  • select rand_string(5);
  • 生成随机年月日字符串

    生成一个指定时间段内的随机日期

  • ?
  • 1
  • 2
  • 3
  • SELECT
  •     date(
  •     from_unixtime( unix_timestamp( '2000-01-01' ) + floor( rand() * ( unix_timestamp( '2020-12-31' ) - unix_timestamp( '2000-01-01' ) + 1 ) ) ));
  • 函数:生成指定时间段内的随机日期

  • ?
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • CREATE DEFINER=`root`@`localhost` FUNCTION `rand_date_string`(startDate varchar(255),endDate varchar(255)) RETURNS varchar(255) CHARSET latin1
  • BEGIN
  •   DECLARE return_str varchar(255) DEFAULT '';
  •     
  •      SET return_str =date(
  •         from_unixtime( unix_timestamp( startDate )
  •                 + floor( rand() * ( unix_timestamp( endDate ) - unix_timestamp( startDate ) + 1 ) )
  •             )
  •      );
  •   
  •   RETURN return_str;
  • END
  • 测试使用:

  • ?
  • 1
  • 2
  • 3
  • select rand_date_string('2000-01-01','2020-12-31');
  • //结果
  • 2001-09-10
  • 存储过程生成数据

    给每个部门插入一百万员工,那么员工表就有九百万的数据。

  • ?
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • CREATE DEFINER=`root`@`localhost` PROCEDURE `data`()
  • BEGIN
  •     
  •     DECLARE i INT DEFAULT 1;
  •     DECLARE j INT DEFAULT 0;
  •     DECLARE id INT DEFAULT 0;
  •     WHILE i < 10 DO
  •             WHILE j < 1000000 DO
  •                 insert into employees_m (emp_no,birth_date,first_name,last_name,gender,hire_date) VALUES(
  •                     id,rand_date_string('1970-01-01','1997-01-01'),rand_string(5),rand_string(5),'M',NOW());
  •                 
  •                 insert into dept_emp_m (emp_no,dept_no,from_date,to_date) values(
  •                      id,concat('d00',i),rand_date_string('1990-01-01','2020-12-31'),'2020-12-31');
  •                      
  •             SET j=j+1; 
  •             SET id=id+1; 
  •             END WHILE;
  •     SET j = 0;
  •     SET i=i+1;  
  •     END WHILE;
  •  
  • END
  • 插入九百万条数据大概用时:4868s

    上面的方式插入数据会很慢,可以将数据插入到内存表,就是将表的存储引擎修改为MEMORY这样就会使用内存去存储数据,会比直接插入到INNODB引擎的表中快很多,只不过就是没有持久化,但是速度贼快,插入一千万条数据大概需要时间: 1227.89s

    附录

    修改表存储引擎

  • ?
  • 1
  • ALTER TABLE dept_emp_m ENGINE=MEMORY;
  • 调整内存表的大小,修改配置文件

  • ?
  • 1
  • 2
  • 3
  • [mysqld]
  • max_heap_table_size = 2048M
  • tmp_table_size = 2048M
  • 以上就是MySQL制作具有千万条测试数据的测试库的方法的详细内容,更多关于MySQL 千万条测试数据的资料请关注开心学习网其它相关文章!

    原文链接:https://www.cnblogs.com/lichlaughing/p/14055643.html?utm_source=tuicool&utm_medium=referral

    标签:mysql 测试库
    您可能感兴趣