提到用Mybatis批量插入数据,把上限1万条数据一次性的插入到表中。面试官对一次性插入1万条数据有疑问,认为不可以插入这么多数据,但是我做这个功能的时候确实是成功的,那具体能一次插入数据的上限我也不确定,后面就找时间做了下面这个实验。

首先自己搭建了SpringBoot+Mybatis的项目测试的,搭建步骤如下

1. 搭建测试工程

idea构建SpringBoot+MyBatis项目

gitee上代码:https://gitee.com/AJiSun/SpringBoot-MyBatis

File->New->Project

application.yml中的配置

server:port:7070spring:application: name:ajisun-mybatisdatasource: driver-class-name:com.mysql.jdbc.Driver url:jdbc:mysql://localhost:3306/ajisun_mybatis?useUnicode=true&characterEncoding=utf-8&useSSL=false&useInformationSchema=true username:root password:root​mybatis:mapperLocations:classpath:mapper/*.xmltypeAliasesPackage:com.ajisun.coding.ajisunmybatis.entity#开启驼峰命名configuration:  map-underscore-to-camel-case:true复制代码

启动类中加上注解@MapperScan(启动的时候能够扫描到mapper)

@SpringBootApplication@MapperScan("com.ajisun.coding.ajisunmybatis.mapper")publicclassAjisunMybatisApplication{publicstaticvoidmain(String[]args) {SpringApplication.run(AjisunMybatisApplication.class,args);}​}复制代码

实体类中的内容

publicclassSyncEmployeeimplementsSerializable{ privateLongsyncId; privateLongsyncCode; privateStringemployeeNum; privateStringimageUrl;....... // set/get省略}复制代码

mapper.java中内容

publicinterfaceSyncEmployeeMapper{ /** * 查询列表 * @return */ ListselectList();}复制代码

mapper.xml中内容

​    SELECT * FROM sync_employee; 复制代码

Interface service类 中的内容

publicinterfaceSyncEmployeeService{ /** * 查询列表 * @return */ ListselectList();}复制代码

实现Interface service的类中的内容

加上@Service 注解,标明这个类是一个service,会被springboot扫描。

@ServicepublicclassSyncEmployeeServiceImplimplementsSyncEmployeeService{​ @Autowired privateSyncEmployeeMappersyncEmployeeMapper;​ /** * 查询列表 * @return */ @Override publicListselectList() {   returnsyncEmployeeMapper.selectList(); }复制代码

接口文件controller的内容

@RestController@RequestMapping("/user")publicclassSyncEmployeeController{​ @Autowired privateSyncEmployeeServicesyncEmployeeService;​ @GetMapping("/list") publicResponseEntity<List>list(){   returnResponseEntity.ok(syncEmployeeService.selectList()); }}复制代码

至此就可以启动了,端口是yml中配置的7070,访问接口是【get】http://localhost:7070/user/list

2. 造数据,做测试

1. 表结构

CREATE TABLE `ajisun_mybatis`.`sync_employee`  (  `sync_id` bigint(20) NOT NULL AUTO_INCREMENT,  `sync_code` bigint(30) NOT NULL COMMENT '同步批次号',  `employee_num` varchar(30) CHARACTER SET utf8mb4 COLLATE utf8mb4_bin NULL DEFAULT NULL COMMENT '员工编码',  `name` varchar(60) CHARACTER SET utf8mb4 COLLATE utf8mb4_bin NULL DEFAULT NULL COMMENT '员工姓名',  `tenant_id` bigint(20) NOT NULL DEFAULT 0 COMMENT '租户ID',  `email` varchar(60) CHARACTER SET utf8mb4 COLLATE utf8mb4_bin NULL DEFAULT NULL COMMENT '电子邮件',  `mobile` varchar(60) CHARACTER SET utf8mb4 COLLATE utf8mb4_bin NULL DEFAULT NULL COMMENT '移动电话',  `inter_code` varchar(20) CHARACTER SET utf8mb4 COLLATE utf8mb4_bin NULL DEFAULT NULL COMMENT '国际码',  `code_mobile` varchar(60) CHARACTER SET utf8mb4 COLLATE utf8mb4_bin NULL DEFAULT NULL COMMENT '国际码+手机号',  `gender` tinyint(4) NULL DEFAULT NULL,  `cid` varchar(60) CHARACTER SET utf8mb4 COLLATE utf8mb4_bin NULL DEFAULT NULL COMMENT '身份编码',  `status` varchar(30) CHARACTER SET utf8mb4 COLLATE utf8mb4_bin NULL DEFAULT NULL COMMENT '员工状态',  `enabled_flag` tinyint(1) NULL DEFAULT NULL COMMENT '启用状态',  `entry_date` datetime(0) NULL DEFAULT NULL COMMENT '员工入职时间',  `birthday` varchar(10) CHARACTER SET utf8mb4 COLLATE utf8mb4_bin NULL DEFAULT NULL COMMENT '出生日期',  `ldap_flag` tinyint(1) NOT NULL DEFAULT 0 COMMENT '否是ldap用户',  `password` varchar(40) CHARACTER SET utf8mb4 COLLATE utf8mb4_bin NULL DEFAULT NULL COMMENT '密码',  `image_url` varchar(200) CHARACTER SET utf8mb4 COLLATE utf8mb4_bin NULL DEFAULT NULL COMMENT '头像',  `sync_status` tinyint(1) NOT NULL DEFAULT 1 COMMENT 'sync状态',  `sync_message` varchar(200) CHARACTER SET utf8mb4 COLLATE utf8mb4_bin NULL DEFAULT NULL COMMENT 'sync信息',  PRIMARY KEY (`sync_id`) USING BTREE,  INDEX `sync_emp_n1`(`sync_code`, `tenant_id`) USING BTREE,  INDEX `sync_emp_n2`(`email`, `sync_code`, `tenant_id`) USING BTREE,  INDEX `sync_emp_n3`(`mobile`, `sync_code`, `tenant_id`) USING BTREE,  INDEX `sync_emp_n4`(`employee_num`, `tenant_id`, `sync_code`) USING BTREE) ENGINE = InnoDB AUTO_INCREMENT = 1 CHARACTER SET = utf8mb4 COLLATE = utf8mb4_bin COMMENT = '员工同步中间表' ROW_FORMAT = Dynamic;复制代码

在SpringBoot-Mybatis 的项目中添加方法(具体参考代码,这里只说主要的地方)

2. mapper.xml中批量insert代码

   insert into sync_employee (sync_id,sync_code,employee_num,name,tenant_id,   email,mobile,inter_code,code_mobile,gender,cid,status,enabled_flag,   entry_date,birthday,ldap_flag,image_url,sync_status,sync_message)   values        (     #{sync.syncId},     #{sync.syncCode},     #{sync.employeeNum},     #{sync.name},     #{sync.tenantId},     #{sync.email},     #{sync.mobile},     #{sync.interCode},     #{sync.codeMobile},     #{sync.gender},     #{sync.cid},     #{sync.status},     #{sync.enabledFlag},     #{sync.entryDate},     #{sync.birthday},     #{sync.ldapFlag},     #{sync.imageUrl},     0,     #{sync.syncMessage}     )    复制代码

3. service中的代码(循环造需要的数据量)

@Override publicvoidbatchInsertData(LongsyncCode) {   ListsyncEmployeeList=newArrayList();   for(inti=10000;i<20000;i++){     SyncEmployeeee=newSyncEmployee();     ee.setSyncId(Long.valueOf(i));     ee.setSyncCode(syncCode);     ee.setEmail(i+"@qq.com");     ee.setMobile("121000"+String.valueOf(+i));     ee.setCodeMobile(ee.getInterCode()+"-"+ee.getMobile());     ee.setEmployeeNum("ajisun"+i);     ee.setEnabledFlag(1);     ee.setGender(i%2);     ee.setImageUrl("http://ajisun.com/头像.png");     ee.setName(i+"");     ee.setLdapFlag(i%2);     ee.setEntryDate(newDate());     ee.setStatus("ON");     ee.setTenantId(0L);     ee.setBirthday("1900-01-01");     ee.setSyncMessage("new data "+i);     syncEmployeeList.add(ee);   }   longstart=System.currentTimeMillis();   syncEmployeeMapper.batchInsertData(syncEmployeeList);   longend=System.currentTimeMillis();   System.out.println(end-start); }复制代码

4. 准备完毕,开始执行

通过上述方法一次构造一万条数据,然后通过sql批量插入

把这个参数改大点试试(设置10M)

mysql>setglobalmax_allowed_packet=1024*1024*10;QueryOK,0rows affected(0.01sec)复制代码

命令set采用的临时修改方式,需要打开新的会话才能生效,重启SpringBoot服务然后在调用接口。(还可以通过修改mysql配置文件使其永久生效 max_allowed_packet = 1024* 1024*10)。

还可以通过修改mysql配置文件使其永久生效 max_allowed_packet = 1024* 1024*10

再次调用接口就成功了

image.png

继续加大操作数据量,修改循环条件(3万数据量),数据量的总大小在14M左右

com.mysql.cj.jdbc.exceptions.PacketTooBigException:Packetforqueryistoo large(14,637,233>10,485,760). You canchangethisvalueontheserverbysetting the'max_allowed_packet'variable.复制代码

如上还是出现了相同的max_allowed_packet 错误,packet的大小超过了max_allowed_packet的值。

所以经过测试可以确定Mybatis究竟能插入多少数据取决于mysql的max_allowed_packet大小限制,而不是其自身的限制。

3. 总结

本文着重在于测试mybatis对批量插入的数据量是否有影响,经过测试发现并没有影响,主要是mysql自身对接收数据量的大小限制,通过参数max_allowed_packet控制。

但是使用mybatis大数据量批量插入要注意效率问题,这里只是测试,并不推荐这种方式。