MySQL批量插入和唯一索引问题的解决方法

2023年 4月 29日 22.3k 0

MySQL批量插入问题 在开发项目时,因为有一些旧系统的基础数据需要提前导入,所以我在导入时做了批量导入操作 ,但是因为MySQL中的一次可接受的SQL语句大小受限制所以我每次批量虽然

MySQL批量插入问题

在开发项目时,因为有一些旧系统的基础数据需要提前导入,所以我在导入时做了批量导入操作 ,但是因为MySQL中的一次可接受的SQL语句大小受限制所以我每次批量虽然只有500条,但依然无法插入,这个时候代码报错如下:

nested exception is com.mysql.jdbc.PacketTooBigException: Packet for query is too large (5677854 > 1048576).

You can change this value on the server by setting the max_allowed_packet' variable.

根据报错我们很快就可以知道,是SQL语句数据包太大导致,我们可以设置MySQL服务器参数max_allowed_packet来解决这个问题。

解决办法

1.添加【mysqld】下max_allowed_packet参数,设置的尽量大一些。

#找到my.cnf文件
#whereis my.cnf
#vim my.cnf
----------------------------
[mysqld]
max_connections =3000
max_allowed_packet=1024M

#保存后重启mysql服务,即可生效
#service mysqld restart

2.临时设置max_allowed_packet,通过语句设置

myslq>set global max_allowed_packet = 1024*1024*1024

该种方式重启后就max_allowed_packet失效了

默认情况下Mysql参数max_allowed_packet值是1M.

MySQL索引不区分大小写问题

当在MySQL数据库中,创建索引默认是不区分大小写的,比如说如下语句:

CREATE TABLE `location` (
`id` int(11) NOT NULL AUTO_INCREMENT,
`rc` varchar(2) DEFAULT NULL COMMENT 'R/C',
`location_code` varchar(4) DEFAULT NULL COMMENT '地点编码',
`location_name` varchar(30) DEFAULT NULL COMMENT '地点名称',
`zip_code` varchar(6) DEFAULT NULL COMMENT '邮编',
`address` varchar(50) DEFAULT NULL COMMENT '地址',
`link_man` varchar(15) DEFAULT NULL COMMENT '联系人',
`link_phone` varchar(30) DEFAULT NULL COMMENT '联系电话',
`fax` varchar(30) DEFAULT NULL COMMENT '传真',
`can_accept_car_time` varchar(40) DEFAULT NULL COMMENT '可接车时间',
`type` varchar(1) DEFAULT NULL COMMENT '分类',
`maintenance_type` varchar(1) DEFAULT NULL COMMENT '维护类型',
`brand` varchar(4) DEFAULT NULL COMMENT '品牌',
`reservation` varchar(40) DEFAULT NULL COMMENT '预留',
`enable` int(1) DEFAULT '1',
`msg_code` varchar(64) NOT NULL COMMENT '消息编码',
`receive_on` timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP COMMENT '接收日期',
`create_on` timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP COMMENT '创建日期',
`modified_on` datetime DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP COMMENT '修改日期',
PRIMARY KEY (`id`),
UNIQUE KEY `unique_msg_code` (`msg_code`) USING BTREE,
UNIQUE KEY `unique_location_code` (`location_code`) USING BTREE
) ENGINE=InnoDB AUTO_INCREMENT=16325 DEFAULT CHARSET=utf8 COMMENT='地址表';

但当我插入地址编码分别为H12C与h12C时,就报错了,抛出异常:Duplicate entry 'H12C' for key 'normal_localtion_code',这里则说明不区分大小写,所以这个地方需要解决这个问题。

解决方法

1.设置字段为Binary,那么索引就可以区分大小写了。

CREATE TABLE `location` (
`id` int(11) NOT NULL AUTO_INCREMENT,
`rc` char(2) DEFAULT NULL COMMENT 'R/C',
`location_code` varchar(4) CHARACTER SET utf8 COLLATE utf8_bin DEFAULT NULL COMMENT '地点编码',
`location_name` varchar(26) DEFAULT NULL COMMENT '地点名称',
`zip_code` varchar(6) DEFAULT NULL COMMENT '邮编',
`address` varchar(50) DEFAULT NULL COMMENT '地址',
`link_man` varchar(16) DEFAULT NULL COMMENT '联系人',
`link_phone` varchar(30) DEFAULT NULL COMMENT '联系电话',
`fax` varchar(30) DEFAULT NULL COMMENT '传真',
`can_accept_car_time` varchar(40) DEFAULT NULL COMMENT '可接车时间',
`type` varchar(1) DEFAULT NULL COMMENT '分类',
`maintenance_type` varchar(1) DEFAULT NULL COMMENT '维护类型',
`brand` varchar(4) DEFAULT NULL COMMENT '品牌',
`reservation` varchar(40) DEFAULT NULL COMMENT '预留',
`enable` int(1) DEFAULT '1',
`msg_code` varchar(64) NOT NULL COMMENT '消息编码',
`receive_on` timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP COMMENT '接收日期',
`create_on` timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP COMMENT '创建日期',
`modified_on` datetime DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP COMMENT '修改日期',
PRIMARY KEY (`id`),
UNIQUE KEY `unique_msg_code` (`msg_code`) USING BTREE,
UNIQUE KEY `unique_location_code` (`location_code`) USING BTREE
) ENGINE=InnoDB AUTO_INCREMENT=4092 DEFAULT CHARSET=utf8 COMMENT='地点表';

// 修改原表字典属性:

ALTER TABLE `location`
CHANGE COLUMN `location_code` `location_code` VARCHAR(4) CHARACTER SET 'utf8' BINARY NOT NULL DEFAULT '' ;

上面方法就解决了。

查询时不区分大小写问题

解决方法

1.查询语句加binary

2.与索引解决方案一致,设置字段属性为binary即可。

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,谢谢大家对每日运维的支持。

相关文章

Oracle如何使用授予和撤销权限的语法和示例
Awesome Project: 探索 MatrixOrigin 云原生分布式数据库
下载丨66页PDF,云和恩墨技术通讯(2024年7月刊)
社区版oceanbase安装
Oracle 导出CSV工具-sqluldr2
ETL数据集成丨快速将MySQL数据迁移至Doris数据库

发布评论