mysql数据插入效率比较

2023年 4月 28日 75.4k 0

做数据插入时,发现之前上班做哪些办公系统压根就没考虑过数据库性能这些,因为涉及的数据量小,时间和效率看不出来,可当数据量很大了,大到了每秒需要10000次插入时,这时就

做数据插入时,发现之前上班做哪些办公系统压根就没考虑过数据库性能这些,因为涉及的数据量小,时间和效率看不出来,可当数据量很大了,大到了每秒需要10000次插入时,这时就不得不考虑你的sql 语句了。当插入100条数据,能想到的数据插入方式:

1:for循环100次,一次次插入数据。连接一次插入100次,这样是最费时间的也是最费IO和连接的;

2:将100数据插入语句组成一个sql语句,然后连接一次,插入数据。这种费时比第一种要好。

3:使用事物,100次插入,最后一次事物commit; 这种比第二种更快;

4:使用insert语句本身的多数据插入;

当以上方法在少量的数据面前,几乎没什么差别,我们压根感觉不出来。可是,当数据量稍微提大点,比如一次10000条数据。插入的速度效率就出来;

这是mysql实例类;此实例提供mysql的连接,和数据库相关操作

public class MySqlInstance
{
//连接字符串
private static string mySqlConnectionStr = "Server =localhost;Database=test;Uid=root;Pwd=password.1;";
private static MySqlConnection _mysqlConnect;
private static MySqlConnection mysqlConnect
{
get
{
if (null == _mysqlConnect)
{
_mysqlConnect = new MySqlConnection(mySqlConnectionStr);
}
return _mysqlConnect;
}
}
private static MySqlCommand _mysqlCommand;
private static MySqlCommand mysqlCommand
{
get
{
if (null == _mysqlCommand)
{
_mysqlCommand = mysqlConnect.CreateCommand();
}
return _mysqlCommand;
}
}
//打开连接
public static void OpenConnect()
{
mysqlConnect.Open();
}
//关闭连接
public static void CloseConnect()
{
mysqlConnect.Close();
}
public static MySqlConnection Connection
{
get
{
return mysqlConnect;
}
}
//防注入方式的插入数据
//使用事务 10000插入,最后才一次事务提交
public static int InsertData(string Command, List<MySqlParameter> Params)
{
//程序时间监控
Stopwatch sw = new Stopwatch();
//程序计时开始
sw.Start();
OpenConnect();
//事务开始
MySqlTransaction trans = mysqlConnect.BeginTransaction();
mysqlCommand.CommandText = Command;
mysqlCommand.Parameters.AddRange(Params.ToArray());
int count = 0;
for (int i = 0; i < 10000; i++)
{
if (mysqlCommand.ExecuteNonQuery() > 0)
count++;
}
//事务提交
trans.Commit();
CloseConnect();
mysqlCommand.Parameters.Clear();
//计时停止
sw.Stop();
TimeSpan ts2 = sw.Elapsed;
Console.WriteLine(ts2.TotalMilliseconds);
return count;
}
//查询出来的是MySqlDataReader 要使用就不能关闭连接
public static MySqlDataReader SelectData(string sql)
{
Stopwatch sw = new Stopwatch();
sw.Start();
// OpenConnect();
MySqlCommand newcommond = new MySqlCommand(sql, mysqlConnect);
MySqlDataReader data = newcommond.ExecuteReader();
// CloseConnect();
sw.Stop();
TimeSpan ts2 = sw.Elapsed;
Console.WriteLine(ts2.TotalMilliseconds);
return data;
}
/// <summary>
/// 查询出来的是数据集合
/// </summary>
/// <param name="sql"></param>
/// <returns></returns>
public static DataSet SelectDataSet(string sql)
{
MySqlCommand newcommond = new MySqlCommand(sql, mysqlConnect);
MySqlDataAdapter adapter = new MySqlDataAdapter();
adapter.SelectCommand = newcommond;
DataSet ds = new DataSet();
adapter.Fill(ds);
return ds;
}
//不安全插入 有注入
public static int InsertDataSql(string sql)
{
// OpenConnect();
mysqlCommand.CommandText = sql;
int count = mysqlCommand.ExecuteNonQuery();
// CloseConnect();
return count;
}
//安全插入 参数使用@
//不使用事务 10000次插入
public static int InsertDataNoTran(string Command, List<MySqlParameter> Params)
{
Stopwatch sw = new Stopwatch();
sw.Start();
OpenConnect();
mysqlCommand.CommandText = Command;
mysqlCommand.Parameters.AddRange(Params.ToArray());
int count = 0;
for (int i = 0; i < 10000; i++)
{
if (mysqlCommand.ExecuteNonQuery() > 0)
count++;
}
CloseConnect();
mysqlCommand.Parameters.Clear();
sw.Stop();
TimeSpan ts2 = sw.Elapsed;
Console.WriteLine(ts2.TotalMilliseconds);
return count;
}
//一次性拼10000个插入语句一次性提交
public static void test4()
{
Stopwatch sw = new Stopwatch();
sw.Start();
MySqlInstance.OpenConnect();
MySqlTransaction tran = MySqlInstance.Connection.BeginTransaction();
string command = string.Empty;
for (int i = 0; i < 10000; i++)
{
string temp = string.Format("insert into test.testtable(pname,pwd) value ('{0}','{1}'); rn", "name" + i, "password." + i);
command += temp;
}
MySqlInstance.InsertDataSql(command);
tran.Commit();
MySqlInstance.CloseConnect();
sw.Stop();
TimeSpan ts2 = sw.Elapsed;
Console.WriteLine(ts2.TotalMilliseconds);
}
}

最后建立控制台程序,分别使用事务提交,不使用事务,和拼接10000条插入在组成事务,这三种方式做一个测试,打印出耗时。结果如图:

可以看到:10000次插入使用事务提交只用时4.7秒,而不使用事务用时311秒,拼装成10000次insert语句的耗时7.3秒。这里面耗时7.3秒的,理论上,在数据库sql执行上也应该和使用事务差不多,这里的耗时主要是用作字符串的拼接上,客户端耗时比较多;

贴上测试程序代码:

using System;
using System.Collections.Generic;
using System.Linq;
using System.Text;
using System.Threading.Tasks;
using MySql.Data;
using MySql.Web;
using MySql.Data.MySqlClient;
using System.Diagnostics;
using System.Data;
namespace mysqlDEMO01
{
class Program
{
static void Main(string[] args)
{
testInsert();
Console.ReadLine();
}
//使用安全防注入 参数使用@ ,安全插入。
public static void testInsert()
{
List<MySqlParameter> lmp = new List<MySqlParameter>();
lmp.Add(new MySqlParameter("@pname", "hello2"));
lmp.Add(new MySqlParameter("@pwd", "1232"));
string command = " insert into test.testtable(pname,pwd) value(@pname,@pwd); ";
MySqlInstance.InsertData(command, lmp);
List<MySqlParameter> lmp2 = new List<MySqlParameter>();
lmp2.Add(new MySqlParameter("@pname", "hello2"));
lmp2.Add(new MySqlParameter("@pwd", "1232"));
MySqlInstance.InsertDataNoTran(command, lmp2);
test4();
}
}
}

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,谢谢大家对每日运维的支持。如果你想了解更多相关内容请查看下面相关链接

相关文章

Oracle如何使用授予和撤销权限的语法和示例
Awesome Project: 探索 MatrixOrigin 云原生分布式数据库
下载丨66页PDF,云和恩墨技术通讯(2024年7月刊)
社区版oceanbase安装
Oracle 导出CSV工具-sqluldr2
ETL数据集成丨快速将MySQL数据迁移至Doris数据库

发布评论