多線程插入(單表)
多線程插入(多表)
預(yù)處理SQL
多值插入SQL
事務(wù)(N條提交一次)

多線程插入(單表)

問(wèn)：為何對(duì)同一個(gè)表的插入多線程會(huì)比單線程快？同一時(shí)間對(duì)一個(gè)表的寫(xiě)操作不應(yīng)該是獨(dú)占的嗎？

答：在數(shù)據(jù)里做插入操作的時(shí)候，整體時(shí)間的分配是這樣的：

• 鏈接耗時(shí) (30%)

• 發(fā)送query到服務(wù)器 (20%)

• 解析query (20%)

• 插入操作 (10% * 詞條數(shù)目)

• 插入index (10% * Index的數(shù)目)

• 關(guān)閉鏈接 (10%)

從這里可以看出來(lái)，真正耗時(shí)的不是操作，而是鏈接，解析的過(guò)程。

MySQL插入數(shù)據(jù)在寫(xiě)階段是獨(dú)占的，但是插入一條數(shù)據(jù)仍然需要解析、計(jì)算、最后才進(jìn)行寫(xiě)處理，比如要給每一條記錄分配自增id，校驗(yàn)主鍵唯一鍵屬性，或者其他一些邏輯處理，都是需要計(jì)算的，所以說(shuō)多線程能夠提高效率。

多線程插入(多表)

分區(qū)分表后使用多線程插入。

預(yù)處理SQL

• 普通SQL，即使用Statement接口執(zhí)行SQL

• 預(yù)處理SQL，即使用PreparedStatement接口執(zhí)行SQL

使用PreparedStatement接口允許數(shù)據(jù)庫(kù)預(yù)編譯SQL語(yǔ)句，以后只需傳入?yún)?shù)，避免了數(shù)據(jù)庫(kù)每次都編譯SQL語(yǔ)句，因此性能更好。

String?sql?=?"insert?into?testdb.tuser?(name,?remark,?createtime,?updatetime)?values?(?,??,??,??)";?
for?(int?i?=?0;?i?????//從池中獲取連接?
????Connection?conn?=?myBroker.getConnection();?
????PreparedStatement?pstmt?=?conn.prepareStatement(sql);?
????for?(int?k?=?0;?k?????????????pstmt.setString(1,?RandomToolkit.generateString(12));?
????????????pstmt.setString(2,?RandomToolkit.generateString(24));?
????????????pstmt.setDate(3,?new?Date(System.currentTimeMillis()));?
????????????pstmt.setDate(4,?new?Date(System.currentTimeMillis()));?
????????????//加入批處理?
????????????pstmt.addBatch();?
????}?
????pstmt.executeBatch();????//執(zhí)行批處理?
????pstmt.close();?
????myBroker.freeConnection(conn);?//連接歸池?
}

多值插入SQL

• 普通插入SQL：INSERT INTO TBL_TEST (id) VALUES(1)

• 多值插入SQL：INSERT INTO TBL_TEST (id) VALUES (1), (2), (3)

使用多值插入SQL，SQL語(yǔ)句的總長(zhǎng)度減少，即減少了網(wǎng)絡(luò)IO，同時(shí)也降低了連接次數(shù)，數(shù)據(jù)庫(kù)一次SQL解析，能夠插入多條數(shù)據(jù)。

事務(wù)(N條提交一次)

在一個(gè)事務(wù)中提交大量INSERT語(yǔ)句可以提高性能。

1、將表的存儲(chǔ)引擎修改為myisam
2、將 sql 拼接成字符串，每 1000 條左右提交事務(wù)。

///???
????????///?執(zhí)行多條SQL語(yǔ)句，實(shí)現(xiàn)數(shù)據(jù)庫(kù)事務(wù)。??
????????///?mysql數(shù)據(jù)庫(kù)??
????????///?多條SQL語(yǔ)句??
????????public?void?ExecuteSqlTran(List<string>?SQLStringList){
????????????using?(MySqlConnection?conn?=?new?MySqlConnection(connectionString))
????????????{
????????????????if?(DBVariable.flag)
????????????????{
????????????????????conn.Open();
????????????????????MySqlCommand?cmd?=?new?MySqlCommand();
????????????????????cmd.Connection?=?conn;
????????????????????MySqlTransaction?tx?=?conn.BeginTransaction();
????????????????????cmd.Transaction?=?tx;
????????????????????try
????????????????????{
????????????????????????for?(int?n?=?0;?n?????????????????????????{
????????????????????????????string?strsql?=?SQLStringList[n].ToString();
????????????????????????????if?(strsql.Trim().Length?>?1)
????????????????????????????{
????????????????????????????????cmd.CommandText?=?strsql;
????????????????????????????????cmd.ExecuteNonQuery();
????????????????????????????}
????????????????????????????//后來(lái)加上的??
????????????????????????????if?(n?>?0?&&?(n?%?1000?==?0?||?n?==?SQLStringList.Count?-?1))
????????????????????????????{
????????????????????????????????tx.Commit();
????????????????????????????????tx?=?conn.BeginTransaction();
????????????????????????????}
????????????????????????}
????????????????????????//tx.Commit();//原來(lái)一次性提交??
????????????????????}
????????????????????catch?(System.Data.SqlClient.SqlException?E)
????????????????????{
????????????????????????tx.Rollback();
????????????????????????throw?new?Exception(E.Message);
????????????????????}
????????????????}
????????????}
????????}

10w條數(shù)據(jù)大概用時(shí)10s！

OCP周六班開(kāi)班倒計(jì)時(shí)2天！需要了解的同學(xué)抓緊時(shí)間！

課程詳情見(jiàn)閱讀原文

QQ:1695867545? ?

48710363

總結(jié)

以上是生活随笔為你收集整理的mysql怎样循环插入数据_你向 Mysql 数据库插入 100w 条数据用了多久？的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。