首先祝大家新年快乐,身体健康,万事如意。一般来说一个系统最先出现瓶颈的点很可能是数据库。比如我们的生产系统并发量很高在跑一段时间后,数据库中某些表的数据量会越来越大。海量的数据会严重影响数据库的读写性能。这个时候我们会开始优化系统,一般会经过这么几个过程:
找出SQL慢查询,针对该SQL进行优化,比如改进SQL的写法,查看执行计划对全表扫描的字段建立索引
引入缓存,把一部分读压力加载到内存中
读写分离
引入队列,把并发的请求使其串行化,来减轻系统瞬时压力
分表/分库
对于第五点优化方案我们来细说一下。分表分库通常有两种拆分维度:1.垂直切分,垂直切分往往跟业务有强相关关系,比如把某个表的某些不常用的字段迁移出去,比如订单的明细数据可以独立成一张表,需要使用的时候才读取2.水平切分,比如按年份来拆分,把数据库按年或者按某些规则按时间段分成多个表。拆分表之后每个表的数据量将会变小,带来的好处是不言而喻的。不管是全表扫描,还是索引查询都会有比较高的提升。如果把不同的表文件落在多个磁盘上那数据库的IO性能还能进一步提高。如果纯手工拆分,比如按年份拆分成多个表,那么上层业务代码也得进行调整。每次读写都得判断该使用哪张表。如果是跨多个年份的分页查询更加难搞。人肉分表基本上不可能实现的,对于上层编码简直是个噩梦。所以针对分表分库我们通常会使用某些中间件,比如Mycat,Sharding-JDBC等中间件。使用这些组件确实能实现分表分库,并且对业务层代码屏蔽了数据库架构的改动,但是配置略显麻烦。如果你使用的是SQLServer数据库,并且目前还不需要分库,只需要分表,那么其实使用内置的分区表功能是最简单的方案。只需要打开SQLServerManagementStudio简单设置几下就可以了,对于你上层应用完全是无感的,你的代码、数据库连接串都不需要改动。以下我们通过2个简单的测试,来简单的演示下如何进行表分区操作,以及测试下分区前后性能变化。
测试写性能我们的测试方案:新建一张logs表,按年份写入数据。年写入数据,年也写入数据。为了加快写入的速度,每个年份并行10个线程同时写,每个线程写数据,一共数据。然后把logs表改成分区表再用同样的方式写入数据。记录耗时比较两次的耗时。硬件为一台14年产的笔记本,OS为win10。挂载2块硬盘,1块为转的机械硬盘,1块为15年加的SSD。磁盘性能可以说极为垃圾。未分区时表文件会落在机械硬盘上。
未分区情况下测试使用脚本建表:
CREATETABLE[dbo].[logs](
[id][uniqueidentifier]NOTNULL,
[log_txt][varchar]()NULL,
[log_time][datetime]NULL,
CONSTRAINT[PK_logs]PRIMARYKEYCLUSTERED
(
[id]ASC
)WITH(PAD_INDEX=OFF,STATISTICS_NORECOMPUTE=OFF,IGNORE_DUP_KEY=OFF,ALLOW_ROW_LOCKS=ON,ALLOW_PAGE_LOCKS=ON)ON[PRIMARY]
)
新建一个控制台程序编写代码:
classProgram
{
staticvoidMain(string[]args)
{
Console.WriteLine("HelloWorld!");
Task.Run(()=
{
InsertData();
});
Task.Run(()=
{
InsertData();
});
Console.ReadLine();
}
staticvoidInsertData(intyear)
{
vartasks=newListTask();
Stopwatchsw=newStopwatch();
sw.Start();
for(inti=0;i10;i++)
{
tasks.Add(Task.Run(()={
using(varconn=newSqlConnection())
{
conn.ConnectionString="PersistSecurityInfo=False;UserID=sa;Password=dev
;InitialCatalog=fq_test;Server=.\\mssql";conn.Open();
intindex=0;
for(intj=0;j;j++)
{
varlogtime=newDateTime(year,newRandom().Next(1,12),newRandom().Next(1,28));
conn.Execute("insertintologs2values(newid(),下订单,
logtime)",new{
logtime
});
Console.WriteLine("logtime:{0}index{1}",logtime,index++);
}
}
}));
}
Task.WaitAll(tasks.ToArray());
sw.Stop();
Console.WriteLine("Year{0}