存档

‘MYSQL’ 分类的存档

【原创讨论】mysql自增长ID(AUTO_INCREMENT)原理,分析大并发下瓶颈原因

2010年6月27日 没有评论

大家都知道,oracle没有所谓的自增长ID这一说法,但是有一个seq,和mysql自增长比较类似
下面分析一下,mysql在高并发写入时,insert效率为什么会降低的非常厉害
如果table有自增长ID,在每条INSERT SQL 执行时,mysql都会先获取自增长ID,然后接着再执行这条SQL语句
在写并发并不是很大的时候,可能感觉不到,一旦大并发写入时候,就会出现写等待,造成mysql负载急剧上升
仔细分析一下,mysql是如何得到insert_id的:
下面我们查询test表的insert_id:

select * from information_schema.tables where table_name='test'

查询的结果可以看到:AUTO_INCREMENT字段已经在最大ID基础上加1
所以:
在insert插入的同时,会更新这个数据表中的AUTO_INCREMENT字段
这样,一旦并发太大的话,就会出现锁等待
现在原因我们都知道了,那现在我们想办法解决:
既然取id会出现等待,那么我们可以自己来指定insert_id,而不用mysql每插入一条,更新一次
我们可以一次取100个ID,然后放在内存(memory)中,这样就可以大大降低这个等待瓶颈了

以上纯属个人观点,感兴趣的可以一起拍砖

分类: MYSQL 标签: ,

【笔记】Cache与存储的几个开源应用

2009年5月17日 没有评论

推荐几个cache 应用。

1: Tokyo Cabinet 是日本人 平林幹雄 开发的一款 DBM 数据库,该数据库读写非常快,哈希模式写入100万条数据只需0.643秒,读取100万条数据只需0.773秒,是 Berkeley DB 等 DBM 的几倍。

详细请参考:http://blog.s135.com/post/362/

2:dbcache


● dbcached 是一款基于 Memcached 和 NMDB 的分布式 key-value 数据库内存缓存系统。

● dbcached = Memcached + 持久化存储管理器 + NMDB 客户端接口

● Memcached 是一款高性能的,分布式的内存对象缓存系统,用于在动态应用中减少数据库负载,提升访问速度。

● NMDB 是一款多协议网络数据库(dbm类)管理器,它由内存缓存和磁盘存储两部分构成,使用 QDBM 或 Berkeley DB 作为后端数据库。

● QDBM 是一个管理数据库的例程库,它参照 GDBM 为了下述三点而被开发:更高的处理速度,更小的数据库文件大小,和更简单的API。QDBM 读写速度比 Berkeley DB 要快,详细速度比较见《Report of Benchmark Test》。
http://code.google.com/p/dbcached/

原创文章,转载请注明: 转载自DevNotes: Development with Notes

本文链接地址: 【笔记】Cache与存储的几个开源应用

分类: MYSQL, PHP 标签: ,

【转载】Mysqlslap官方提供的压力测试工具介绍

2009年5月5日 没有评论

Mysqlslap是从5.1.4版开始的一个MySQL官方提供的压力测试工具。通过模拟多个并发客户端访问MySQL来执行压力测试,同时详细的提供了“高负荷攻击MySQL”的数据性能报告。并且能很好的对比多个存储引擎在相同环境下的并发压力性能差别。
阅读全文…

原创文章,转载请注明: 转载自DevNotes: Development with Notes

本文链接地址: 【转载】Mysqlslap官方提供的压力测试工具介绍

分类: MYSQL 标签: ,

【转CU】MYSQL高可用性案例精讲

2009年4月10日 没有评论

嘉宾分享的内容介绍:

1. 系统项目经验 – bbs.55bbs.com
   1.1 项目特点:
       1.1.1 论坛活跃度高 ( 1.5 – 2 贴/秒 );
       1.1.2 在线浏览人数多 ( 1000 万 PV/日、6 万人在线 );
       1.1.3 数据库查询频繁,高并发量 ( 3000+ 次/秒/台 );
       1.1.4 业务要求高可用性,在线生产数据库要求 7 * 24;
   1.2 实施经验:
       1.2.1 在着手进行实施改造之前做大量的前期分析工作,尽量确保收集到准确全面的性能问题点。
             在论坛社区应用领域中,尤其对于大型论坛而言,几乎每个论坛都有自己独特的问题类型;
       1.2.2 使用了大量数据库缓存技术:文件缓存、帖子缓存、memcached 缓存;
       1.2.3 数据库使用分布式部署,将一些耗费资源的功能分布到不同的数据库服务器中,同时保证
             各个数据库服务器中的数据高度一致;
       1.2.4 使用 MySQL 分区技术有效解决数据表体积过大带来的性能降低;
       1.2.5 全面仔细的评估所需的硬件资源,避免造成不必要的硬件成本浪费;
阅读全文…

原创文章,转载请注明: 转载自DevNotes: Development with Notes

本文链接地址: 【转CU】MYSQL高可用性案例精讲

分类: MYSQL 标签:

小议mysql变量及其优化

2009年2月13日 没有评论

mysql里的变量分系统变量和用户变量.
系统变量
其中系统变量,又分全局(global)和会话(session)两种.
全局系统变量,主要影响整个mysql实例的全局设置.
大部分变量都是作为mysql的服务器调节参数存在.新增或修改这类变量, 会影响mysql的运行方式.
比如: auto_increment_increment 代表序列的自增值, 默认为1

另外, mysql中,只有一部分变量是支持运行时动态修改的.
变量修改的作用范围,是那些重新创建连接到mysql服务器的客户端连接.

如果你的连接是由应用通过连接池来维护的,并且,是长连接的,那么,此时在服务器运行过程中,动态地修改全局变量对你是没有什么影响的.

阅读全文…

原创文章,转载请注明: 转载自DevNotes: Development with Notes

本文链接地址: 小议mysql变量及其优化

分类: MYSQL 标签: ,

Discuz 论坛 bbs 表结构字段含义详细分析

2009年2月4日 5 条评论

Discuz默认库共53个数据表(以下表数据量注释均为默认)

cdb_access 用户权限表

cdb_access 用户权限表

uid 用户id

fid 论坛id

allowview 允许浏览

allowpost 允许发新帖

allowreply 允许回复

allowgetattach 允许下载附件

allowpostattach 允许上传附件

cdb_adminactions 管理动作表

cdb_adminactions 关联用户组

admingid 管理组id

disabledactions 关联后的权限
阅读全文…

原创文章,转载请注明: 转载自DevNotes: Development with Notes

本文链接地址: Discuz 论坛 bbs 表结构字段含义详细分析

分类: MYSQL 标签: , ,

【笔记】MYSQL数据库主从互备实现 – 多主负载

2008年12月23日 1 条评论

作/译:吴德勇 来源:http://www.devnotes.net 转载请注明作/译者和出处 谢谢

我们都清楚经常所说的 主从(master to slave)同步,可以通过读写分离来提高数据库的吞吐量。
如果你使用的方案是一台主,多台从,请看 http://www.devnotes.net/post/15.html

但是一台主,在负载比较大的情况下,不免会扛不住,在这里我们谈下多主互备来实现这一功能。

Mysql多机同步技术笔记
阅读全文…

原创文章,转载请注明: 转载自DevNotes: Development with Notes

本文链接地址: 【笔记】MYSQL数据库主从互备实现 – 多主负载

分类: MYSQL 标签: , , ,

【笔记】主从同步 Net error reading from master 解决方法

2008年12月22日 没有评论
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
mysql> SHOW slave STATUS \G;
*************************** 1. row ***************************
             Slave_IO_State: Waiting FOR master TO send event
                Master_Host: 192.168.0.70
                Master_User: mydb
                Master_Port: 3306
              Connect_Retry: 10
            Master_Log_File: mysql_bin.000043
        Read_Master_Log_Pos: 102
             Relay_Log_File: deepin-a1c7a7d1-relay-bin.000036
              Relay_Log_Pos: 243
      Relay_Master_Log_File: mysql_bin.000043
           Slave_IO_Running: Yes
          Slave_SQL_Running: Yes
            Replicate_Do_DB: mysqlbak
        Replicate_Ignore_DB:
         Replicate_Do_Table:
     Replicate_Ignore_Table:
    Replicate_Wild_Do_Table:
Replicate_Wild_Ignore_Table:
                 Last_Errno: 0
                 Last_Error:
               Skip_Counter: 0
        Exec_Master_Log_Pos: 102
            Relay_Log_Space: 545
            Until_Condition: None
             Until_Log_File:
              Until_Log_Pos: 0
         Master_SSL_Allowed: No
         Master_SSL_CA_File:
         Master_SSL_CA_Path:
            Master_SSL_Cert:
          Master_SSL_Cipher:
             Master_SSL_Key:
      Seconds_Behind_Master: 0
1 row IN SET (0.00 sec)
mysql> LOAD DATA FROM master;
ERROR 1189 (08S01): Net error reading FROM master

解决方法:

Slave_IO_Running: No
Slave_SQL_Running: No
注意:这两个参数为YES方可。
1. start slave;
Slave_IO_Running: Yes
Slave_SQL_Running: Yes

2. load table from master只支持myisam表,如果试图载入一个非MyISAM表,会导致以下错误

原创文章,转载请注明: 转载自DevNotes: Development with Notes

本文链接地址: 【笔记】主从同步 Net error reading from master 解决方法

分类: MYSQL 标签: , ,

【笔记】MYSQL使用.frm文件恢复数据表(Innodb和Myisam)结构

2008年12月22日 没有评论

英文原文(Recovering CREATE TABLE statement from .frm file),本人只做了解后的心得笔记
译者:吴德勇 来源:http://www.devnotes.net 转载请注明作/译者和出处 谢谢

在这里我们探讨使用.frm文件恢复数据表机构(当然如果你以前备份过数据表,你可以使用调用备份的数据表)

我们都知道当我们建立数据表(innodb或myisam)时,会生成相应的文件(如:MYD,MYI,frm)
在这里,我们探讨下使用frm文件恢复 innodb和myisam类型表的结构,不过由于他们存储引擎的特性,所以恢复的方法也不一样,一下是详细的恢复过程。
阅读全文…

分类: MYSQL 标签: , ,

【原创】MYSQL存储过程‘CURSOR FOR’用法

2008年12月16日 没有评论

原创笔记,转载请注明来源
存储过程中我们经常看见“cursor for” 的使用,下面对这一用法说明下

1
2
3
4
5
6
7
8
9
10
11
12
13
14
CREATE PROCEDURE p25 (OUT return_val INT)
BEGIN
DECLARE a,b INT; < --
DECLARE cur_1 CURSOR FOR SELECT s1 FROM t;
DECLARE CONTINUE HANDLER FOR NOT FOUND
SET b = 1;
OPEN cur_1;
REPEAT
FETCH cur_1 INTO a;
UNTIL b = 1
END REPEAT;
CLOSE cur_1;
SET return_val = a;
END;//

  
这个过程开始声明了三个变量。
阅读全文…

原创文章,转载请注明: 转载自DevNotes: Development with Notes

本文链接地址: 【原创】MYSQL存储过程‘CURSOR FOR’用法

分类: MYSQL 标签: ,