多表连接查询和多次单表查询哪个效率高?为什么?

如果数据量小的表,这样的设计意义不大,而且当然是单表速度快。若在大数据量情况下,设计非常有意义。在多表连接中注意数据的条目和外健,避免出行大量冗余数据导致性能下降。下面我以Oracle讲讲数据查询的整个过程技术。

由于数据分布到数据块,在大量数据设计中可以将数据存储于多个数据块,在高并发进程的随机访问的情况下,能有效减少块冲突 同样的数据需要更多的数据块来存储,由于数据块的块头元信息大小固定,所以需要更多的空间来存储块头元信息。行长度过大容易导致行连接,从而导致Oracle获取数据块的效率降低 ,在行长度固定的前提下,单块能够存储更多的数据行,也就意味着Oracle一次I/O能读取更多的数据行。适合连续顺序读或者存放大对象数据(如LOB数据) 由于大数据块可以存放更多的索引叶节点信息,容易引起争用,所以大数据块不适合存放索引叶节点信息。

大量数据表的数据库参数设置DB_FILE_MULTIBLOCK_READ_COUNT表示Oracle一次顺序I/O读操作最多能读取的数据块块数。该参数的默认值随操作系统的不同而不同。在全表扫描或者索引快速扫描比较多的系统中(如DSS系统),建议将该值设置得较大。但是DB_FILE_MULTIBLOCK_READ_COUNT参数受操作最大单次I/O大小的限制,大多数操作系统单次读操作的大小不能超过1MB,这也就意味着在8KB数据块大小的情况下,该参数最大值为128。值得一提的是,该参数的大小还会影响Oracle CBO对执行计划的评估,如果设成较大值,Oracle的执行计划倾向于全表扫描。当该参数设置为0或者保持默认时,CBO假设全表扫描时最多能连续读取8个数据块。从Oracle 11R2开始,DB_FILE_MULTIBLOCK_READ_COUNT的取值算法如下:

db_file_multiblock_read_count = min(1048576/db_block_size , db_cache_size/

(sessions * db_block_size))

注意 数据库参数BLOCK_SIZE在设定之后,在数据库生命周期内不可更改。

当执行SELECT语句时,如果在内存里找不到相应的数据,就会从磁盘读取进而缓存至LRU末端(冷端),这个过程就叫物理读。当相应数据已在内存,就会逻辑读。我物理读是磁盘读,逻辑读是内存读;内存读的速度远比磁盘读来得快。

下面将本人大数据分区设计截图,为大家参考学习。

先贴俩图镇镇场。

引言

对于内连接,使用单个查询是有意义的,因为你只获得匹配的行。

对于左连接,多个查询要好得多。


数据说话

看看下面的基准测试:

5个连接的单个查询

一行5个查询

注意,我们在两种情况下得到了 相同的结果 (6 x 50 x 7 x 12 x 90 = 2268000)


总结一下

对于冗余数据,左连接使用更多的内存。

如果只执行两个表的连接,那么内存限制可能没有那么糟糕,但通常是三个或更多的表,因此值得进行不同的查询。


写在最后

用过Laravel吗?还记得 Eloquent ORM模型吗?

不知道有没有注意到,debug所打印出来的多表联合查询,

都是拆分为“单个表查询”,然后使用PHP处理的。

Happy coding :-)


是做表连接查询还是做分解查询要具体情况具体分析。

如果数据库的结构合理,索引设计得当,表连接的效率要高于分解查询。比如,在有外键的时候,数据库可以为外键建表并建立索引从而提升多个表连接查询的效率。另外,多表连接查询不需要把数据传输到应用程序中,直接在数据库端执行,这在很大程度上提升了效率。

但是多表连接也有一些缺点。多表连接对表结构的依存度很高,只要表结构出现变更就会同时对数据库检索和应用处理两个部分产生较大影响。另外,多表连接的兼容性不好,数据库不同SQL文也多少有些差异。而且采用分散数据库的时候,实现多表连接即麻烦又没有什么好处。因此,一些大型系统或者是支持多种类数据库的系统一般不会使用多表连接,而倾向于采用分解查询。

这个得看情况,一般数据不大的情况下多表连接查询和多次单表查询的效率差不多。如果数据量足够大,那肯定是多次单表查询的效率更高。在很多大的公司里面,都会禁用多表连接查询,原因就是一旦数据量足够大的时候多表连接查询效率会很慢,而且不利于分库分表的查询优化。那么看一下下面这个例子。

两种查询方式的比较

我这里有一个数据库,我们拿里面的客户表和地区表做两种查询的对比。用户表数据是31万条,地区表3511条。

1. 使用连表查询成都市的客户总数

2.使用多次单表查询客户总数

可以看到,查询出来的结果都是一样,但是第一种的连表查询用了0.67秒中,而第二种多次单表查询一共用时0.14秒。这个对比已经是很明显了吧。

虽然这只是一个很简单的例子,但是对比结果是非常明显的。在实际应用中可能会更复杂、数据更多,如果还使用连表查询时非常慢的,而且还消耗服务器资源。

所以现在在很多大了公司明确要求禁止使用join查询,比如阿里、腾讯就明确规定禁用三表以上的join查询。

总结一下,单表查询的优点

1. 多次单表查询,让缓存的效率更高。

许多应用程序可以方便地缓存单表查询对应的结果对象。另外对于MySQL的查询缓存来说,如果关联中的某个表发生了变化,那么就无法使用查询缓存了,而拆分后,如果某个表很少改变,那么基于该表的查询就可以重复利用查询缓存结果了。

2. 将查询分解后,执行单个查询可以减少锁的竞争。

3. 在应用层做关联,更容易对数据库进行拆分,更容易做到高性能和可扩展。

4. 查询本身效率也可能会有所提升。

5. 可以减少冗余记录的查询。

6. 在应用中实现了哈希关联,而不是使用MySQL的嵌套环关联,某些场景哈希关联的效率更高很多。

7. 单表查询有利于后期数据量大了分库分表,如果联合查询的话,一旦分库,原来的sql都需要改动。

8. 很多大公司明确规定禁用join,因为数据量大的时候查询确实很慢

所以在数据量不大的情况下,两种方式的查询都没什么明显的差别,使用多表连接查询更方便。但是在数据量足够大几十万、几百万甚至上亿的数据,或者在一些高并发、高性能的应用中,一般建议使用单表查询。

如果觉得笨猫的回答对你有用,点个关注,非常感谢。

做java的,在orm框架下,分解查询是最符合面向对象操作的,挺支持分解查询的(拙见)

先说结论:不一定。

多表查询效率低的时候,可以考虑拆解sql成多个小的sql,至于效率是否一定会提高,这个还不一定,具体问题具体问题。当多表查询效率低的时候,拆解成单个小sql,这只是一个可能的思路,起不起作用,不一定。

sql是一个很复杂的东西,sql引擎会分析执行计划,并可能按照他认为最优的执行计划执行sql,但他认为的也不一定是正确的。不同的sql执行计划不一样,所以很难断定sql拆解或者合并的效率。

说了这么多,那到底是多表联合查询还是拆解呢?有没有一个原则? 有!如果你确定你的单个sql的执行效率比较快,当然可以写多个单个sql。当然了,具备这个能力需要你对数据库足够了解,比如什么时候走索引,什么时候nested loop等等。如果你现在的多表联合查询比较慢,你需要找出来慢的原因,并分析拆解后的sql的执行计划,看是否避免了多表联合查询的效率问题。


总之吧。这个问题,只能给你一个大体的思路,因为牵扯到很多基础问题,我觉得最起码sql执行计划应该需要了解,一个sql可能的执行计划有几十中,复杂sql的执行计划又是这几十种的组合。哪种效率低,哪种效率高应该有个大体了解。


多表查询可以很快,也可以很慢。主要看执行计划。

单次肯定是多表连接查询的效率高,但多次单表查询的吞吐量高,而且容易优化,例如分库分表,使用缓存减少DB访问次数等等,所以在大数据量高并发场景通常使用多次单表查询的方式。另外,不管是单表还是多表连接查询,SQL的执行时间和数据量、并发量都有很大关系,和扫描的数据行数也很有关系。如果一条SQL,平时执行一次要2秒,10个并发时,系统可能一点问题都没有,1000个并发时,数据库可能就被拖死了。我们组之前碰到过好几次这种问题,一张只有几万条数据的表,因为忘记加索引,平时执行只有几百毫秒,高峰期直接飙到几十秒,DB差点被拖垮。

单纯从效率来讲,join的表不太多时,join效率比较高。但是占用的主要是数据库服务器的资源。数据库资源又是个瓶颈,不易横向扩展。所以在数据量大的时候,我们会采用单表查询,把循环和匹配等大量工作移到应用服务器上。应用服务器容易扩展,对并发支持更好。

当数据量大到千万级以上,就建议尽可能减少join,鼓励使用单表查询。查询优化比较容易。这时候使用join的一个大型查询就可能花很久,对其他查询造成阻塞,导致服务不可用。

当考虑单表查询后,就会衍生一系列的策略,比如冷热数据分离,将热数据和 历史 数据分离,大幅降低数据量级以提高热数据查询性能,并可以使用内存缓存。这样又促使你考虑引入微服务架构。

总结,数据量小,查询并发少,那么使用join的性能是可控的,开发成本低。当数量级上升到千万级且不断增加,尽早考虑向单表查询切换,否则可能有性能下降会导致系统奔溃。而且性能下降不是线性的,会陡降。



  • 澶氳〃杩炴帴鏌ヨ鍜屽娆″崟琛ㄦ煡璇㈠摢涓鏁堢巼楂?涓轰粈涔?
    绛旓細杩欎釜寰楃湅鎯呭喌,涓鑸暟鎹笉澶х殑鎯呭喌涓嬪琛ㄨ繛鎺ユ煡璇㈠拰澶氭鍗曡〃鏌ヨ鐨勬晥鐜囧樊涓嶅銆傚鏋滄暟鎹噺瓒冲澶,閭h偗瀹氭槸澶氭鍗曡〃鏌ヨ鐨勬晥鐜囨洿楂樸傚湪寰堝澶х殑鍏徃閲岄潰,閮戒細绂佺敤澶氳〃杩炴帴鏌ヨ,鍘熷洜灏辨槸涓鏃︽暟鎹噺瓒冲澶х殑鏃跺欏琛ㄨ繛鎺ユ煡璇㈡晥鐜囦細寰堟參,鑰屼笖涓嶅埄浜庡垎搴撳垎琛ㄧ殑鏌ヨ浼樺寲銆傞偅涔堢湅涓涓嬩笅闈㈣繖涓緥瀛愩 涓ょ鏌ヨ鏂瑰紡鐨勬瘮杈 ...
  • mysql 鍗曡〃澶氭鏌ヨ鍜屽琛鑱斿悎鏌ヨ,鍝釜鏁堢巼楂
    绛旓細2. 涓嶈繃涓嶅缓璁3琛ㄤ互涓婄殑杩炴帴鏌ヨ锛堝彲浼樺寲琛ㄨ璁★紝绠鍖栦笟鍔¢昏緫鍜屼娇鐢ㄧ▼搴忓垎姝ヨВ鏋愭暟鎹級锛宻ql澶嶆潅浠g爜涓嶆槗缁存姢锛屼笖澶ф暟鎹噺甯︽潵楹荤儲鏃讹紝瑕佽冭檻鍒嗗簱鍒嗚〃鎴栦娇鐢ㄥ垎甯冨紡妗嗘灦
  • SQL杩炶〃鏌ヨ璺涓涓釜琛ㄦ煡璇㈤偅涓揩鍚勬湁浠涔堜紭鐐瑰拰缂虹偣
    绛旓細2銆佷粠鏌ヨ鏁堢巼鏉ョ湅锛氬崟鏌ヨ鐨勫彲閲嶇敤鎬ц緝楂橈紝鎵浠ユ晥鐜囩浉杈冧箣鑱斿悎鏌ヨ浼氭洿楂銆傚湪鏁版嵁搴撹繘琛岃鍐欐椂锛屾暟鎹簱浼氱敤閿佹満鍒讹紝闄愬埗鍏朵粬杩炴帴瀵瑰叾鎿嶄綔銆傜敱浜庤仈鍚堟煡璇㈡煡璇㈤熷害姣斿崟涓煡璇㈣鎱㈠緢澶氾紝杩欐牱鑱斿悎鏌ヨ浼氬鍔犻攣鐨勭珵浜夊叧绯伙紝鎵浠ョ敤鍗曟煡璇細鏇村ソ銆3銆佷粠閫昏緫鏋舵瀯鍒嗗眰鍘熷垯鏉ョ湅 鍏宠仈鍏崇郴浠h〃浜嗕笟鍔¤鍒/閫昏緫锛屽鏋...
  • mysql涓敤澶氳〃UNION鏌ヨ鍜涓涓琛ㄦ煡璇 鍝釜鏇村ソ
    绛旓細澶氳〃鑱斿悎鏌ヨ蹇锛屽崟琛ㄦ煡鐨勮瘽闇瑕佸娆¤繛鎺ユ暟鎹簱锛岃楁椂閮藉湪杩炴帴鐨勮繃绋
  • SQL杩炶〃鏌ヨ璺涓涓釜琛ㄦ煡璇㈤偅涓揩鍚勬湁浠涔堜紭鐐瑰拰缂虹偣
    绛旓細2锛庝粠鏌ヨ鏁堢巼鏉ョ湅锛氬崟涓煡璇㈠叿鏈夋洿濂界殑鍙噸鐢ㄦэ紝鍥犳姣旇仈鍚堟煡璇㈡洿鏈夋晥銆傚綋璇诲彇鎴栧啓鍏ユ暟鎹簱鏃讹紝鏁版嵁搴撲娇鐢ㄩ攣鏈哄埗鏉ラ檺鍒跺叾浠栬繛鎺ュ鍏惰繘琛屾搷浣溿傜敱浜庤仈閭︽煡璇㈡瘮鍗曚釜鏌ヨ鎱㈠緱澶氾紝瀹冧滑浼氬鍔犻攣浜夌敤锛屽洜姝ゅ崟涓煡璇㈡洿濂姐3锛庝粠閫昏緫缁撴瀯灞傞潰鏉ョ湅锛屽垎灞傚師鍒 鍏宠仈琛ㄧず涓氬姟瑙勫垯锛忛昏緫銆傚鏋滅粡甯镐娇鐢ㄥ叧鑱旀煡璇紝灏变細灏...
  • C# 澶氳〃杩炴帴 澶氭璁块棶鏁版嵁搴 鍝釜蹇
    绛旓細1銆佹暟鎹皯锛屾庝箞閮藉彲浠ワ紝瀵归熷害娌℃湁澶氬皯褰卞搷锛堜富瑕佹槸鎰熻涓嶅嚭鏉ワ級2銆佹暟鎹锛澶氳〃杩炴帴鏌ヨ姣澶氭鏌ヨ蹇簺锛屽娆℃煡璇㈤渶瑕佸娆¤皟鐢ㄧ被杩涜鎿嶄綔锛岃屽鍙樿繛鎺ユ煡璇紝鍙渶瑕佽皟鐢ㄤ竴娆$被锛屼絾鏄袱绉嶆儏鍐典笅閮介渶瑕佷竴瀹氭椂闂达紝寤鸿鏌ヨ鏃堕噰鐢ㄧ嚎绋嬩紤鎭懡浠わ紝缁欏嚭鎻愮ず锛孴hread.sleep(200)绛夛紝璁╂煡璇㈣璁℃洿鍔犱汉鎬 ...
  • SQL杩炶〃鏌ヨ璺涓涓釜琛ㄦ煡璇㈤偅涓揩鍚勬湁浠涔堜紭鐐瑰拰缂虹偣?
    绛旓細涓鑸儏鍐典笅鏄竴鏉¤鍙ユ潵鐨勫揩銆傚鏋滆〃2鐨勬暟鎹瘮琛1澶氬嚭鍑犱釜鏁伴噺绾х殑璇濓紝骞朵笖琛2涓id瀛楁鏈夌储寮曪紝鍒欐湁鍙兘浣跨敤澶氭鏌ヨ浼氬揩鐐广備竴娆℃煡璇㈢殑浼樼偣鏄彧闇瑕佷竴娆杩炴帴锛屾暟鎹簱鏌ヨ鐨勬椂鍊欙紝杩炴帴鏄釜鑰楁椂鐨勬搷浣溿傜己鐐规槸濡傛灉涓や釜琛ㄦ暟鎹锛屽垯涓棿缁撴灉闆嗗お澶э紝闇瑕佽緝澶氱殑鍐呭瓨璧勬簮銆傚娆℃煡璇㈢殑浼樼己鐐瑰拰涓娆℃煡璇...
  • 鏁版嵁搴撹璁¢棶棰,鍗曡〃鍜屽琛ㄦ煡璇鎵ц鏁堢巼鐩告瘮鏈夊澶у尯鍒
    绛旓細access鐨澶氳〃鏌ヨ锛岀淮鎶よ鏂逛究鐨勫銆傛晥鐜囦笂涔熶細楂橈紝灏ゅ叾鏁版嵁閲忓ぇ鐨勬椂鍊
  • 浠涔堟椂鍊欑敤澶氳〃杩炴帴鏌ヨ 浠ュ強 鎬庝箞鍘诲琛ㄨ繛鎺ユ煡璇
    绛旓細1.浠涔堟椂鍊欑敤澶氳〃杩炴帴锛氫緥濡傦細鏌ヨ涓栫晫浜哄彛灏忎簬100浜虹殑鍩庡競 鎵鍦ㄥ浗瀹剁殑鍥藉湡闈㈢Н 鎯虫煡璇㈢殑鍐呭 鍗曞紶琛ㄦ棤娉曟弧瓒 浣 澶氬紶琛ㄦ湁鐩稿悓鑱旂郴鏃 灏卞彲浠ョ敤鍒杩炶〃鏌ヨ 鍖归厤鐩稿悓鐨勫垪 浠ヨ繖涓垪涓哄鍚堢偣 鎶婁袱寮犺〃杩炲湪涓璧 鎴愪负鎰忎箟涓婄殑涓寮犺〃     鏌ヨ涓栫晫浜哄彛灏忎簬100浜虹殑鍩庡競     ...
  • 鏁版嵁搴撻噷鐩告瘮涔嬩笅鏄澶氳〃鎿嶄綔鐨勯熷害蹇憿杩樻槸鍗曡〃蹇?
    绛旓細褰撶劧鏄鍗曡〃鏁堢巼姣旇緝楂橈紝绱㈠紩涔熸槸鎻愰珮鏁堢巼鐨勬湁鏁堟柟娉曘傚鏋滄暟鎹噺瓒呰繃10涓囷紝搴旇浣跨敤sqlserver锛
  • 扩展阅读:怎么查一个人是否离婚 ... vlookup if多条件查询 ... 通过姓名查个人信息 ... 查老公电话清单怎么查 ... 怎么查一个人离没离婚 ... 多个判定条件返回某个值 ... 三张表连表查询 ... 输入身份证查询婚姻 ... 两个表格一一对应匹配 ...

    本站交流只代表网友个人观点,与本站立场无关
    欢迎反馈与建议,请联系电邮
    2024© 车视网