代码改变世界

MSSQl分布式查询

2010-09-09 14:26 chenkai 阅读(...) 评论(...) 编辑 收藏

 

MSSQlServer所谓的分布式查询(Distributed Query)是能够访问存放在同一部计算机或不同计算机上的SQL Server或不同种类的数据源, 从概念上来说分布式查询与普通查询区别 它需要连接多个MSSQL服务器也就是具有多了数据源.实现在服务器跨域或跨服务器访问. 而这些查询是否被使用完全看使用的需要.

 

本篇将演示利用SQlExpress链接远程SQlServer来获取数据方式来详细说明分布式查询需要注意细节.先看一下系统架构数据查询基本处理:

 memcached

 

 

 

 

 

 

 

 

 

 

 

 

 

当然如果采用了分布式查询 我们系统采取数据DataBase也就可能在多个远程[Remote Server]上访问时: 

 2010-09-08_181001

 

 

 

 

 

 

 

 

 

 

 

 

如上截取系统架构中关于数据与缓存流向中涉及的分布式查询业务, 当我们从客户端Client发起请求数据时. 首先检查MemCache Server缓存服务器是否有我们想要数据. 如果没有我需要查询数据库.  而此时数据要求查询多个远程服务器上多个数据库中表, 这时利用分布式查询.获得数据 然后更新我们在缓存服务器MemCache Server上数据保持数据更新同步, 同时向客户端Client直接返回数据.那如何来执行这一系列动作中最为关键分布式查询?

<1>分布式查询方式

我们知道Microsoft微软公用的数据访问的API是OLE_DB, 而对数据库MSSQlServer 2005的分布式查询支持也是OLE_DB方式.SQL Server 用户可以使用分布式查询访问以下内容:

A:存储在多个 SQL Server 实例中的分布式数据

B:存储在各种可以使用 OLE DB 访问接口访问的关系和非关系数据源中的异类数据

OLE DB 访问接口将在称为行集的表格格式对象中公开数据。SQL Server 允许在 Transact-SQL 语句中像引用 SQL Server 表一样引用 OLE DB 访问接口中的行集,[其实不用关心这个行集概念 它的功能类似SQl中临时表 不过它容积更大 能容纳类型更多 更丰富]

SQL Server 实例的客户机与 OLE DB 访问接口之间的连接 如下图:

 2010-09-08_182420

 

 

 

 

 

 

 

 

上图可以看出.客户端借助OLEDB接口可以访问Oracle/MS Jet/MS SQL/ODBC/第三方等这些丰富数据源来我们分布式查询提供数据. 说了这么多关于OLEDB底层支持. 关于在MSSQL2005中则支持两种方式来进行分布式查询:

<A>使用添加链接服务器方式(Add Link Server)

<B>使用特定名称及特定数据源来直接指定(Add Host Names)

 

其实这两种方式在实际运用中是有区别的:

方式A:Add Link Server方式建立服务器之间关联.创建一个链接的服务器,使其允许对分布式的、针对 OLE DB 数据源的异类查询进行访问. 一般适用于持久的数据操作 对于数据量偏大 服务器之间交付时间长特点.

方式B: Add Host Name 利用域来唯一识别数据库以及数据库表对象. 来实现跨服务器访问. 这种方式一般比较简单 主要适用于对数据需求临时性查询是使用偏多. 不适合做大批量数据提取. 有性能瓶颈.

<2>分布式查询实现

 

在进行实现分布式查询之前.本次测试Demo对应的SQL版本:

 2010-09-09_110812

 

 

 

 

 

 

 

确定SQLServer版本后如下会演示两种方式来实现分布式查询,并对Distributed Query中详细细节进行说明.

<2.1>链接服务器查询

链接服务器配置使 SQL Server 可以对远程服务器上的 OLE DB 数据源执行命令。链接服务器具有以下优点:

  1. 访问远程服务器。
  2. 能够对企业内的异类数据源发出分布式查询、更新、命令和事务。
  3. 能够以相似的方式确定不同的数据源

下图显示了链接服务器配置的基础:

 IC99086

 

 

 

 

 

 

 

 

 

 

现在利用链接服务器方式实现数据访问远程服务器数据库CustomerDB中Users表数据先本地添加LinkServer:

   1:  -- 建立连接服务器  第一步建立连接  IP方式来控制
   2:   
   3:  EXEC sp_addlinkedserver   '192.168.10.104' , 'SQL Server' 
   4:   
   5:  -- 查看链接服务器信息  [测试连接成功]
   6:   
   7:  select name , product, provider, data_source, query_timeout, lazy_schema_validation, is_remote_login_enabled, is_rpc_out_enabled 
   8:  from sys.servers 
   9:  where is_linked= 1 

 

如上市建立连接服务器最简单方式.建立链接服务器过程其实调用了系统存储过程Sp_addlinkedserver. 第一个参数为Name 其实用来唯一标识链接服务器. 当然可以其他任何有意义字符串来定义,但我个人建议使用远程服务器的IP来标识.第二个参数是要添加为链接服务器的 OLE DB 数据源的产品名称. 默认为Null,如果指定”SQlServer“则无需指定其他参数.

如果你的本地装有多个数据库实例. 第一个种方式就不适用.这是就需要用SQl2005架构来唯一标识:

   1:  -- 含架构名  查询数据两种模式

   3:  select top 10 * from [192.168.10.104]. wl . 架构名 . 表名 

   5:  -- 架构名 [采用默认架构名 ]
 
   7:  select top 10 * from [192.168.10.104]. CustomerDB . dbo. Users 

 

对于Sql2005架构这个概念很多人比较陌生:

架构是形成单个命名空间的数据库实体的集合。命名空间是一个集合,其中每个元素的名称都是唯一的。 例如,为了避免名称冲突,同一架构中不能有两个同名的表。两个表只有在位于不同的架构中时才可以同名 例如本次Demo 在CustomerDB后对应DBO既是默认的架构名.

创建后.如果需要修改连接服务器属性可以通过sp_serveroption系统Proc来设置:

   1:  -- 配置链接服务器属性 sp_serveroption为远程服务器和链接服务器设置服务器选项
   2:  -- 语法  sp_serveroption [@server =] 'server',[@optname =] 'option_name',[@optvalue =] 'option_value'
   4:  exec sp_serveroption '192.168.10.104','name','192.168.10.104' 
   6:  -- 查看连接服务器
   7:  select * from sys.servers

建立后我就可以直接来查询远程服务器上数据:

   1:  -- 查询远程服务器数据

   3:  select * from [192.168.10.104].CustomerDB.dbo.Users   --[成功]

   5:  -- sp_droplinkedsrvlogin 删除链接服务器登录名映射 [删除登录映射]
   6:  -- 如果为 NULL,那么将会删除由 sp_addlinkedserver 创建的默认映射 [第二个参数]
   8:  exec sp_droplinkedsrvlogin '192.168.10.104' ,NULL 
  10:  -- 删除链接服务器属性 [删除服务器]
  12:  exec sp_dropserver 'mytest' --[删除成功 同时也删除了Sys_Server信息]
  14:  -- 查看服务器详细信息
  15:  EXEC sp_helpserver
 
查询结果:
 2010-09-09_120510

 

 

 

 

 

 

测试查询成功.远程数据成功获取.

当测试完成后我们不需要这个连接服务器是即可利用SP_DroplinkServer删除掉. 对应参数为创建时Name唯一标识. 通过Sp_helpserver来查看连接服务器详细信息.

注意如上创建连接服务器时设置srvproduct参数即OLED数据源名称时我们采用了SQlServer方式.

下面说明这种方式特点.:

这种方式是最为简单直接的一种建立链接服务器方式. 但是存在前提的. 测试发现:

在所有数据库的远程连接 dbo 的方式必须建立在 SA 密码相同的基础上 ,否则容易产生无法连接的情况 Sa用户登录失败. 你也就明白这个SQlServer参数其实就是在本地数据拷贝服务器角色SysAdmin下用户SA.来对服务器进行登录. 如果你的本地Sa密码与远程服务器上密码不一致 则无法正常连接.

经过测试还发现一种情况:

利用Windows7访问XP(Sp2)系统时始终提示无法解析或拒绝连接SQlServer2005.这个问题我整了好久后来才到官方链接参数中发现.:如果你的XP系统没有打上SP4的补丁包 这个问题会始终出现. 需要特别注意.

<2.2>直接指定数据源分布式查询

其实相对第一种方式, 直接指定方式在SQlServer架构中 其实跳过本地与远程服务器建立映射关系的这一步. 通过链接关系建立 其实就是建立一种内部映射关系. 如果没有映射关系则 大部分设置需要手动控制.

直接指定数据源方式 需要开启分布式查询的基本权限 来进行查询:

   2:  -- 如果想使用分布式查询,必须先开通分布式查询 [外围配置 这点是所有查询操作前提]
   3:  -- sp_configure--显示或更改当前服务器的全局配置设置
   4:  -- reconfigure 指定如果配置设置不需要服务器停止并重新启动,则更新当前运行的值
   5:  -- SQL2005默认是没有开启’Ad Hoc Distributed Queries’ 组件 
   6:   
   7:  -- 启用权限
   8:  exec sp_configure 'show advanced options',1  -- 显示高级配置
   9:  reconfigure -- 更新值
  10:  exec sp_configure 'Ad Hoc Distributed Queries',1 -- 启用分布式查询
  11:  reconfigure
  12:  go
  14:   
  15:  -- 关闭分布式查询
  16:  exec sp_configure 'Ad Hoc Distributed Queries',0   
  17:  reconfigure
  18:  exec sp_configure 'show advanced options',0
  19:  reconfigure
  20:  go 
  23:  -- 开启权限后 另外一种查询方式
  24:  -- 查询格式
  25:  SELECT * FROM OPENDATASOURCE(
  26:   'SQLOLEDB',
  27:   'Data Source=远程ip;User ID=sa;Password=密码'
  28:   ).库名.dbo.表名
  29:   WHERE 条件

  31:  -- 需要开启权限 
  32:  -- 开启权限 提示[远程的SqlServer不允许远程连接]
  34:  select * from OPENDATASOURCE('SQLOLEDB','Data Source=192.168.10.67; User ID=sa; Password=chenkai').wl.dbo.Users

开启权限后. 需要里利用ReConfig命令来确认.对目前分布式查询权限的修改. 如果在使用完分布式查询后注意关闭.最后查询结果:

2010-09-09_120510

 

 

 

 

 

 

测试成功.

有些人说使用数据库角色SysAdmin角色下的Sa用户进行远程数据传输和验证. 不安全. 其实在使用过程中应该不难看出. 在从远程服务器拉取数据库过程中. 本地数据库需要对权限,创建连接服务器都需要最大用户权限来操作. 而服务器呢, 只需要能连接上 同时对指定数据CustomerDB具有读写的权限即可. 当然你更多远程操作可以把用户赋予CustomerDB的OWner角色.

这时我们如何用非SA用户来来连接远程用户?

我们现在远程服务器上对连接创建一个用户名为Test的用户 服务器角色设置Public即可:

 2010-09-09_131004

 

 

 

 

 

在用户角色设置中需要对指定访问数据CustomerDB具有读写权限: 

2010-09-09_131120

 

 

 

 

 

 

 

在远程服务器创建TEst用户时使用SQlServer身份验证方式登录 这时设置密码为RemoteDB.在使用非Sa用户进行远程:

   1:  -- 执行前先删除已经存在数据
   2:  Exec sp_droplinkedsrvlogin [192.168.10.76],Null
   3:  Exec sp_dropserver 'demodb'
   4:   
   5:  -- 创建服务器连接
   6:  EXEC  sp_addlinkedserver
   7:        @server='demodb',-- 被访问的服务器别名 
   8:        @srvproduct='',
   9:        @provider='SQLOLEDB',
  10:        @datasrc='192.168.10.76'   -- 要访问的服务器
  12:   
  13:  EXEC sp_addlinkedsrvlogin 
  14:       'demodb', -- 被访问的服务器别名
  15:       'false', 
  16:       NULL, 
  17:       'Test', -- 帐号
  18:       'RemoteDB' -- 密码

如上我们首先清除已经可能创建服务器数据记录. 然后创建服务器连接.sp_addlinkedSrvlogin系统存储过程用来创建链接服务器上远程登录之间的映射 . 即我们可以详细设置本地与远程服务器详细的映射信息. 例如设置我们特定用户访问的用户名和密码.

查询数据:

   1:  -- 查询指定用户Test数据
   2:  select * from [demodb].CustomerDB.dbo.Users -- [如上测试成功]
 
 
查询结果:

2010-09-09_120510

 

 

 

 

 

 

 指定用户Test对CustomerDB访问数据方式测试成功.

<3>问题排查与更多查询方式

 

当我们在实际编程中进行访问远程数据时 因为不同操作环境会引发各种各样的异常,如下我会提出一种常见的异常方式解决办法和关于远程数据操作更多查询方式.

<3.1>无法建立远程连接

其实这个问题在做分布式查询时极其常见. 而引起这个问题的因素过多. 我们一时无法判断真正引发这个异常地方. 只能通过逐个排查方式来进行设置:

例如我们在建立关联关系后 进行查询时会遇到:

2010-09-09_133411

 

 

 

 

提示是: 在进行远程连接时超时, 引起这个问题原因可能是远程服务器积极拒绝访问!

首先要在Sql Server Configuation Manager中保证你服务已经运行 且是开机自动运行.

再次检查SQl2005外围配置DataBaseEngine允许远程连接:

 2010-09-09_133756

 

 

 

 

 

 

 

 

 

 

 

 

 

 

设置完成后.我们还需要设置Sql Server Analysis Services分析服务也支持远程数据查询:

 2010-09-09_134058

 

 

 

 

 

 

 

 

 

 

 

 

 

 

在远程服务器上如果启用了防火墙则可能对目前SQl Server方位实例进行拦截. 所以在服务器端启用防火墙情况下要为SQl DAtaBase创建例外.防止客户端请求被拦截.

<3.2>进程被其他用户占用

当我们在远程分布式查询中有创建动作或是类似创建一个新的数据库. 有时会提示 “该数据库无法操作 已经别其他进程占用”异常. 导致我们无法访问数据库. 或是执行我们要做的创建操作.

遇到这种情况我们可以利用SA权限查询到Master数据库对应数据库被占用的进程 并杀掉Kill Process.查询:

   1:  -- [sysprocesses 表中保存关于运行在 Microsoft® SQL Server™ 上的进程的信息。
   2:  -- 这些进程可以是客户端进程或系统进程。sysprocesses 只存储在 master 数据库中]
   4:  use Master
   5:  go
 
   7:  SELECT * FROM sysprocesses ,sysdatabases WHERE sysprocesses.dbid=sysdatabases.dbid AND sysdatabases.Name='CustomerDB'
 
   9:  select * from sysprocesses
 
  11:  select * from sysdatabases
 
  13:  -- 杀死占用进程
  14:  kill 5

 

当我们对进程占用清除时有可能访问数据库被系统进程占用. 则这时用Sa无法杀死.这时提示:

2010-09-09_134851

 

 

 

 

“Only use Process can be Kill ”在SQl2005 只有只有用户进程才能Kill掉.

<3.3>更多的查询操作

往往我们在实际操作中需要对数据读写有更多要求. 例如从远程连接多个服务器进行数据读取或是把本地数据提交到服务器上. 为了提高效率和性能采用分布式事务来进行批量操作等等. 如下简单介绍在分布式查询中多中数据操作:

把远程数据导入本地:

   1:  -- 导入数据操作
   2:  select top(3) * into TestDB.dbo.CopyDb from  [192.168.10.76].wl.dbo.Users

 

导入时使用Into方式 自动在本地创建CopyDB表完全复制远程服务器上Users表的数据结构.但是要注意在进行后 的CopyDB将不包含原表的主键和索引约束. 虽然能快构建 但是主键和索引设置都会丢失.

本地数据导入远程:

-- 把本地表导入远程表 [openWset方式]
 insert openrowset( 'SQLOLEDB ', 'sql服务器名 '; '用户名 '; '密码 ',数据库名.dbo.表名)  select *from 本地表 
-- 把本地表导入远程表 [open Query方式]
 insert openquery(ITSV, 'SELECT * FROM 数据库.dbo.表名 ')  
 

更新本地表数据:

   1:  -- 把本地表导入远程表 [opendataSource方式]
   2:    insert opendatasource( 'SQLOLEDB ', 'Data Source=ip/ServerName;User ID=登陆名;Password=密码 ').数据库.dbo.表名  
   3:   
   4:  -- 更新本地表 [openowset方式]
   5:   update b  set b.列A=a.列A  from openrowset( 'SQLOLEDB ', 'sql服务器名 '; '用户名 '; '密码 ',数据库名.dbo.表名)
   6:   as a inner join 本地表 b  on a.column1=b.column1  

 

当然还有更多方式来操作分布式查询操作.各位都可以尝试.

 

<4>尾 语

 

如上是我最近在项目中处理关于分布式查询涉及到方方面面. 从系统架构到分部是查询具体操作细节.基本都是一些非常基础运用.当然也参考不少资料.以及动手来验证整个过程出现问题原因所在. 篇幅有限 写的有些仓促. 难免有纰漏地方 还望各位指正.

无觅相关文章插件,快速提升流量