由买买提看人间百态

boards

本页内容为未名空间相应帖子的节选和存档,一周内的贴子最多显示50字,超过一周显示500字 访问原贴
Programming版 - DW BI ETL 问题 - Data Validation and Recordset Comparison
相关主题
改写(migrate) stored proc 问题 (转载)怎样记数多次递归调用种某项操作的次数?
云计算时代用.net简直是笑话Excel VSTO 4.0 project deveopled in VS2010 migration to VST (转载)
漂亮!MongoDB力压DB2Excel VBA copy recordset 的瓶颈
interview questions for SQL, data warehouse? (转载)蔡鸟问个土问题
求转行建议请问一个查找算法。
M$ SQL Server出Linux版了Haskell; Standard ML类语言的问题
Why PostgreSQL is way BETTER than $MSQLObamacare website
mysql DB - 怎么能很容易地update data? (转载)请教Node.js 应用的安全问题
相关话题的讨论汇总
话题: recordset话题: db话题: data话题: source话题: target
进入Programming版参与讨论
1 (共1页)
u***t
发帖数: 3986
1
我目前在某Forture 100公司主持data migration的接收测试, 坑爹的offshore把简单
的问题搞大搞复杂来多要钱, 弄得新的数据库妖精一样...
问题: 我的approach还能再好点吗?
Source: SQL Server 2005
Target: DB2
如何测试Data Migration? 两种方法:
1. Sequential comparison
从Source DB得出个recordset A;
从Target DB的出个recordset B;
从A取第一个record, 到B用loop来找, 找到看B中的相关data是否正确.
(* 我枪弊了这个方案! Millions of rows, dozens of millions of fields. 一
个table 都要用无穷无尽的时间来execute. 而且很可能就out of memory. 除非是spot
check, 否则不可行)
2. Parallel comparison (*我的方案)
从Source DB得出个recordset A;
从Target DB的出个和Recordset A identical的recordset B;
用SQL statement, 用Union All, Except等来找出mismatched的records
(* challenge是CTLLD的target DB被整得极其恶心, 和source DB牛头不对马嘴.
比如source 的 一个record, 到了target 就变成4个record分别在8个table里, 所以,
写出recordset B需要对business rules十分熟悉而且对工作人员的SQL 水平有要求...
这就是我目前的不爽的地方.)
哪位大侠有更好的建议? 或者来个安慰比如"没事, 这事本来就是很tedious的"什么的?
u***t
发帖数: 3986
2
第三种就是只取一个recordset (source) 放buffer里, 然后一个一个的从source的
record中loop下去, 直接用SQL STATEMENT到target的table中找相应的内容
不过这样(target)中的garbage data就不得而知了
1 (共1页)
进入Programming版参与讨论
相关主题
请教Node.js 应用的安全问题求转行建议
网页input问题M$ SQL Server出Linux版了
Comparison Re: 组合的枚举算法?Why PostgreSQL is way BETTER than $MSQL
Matrix calculation in C++mysql DB - 怎么能很容易地update data? (转载)
改写(migrate) stored proc 问题 (转载)怎样记数多次递归调用种某项操作的次数?
云计算时代用.net简直是笑话Excel VSTO 4.0 project deveopled in VS2010 migration to VST (转载)
漂亮!MongoDB力压DB2Excel VBA copy recordset 的瓶颈
interview questions for SQL, data warehouse? (转载)蔡鸟问个土问题
相关话题的讨论汇总
话题: recordset话题: db话题: data话题: source话题: target