原始數據

從 华夏文化百科
於 2014年8月16日 (六) 06:49 由 Test 32(對話 | 貢獻) 所做的修訂 (1個修訂:HDwiki 数据迁移 - 批次 865)
(差異) ←上個修訂 | 最新修訂 (差異) | 下個修訂→ (差異)
跳到: 導覽、 搜尋

並不是所有的原始數據都能成為信息,數據成為信息還要經過篩選、組織然後按照一定的格式進行整理才能成為信息。比如,超市裏的POS機每天都會收集到大量的原始數據,但是,如果不經過處理,這些數據並不能產生什麼信息。經過處理之後的超市數據可以顯示出很多情況,比如客戶喜歡購買什麼東西,客戶通常逛超市的時間以及他們購買物品的價格範圍等等,這就是信息。這種信息可以用於預測技術,進而制定商業計劃,最終贏得市場。


  經過處理之後,原始數據會生成一個數據庫,數據庫中的信息可以用來進一步的處理,經過分析之後,可以用於多種用途。


源數據抽取優化的問題


運行完session後,查看log,發現源數據讀取的吞吐量僅為幾百條左右,察看詳細的session log發現,整個etl過程瓶頸在於源數據的讀取,如果在TOAD中直接運行數據源的sql查詢發回所有記錄只需4秒鐘左右,這是怎麼回事?可不可以優化?


SESSION LOG:***** RUN INFO FOR TGT LOAD ORDER GROUP 【2】, SRC PIPELINE 【1】 *****MASTER PETL_24018 Thread 【READER_2_1_1】 created for the read stage of partition point 【SQ_BOM】 has completed: Total Run Time = 【195.091525】 secs, Total Idle Time = 【0.000000】 secs, Busy Percentage = 【100.000000】.


MASTER PETL_24019 Thread 【TRANSF_2_1_1_1】 created for the transformation stage of partition point 【SQ_BOM】 has completed: Total Run Time = 【193.616721】 secs, Total Idle Time = 【180.455230】 secs, Busy Percentage = 【6.797704】.


MASTER PETL_24022 Thread 【WRITER_2_1_1】 created for the write stage of partition point(s) 【BOM】 has completed: Total Run Time = 【135.793892】 secs, Total Idle Time = 【135.682443】 secs, Busy Percentage = 【0.082072】.