顯示具有 Data Science 標籤的文章。 顯示所有文章
顯示具有 Data Science 標籤的文章。 顯示所有文章

2013年4月14日 星期日

笨蛋,問題在問題! Part 3

雖然前面兩篇提到的都是我在工作上遇到的實際狀況,但這不代表只有我自己一個人認為深入了解Business Problem是最優先的步驟。舉例來說,CRISP-DM這個Data Mining流程模式在1990年代誕生的時候,第一個步驟就是Business Understanding:
This initial phase focuses on understanding the project objectives and requirements from a business perspective, then converting this knowledge into a data mining problem definition and a preliminary plan designed to achieve the objectives.
到了2012年,Jean Paul Isson和Jesse S. Harriott寫的《Win With Advanced Business Analytics》這本書,也是把Business Challenges放在他們提出的BASP(Business Analytics Sucess Pillars)架構的第一位:
... a crucial step of any business analytics implementation requires clear understanding of organizational objectives, or "business challenges," to ensure that any solution is aligned with, and addresses, the company's biggest or most pressing needs.
那麼為什麼人們還是常常輕忽了這個重要的步驟,直接就討論要建置什麼模型呢?我觀察到一個現象,也許跟這種狀況有關。

2013年1月12日 星期六

遠見乎?短視乎?

《天下雜誌》在去年4月中出刊的495期做了一個Big Data的特別企劃,性質相似的《遠見雜誌》也在今年開年的319期推出了同樣主題的特別企劃。比起《天下雜誌》來,《遠見》這次的份量更多,內容也略勝一籌。

儘管我認為Big Data現在仍處在hype的階段,我還是非常樂見國內的雜誌願意用這麼多篇幅介紹這個2012年突然變夯的名詞(畢竟這可能關係到我未來的飯碗啊!)。由於這次《遠見》刊出的內容很多,我也還沒全都看完,所以在此我只提出一點點看法。

特別企劃的第一篇文章就提到趨勢科技董事長張明正先生,而且引用他的話說「先有了雲端,才有大數據」。雲端這個名詞確實比大數據(Big Data)這個名詞早出現,但大數據這個東西其實早就有了,兩者也沒有因果關係。不過我們不是在研究Big Data的歷史,就尊重張董事長的意見。我真正有意見的,是他的以下看法:

2012年12月28日 星期五

分析領域的2012年度代表名詞:Big Data

最近幾年到了年尾的時候,電視上都會出現年度代表字的新聞。以Analytics這個領域而言,2012的代表名詞顯然非「Big Data」莫屬。這個名詞雖然不是在2012年第一次出現,卻在這一年一下子就變得大紅大紫。上圖是Google Trends提供的搜尋趨勢,可以看到網路上搜尋 "Big Data" 的熱門度在2012年就有明顯的三級跳(這不單是個慣用語而已,是真的有三級),所以今年的最後一則也就用這個時髦名詞做ending。

由於失業率連年攀升,而我的年紀也越來越大,所以我持續關注著Big Data的發展,希望它可以變成我未來的長期飯票。到目前為止,我個人認為Big Data仍然停留在資訊大廠和顧問公司的炒作(也就是英文的"hype"這個字)階段,然而我也很怕我的判斷失準。況且我對常常聽到的相關技術名詞Hadoop、MapReduce都是「只聞其名,不知其詳」,工作上也一直沒有機會接觸到實際的Big Data與應用,因此難免會擔心自己是否跟不上這一股潮流。

老東家Teradata的Bill Franks寫了一本名為《Taming the Big Data Tidal Wave: Finding Opportunities in Huge Data Streams with Advanced Analytics》的書,成為Wiley and SAS商業系列書籍的2012新作之一,我在11月買到了這本書。儘管Teradata和SAS都是推動Big Data的資訊大廠,這本書對Big Data的看法卻相當務實,讓我有些意外,不過也驗證了我的看法。

2012年12月16日 星期日

不要把「人」忘了(二)

我在前一篇的最末段,提到了《Taming The Big Data Tidal Wave: Finding Opportunities in Huge Data Streams with Advanced Analytics》這本書,作者Bill Franks目前任職於Teradata,並負責Teradata與SAS合作成立的Business Analytic Innovation Center。Teradata和SAS都是我的老東家,但我保證這篇文章沒有廣告的嫌疑,請各位放心繼續讀下去!

雖然這本書的書名用了Big Data這個很夯的名詞,作者在談論資料分析人才的第8章「What Makes a Great Analytic Professional?」,卻沒有應景的以Data Scientist這個時髦的名詞來稱呼從事資料分析工作的專業人士,而是用比較平鋪直敘的Analytic Professional。而且作者一開始就點出,最常見的兩項徵才條件:「數理、統計、資訊科系碩士以上學位」、「程式設計經驗」,其實沒有抓到重點,如果人資部門在選才時都在技術能力和學歷上打轉,恐怕會見樹不見林。作者以他自己的經驗指出,假如以企業在徵求資料分析人才時常用的條件作為標準,他認識的優秀人才幾乎都有一兩項不合格。

2012年12月12日 星期三

不要把「人」忘了(一)

國內報章雜誌寫到有關Big Data(或是過去的資料分析)時,幾乎都著重在技術面和美好遠大的理想上,很少提到「人」的問題。只是不管Big Data的應用有多廣泛,分析工具有多強大,還是要靠「人」來解讀與應用分析的結果。也因為國內文章少有觸及,所以我也就借用國外的資源跟大家分享這個議題。

前幾天在IQ Workforce Blog上看到一篇今年7月的舊文章,題為「Five Observations About Recruiting Big Data Professionals」。據我所知,IQ Workforce是一家專注在資料分析領域的獵人頭公司,所以對於「人」的觀察應該有一定的水準。

2012年11月21日 星期三

Hype or Hope?

今年 6月號的《Cheers快樂工作人》 第141期有一段訪問我的文字:
頂著美國電機博士頭銜,目前在某專業分析軟體公司專研資料探勘(data mining)的張維斌,當年就是看了這本書,改變生涯的路徑。雖然念電機,他卻只對機率、數學有興趣,透過這本書,張維斌確認了分析資料、歸納趨勢類的工作,遠比整天對著電路板更適合自已。浸淫10多年下來,他果然樂在其中,也打響名號。「對我最大的好處,就是工作再也不用自己找,」張維斌笑著說。
其實當初我要表達的意思是最近這幾年做的幾個工作都不是自己主動投履歷找的,卻不知透過記者的筆竟然變成有點「臭屁」的感覺,真怕以後因此找工作會被新雇主刁難。

不過如果今年10月號《Harvard Business Review》所說的沒錯,我應該就不用擔心才對。這本期刊不僅當期有大量關於Big Data的篇幅,其中還有一篇文章的篇名叫做「Data Scientist: The Sexiest Job of the 21st Century」(那我不就是Sexiest Men之一了?)。從事這一行的我,當然希望這類工作越夯越好,只是我仍無法放下心中的疑問:為什麼台灣的就業市場還看不到這種現象?是因為台灣起步較晚,還是經濟規模太小?還是這股熱潮其實根本是資訊廠商炒作的結果(也就是英文所謂的hype)?

2012年6月6日 星期三

從Big Data看天下

結束了為期五個月的assignment,該是回來這裡「溫故知新」的時候了。

「Big Data」這個名詞從去年下半年開始成為全球的顯學,國內的雜誌在今年也出現了相關的專題報導,知名的《天下雜誌》在4月中出刊的495期「特別企劃」就是以Big Data作為主題。當時我滿懷希望的翻開這一期閱讀,然而卻對內容相當失望!

第一篇「政府、企業的下一場戰爭」寫得還好,基本上它只是在說明什麼是Big Data。通常在描述Big Data時會談到它的三種特性:Volume(資料量)、Velocity(資料產生的速度)、Variety(資料的種類),本文雖然也有提到,但是文字分散,如果能直接點出來,讀者會更容易了解Big Data為什麼特別。文末引用麥肯錫去年出的報告說,美國到2018年會出現14萬到19萬個深度分析專才的需求,藉此說明Big Data之熱門。我要補充的是,同一份報告其實還指出,美國在同一個時期內也需要150萬個懂得運用Big Data(但不見得會自己作深入分析)的經理人,對大多數人而言,這才是機會。

第二篇文章名為「一次搞懂Big data」,其實是訪問三家國內資訊服務廠商的總經理或副總。不過我認為這篇短文並沒有達到它宣稱的目的(如果連我都無法藉著這篇文章一次搞懂Big data,更何況是一般讀者),我認為這跟提問很有關係,因為這些問題無系統可言。此外,我個人也認為,與其訪問大型資訊服務廠商的高階主管,不如請他們旗下真正負責資料分析專案的顧問來說明,相信會更能切中要點。

第三篇是標題「用big data 打擊犯罪的鐵漢」的侯友宜專訪,這是「特別企劃」裡篇幅最長的文章,然而把它也放在介紹Big Data的主題專欄,就真的是不知所云!

2011年12月20日 星期二

關於Data Analytics的Career

在 LinkedIn 的 SAS & Analytics Users 討論區看到標題為 "Kind note for all genuine SAS Professionals" 的一些討論,我認為很有意思。由於這個討論區僅限Group的成員參與,所以我把討論中的一些點摘要整理讓大家了解一下。

討論發起人在標題裡用了 genuine(真正的)這個形容詞,因為他發現在職場上充斥著所謂的 fake(冒牌的)SAS programmer。我不知道真正和冒牌的 SAS programmer 如何區分,但是參與發言的人在字裡行間都顯示出他們以身為真正的 SAS programmer 自豪,而且對那些所謂的冒牌貨深不以為然,所以彼此交換意見,看如何在面試過程中揪出這些冒牌的 SAS programmer。討論發起人指出,企業對有經驗的 SAS programmer 需求很大,所以具有這項專長的人炙手可熱。然而他也坦承,SAS programmer 其實是受惠於 SAS 特殊的軟體授權方式(只租不賣)。

2011年11月1日 星期二

Are You a Data Scientist?

剛剛看到兩篇講「Data Scientists」的文章,認為深得我心,所以藉此一角跟大家分享。

第一篇文章開頭就說Data Scientists的特質是好奇心和樂於探索大量資料(underscored by the harder-to-teach characteristics of curiosity and a willingness to explore large amounts of data),我自認同時具備這兩種特質,但是吸引我目光的是harder-to-teach這個形容詞。自從Data Mining開始被國內的大企業採用後,有些學校也開辦了Data Mining的課程。雖然學生可以在這些課程中學習到相關的理論、技巧、軟體操作,「特質」卻是很難學習而來的,而我個人認為特質才是決勝的關鍵因素。

因為特質會驅動一個Data Scientist不斷變換看資料的角度,不自覺的利用時間越挖越深,而且樂此不疲。我從工作中得到的最大樂趣,通常不是完成了什麼模型的建置,而是從資料發現了特殊的pattern或是異常的現象。一個懂得理論、技巧、操作的資料工作者,絕對有能力建構出完美的模型、調出無暇的參數,準時完成資料採礦的專案;但如果他還多了對資料好奇的特質,往往還可以挖到藏在資料角落裡的寶藏,而這些新發現的價值多半高過原來的專案。

這篇文章也引述了Facebook、Foursquare、Intuit、Groupon等知名公司招募Data Scientist人才公告的用語。前三家比較偏向技能和功能的敘述,所以我個人比較喜歡Groupon的說法:Are you excited about analyzing vast amounts of data, finding patterns in it and applying the insights to create business value?如果Groupon也在台灣找這樣的人,我馬上就去應徵了!