大數據採集,杜甫和李白是CP還是單相思?

2020-12-13 火車採集器

老鐵們,你們那裡天氣還好嗎?

城市氣溫沒到40度的朋友請不要回答,因為我們不熟。

合肥酷暑之下,小採只想空調西瓜WiFi。

然鵝,有那麼一群人,總能靜下心來搞數據。也許是為工作,也許只為消遣,不管出於什麼目的能將採集玩的這麼溜就很讓人服氣了。好啦,請開始你們的表演~

01

基金哪家強,爬爬就知道

爬取某個著名的財經網站的所有基金的數據。我們從基金首頁,爬出所有基金的編號,基金名字和基金的url,共6500多值。

多線程取分別處理每一個基金網頁的數據,解析每一個基金網頁,我們希望提取以下基金的重要信息:

近1個月、3個月、6個月、1年、3年、成立以來的漲幅。

希望通過數據知道:

累計成立漲幅最大的基金

累計1年漲幅最大的基金

累計6month漲幅最大的基金

累計3month漲幅最大的基金

然後取個交集,看看有沒有全能王,我們的投資是以穩健為主,穩子當頭,漲多漲少不要緊,關鍵是要漲,而且穩那我們把成立以來,3年來,1年來,6month,3month,1month 看看有沒有全都漲的,沒有虧過的。當然我們還可以分析一下其他維度的數據,比如成立的時間,幾星級好評的基金等等~找到最強基金根本不是問題,俗話說得好,人不理財,財不理你啊。

02

透過歌詞 我看到了這樣的周杰倫

爬取周董所有的專輯(從最開始的到最新的<周杰倫的床邊故事>)歌詞,啊,也不過才207K的txt ,然後對文件進行分詞,發現了一些結論:

結論一:出現頻率 top20 的詞語,滿滿的都是文藝、傷感、愛情 :

我們 / 怎麼 / 沒有 / 微笑 / 離開 / 愛情 / 回憶 / 不要 / 開始 / 如果 / 不會 / 已經……

(隨機排列一下,是不是就可以模仿方文山寫歌詞了。)

結論二:杰倫喜歡媽媽勝過爸爸,喜歡外婆勝過爺爺以及外公(歌詞中沒有出現奶奶)

啊哦,聽媽媽的話,外婆,爺爺泡的茶~~~

結論三:杰倫喜歡黑色、白色勝過其他顏色

結論四:杰倫最喜歡的語氣詞是oh~

總結:只是從歌詞來看,大概杰倫就是一個穿著黑白帽衫,表面上酷酷的,但是骨子裡滿是深情、文藝, 喜歡喝爺爺泡的茶,聽媽媽的話,愛外婆的 ,嘴裡時不時地冒出一句『哎呦,不錯哦』 的五好青年。

03

杜甫和李白是CP還是單相思?

唐代詩人之間的社交也蠻混亂,聽聞杜甫非常喜歡李白,但李白卻不太感冒,不如把唐詩全採下來分析一下唐詩人的社交究竟如何~

全唐詩數量太多,一共四萬多首,還要調出每個詩人的別名(利用CBDB查找詩人的別名

CBDB由很多張表組成,每張表記錄了人物的不同信息,我們只用到了其中兩張表,人物的主要信息表:BIOG_MAIN和人物的別名表:ALTNAME_DATA)

最終是選取了七百多位著名詩人,然後來檢查一下李白和杜甫之間的引用關係:

不錯,杜甫確實寫了12首與李白有關的詩,而李白則只有3首與杜甫有關的詩。

可憐的杜甫喜歡李白喜歡到做夢都想見的地步:三夜頻夢君,情親見君意(夢李白)。而李白呢,卻向孟浩然表白:吾愛孟夫子,風流天下聞(贈孟浩然)。然而孟浩然的好基友則是王昌齡:數年同筆硯,茲夕間衾裯(送王昌齡之嶺南),恩,還是詩人有情調~

04

1.6萬部電影,華語電影爛片王竟是古天樂

某天,工作量不飽和,就在公司上網隨便搜了部電影來看,本來還期待著看完能夠為搬磚提供靈感,在把進度條拖了 11 次,朋友圈刷了 6 遍之後,我終於從故事中退了出來。

為了避免日後踩到更多雷人的爛片,我決定從豆瓣上把 2002 至 2017 年的電影信息都扒下來,掃一掃有哪些「雷區」。在對數據進行了清理後,我最終得到了一萬六千多部電影來做數據分析。

為了找出「爛片王」,我把豆瓣評分在六分以下電影的演員提取了出來,並保留了每部電影的前四位演員(電影的主演不會太多,一般都是男一女一,男二女二)。

接著我又將出現在同部電影的演員進行組合,然後畫出了出演最多爛片的演員的社交網絡(前 50 位):

結果很驚人,爛片演員的「王中王」竟然不是大家心目中的小鮮肉,而是古天樂!

我嚇得趕緊回看數據,才發現,在這 16 年裡,古天樂一共接了 60 部左右的電影,其中竟有一半是低於 6 分的,也就是說,古 Sir 的爛片產量已經達到了平均一年 2 部。

而他口碑最低的一部,甚至只有 2.9 分——2016 年的《封神傳奇》,據說這是一部感動了其他爛片的神作。只能說他挑的電影眼光不太好。

看過了演員,我們再來看看導演。經過一番統計篩選,我挑出了爛片量 top 的導演:

「王晶」這個名字,已經成為了爛片指標物,以後看到這個名字,大家可以盡情躲開。

如果說王晶的表現有明顯 flop 的話,那郭敬明倒一直是正常發揮,只要是他執導的電影,不要說 6 分了,上 5 分都難。

好片不常有,且看且珍惜。

05

中國姓氏大數據,看看你的本家

一份天朝公民的姓氏、年齡、籍貫數據整出的中國姓氏排行榜。我為這個排行榜設計了豐富的內容:普遍指數、抱團指數、奔波指數、裝逼指數、風雅指數等。

普遍指數

普遍指數=姓氏人口數量

毫無懸念,「王」姓以佔據中國人口8.1%的比例、接近1億的人口總數,奪得了中國第一大姓、地球第一大姓、宇宙第一大姓的桂冠。

恭喜隔壁老王!

那麼,老王們都在哪裡呢?

除了老王,老張、老李也表現不俗,分獲宇宙第二、第三大姓的榮譽。這三大姓加起來,估算約佔據中國總人口的22%。總的來說,「王張李劉陳楊趙周吳徐」10大姓佔據了中國總人口的43%;順序不再是趙錢孫李周吳鄭王啦~

抱團指數

抱團指數=各姓氏在各省分布的基尼係數。

研究結果表明,抱團指數最高、也就是空間集聚度最高的三個姓氏分別為:覃、麥、樸,三姓的基尼係數都在0.82以上,而且三個姓都是相對較小的姓。

裝逼指數

裝逼指數=名字長度在4字或以上的人口數量佔該姓氏人口數量的比例。

嚴格來說,裝逼指數最高的其實是「歐陽」和「諸葛」。但考慮到複姓和少數民族姓氏的逼格並不是裝出來的,我們只好排除掉這些本來就很有逼格的姓氏,只看單字大姓TOP20的裝逼情況:

風雅指數

風雅指數=名字中不包括「取名用字頻率TOP1000」的人數佔該姓氏總人數的比例。

風雅指數最高的10個姓為:

你是這些風雅姓氏的主人嗎?如果姓氏不夠逼格,取個逼格高的名字也是極好的。那就要注意了,千萬別用下面這些字:

炎炎夏日,分享幾個案例供大家消遣,大神們不妨啟動手中的火車採集器,也來玩些趣味採集和分析,可能比他們更炫酷哦~

其實這種天氣呀,想透心涼也不是沒有辦法的,你可以看看錢包,查查銀行卡餘額呀,你看看臉稱稱體重再想想自己的歲數呀~~

相關焦點

  • 李白到底有多了解杜甫?他作詩評價杜甫,和杜甫的自評出奇得一致
    提起李唐詩歌,詩仙李白和詩聖杜甫,始終是李唐詩歌界的名片之一。李白的詩作浪漫豪放,有詩仙的美譽;杜甫筆下的詩作有「詩史」之稱,現實苦情,人亦有詩聖的美名。這二人雖然創作風格不同,但之間的交情可是很深的。
  • 七夕來了,李白杜甫這對千年CP的情感謎團終於在《向上吧!詩詞》裡...
    ――李白《長相思61其一》而被稱為詩仙的李白和被稱為詩聖的杜甫之間的關係,一直以來被大家津津樂道,有人用了一張圖來吐槽,並引發了熱議。看完真的好心疼杜甫,那麼看重的一個人對方卻不看重你是怎樣的一種體驗啊。你是全世界最好的李白!
  • 罵李白寫詩差?是杜甫不在了,給你們的勇氣嗎?
    我們知道,李白和杜甫合稱李杜,兩人關係也比較好,杜甫更是李白的粉絲,非常喜歡李白的詩句。李白被稱為詩仙,杜甫被稱為詩聖,兩人交織千年的情感,也在現代組成了cp。而在千年前,杜甫去世前後,白居易曾寫詩表示,李白的詩十首裡面,沒有一首是好的。
  • 李白和杜甫不是兩個人——忽然想說說李白和杜甫
    在文學地位大不如前的現代社會中,李白和杜甫都已經走下了神壇,但他們作為一個詩人的成就,在他們之後的任何時代,包括現在絲毫也未曾減低。兩位詩人的差異,不但論詩者,即使一般的讀者也能注意到,但對於他們的相同和相似之處卻所論甚少。對兩位偉大詩人的評價,前人已經總結了太多。
  • 杜甫很著名的一首詩,流浪時寫給李白,最後10字的悲涼冠絕古今
    文/顧無【引觴漫談】今天繼續說李白和杜甫的友誼。李白和杜甫一生中沒見過幾次,杜甫跟著李白漫遊了一路,兩人就成為了知根知底,交心的好友。之前有一種言論,說是杜甫和李白之間,只是杜甫的單相思,單相戀。杜甫給李白寫了十幾首詩,幾乎在生活的任何場景,杜甫都能夠觸目生情,想起好友李白,而李白一共給杜甫寫了3首,還有1首不怎麼工整,聽著有打油詩的味道。但是單單從這個角度,是根本不足以判斷杜甫和李白之間的關係的。杜甫天生一個熱心腸,又是儒家心性,關注現實社會,對於社會和集體的重視程度肯定是很高的,所以對於自己的偶像,李白的關心也會來得多一點。
  • 太陽和月亮的相碰——李白和杜甫的友情
    杜甫早已欽佩李白的詩才,這番朝夕相處,李白奔放、率真、浪漫的情懷,張揚的人格魅力,都讓杜甫傾慕不已。我們不難想像,在他們的交往中,李白是主導者,杜甫是追隨者。杜甫注視「偶像」的目光裡,該有多少的崇拜和欽敬。所以,在分別多年之後,杜甫曾多次寫詩回憶這段日子。李杜攜手暢遊洛陽,談詩論文,當然,更少不了舉杯暢飲。
  • 李白和杜甫誰對後世的影響更大?
    前言唐詩是中國文學尤其是詩歌中的高峰,而李白和杜甫就是這座高峰頂上最閃耀的兩顆明星,各有「詩仙」「詩聖」之稱,並稱「李杜」。也有時稱李白和杜甫為「大李杜」,是因為晚唐李商隱和杜牧被稱為「小李杜」。李白和杜甫二人都對後世詩歌甚至是文人產生了很大的影響。
  • 有一種情感,叫「杜甫和李白」
    李白,生於唐朝武則天時期的長安元年701年,卒於唐代宗李豫時期的寶應元年762年。杜甫,生於唐玄宗李隆基的先天元年712年,卒於唐代宗李豫的大曆五年770年。所以,其實,李白和杜甫生活於同一個朝代:唐朝。
  • 排名李白朋友圈的第一不是杜甫?這個人你可能意想不到!
    第五 孟浩然李白的偶像,謝朓是一個,孟浩然是一個。李白的相思給了孟浩然。早年為了和孟浩然見面,聽聞孟浩然會路過武昌,李白還專門趕過去見偶像,著名的《黃鶴樓送孟浩然之廣陵》誕生,「故人西辭黃鶴樓,煙花三月下揚州。孤帆遠影碧空盡,唯見長江天際流。」
  • 讓李白、杜甫都甘拜下風的詩,但是很多人都不知道!
    李白和杜甫,是唐朝乃至中國古代最偉大的詩人。他們一個被稱為詩仙,一個被稱為詩聖,是中國古代文學星空的雙子星座,光耀千年。然而,中國古典詩詞浩如煙海,李白和杜甫雖然都很厲害,但是也有很多的詩人以及他們的作品,並不比李白和杜甫遜色,甚至還有可能略勝一籌!
  • 李白和杜甫開玩笑的詩歌,李白:你寫得慢!杜甫:你寫得快!
    在中國的詩歌史上,若論詩壇好基友,很多人首先想到的一定是中唐時期的元稹和白居易,他們兩人互相唱和的詩歌有很多,兩位好朋友經常在一起談論詩詞歌賦,兩人合稱「元白」,應該說他們是詩壇的一對首席基友。我們今天聊的李白和杜甫也是一對好朋友,他們都是盛唐時期的頂級詩人,合稱「李杜」。
  • 李白的名句,杜甫的名句,白居易的名句,全是經典,值得收藏!
    李白,杜甫,白居易合稱唐代三大詩人,這篇文章的主題是李白,杜甫,白居易詩詞裡的名句,希望大家喜歡,閒話不多說,直奔主題吧!——李白《夢遊天姥吟留別》6、草不謝榮於春風,木不怨落於秋天——李白《日出入行》7、相思相見知何日,此時此夜難為情——李白《三五七言》8、人煙寒橘柚,秋色老梧桐——李白《秋登宣城謝朓北樓》9、抽刀斷水水更流,舉杯消愁愁更愁。
  • 李白和杜甫的詩詞水平到底誰更勝一籌
    說起唐詩,我們不得不說起李白,也不得不說起杜甫,一人稱詩仙,一人謂詩聖,有人問誰的詩歌水平更勝一籌呢?眾所周知,李白和杜甫屬於同一時代的詩人,李白年長杜甫11歲,兩人有深交,有相同點,也有不同點, 一生也都活了五、六十年的光景。
  • 「文章憎命達」:賞析杜甫的《天末懷李白》
    杜甫寫的這首《天末懷李白》中最有名的句子就是「文章恨命達」,這句詩已經成為了一種詩人命運不濟,而文採飛揚的指代,因為這短短五字說明了一個文學創作的道理。而非常有意思的是,這句形容李白的詩句,用在杜甫自己身上比用在李白身上要貼切得多。我們來看這首《天末懷李白》:涼風起天末,君子意如何。鴻雁幾時到,江湖秋水多。文章憎命達,魑魅喜人過。應共冤魂語,投詩贈汨羅。
  • 李白和杜甫,為何被稱為「詩仙」和「詩聖」,區別是什麼
    李白和杜甫,為何被稱為「詩仙」和「詩聖」,區別是什麼文/成長新視點序言:詩歌,是一種抒情言志的文化載體,更是中華文化的瑰寶,源遠流長,群星璀璨。唐代,是我國詩歌發展的黃金時代。強大的國家實力、良好的社會環境及深厚的文化沉澱,為唐詩的繁榮提供了肥沃的土壤和豐富的營養,湧現出了眾多偉大、傑出的詩人,把我國詩歌藝術的發展推向了一個新的高峰,李白和杜甫,就是裡面傑出的代表。一、浪漫主義的偉大代表,詩仙李白。最能反映盛唐精神風貌、代表盛唐詩歌高度藝術成就的,是偉大詩人李白。李白是一位性格豪邁、感情奔放、不受拘束而又嚮往建功立業的詩人。
  • 杜甫曾經也是大網紅 您怎麼看待杜甫、李白等名人被惡搞的現象呢
    想不起現在還有什麼惡搞事件,就說一說當年的「杜甫很忙」和「預言帝李白」的事件吧。來去如風的 」杜甫很忙「我記得是在2012年年初, 杜甫突然在網絡成了網紅,至今此事還撲朔迷離。這一年是杜甫誕辰1300周年,偏偏這一年出現了杜甫很忙事件,很難不讓人感到懷疑。
  • 李白獨創一種詩體,連題目都沒有,卻寫下唯美的相思,流傳千古
    儘管很多人認為,宋代的蘇軾,是才氣唯一能夠比得上唐朝的李白的,但就詩道而言,蘇軾卻自嘆不如,認為古今詩人,都不如李白、杜甫,「古今」之中,當然也包含他了。李白在中國古典詩歌的地位,早已無需贅言。在他踏月而去的一千多年來,無數文人從不吝嗇讚揚之詞,以表達對詩仙的崇敬。唐詩的兩座高峰,杜甫全能型選手,李白則是天才型選手。
  • 杜甫這首寫給李白的唐詩,呈現出的完全是一個粉絲的心態
    相比而言,杜甫的生活就更為悲慘。他一生很不得意,甚至到年老的時候,連家人的餬口都成問題,確實人生極其失敗。撇開這個不談,就文學成就上來說,當時的杜甫對於李白是充滿敬仰之情的。詩仙和詩聖曾經有過幾次郊遊相聚,李白寫給杜甫的詩不多。
  • 李白有多狂?杜甫在這首詩中寫絕了,還讓一個成語火了千年
    幸好在那個時代,李白和杜甫不僅相識而且相知,而且還有過共遊梁地的經歷,為後人津津樂道。他們的交往之中,杜甫自然是小迷弟,對名滿天下的李白充滿了崇敬之情。在現存十多首寫給李白的杜詩中,我們不僅看到了詩聖的才華,更看到了詩仙灑脫豪放的形象。
  • 辛棄疾欣喜快慰,杜甫寂然思遠,李白也會愁腸百結
    「一句一絕」最初起源於晉代《四時詠》,流傳到唐代使用的作者已不多,只有杜甫最喜愛運用這種體格,而這與杜甫本身的特點有關。杜甫的律詩是公認的古來第一,而這個名號很大一部分上來源於杜甫那嚴格、精妙地令人髮指的格律。也正是因為他太精於詩律,運用「一句一絕」絕體,更可以因難見巧。