第200章 0201大数据时代
重生之互联网霸主 · 岁月静歌
{间:20033月4}
{点:加州-帕洛阿尔托}
论哪候谦虚总,但谦虚候难免给误。以kaltix组,宁默并谦虚。
kaltix组掌握技术,确实针峰语pagerank做提升。但bing样网页页权重己专算,搜索引擎本质共性让kaltix技术融入并存问题。
问题,何kaltix组纳入旗。简单把kaltix组挖简单,峰语bing相消彼长“骚操”。
既消彼长,宁默介意亮亮肌肉。
迅雷及掩耳之势,拿!
,番数据搜索延伸场景摆2003代,已足以惊艳形容。
包括霍夫曼内,办室呆四幅“懵逼”样盯宁默,让宁默间“”感觉。
确实,刚刚讲东西眼四言。
太超!
理解,
或许跟。
想赛普突张张嘴,翼翼,“宁,曾峰语搜索引擎讨论搜索引擎技术展。本以为展望已超,想铺开副画卷完全超越曾想象。”
眼位叫做宁轻,仅仅名鼎鼎倍宝,竟【领赢】【yspae】联合创始。
已数项目展现创造力,却想搜索引擎专业领域竟超越代独解。
关注仅仅技术,更科技,或互联网技术类文明未展关键。
果以很问己-搜索引擎以干什,己回答最比宁给答案更些:
“搜索引擎以帮更快速找更专业、更详尽答案。”
但今,赛普觉或许给问问题更答案。
或,今,突给别答案。
搜索引擎以做什?
宁已讲清清楚楚,
但未,
离现确实很远。
想,赛普鼓勇气问,“宁,描绘画卷绝搜索引擎未最值探索展向。”
抱歉点点头,赛普讪笑,“并未,意识未,离些远。它量新技术实现,些技术并简简单单团队以完。
甚至连目搜索引擎领域领先峰语,算它足够技术积累,短期内达未。单单何网页文件串联数据,并以数据库查询式实现搜索,目短期内难功课难点。”
“梦想总,怎步步实现它?”
宁默把关梦想话变话,赛普表态,已想更深层次东西。
宁默明白,些,仅仅靠画饼完全服。
己必须拿完全体付帮样梦想轻!
宁默信笑笑,乘抿口咖啡间脑峰语搜索关键技术汇集册。
把杯嘴边拿开候,宁默脑关峰语搜索关键技术封印,
已打开!
“搜索,往往简单认为搜索抓取爬虫网络抓取结果。但实际,搜索并想象简单。”
宁默杯轻轻放桌,笑扫眼,细细解释:
“谈数据搜索,核体量极数据量。体量数据存储、索引检索,已单单数据库结构实现并解决。
数据量数据存储搜索应文件存储检索系统,它必向规模数据密集型应、伸缩布式文件系统。
【bing】除搜索爬虫外,最核部背套围绕bfs(bingfilesyste)文件系统核技术体。套系统设计目标,许传统布式文件系统很相之处。比,性、伸缩性、靠性以及性。
但bfs以应负载情况技术环境析为基础重考虑,管现,bfs早期布式文件系统设想明显。以重新审视传统文件系统设计折衷选择,衍完全设计思路。
首先,组件失效被认为常态意外。bfs需管理百千存储机器,被相数量户终端机访问。bfs组件数量质量导致实,任何给间内某些组件工,某些组件它目失效状态恢复。
遇各各样问题,比应程序bug、操系统bug、为失误,甚至硬盘、内存、连接器、网络以及电源失效等造问题。以,持续监控、错误侦测、灾难冗余以及动恢复机制必须集gfs。
次,以通常标准衡量,文件非常巨。数gb文件非常普遍。每文件通常包含许应程序象,比eb文档。
未需处理快速增长并由数亿象构、数以tb数据集,采管理数亿kb文件式非常明智,尽管些文件系统支持样管理式。因,设计假设条件参数,比i操blk尺寸需重新考虑。
第,绝部文件修改采文件尾部追加数据,覆盖原数据式。文件随机写入操实际几乎存。旦写完之,文件操读,且通常按顺序读。
量数据符合些特性,比:数据析程序扫描超数据集;正运应程序连续数据流;存档数据;由台机器、另外台机器处理间数据,些间数据处理、续才处理。
针海量文件访问模式,客户端数据块缓存意义,数据追加操性优化原性保证考量因素。
第四,应程序文件系统api协设计提高整系统灵活性。比,放松bfs致性模型求,样减轻文件系统应程序苛刻求,简化bfs设计。
bfs引入原性记录追加操,保证客户端够追加操,需额外步操保证数据致性。”
端咖啡喝口,宁默已习惯身边四目瞪狗呆状态。
放杯,宁默再懒解释些技术细节,但提点:
“bfs早规划四核技术体,涵盖第部布式基础设施,包含模块文件系统(file),布式锁服务(hubby)数据化序列协议(prtlbuffer)。
第部布式规模数据处理模块,包含布式运算程序编程框架应数据查询语言。或许sql类似,但实际它应该被称之为dsl(dain-speifilanguage)。
第部则布式数据库技术,它包含模块布式数据存储系统(bigtable)数据库区系统(sharding)。
最部包含数据优化技术,些技术包括综合考虑数据高温化,电池服务器相应整合技术等。”
撇撇嘴,宁默皱眉头,“搜索引擎全盘技术考虑,但仅仅举很简单例,并且应范围网页搜索结果,并提及整态整体考虑。
但技术内容,远比现讲给听内容复杂。每单项包含量工员相应工果,确实短期内以实现。
但【bing】团队目标明确啊。”
“梦想,万实现呢?”宁默撇嘴挑挑眉毛。
轻挑动,kaltix组眼却郑重斯。
办室鸦雀声,除必眨眼,半余动。
概忍受住沉重气氛,霍夫曼赶忙站身,门口招呼帮忙添几杯咖啡。
霍夫曼算,宁默今少带点“火气”,以平沾即风格变凌厉比。接连瞻技术开诚布示,让斯坦福位弟些承接住。
待送新咖啡,霍夫曼才赶忙招呼,“,先喝点东西消化消化。宁原倍宝带团队候样风格,每次新向,总向向勇往直。
两,未失败。但为什失败,相信刚刚。因为每细节把控已做极致,才步步为营每次胜利。”
赛普明显边拿意位,霍夫曼话音刚落,赛普点点头。
虽直位轻宁话,但赛普总觉己嗓些痒。
咳嗽声身边伴,轻轻点点头,赛普清清嗓,“宁,已清楚描绘未,霍夫曼长样,明白计划每细节重视。
想,番讲述,剩问题。,果加入【bing】,期段间,为【bing】做些什?”
!
余感叹。
宁默做之笃样结果,降维打击仅仅让屈服,实以力征服别。
马星舰队开球候,为什总类想为体呢?
,赛普并样思,被己些找己向。
既别已愿意加入团队,宁默态度温少:
“整bing讲,哑虎搜索引擎部门跳槽陆奇先足够力掌控局。但细枝末节,需足够专实现技术。
峰语样,bing己pagerank算。但目搜索引擎优化,需专。让霍夫曼帮物色选目,霍夫曼为【bing】物色技术专。以,想听听搜索领域哪些特长。”
尽管知kaltix技术核套包含技术算,算知技术次外推,blkrank适应pagerank。宁默依旧做足够姿态。
赛普点点头,笑,“,宁,由向详细介绍kaltix。”
搜索引擎并宁墨擅长范围,但世峰语崇拜驱使宁默峰语技术相研究,些积累搜索知识让宁默赛普沟通并吃力。
kaltix赛普基峰语核pagerank技术新兴搜索排序技术,它基兴趣搜索结果排序式,以讲搜索引擎速度提升原速度五倍。
它项核技术……
算知些,宁默细细听完觉己淡。
难怪世峰语2004飞速展,完全因为收购并消化kaltix核技术,kaltix峰语搜索提升显易。
赛普讲解,让宁默觉己捡宝,由夸赞,“技术核思想基户体验搜索排序式,重视旗产品“交互体验”几乎样求。技术核实‘交互体验’,仅技术提升更站户角度‘交互体验’提升。
样技术应非常理由客户便捷实,搜索再机器式反馈结果,性化反馈户真正需求。做件情。”
“觉,以力技术,否以加入【bing】呢?”
赛普真望己,宁默突很想笑。
论何,句话昭示结果。
己次坑峰语,
kaltix组归!