标签：组合 class 子节点 答案 笔记 概念 分配 数据 布料
在前面的二分查找示例中，每当用户登陆Facebook，Facebook都必须在一个庞大的数组中查找，核实其中是否包含指定的用户名。在这种数组中查找，最快的方式是二分查找，但问题是每当有新用户注册时，都必须将其用户名插入该数组并重新排序，因为二分查找仅在数组有序时才管用。如果能将用户名插入到数组的正确位置就好了，这样就无需在插入后再排序。为此，有人设计了一种名为二叉查找树的数据结构。
对于其中的每个节点，左子节点的值都比它小，而右子节点的值都比它大。
假设要查找Maggie，首先检查根节点。Maggie排在David的后面，因此你往右找。Maggie排在Manning前面，因此你往前找。
二叉查找树用时为O(log2n)几乎与二分查找一样，但在最糟的情况下所需时间为O(n)；而在有序数组中查找时，即便是在最糟情况下所需的时间也只有O(log2n)，但是二叉查找树的插入和删除操作的速度要快得多。
| 操作 | 有序数组 | 二叉查找树 |
| 查找 | O(log2n) | O(log2n) |
| 插入 | O(n) | O(log2n) |
| 删除 | O(n) | O(log2n) |
场景：在什么情况下使用二叉查找树呢？B树是一种特殊的二叉树，数据库常用它来存储数据。
高级数据结构：B树，红黑树，堆，伸展树。
假设有3个网页，我们根据这些内容创建一个散列表。这个散列表的键为单词，值为包含指定单词的页面。
| 键（指定单词） | 值（包含指定单词的页面） |
| Hi | A,B |
| Adit | B |
| We | C |
| Go | C |
https://betterexplained.com/articles/an-interactive-guide-to-the-fourier-transform/中对于傅立叶变换的解释：
What does the Fourier Transform do? Given a smoothie, it finds the recipe.给它一杯冰沙，它能告诉你其中包含哪些成分。或者给定一首歌曲，傅立叶变换能够将其中的各种频率分离出来。
应用：将歌曲分解成不同的频率，就可强化你关心的部分，如强化低音并隐藏高音。傅立叶变换非常适合用于处理信号，可使用它来压缩音乐。为此，首先需要将音频文件分解为音符。傅立叶变换能够准确的指出各个音符对整个歌曲的贡献，让你能够将不重要的音符删除。这就是mp3的工作远离。jpg也是如此。
傅立叶变换还被用来预测地址和DNA分析。
接下来的三个主题都与可扩展性和海量数据处理相关。目前电脑基本使用的是多核处理器。为提高算法的速度，你需要让它们能够在多个内核中并行的执行。
在最佳情况下，排序算法的速度大致为O(log2n)。对数组进行排序时，除非使用并行算法，否则运行时间不可能为O(n)！对数组进行排序时，快速排序的并行版本所需的时间为O(n)。
并行算法设计起来很难，要确保它们能够正确的工作并实现期望的速度提升也很难。还有速度的提升并非线性的。即便电脑硬件条件增加1倍，算法的速度也不可能提高1倍。原因：
要改善性能和可扩展性，并行算法可能是不错的选择。
有一种特殊的并行算法日益流行，他就是分布式算法。在并行算法只需2-4个内核时，完全可以在笔记本上运行它，但如果需要数百个内核呢？在这种情况下，可让算法在多台计算机上运行。MapReduce是一种流行的分布式算法，可通过流行的开源工具Apache Hadoop来使用它。
假设你有一个数据库表，包含数十亿乃至数万亿条数据，需要对其执行复杂的SQL查询。在这种情况下，你不能使用MySQL，因为数据表的行数超过数十亿后，它处理起来将很吃力。相反，你需要通过Hadoop来使用MapReduce。
又假设你需要处理一个很长的清单，其中包含100万个职位，而每个职位处理起来需要10秒。如果使用一台计算机来处理，将耗时数月。如果使用100台计算机来处理，可能几天就能完工。
映射函数很简单，它接收一个数组，并对其中的每个元素执行同样的处理。例如将每个元素翻倍。
arr=[1,2,3,4,5]
arr2 = map(lambda x:2*x,arr)
print(list(arr2)) #[2, 4, 6, 8, 10]你有一个URL清单，需要下载每个URL指向的页面并将这些内容存储在数组arr2中。对于每个URL，处理起来都可能需要几秒钟。如果总共有1000个URL，可能耗时几个小时。如果有100台计算机，而map能够自动将工作分配给这些计算机去完成就好了。这样就可同时下载100个页面，下载速度将快得多。这就是MapReduce中映射部分基本的理念。
归并函数可能令人迷惑，其理念是将很多项归并为一项。映射是将一个数组转换为另一个数组。
而归并是将一个数组转换为一个元素。
arr=[1,2,3,4,5]
arr2 = reduce(lambda x,y:x+y,arr)
print(arr2)MapReduce使用这两个简单概念在多台计算机上执行数据查询。数据集很大，包含数十亿行时，使用MapReduce只需几分钟就可获得查询结果，而传统数据库可能要耗费数小时。
假设你管理着网站Reddit。每当有人发布链接时，你都要检查它以前是否发布过，因为之前未发布过的故事更有价值。
又假设你在Google负责网页收集，但只想搜集新出现的网页，因此需要判断网页是否搜集过。
再假设你管理着提供网址缩短服务的bit.ly，要避免将用户重定向到恶意网站。你有一个清单，其中记录了恶意网站的URL。你需要确定要将用户重定向到的URL是否在这个清单中。
这些都是同一类型的问题，设计庞大的集合。
给定一个元素，你需要判断它是否包含在这个集合中。为快速作出判断，可使用散列表。例如Google可能又一个庞大的散列表，其中的键是已搜集的网页。
| yes | |
| adit.io | yes |
布隆过滤器提供了解决之道。布隆过滤器是一种概率型数据结构，它提供的答案有可能不对，但有可能是正确的。为判断网页以前是否已搜集，可不使用散列表，而使用布隆过滤器。
使用散列表时，答案绝对可靠；而使用布隆过滤器时，答案确实很可能是正确的。
可能出现的情况：即Google可能指出“这个网站已搜集”，但实际上并没有收集
不可能出现的情况：即如果布隆过滤器说“这个网站未搜集”，就肯定未收集。
布隆过滤器的优点在于占用的存储空间很少。使用散列表时，必须存储Google搜集过的所有URL，但使用布隆过滤器时不用这样做。布隆过滤器非常适合用于不要求答案准确的情况。
HyperLogLog是一种类似于布隆过滤器的算法。如果Google要计算用户执行的不同搜索的数量，或者亚马孙要计算当天用户浏览的不同商品的数量，要回答这些问题，需要耗用大量的空间。对于Google来说，必须有一个日志，其中包含用户执行的不同搜索。有用户执行搜索时，Google必须判断该搜索是否包含在日志中：如果答案是否定的，就必须将其加入到日志中，即便只记录一天的搜索，这种日志也很多。
HyperLogLog近似的计算集合中不同的元素数，与布隆过滤器一样，它不能给出准确的答案，但也八九不离十，而占用的空间却少得多。
面临海量数据且只要求答案八九不离十时，可考虑使用概率型算法。
https://www.cnblogs.com/csj2018/p/10835077.html
可使用sha来判断两个文件是否相同，这在比较超大型文件时很有用。假设你有一个4GB的文件，并要检查朋友是否也有这个大型文件。不需发送文件给对方，计算它们的sha散列值，再对结果进行比较。
sha被广泛用于计算密码的散列值。一般不会存储密码，而是存储密码的sha散列值，然后将输入的同数据库的散列值进行比对。
sha还有一个重要特征：局部不敏感。假设你有一个字符串，sha散列值为A，修改了其中的一个字符，结果将完全不同。这样让攻击者无法通过比对散列值来破解密码。
优势希望结构相反，即希望散列函数是局部敏感的。在这种情况下，可适用Simhash。如果对字符串做细微的修改，Simhash生成的散列值也只存在细微的差别。这让你能够通过比对散列值来判断两个字符串的相似程度。
场景：
需要检查两项内容的相似程度时，Simhash很有用。
https://www.cnblogs.com/csj2018/p/10861597.html
线性规划用于在给定约束条件下最大限度的改善指定的指标。
场景1：公司生产2种产品。衬衫每件利润2美元，需要消耗1米布料和5个扣子；手提袋每件利润3美元，需要消耗2米布料和2粒扣子。共有11米布料和20粒扣子，如何生产利润最大？
场景2:一个政客，要尽可能多的获得选票。旧金山获得一张选票需要1小时的劳动（宣传、研究等）和2美元的开销，而在芝加哥需要1.5小时的劳动和1美元的开销。在旧金山和芝加哥，你至少需要分别获得500和300张支持票。你有50天的时间，总预算为1500美元。请问最多可从这2个地方获得多少选票？
标签：组合 class 子节点 答案 笔记 概念 分配 数据 布料
原文地址：https://www.cnblogs.com/csj2018/p/12181771.html
