首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往
您找到你想要的搜索结果了吗?
是的
没有找到

如何 100 亿 URL 找出相同的 URL

5, 000, 000, 000 * 64B ≈ 5GB * 64 = 320GB 由于内存大小只有 4G,因此,我们不可能一次性把所有 URL 加载到内存处理。...使用同样的方法遍历文件 b,把文件 b URL 分别存储到文件 b0, b1, b2, ..., b999 。...这样处理过后,所有可能相同的 URL 都在对应的小文件,即 a0 对应 b0, ..., a999 对应 b999,不对应的小文件不可能有相同的 URL。...那么接下来,我们只需要求出这 1000 对小文件相同的 URL 就好了。 接着遍历 ai( i∈[0,999] ),把 URL 存储到一个 HashSet 集合。...然后遍历 bi 每个 URL,看在 HashSet 集合是否存在,若存在,说明这就是共同的 URL,可以把这个 URL 保存到一个单独的文件

2.8K30

面试:如何 100 亿 URL 找出相同的 URL

5, 000, 000, 000 * 64B ≈ 5GB * 64 = 320GB 由于内存大小只有 4G,因此,我们不可能一次性把所有 URL 加载到内存处理。...使用同样的方法遍历文件 b,把文件 b URL 分别存储到文件 b0, b1, b2, ..., b999 。...这样处理过后,所有可能相同的 URL 都在对应的小文件,即 a0 对应 b0, ..., a999 对应 b999,不对应的小文件不可能有相同的 URL。...那么接下来,我们只需要求出这 1000 对小文件相同的 URL 就好了。 接着遍历 ai( i∈[0,999] ),把 URL 存储到一个 HashSet 集合。...然后遍历 bi 每个 URL,看在 HashSet 集合是否存在,若存在,说明这就是共同的 URL,可以把这个 URL 保存到一个单独的文件

4.4K10

企业面试题: 如何获取浏览器URL查询字符串的参数

Location 对象属性 hash 返回一个URL的锚部分 host 返回一个URL的主机名和端口 hostname 返回URL的主机名 href 返回完整URL pathname 返回的URL路径名...port 返回一个URL服务器使用的端口号 protocol 返回一个URL协议 search 返回一个URL的查询部分 split() 方法 把一个字符串分割成字符串数组: 如果把空字符串 ("")...用作 separator,那么 stringObject 的每个字符之间都会被分割。...字符串或正则表达式,该参数指定的地方分割 string Object。 limit 可选。该参数可指定返回的数组的最大长度。如果设置了该参数,返回的子串不会多于这个参数指定的数组。...如果没有设置该参数,整个字符串都会被分割,不考虑它的长度。 参考代码 function argfn(str) { var list=[],arr=str.replace("?"

3.9K30

面试:如何 100 亿 URL 找出相同的 URL

“5, 000, 000, 000 * 64B ≈ 5GB * 64 = 320GB 由于内存大小只有 4G,因此,我们不可能一次性把所有 URL 加载到内存处理。...使用同样的方法遍历文件 b,把文件 b URL 分别存储到文件 b0, b1, b2, ..., b999 。...这样处理过后,所有可能相同的 URL 都在对应的小文件,即 a0 对应 b0, ..., a999 对应 b999,不对应的小文件不可能有相同的 URL。...那么接下来,我们只需要求出这 1000 对小文件相同的 URL 就好了。 接着遍历 ai( i∈[0,999] ),把 URL 存储到一个 HashSet 集合。...然后遍历 bi 每个 URL,看在 HashSet 集合是否存在,若存在,说明这就是共同的 URL,可以把这个 URL 保存到一个单独的文件

2.3K20

如何列表获取元素

有两种方法可用于列表获取元素,这涉及到两个命令,分别是lindex和lassign。...情形1:列表元素的个数比待分配变量个数多 例如,上例只保留待分配变量x和y,可以看到lassign会返回一个值c,这个值其实就是列表未分发的元素。而变量x和y的值与上例保持一致。 ?...情形2:列表元素的个数比待分配变量个数少 例如,这里增加一个变量t,可以看到最终t的值为空字符串。 ?...综上所述,可以看到在使用lassign时要格外小心,确保变量个数与列表长度一致,或变量个数小于列表长度,否则会出现待分配变量最终被赋值为空字符串的情形。...思考一下: 如何用foreach语句实现对变量赋值,其中所需值来自于一个给定的列表。

17.2K20

面试经历:如何 100 亿 URL 找出相同的 URL

5, 000, 000, 000 * 64B ≈ 5GB * 64 = 320GB 由于内存大小只有 4G,因此,我们不可能一次性把所有 URL 加载到内存处理。...使用同样的方法遍历文件 b,把文件 b URL 分别存储到文件 b0, b1, b2, ..., b999 。...这样处理过后,所有可能相同的 URL 都在对应的小文件,即 a0 对应 b0, ..., a999 对应 b999,不对应的小文件不可能有相同的 URL。...那么接下来,我们只需要求出这 1000 对小文件相同的 URL 就好了。 接着遍历 ai( i∈[0,999] ),把 URL 存储到一个 HashSet 集合。...然后遍历 bi 每个 URL,看在 HashSet 集合是否存在,若存在,说明这就是共同的 URL,可以把这个 URL 保存到一个单独的文件

1.9K00

获取路径某个json文件的内容字符串

前言 实际项目中可能会有需要读取类路径下面的配置文件的内容的需求,由于springboot项目打包的是jar包,通过文件读取获取流的方式开发的时候没有问题,但是上到linux服务器上就有问题了,对于这个问题记录一下处理的方式...类加载器的方式 通过类加载器读取文件流,类加载器可以读取jar包的编译后的class文件,当然也是可以读取jar包的文件流了 比如要读取resources目录下common/tianyanchasearch.json...FileUtil.getStringFromInputStream(resourcePath); return GlobalResult.succeed(JSON.parseObject(content)); /** * 输入流获取文件内容字符串...; } catch (IOException ex) { System.out.println("=======获取数据时...推测主要原因是springboot内置tomcat,打包后是一个jar包,因此通过文件读取获取流的方式行不通,因为无法直接读取压缩包的文件,读取只能通过流的方式读取

2.6K30

Spring 如何 IoC 容器获取对象?

其中,「Spring 的 IoC 容器」对 Spring 的容器做了一个概述,「Spring IoC 容器初始化」和「Spring IoC 容器初始化(2)」分析了 Spring 如何初始化 IoC...IoC 容器已经建立,而且把我们定义的 bean 信息放入了容器,那么如何从容器获取对象呢? 本文继续分析。 配置及测试代码 为便于查看,这里再贴一下 bean 配置文件和测试代码。...当从容器获取 bean 对象时,首先从缓存获取。如果缓存存在,处理 FactoryBean 的场景。...如果缓存没有,先去父容器获取,前面创建 BeanFactory 时可以指定 parent 参数,就是那个。...本文先从整体上分析了如何 Spring IoC 容器获取 bean 对象,内容不多,后文再详细分解吧。

9.6K20

如何机器学习数据获取更多收益

这个问题无法通过分析数据得到很好的解决,只能是通过一次次的制作数据集、搭建模型并进行仿真实验才能发现如何最好地利用数据集以及选取什么样的模型结构。  ...本文讲解一些有关于数据集的实用知识,通过本文你将了解以下三点: 探索可能的模型框架; 开发一套“视图”对输入数据进行系统测试; 特征选择、特征工程和数据准备的想法可以对问题产生更多的观点; ?...在这个过程,可以借鉴一些其它项目、论文和领域中的想法,或者是展开头脑风暴等。在之前的博客《如何定义你的机器学习问题》,我总结了一些框架,可供读者参考。...3.研究数据 将能够想到数据都可视化,各个角度来看收集的数据。...4.训练数据样本大小  使用少量的数据样本做敏感性分析,看看实际需要多少数据,可参考博客《机器学习训练需要多少样本》。此外,不要认为训练数据越多越好,适合的才是最好的。

8.3K20

如何在 MSBuild 的项目文件 csproj 获取绝对路径

通常我们能够在 csproj 文件仅仅使用相对路径就完成大多数的编译任务。但是有些外部命令的执行需要用到绝对路径,或者对此外部工具来说,相对路径具有不同的含义。...这个时候,就需要将相对路径在 csproj 中转换为绝对路径来使用。 本文介绍如何在项目文件 csproj 中将一个相对路径转换为绝对路径。...在 MSBuild 4.0 ,可以在 csproj 编写调用 PowerShell 脚本的代码,于是获取一个路径的绝对路径就非常简单: 1 [System.IO.Path]::GetFullPath...WalterlvRelativePath))) 这样,就可以使用 $(_WalterlvAbsolutePath) 属性来获取绝对路径...你可以阅读我的其他篇博客了解到 $(OutputPath) 其实最终都会是相对路径: 项目文件的已知属性(知道了这些,就不会随便在 csproj 写死常量啦) - walterlv 如何更精准地设置

21030
领券