文承回过神来,重新整理思路。
既然是失踪案,那就换一个出发点,从失踪抓起。
他打开新闻站,发现密密麻麻早已铺满了各种各样失踪的新闻和求助帖子。
「城西两名高中生已经失联三天,最后一次出现是放学结伴去的游戏厅,家长已将周边游戏厅搜遍,仍未现身。」
「城东女子赵某两天前出门夜跑后再也没回家,警方根据其男友提供的常用夜跑路线展开搜索,未见踪迹。」
「19岁女孩夜间上出租车后失踪,出租车的gs信号也在案发当晚离奇消失,目前仍在进一步搜索中。」
「14岁的初中女孩小韩,四天前放学回家途中走丢。」
「钱唐市警方提示,最近城西和城南地区犯罪分子猖獗,夜间出行要结伴,注意安全。」
他皱着眉头一篇一篇看着,突然露出兴奋的笑,快速在白纸上画出路径图。
忍住冲动的喜悦,首先打开爬虫软件,软件图标虽然是个小蜘蛛,不过倒也没那么令人心慌,不过是顺藤摸瓜抓取信息的可爱小工具而已。
什么会员到期了
文承露出不满,一个月都得一百多元的会员费,不能就此放过,可是自己口袋里也就几百块零花钱了都是省吃俭用拼出来的,如果跟母亲要钱买软件总觉得很奇怪吧。
既然没钱,那就自己做一个。文承咬着牙用力点头,舒展手指,跃跃欲试。
开源框架很多,短板在主机的配置和调试上,各种版本各种语言的爬虫都有,冗余是最大的敌人,尤其是要装在文承那个可怜巴巴的远程主机,小水管的带宽和小松鼠心脏一样的配置。
他苦笑了一下,对更适合爬虫的ython自然是不熟悉的,他在开源网站上找到熟悉的h版,作者是一个印度孩子,不同的主机操作系统,远程安装的命令都不一样,好在开源网站支持远程克隆,一瞬间部署完毕。
奇怪,硬是没起作用果然是系统不对,为了用torch开发人工智障,文承已经忍痛洗成乌班图了,如今又要回到h可不又得换回centos才好么,男孩捶了自己胸口一下,将那些被同学称为人工智障的诗篇一一备份存好,重装主机。
20分钟过去,爬虫部署完毕,文承测试了一个本地新闻站,路径设置是比较困难的,不同网站的页面结构有所不同,有些标题的css属性都是乱写的,他一边忍着怒气一边一个一个调整好,过了半个小时,三个新闻站已经爬取完毕,最近7天只要带着失踪两字的新闻全都被抓下来。
趁热打铁,他又添加了十个本地新闻站和两个本地论坛,两三个网站的反爬虫机制很厉害,不到一分钟就被禁止访问了,他苦笑了一声耸了耸肩,无论如何已经有上千条新闻进来了。
新闻抓取,达成文承带着明亮的眼眸笑着,带着欣喜回望了身后熟睡的女孩们,又紧握拳头再次振作。
接下来是提取工作,首先是去重,用distct命令就可以。去重之后剩下700多条新闻和帖子,他倒吸一口凉气。