0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

Photon情报搜集爬虫的主要功能与安装使用说明

python爬虫知识分享 来源:python爬虫知识分享 作者:python爬虫知识分享 2022-06-23 16:35 次阅读

Photon是一个由s0md3v开源的情报搜集爬虫,其主要功能有:

1.爬取链接(内链、外链)。
2.爬取带参数的链接,如(pythondict.com/test?id=2)。
3.文件(pdf, png, xml)。
4.密钥(在前端代码中不小心被释放出来的)。
5.js文件和Endpoint(spring中比较重要的监视器)
6.匹配自定义正则表达式的字符串。
7.子域名和DNS相关数据。

你可以用它来干很多事,比如爬图片、找漏洞、找子域名、爬数据等等。

不仅如此,它甚至支持json格式 ,仅需要在输入命令的时候加上json参数:

python photon.py -u "http://example.com" --export=json

1、下载安装

https://github.com/s0md3v/Photon/archive/refs/heads/master.zip

2、简单使用

注意,使用的时候要在Photon文件夹下。比如我们随便提取一个网站的URL试一下,在终端输入以下命令:

python photon.py -u https://bk.tencent.com/

它会在当前目录下产生一个你测试的域名的文件夹,比如在我这里是 bk.tencent.com:

结果如下:

pYYBAGK0JCWAGbHpAABO34wJ3lQ540.png

嘻嘻,让我们看看里面有什么东西,有没有程序员留下的小彩蛋,打开external.txt,这是该网站的外链的存放位置。可以看到,这里不仅仅是只有网站页面,连CDN文件地址都会放在这里,所以external可能是个藏宝库哦。


3、扩展

这个项目的价值,不仅在于能够快速拉取你想要得到的数据,还在于能够构建一个牛逼轰轰的情报系统(如果你技术够强的话)。因为它是能不断延伸下去的,比如从外链出发,你能找到很多和这个网站相关的讯息。

相比于搜索引擎搜索的结果,实际上这些信息更符合情报的要求。因为存在禁止搜索引擎爬取的 robot.txt, 所以不是网站的所有信息都能在搜索引擎搜索得到,而通过这个Photon,你可以顺藤摸瓜找到那些隐藏在互联网世界的它们。

审核编辑:汤梓红

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 开源
    +关注

    关注

    3

    文章

    3366

    浏览量

    42561
  • python
    +关注

    关注

    56

    文章

    4797

    浏览量

    84792
  • 爬虫
    +关注

    关注

    0

    文章

    82

    浏览量

    6922
  • photon
    +关注

    关注

    0

    文章

    32

    浏览量

    3687
收藏 人收藏

    评论

    相关推荐

    继电器的主要功能与应用

    、温度继电器等。 按工作原理分类 :电磁继电器、静态继电器、固态继电器等。 按用途分类 :保护继电器、控制继电器、信号继电器等。 二、继电器的主要功能 信号放大 :继电器可以将微弱的信号放大到足以驱动其他设备的信号强度。
    的头像 发表于 12-28 09:33 250次阅读

    数字化智能工厂的主要功能组成

    数字化智能工厂是一种基于数字化技术和智能化系统的现代制造工厂,主要功能包括自动化生产设备、信息技术基础设施、数据采集与分析系统、互联互通技术、人工智能与机器学习、虚拟现实与增强现实、安全防护体系和绿色制造。
    的头像 发表于 10-08 11:40 463次阅读
    数字化智能工厂的<b class='flag-5'>主要功能</b>组成

    FPD link主要功能模块

    电子发烧友网站提供《FPD link主要功能模块.pdf》资料免费下载
    发表于 09-27 11:38 0次下载
    FPD link<b class='flag-5'>主要功能</b>模块

    漏洞扫描的主要功能是什么

    漏洞扫描是一种网络安全技术,用于识别计算机系统、网络或应用程序中的安全漏洞。这些漏洞可能被恶意用户利用来获取未授权访问、数据泄露或其他形式的攻击。漏洞扫描的主要功能是帮助组织及时发现并修复这些安全
    的头像 发表于 09-25 10:25 436次阅读

    电子地图的主要功能与应用

    电子地图,即数字地图,是利用计算机技术,以数字方式存储和查阅的地图。它不仅继承了传统纸质地图的基本功能,还通过现代科技手段实现了诸多创新应用。以下是电子地图的主要功能与应用: 一、主要功能 快速存取
    的头像 发表于 09-12 11:18 2082次阅读
    电子地图的<b class='flag-5'>主要功能与</b>应用

    GUTOR不间断电源的主要功能是什么?

    GUTOR不间断电源的主要功能是什么?
    发表于 09-06 17:44

    微处理器的主要功能是什么

    微处理器(Microprocessor),作为计算机系统的核心部件,其主要功能对于整个计算机系统的运行至关重要。
    的头像 发表于 08-22 11:48 2052次阅读

    RFID天线的工作原理和主要功能

    RFID(Radio Frequency Identification,无线射频识别)天线作为RFID系统中的关键组件,其工作原理和主要功能对于整个系统的性能和稳定性至关重要。以下是对RFID天线工作原理和主要功能的详细阐述。
    的头像 发表于 08-09 15:38 1384次阅读

    连接器的主要功能是什么

    连接器的主要功能是实现电子设备之间的电气连接和信号传输。连接器的种类繁多,应用领域广泛,其主要功能可以归纳为以下几点: 电气连接:连接器的主要功能是实现电子设备之间的电气连接。连接器通过其金属接触件
    的头像 发表于 06-20 09:22 1051次阅读

    接地电阻柜的主要功能是控制和限制接地电流

    中性点接地电阻柜的主要功能是控制和限制接地电流
    的头像 发表于 05-09 15:16 445次阅读
    接地电阻柜的<b class='flag-5'>主要功能</b>是控制和限制接地电流

    SMD电感器的主要功能是什么?

    SMD电感器的主要功能是什么? SMD电感器的主要功能是用于电路中的电感元件,主要用于储存能量、传输信号、滤波和产生磁场等。 一、能量储存和传输: SMD电感器可以储存电能并将其传输到电路的其他部分
    的头像 发表于 02-03 15:07 1215次阅读

    TC397的VDDP3引脚的主要功能是什么?

    1.TC397的VDDP3引脚的主要功能是什么?用来给类似外部FLASH供电使用的吗? 2.我是否可以不使用VDDP3引脚,讲VDDP3引脚串联一个100nf电容到GND? 3.TC3X系列是否有硬件设计指导手册?
    发表于 02-01 08:28

    传感器的主要功能是什么

    传感器是一种能够感知外界环境并将这些信息转化为可用信号的装置。它们在各行各业和领域中起到关键作用,被广泛应用于科学研究、医疗诊断、工业控制、农业生产等众多领域。传感器的主要功能包括测量和监测、控制和反馈、安全和监控、诊断和检测以及位置和导航,本文将详细介绍传感器的主要功能
    的头像 发表于 01-27 17:10 3293次阅读
    传感器的<b class='flag-5'>主要功能</b>是什么

    滤波器的主要功能和作用科普

    滤波器是一种用于处理信号的电路或系统,其主要功能和作用包括
    的头像 发表于 01-25 18:10 7743次阅读

    bds的主要功能和作用

    BDS是百度公司推出的一种在线广告投放平台,主要提供广告投放、营销推广、数据分析等一系列服务,以帮助企业获得更多的曝光度、流量和销售机会。本文将从不同方面详细介绍BDS的主要功能和作用。 一、广告
    的头像 发表于 01-15 13:46 2506次阅读