文章资料-情感.机器.认知-电子AI 游客
怎样过滤掉运营商的流氓广告
【84603】by1 2018-11-21 最后编辑2018-12-23 18:37:52 浏览895

屏蔽电信流氓广告造成的诡异的问题--Android WebView 长时间不能载入页面

发如今家里的时候用Android App里的WebView打开站点非常慢,会有十几秒甚至更长时间的卡住。u3874397PNG.jpg

可是在电脑上打开相同的网页却非常快。

查找这个问题的过程比較曲折,记录下来。

抓取Android网络数据

为了调试这个问题,首先要抓取Android的网络包数据。開始时,是想用Wireshark来抓包的,可是非常麻烦,tcpdump在手机要root权限。

于是转换思路,能不能在Android上设置代理,来抓包?

可是fiddler没有linux版本号,于是转用BurpSuite了。

设置Android代理方法:

在Android网络设置里,长按连接,选择“改动网络”,“显示高级选项”,“代理”,“手动”,然后填上相应的代理的地址。

hosts和路由器配置的坑

抓取到http请求数据,发现訪问非常快,比在手机上快多了。说明并非网络问题。

再细致观察,发现了这个请求:

GET /gngo.js HTTP/1.1
Host: x.adpro.cn

回忆起来,这个是曾经屏蔽电信在网页上插入的流氓广告时配置了hosts:

127.0.0.1 adpro.cn
127.0.0.1 x.adpro.cn

于是在电脑上把这两个hosts凝视掉之后,发现速度变慢了一点,可是不会像手机上那样卡十几秒。

再尝试在电脑上的浏览器打开http://x.adpro.cn/gngo.js,发现打不开。

ping x.adpro.cn

发现返回的结果是127.0.0.1

为什么在hosts文件中把 x.adpro.cn的条目凝视掉了,返回的结果还是127.0.0.1?

折腾了一阵子,尝试各种清除linux dns的方法,发现x.adpro.cn的解析结果还是127.0.0.1。

再次想起,曾经在路由器上配置过防火墙,果然例如以下有配置了对adpro.cn的拦截:


在路由器里把这个规则失效之后,果然ping x.adpro.cn能返回正确的IP了。

原来是路由器把dns相关的请求也拦截了,导致linux取不到新的dns解析结果,一直用的都是旧的结果,所以总是把x.adpro.cn解析为127.0.0.1。

搞清楚缘由之后,又一次在路由器里拦截adpro.cn的数据包,然后又一次载入网页,发现http://x.adpro.cn/gngo.js的请求会在十几秒之后超时:


这就是在手机上为什么打开网页要十几秒的原因了:

路由器把adpro.cn的数据包拦截了,从而socket全然没有数据返回,所以http请求在十几秒后超时,Android WebView才渲染显示出页面。

为什么电脑上非常快?由于配置了127.0.0.1 x.adpro.cn,所以http请求直接返回失败了,不会堵塞住。

很影响体验的运营商广告

在路由器上把拦截去掉,再在手机上訪问,又出现了一个坑爹的事情:

在WebWiew上会显示电信插入的流氓广告,把大部分区域都挡住了。


、移动设备访问网络原理

  先看看移动设备是怎么去访问网络,如图1所示,可以看到,移动端的数据包是从wifi出去的。

图1(移动设备访问网络)

  所以我们可以把自己的电脑开启热点,将手机连上电脑,本机的Fiddler开启代理后,让这些数据通过Fiddler,那Fiddler就可以抓到这些包,然后发给路由器,如图2所示

图2(设置)

二、Fiddler抓取android数据包所需条件

  1、电脑需要安装Fiddler

  2、测试手机需要支持Wifi

  3、测试手机与电脑需要同一网络

  4、所测APP需支持代理

  注:Iphone、Ipad、WinPhone等支持代理手机均适用

三、下面介绍一下Fiddler和Android需要怎么设置

1、首先电脑开启wifi热点

  电脑可下载一个wifi软件,我这里用的是猎豹wifi,如图3所示,电脑已经开启了wifi热点后

图3(手机连接电脑的wifi)

2、设置Fiddler的代理端口

怎样过滤掉运营商的流氓广告?黑名单还是白名单

假设只是滤掉的话,用户还以后是站点自己弹的广告。那么怎样在App里过滤掉这些流氓广告?

在WebView里过滤某些url:

当url里含有广告地址时,直接返回一个空的回应。

http://developer.android.com/reference/android/webkit/WebViewClient.html#shouldInterceptRequest(android.webkit.WebView, java.lang.String) http://developer.android.com/reference/android/webkit/WebViewClient.html#shouldInterceptRequest(android.webkit.WebView, java.lang.String)


		webView.setWebViewClient(new WebViewClient() {
			public WebResourceResponse shouldInterceptRequest(WebView view, String url) {
				if (url.contains("adpro.cn")) {
					return new WebResourceResponse(null, null, null);
				}
				return null;
			}

注意的是在api level 11上才干够重载上面的函数。

运营商的广告域名都是相对固定的,能够用黑名单来排除掉。

当然,假设自己的服务都是在自己的域名下的,那么能够考虑採用白名单机制。

白名单机制另一个额外的优点,能够算是一个有一定效果的防止XSS的方法了。


其他的一些东东:

Android上抓包的一些文章:

http://www.trinea.cn/android/android-network-sniffer/     Android利用Fiddler进行网络数据抓包 

http://www.freebuf.com/articles/wireless/6517.html    实时抓取移动设备上的通信包(ADVsock2pipe+Wireshark+nc+tcpdump)