一 概述

1: app 测试内容:
             (1) 常规的功能和性能:功能遍历,业务响应速度,界面测试等等.
             (2):专项测试:主要是系统指标:(包括耗电,内存占用,流量消耗,cpu(计算量),启动速度,流畅度,安装包大小);
             (3):特殊测试:弱网络测试, 用户体验测试(流畅度,易用性);终端兼容性测试
              (4)信息安全测试
       2:  app 测试工具
       3: 测试效果评价

(二) app 测试
常规测试
这部分和一般的软件测试时比较相似的。重点还是:功能覆盖测试

界面的易用性测试。 这个基本上要靠人来看。

目前常规功能测试这块,业界比较推崇的工具是:Appium。

其实对服务端也要关注:

重点就是业务响应速度。专项测试特别流畅度是关心终端性能,业务响应速度是从服务端来说的。当然这些和普通的Web测试没有太大区别。

(三) # 专项测试(专项性能测试)
3.1 启动

启动一般分为:

冷启动:首次启动 时间一般为ms,通常要求1000ms以下,600ms为较好指标

冷启动命令:adb shell am start -W -n 包名/activity

冷启动停止:adb shell am force-stop 包名

热启动:应用切换到后台再次被唤起

热启动命令:adb shell am start -W -n 包名/activity

3.2 电量
GT(测试安卓手机的工具)可以直接看到

命令(5.0以上系统才可以):

1.下载historian.py脚本,下载地址:https://github.com/google/battery-historian,后面用

2.执行步骤

1)初始化batterystats数据

adb shell dumpsys batterystats–reset

2)拔掉手机,操作app,操作完成后,重新连接手机,执行下面的命令,收集系统整体的Battery数据:

adb shell dumpsys batterystats > batterystats.txt

3)得到这些数据后,这个时候使用我们的battery-historian来生成我们可见HTML报告:

python historian.py batterystats.txt > batterystats.html

4)用google浏览器打开此文件即可

备注:阅读腾讯TMQ的《移动APP性能评测和优化》,基本思路也是分析batterystats日志,找到异常,再回头来看是代码问题还是系统设置或用户环境原因。

3.3 内存
Android用AS中的MemoryMonitor大概看看,比如内存始终在增长、内存抖动等。然后dump内存hprof文件出来用MAT分析一下,一般的Heap的内存问题基本就可以发现了。

摘抄腾讯TMQ的《移动APP性能评测和优化》中的一些方法和经验:

1)最常规也最重要的当然是MAT,分析hprof文件,获得内存消耗的排行分析,据此有针对性地来改良代码。一般地图片和大数组消耗没有释放等,可以很快发现。

2)代码中存在的内存泄漏,一般可以用代码白盒分析工具,找到疑点。常见的如Klocwork。

3)dumpsys meminfo来观察应用的内存消耗情况。了解APP运行过程中,内存组成各部分的变化情况。

内存中存在大量的Dalvik Pss,一般就是出现碎片问题。可能原因如大循环中的临时变量等。

dex文件优化:中载入类文件,由于次序问题(按照类名字母顺序)载入,但释放时不是这个顺序,合理命名有助于次序一致,减少载入类文件带来的碎片的出现。(这个一般对大应用比较明显)

Android Emoji 测试文本_app测试


3.4 流畅度

现在一般的方法是测试FPS。用TraceView来看。但其实这种方法有它不合理的地方,比如画面静止的时候,FPS为0,但不卡。因此,腾讯TMQ的《移动APP性能评测和优化》中,采用平滑度(SM)来评估,就是评估CPU能不能处理得过来,60次每秒的处理率,能够满足说明处理得过来,不卡。

3.5 cpu 使用率
这个指标其实是很有误导性的,多核和单核;多线程和单线程处理;为省电降频;等等;例如,多核移动CPU为了省电,平时只用低频的4核工作,不搞清楚原理,只是全速运行然后得到一个数值,其实是不太合适。腾讯TMQ的《移动APP性能评测和优化》中,提出Jiffies来考核,就是处理事务所用的CPU周期数

3.6 流量统计
App的流量消耗是必须要测试的。但这个测试其实是一个伪命题,简单来说,应该是两种业务需求的测试:一个是测试网络环境优良情况下,APP业务工作时候的流量情况;一个是日常没有业务操作的守候情况下的流量消耗情况;至于弱网络情况下的,这个应该放到特殊专项测试里面去处理。其他的应该根据业务场景来分别设计。

流量测试的基本方法就是抓包,例如tcpdump;不过常用方法应该还是设置PC为代理服务器,通过安卓终端连接PC,在PC上抓包。抓包前准备工作:把其他APP能卸载的卸载掉,能关闭连接的都关闭掉后台服务,减少干扰。抓包一般转化成txt或者xml文件,然后用python等编制好的自动化处理脚本提取出来,方便分析。

3.7 安装包大小
这个一般不需要单独测试了,打包后看下大小就知道了。关键的在于如何去优化,减小安装包。方法当然很多,着手的方向主要是两个,一个是代码,一个是资源。(腾讯TMQ的《移动APP性能评测和优化》第6章)

代码:1、去除废代码、冗余代码  用Lint一般可以发现;2、去掉不必要功能;3、调整代码,去掉一些method;4、使用代码混淆(文件命名等处理);

    资源:1、去除冗余资源 用Lint扫描;2、资源混淆;3、压缩图片大小,不必要的可以降低图片精度,调整图片格式等;4、减少一些资源,非常偶尔用的可以用到时再去服务器下载;

    最后,还可以 优化压缩算法,也许可以进一步减少安装压缩包。

四 特殊测试

4.1     兼容性测试
                              这个一般测试都不会有那么多真机或者平台。可以考虑使用云测平台,比如tetsin;或者自建单位内部众包平台,拉单位人员和外部一些友好用户进来,和用灰度测试的方式,预发布,在一段时间内收集问题。
        4.2         弱网络测试
                       一般的方法都是使用模拟软件,控制丢包率来进行模拟,搭好平台实测一下即可。其实众包平台往往更合适。另外,腾讯GT诞生时就是所谓的随身调平台,带上这个工具,去实际路测一下,也可以算是一种简化版的测试方式。
       
    4.3    用户体验测试
                 这个其实很难说,因为流畅度、易用度、界面设计等等这些真的是要人来体验了。一些可靠性的问题,例如,适时保存数据;提示存盘;防止外部通知、外部访问、网络中断或网络延迟较大等导致crash这一类APP必然会遇到的实际应该算功能问题,应该考虑作为功能问题来覆盖,而不是放到用户体验里面来笼统地应付。可以根据策略简化测试,但是要独立出来,不要混。
      4.4   信息安全测试
                非常非常重要。现在没有也没有特别好办法,一般还是用Burpsuite或Drozer一类软件扫描来
 
 # 五      app 测试工具
           工具太多,其实用好Android自带的各个工具基本就可以了:Lint、MAT、DDMS、Systrace、Traceview。抓包的Fiddler设呢么的酬和着用用。其他的建议关注Appium和GT。

1、Appium

2、GT 使用比较方便

六 测试效果评价

1:  测试前评审、测试执行中和测试后总结-----覆盖完整度:(新应用,要求花一定时间来设计和讨论(相当于评审);每日测试完成,要讨论和评估一下测试效果)
           a) 测试设计首先要覆盖完整,比如不要漏了服务端,不要漏了信息安全测试,不要缺了一些重要的专项测试,考虑了,但是根据实际情况可以不测试,这个是另外一回事;测试范围和测试策略选择始终是测试方案设计的重点;
           b)常规功能首先覆盖完整;各种应用场景要考虑清楚,不要美其名曰探索性测试,然后随意点来点去,发现一堆问题,最后发现弱网络没测试,网络切换场景没做,跳转支付没考虑等等。
           c)测试手段覆盖完整:可以在APP开发的时候就先做一下设计评审,评估需求是否合适、合理;测试前可以先上Lint一类的白盒工具,或者并行
           
 2:测试中和测试后及时总结
         a): 测试覆盖度,必要时要补充设计,重新测试
         b):发现问题的情况:问题的类别和趋势还是要适时分析评估,顺便可以要求开发者改进
         c):测试工作本身是否可以模板化甚至工具化
         d):其实团队负责人要借这个总结评估一下团队成员情况