《信创国产化适配》信创软件质量测评,保障信创软件产品形成稳定的质量水平

2023年08月18日
6.9min阅读
一、前言

在一个信创工程项目中,从单个产品部署到整体环境,再到应用系统上线,在整个项目周期中,适配是国产化最关键的环节。一个系统只有在运行使用起来后才能给组织带来价值。这个系统的自我价值实现,必须让用户对其建立起信任。一个不能被业主单位真正接纳的信创系统很难实现其预期的价值。信创软件适配测试可以建立一种质量保障,确保信创软件能按预期的要求运行。通过信创适配测试,尽早发现系统的缺陷并确保其得到正确修复,降低信息化风险,让国产化系统能够被业主单位真正接纳,是业主单位推进IT系统国产化程度的重要保障,是“保工程促产业”的重要手段。

如果无法度量质量,就无法管理质量。目前信创测试依据主要来源于标书合同、委托测试需求单、产品说明、用户文档集,以及个别品类的信创国标或行标。由于没有对软件测评制定通用的测试测评规范,对质量没有一致的评判标准。国产化软件作为对x86系统的替代,至少应能达到一个RUSP(就绪可用软件Ready to Use Software Product)的质量水平。对于RUSP可参考使用GB/T 25000.10-2016和GB/T 25000.51-2016等软件测试相关国家标准,结合信创软件的自身特点,定义信创软件质量测试模型,建立主要质量要素的要求。

明确信创软件适配测试测评要求,可以为信创软件的质量测评提供依据,为厂商开展质量自测以及委托第三方检验检测机构开展质量评测提供参考,为信创软件的开发建设和国产化迁移提供参考。

二、质量测试模型

在GB/T 25000.10-2016中,对RUSP的质量划分为了产品说明要求、用户文档集要求、产品质量和使用质量。其中产品质量又划分为了八个质量维度。

按此分类,结合信创软件产品的特点,可以梳理出信创软件适配测试的质量测试模型。

适配指不同平台设备的匹配,这其实是从硬件的角度上来说的,在不同的技术路线上,安装不同的操作系统、数据库、中间件,软件在其上能够安装运行,这是要满足可移植性。接下来从软件角度看,基于确定型号的设备,对于使用浏览器访问的服务,同一个型号的设备可能运行不同的浏览器,不同的浏览器会有差异性,保持在大部分浏览器都能展现出我们希望的样子;对于客户端软件,要能与系统和系统中的其它软件并存。这就是要满足兼容性。

在满足了可移植性和兼容性后,软件的功能实现完整度、正确实现的充分性,是信创软件“可用”的重要基础。基本功能实现的覆盖率越高,软件使用能满足用户预期需求的能力越好。如果软件功能实现有缺失或有问题,导致用户不能使用该软件完成想要的基本操作,这样的软件是较难被用户接受的。同时,性能效率是否满足使用要求,也是“可用”的重要评价要素。软件能满足的并发任务数、响应时间等性能指标,对用户操作体验有着直接影响,一个功能完好但性能极差的软件也是很难被用户接受的。

我们认为,以上的可移植性、兼容性、功能性、性能效率是信创软件最重要的四个质量特性,也是适配测试的重点。在这个质量基础上,可适当根据软件产品特点及测试需求对易用性、可靠性、信息安全性、维护性、产品说明、用户文档集进行选测,信创软件逐步走向“好用”是必然的质量提升趋势。

三、测试要求

根据GB/T 25000.51-2016国家标准,结合信创软件的实际情况,建议对可用的信创软件的四个重点质量特性的质量要求和测试细则如下:

01.可移植性测试

适应性:

1、软件适应于不同规定环境时的行为能力,根据合同和用户约定通过测试加以证实,测试范围包括:硬件环境(如CPU、存储、网络交换机、路由器等设备)、软件运行的最低配置要求和推荐配置要求、软件环境(例如操作系统、数据库系统、浏览器、支撑软件等)和数据结构。

2、对于环境组合至少满足基本选择组合(一次仅变化一个硬件设备/软件),若另有定义,根据定义(如两两组合或者更高组合)进行检测,如飞腾+统信+WPS、飞腾+麒麟+永中等。

易安装性:

1、设计测试用例以验证被测系统的有效性和效率,如安装文档的有效性、软件安装和卸载过程的自动化程度。

2、设计测试用例以验证每一种安装选项,包括软件的安装方式(自定义安装、默认安装、快速安装等)、路径、用户名、数据库等,每种情况均能成功地安装软件。

3、设计测试用例按照卸载说明验证卸载(采用卸载向导进行自动卸载、从控制面板中的添加/删除中进行卸载或直接删除对应的文件夹等)是否完全;如果卸载不全,那么须要提示用户。

易替换性:

对软件产品的替换方式进行验证,包括软件产品的覆盖、升级、卸载后重新安装等,在所描述的情况下,应能够成功地重新安装或升级软件,在以前版本下保存的数据在新的版本中能否正确使用。

依从性:

达到与可移植性性相关的标准、约定、法规的要求。如果该软件产品涉及到满足相关的国家标准、行业标准、地方标准、企业标准、投标书、责任书、合同书、产品质量法、安全生产法等文件中对其可移植性要求的符合程度,要进行相应测试。

可移植性测试应当充分验证软件定义的适用范围,为厂商和用户提供软件使用的信心。对于定制系统,可移植性测试应尽早进行。若未明确操作系统、浏览器等版本,则应针对当前主流的国产产品的版本进行验证。

如果涉及新旧系统数据迁移,应完整分析新旧系统数据差异,明确无法映射字段的处理方法,对数据备份、数据清理和转换、迁移工具、数据校验工具、系统切换方案及应急措施进行充分的测试。

02.兼容性测试

共存性:

按用户文档集的要求对软件进行安装和配置后,与其它软件共享通用的环境和资源的条件下,产品能够有效执行其所需功能并且不会对其它产品造成负面影响的程度。主要观察操作系统的CPU、进程等系统资源是否异常,或造成其它软件运行错误(例如杀毒软件的互斥)或该软件本身功能实现出错,或系统出错、界面显示不友好等。

互操作性:

如果涉及用户可调用的接口和相关被调用的软件,涉及数据或流的类型和长度等,测试共同协作完成一项功能的能力,如支持.xls、.doc文件的导入/导出、XML、图像采集设备等。

依从性:

达到与兼容性相关的标准、约定、法规的要求。如果该软件产品涉及到满足相关的国家标准、行业标准、地方标准、企业标准、投标书、责任书、合同书、产品质量法、安全生产法等文件中对其兼容性要求的符合程度,要进行相应测试。

测试时,在国产化主流芯片路线、操作系统上,检查软件在系统中运行时,能与系统兼容、能与其它软件同时运行。涉及协作的,能完成正确的数据交换并使用。这些测试也可与功能性结合起来进行测试执行。

03.功能性测试

完整性:

1、测试软件实际功能覆盖了要实现的所有功能的程度。若产品说明中有引用的需求文档,应检查软件满足相关文档的全部要求。另外注意隐含的需求。对于一个就绪可用的信创软件系统,用户所需要使用的基本功能实现齐备,管理员能够实现基本的系统管理。注意发现适配中是否存在因为技术实现障碍导致的关键功能删减。

2、软件不应出现的自相矛盾包括操作的矛盾、表述的矛盾(如文字和图形的表述矛盾)等;凡是产品说明、用户文档集中提到的特性都应与软件保持一致。这些特性包括功能、操作、输入/输出的限制条件等。

适合性:

1、功能的实现符合目标。软件应能够在用户文档集中要求的限制范围和环境下,使用相应的环境设施、器材和数据实现其陈述的功能。验证最终用户根据用户文档集的指导对软件进行控制与操作,应能够成功完成规定的任务。

2、检查操作步骤是否合理,不存在影响体验的致命和严重问题。功能要基于任务特征,而不是基于实现任务的技术。注意发现适配中是否存在因适配技术难题而导致的bug或存在多余的步骤等缺陷。

正确性:

1、执行输入与输出的测试用例时,实际输出应与预期输出一致。

2、软件的输出结果和输出精度都应符合相关要求。(如输入的最大最小值要求、密码长度要求、浮点数的精度要求、百分比计算的精度要求、数据传送的误码率要求等等)

依从性:

达到与功能性相关的标准、约定、法规的要求。如果该软件产品涉及到满足相关的国家标准、行业标准、地方标准、企业标准、投标书、责任书、合同书、产品质量法、安全生产法等文件中对其功能性要求的符合程度,要进行相应测试。

功能测试以黑盒测试为主,可使用等价类、边界值、场景测试、因果图、错误推测等常用测试方法。

04.性能效率测试

时间特性:

1、测试响应时间:用户发起一个请求开始到服务器完成对请求的处理并返回处理结果所经历的时间

2、测试处理时间:数据库查询时间,事务处理时间

3、测试吞吐率:TPS、RPS、网络吞吐流量

资源利用率:

1、监控服务器资源:CPU、内存、IO、带宽等

2、监控数据库资源:数据缓冲区、命中率、连接池、TPS等

容量:

测试容量:最大限量,即上边界。最大并发数、最大数据记录数、最大文件长度、最大带宽等

依从性:

达到与性能效率相关的标准、约定、法规的要求。如果该软件产品涉及到满足相关的国家标准、行业标准、地方标准、企业标准、投标书、责任书、合同书、产品质量法、安全生产法等文件中对其性能效率要求的符合程度,要进行相应测试。

在性能效率测试时,建立业务模型,明确性能指标。

1、业务模型选择用户关注的吞吐量大、并发用户数大或性能故障集中的业务作为被测点,可做基准测试(获取不同配置环境或业务量状态下的基准值)、混合业务测试(多个业务组合及业务比例场景符合真实业务场景)和负载测试(在不同工作量下,例如并发用户数的递增的情况下获取持续正常运行的能力)。必要时评估系统出现的性能瓶颈并调优。

2、在没有性能规格时,可根据业务使用量、数据量、业务并发情况等进行评估;对于国产替代化产品可以通过采集历史业务数据进行统计或分析业务需求来源及业务量来建立性能业务模型和性能指标。

四、结语

信创适配测试面对的是各种各样的国产化硬件、平台、软件系统,软件业务也比较具体,部分行业的软件复杂性也较高,由于信创产业生态还不是非常成熟,产品性能、兼容性等还在逐步提升,适配效率也不是很高,这就要求软件适配测试时,对质量要求理解正确,具备宽广深厚的软件技术功底和测试技术功底,并且要不断积累信创领域的知识和经验。

对各个信创软件,结合其自身的特点、用户单位的实际使用需求,选择合适的质量特性范围,制定恰当的测试方案,以最大效率发现适配问题、尽快地完成适配质量的提升,避免盲目的、仓促的、过度的测试,把质量缺陷控制在一个合理的范围内,保障信创软件产品形成稳定的质量水平,直至达到用户满意的高质量交付。

文章来源:自主可控新鲜事