antiplag 程序代码、文档、图片作业相似度检查软件

软件主要检查、比较学生提交的电子档作业之间的相似度，能对多种编程语言（如java、c/c++、python等）、多种格式（txt、doc、docx、pdf等）的中英文、简繁体文档之间的文本、多种格式（png、jpg、gif、bmp等）的图片相似度进行比较分析，输出相似度高的代码、文本、图片，进而辅助发现学生之间互相抄袭的行为。

需求

jdk11

安装

直接下载或clone项目源代码版，或下载软件的发布版releases。 源代码版可以直接导入eclipse，主入口类是gui.plag.edu下的PlagGUI。 系统在window10，jdk11 64位下开发、运行。

使用

在发布版子目录下，双击run.bat批处理程序，就能启动程序。使用说明参见发布版子目录下的软件使用文档。程序主界面如下：

原理

系统采用的主要技术是字符串相似度比较算法、代码词法语法解析、自然语言处理（nlp）中的分词、图片相似度比较算法。

程序类文本的相似度比较基于3个开放系统：

• 一是基于网络服务的MOSS系统（斯坦福大学开放的支持多种编程语言代码相似度比较的系统）;
• 二是本地执行的sim系统（支持java、c等语言的文本相似度比较）。
• 三是本地执行的jplag系统（支持java、c/c++、python等语言的文本相似度比较）。

本系统在它们基础上进行了二次开发和封装，针对moss系统，开发出了客户端存取模块，实现了代码文件提交、结果获取和解析、结果排序等功能；针对sim和jplag，则将其集成到系统中，在moss因网络故障等原因不可用时，可作为替代产品使用。

中英文文档作业相似度的比较提供了两种算法：

第一种是基于shinglecloud算法（一种基于文本指纹的、语言无关的相似度快速计算方法），文档主要处理过程如下：

1. 使用tika读取不同格式（txt、doc、docx、pdf、html等）不同编码文件中的文本内容，并将其转换成能统一处理的文本；
2. 使用hanlp对文本进行预处理、分词；
3. 使用shinglecloud算法计算文本之间的相似度；
4. 根据相似度排序，输出比较结果。

第二种是基于jplag的GST算法，对其功能进行了扩展，增加的“doc”语言类型，可以对各种文档进行相似度计算，并提供基于网页的可视化比对功能。

图片的相似度比较基于JImageHash项目：

主要采用了图片phash指纹相似度比较算法。

参考文献：

1. Software Plagiarism Detection Techniques:A Comparative Study
2. JPlag: Finding plagiarisms among a set of programs
3. Winnowing: Local Algorithms for Document Fingerprinting moss系统采用的核心算法
4. 软件抄袭检测研究综述

TODO

1. 将jplag整合进系统。已实现。
2. 支持html，jsp文件代码的查重。
3. 支持图片文件查重。已实现。
4. 开发web版作业查重软件。已实现，请参考mooyyu
5. 支持存储以往作业文档，支持基于数据库的作业查重。

源于开源，还于开源，开源是美德，加星也是美德 :smile: 。

更新情况

1. 2019.12.1 使用hanlp作为分词组件，支持pdf、html文件文本的查重，修复若干bug，发布v2.8.6版。
2. 2019.12.3 扩展jplag功能，提供“doc”语言类型，实现了对多种格式文档文本的相似度计算及可视化比对功能。更新使用帮助，测试数据，发布v2.8.8版。
3. 2019.12.25 实现图片相似比较功能，使用phash，实现了对多种格式图片的相似比较。更新测试数据，文档，发布v3.0.0版。