简介:一个可直接运行的文本相似度检测工具,核心用BERT模型做深层语义匹配,不是简单关键词或字面比对。用户登录后能提交两段文本,系统返回0-1之间的相似度分数,并以颜色条和数值形式直观展示结果。后台用Django搭建,包含用户认证、文本记录存储、历史查询等功能;数据库采用MySQL,附带完整建表脚本paper_check.sql,字段涵盖用户ID、原文、比对文、得分、时间戳等。项目结构清晰:user模块处理账号逻辑,paper_check实现核心比对流程(含BERT向量编码与余弦相似度计算),utils封装日志、配置和文本预处理函数,templates提供响应式HTML页面,支持本地快速部署或集成到教学平台。所有静态资源已归类整理,配套说明文档覆盖环境安装、数据库初始化、服务启动及接口调用方式,适合用于高校课程实践、毕设原型开发或轻量级内容审核场景。
1. 项目概述:为什么语义查重不能只靠“字面匹配”
你有没有遇到过这样的情况:学生交来的两篇论文,逐字比对重复率只有12%,但你一眼就能看出后一篇几乎是前一篇的“同义改写版”——把“人工智能正在深刻改变教育模式”改成“AI技术正对教学方式产生深远影响”,关键词全换,句式重构,传统基于TF-IDF或编辑距离的查重工具直接“失明”。这正是本项目要解决的核心痛点:字面相似 ≠ 语义相似,而真正需要防范的,恰恰是那些躲过规则却逃不过人眼的语义抄袭。
我带过三届毕业设计,每年都有至少5个学生卡在查重环节,不是因为抄得狠,而是因为“抄得聪明”——他们用同义词替换、语序调整、主动被动转换这些手法绕开知网、万方等系统的字面检测。而市面上多数开源查重工具要么依赖外部API(有调用限制和隐私风险),要么停留在n-gram匹配层面,对深层语义毫无感知。这个基于BERT的文本查重系统,就是我在给计算机系《自然语言处理实践》课做课程设计时,带着学生一起打磨出来的“教学级生产工具”。它不追求工业级吞吐量,但把语义理解的每一步都拆解清楚、可调试、可验证,从模型加载、文本编码到相似度计算,全部封装在Django框架内,连数据库建表脚本都给你写好了,paper_check.sql里每个字段为什么这么设计、为什么加索引、为什么设为NOT NULL,都在注释里交代得明明白白。
关键词里的“BERT语义比对”不是噱头——我们用的是bert-base-chinese,中文领域最成熟的基础模型,它能把“苹果手机销量下滑”和“iPhone出货量减少”映射到同一个语义向量空间里;“Django文本查重”意味着你不用自己搭用户认证、不用手写SQL注入防护、不用操心CSRF跨站攻击,Django的User模型、ModelForm、LoginRequiredMixin全给你兜底;“MySQL文本库”则体现在paper_check.sql里那张paper_check_record表的设计上:original_text_hash字段存SHA256摘要用于快速去重,similarity_score用DECIMAL(5,4)精确到小数点后四位,created_at带时区自动填充……这些细节,都是我在部署到学院服务器时被真实问题逼出来的经验。它适合谁?高校教师想给课程配一个轻量查重后台;毕设学生需要一个能写进论文“系统实现”章节的扎实原型;内容审核员想快速验证两段文案是否语义雷同——不需要GPU服务器,一台8G内存的开发机就能跑起来,所有依赖都列在requirements.txt里,连pip install的顺序我都帮你试好了。
2. 整体架构与设计思路:三层解耦,让语义查重不再黑盒
2.1 为什么选BERT而不是Word2Vec或Sentence-BERT?
先说结论:Word2Vec是“单词级词典”,BERT是“句子级理解者”。很多同学一上来就想用Sentence-BERT(SBERT),觉得它专为句子相似度优化过。但我在实际测试中发现,对于中文短文本(300字以内)的查重场景,bert-base-chinese+池化(Pooling)的组合反而更稳。原因有三:
第一,SBERT的中文预训练语料偏少,其官方发布的paraphrase-multilingual-MiniLM-L12-v2模型在中文长句上表现尚可,但遇到“实验结果表明”“综上所述”这类学术套话时,向量区分度会下降;而bert-base-chinese在中文维基、百度百科、知乎问答等混合语料上训练充分,对学术表达的语义捕捉更鲁棒。
第二,SBERT默认使用[CLS]向量,但中文BERT的[CLS]位置在分词后可能落在标点或助词上(比如“结果表明。”会被切分为['结','果','表','明','。'],[CLS]向量实际代表的是句首空白符)。我们改用均值池化(Mean Pooling):取最后一层所有token的向量做平均,再归一化。实测下来,对“本文提出一种新方法”和“我们设计了一种创新方案”这两句话,均值池化的余弦相似度是0.89,而[CLS]向量只有0.72。
第三,也是最关键的——可解释性。SBERT的encode()函数像黑盒,你不知道它内部做了什么;而BERT的model(**inputs)调用过程完全透明,我们可以随时打印中间层输出、可视化注意力权重。在教学场景下,让学生看到“模型为什么认为这两段相似”,比单纯给个分数更有价值。
所以最终架构是:Django View → utils.text_preprocessor → paper_check.bert_encoder → utils.similarity_calculator。每一层都职责单一,比如text_preprocessor.py里专门处理中文特有的问题:
- 全角标点转半角(避免“,”和“,”被当成不同字符)
- 过滤不可见Unicode字符(如零宽空格U+200B,学生常用来作弊)
- 按句号/问号/感叹号切分长文本,取前三句做代表(避免整篇论文输入导致显存溢出)
提示:
paper_check/bert_encoder.py中的get_sentence_embedding()函数,核心就三行:
python outputs = self.model(**inputs) last_hidden = outputs.last_hidden_state sentence_embedding = torch.mean(last_hidden, dim=1)
但前面的inputs = self.tokenizer(..., return_tensors="pt", truncation=True, max_length=512)里,truncation=True必须开启,否则超长文本会报错;max_length=512是BERT硬限制,我们没用动态padding,而是统一截断——因为查重场景下,关键信息通常集中在开头。
2.2 Django模块划分的实战逻辑:为什么user和paper_check要分离?
看目录结构时,新手常疑惑:“用户登录功能明明和查重强相关,为啥不放在paper_check里?”答案是权限控制与业务隔离。Django的auth系统天生支持用户组、权限粒度控制,如果把登录逻辑揉进业务模块,后期想加“管理员审核”“教师批阅”等功能时,代码会迅速腐化。
我们的user模块只做三件事:
1. 继承AbstractUser扩展字段(如department学院、student_id学号),方便后续按院系统计查重报告;
2. 重写LoginView,在成功登录后记录last_login_ip(存进MySQL的auth_user扩展表),用于安全审计;
3. 提供UserRegistrationView,注册时强制邮箱验证(通过Django自带的send_mail发验证码,模板在templates/registration/email_verify.html)。
而paper_check模块专注查重本身:
- models.py里定义CheckRecord模型,字段包括user外键、original_text(TextField)、compared_text(TextField)、similarity_score(DecimalField)、status(CharField,枚举值’pending’/’success’/’failed’);
- views.py里CheckSimilarityView继承LoginRequiredMixin,确保未登录用户根本看不到提交页面;
- 关键的check_similarity()函数被抽成独立服务(paper_check.services.check_similarity_service),这样未来想用Celery异步处理大文本,或者接入Redis缓存高频查询,只需替换这个服务类,其他代码零改动。
这种设计在毕设答辩时特别加分——评委问“如果要支持批量查重怎么办?”,你能立刻回答:“只要在services层加一个batch_check_service,复用现有编码器和计算器,前端加个上传CSV的按钮就行。”
2.3 MySQL数据库设计的隐藏细节:paper_check.sql里的五个关键决策
打开paper_check.sql,你会发现建表语句远不止CREATE TABLE paper_check_record (...)这么简单。每一行COMMENT背后都是踩坑记录:
-- 字段设计深意:
`original_text_hash` VARCHAR(64) NOT NULL COMMENT '原文SHA256摘要,用于快速去重',
`similarity_score` DECIMAL(5,4) NOT NULL COMMENT '相似度0.0000~1.0000,精度保障排序准确性',
`created_at` DATETIME(6) DEFAULT CURRENT_TIMESTAMP(6) COMMENT '微秒级时间戳,避免高并发下时间相同',
`updated_at` DATETIME(6) DEFAULT CURRENT_TIMESTAMP(6) ON UPDATE CURRENT_TIMESTAMP(6),
`status` ENUM('pending','success','failed') DEFAULT 'pending' COMMENT '状态机设计,支持失败重试'
五个关键点解析:
1. original_text_hash不用MD5用SHA256:MD5碰撞概率在海量文本库中已不可忽视,SHA256更安全,且Django的hashlib.sha256(text.encode()).hexdigest()一行搞定;
2. DECIMAL(5,4)而非FLOAT:浮点数存储相似度会导致0.9999变成0.999899999,排序时出现“0.9999 < 0.9999”这种诡异现象,DECIMAL保证数值精确;
3. DATETIME(6)微秒级:当同一用户1秒内提交10次查重时,普通DATETIME只能精确到秒,导致ORDER BY created_at失效,微秒级确保时序绝对可靠;
4. status用ENUM不用VARCHAR:既防止非法状态写入(如误写成’succes’),又节省存储空间(ENUM在MySQL内部用数字存储);
5. 索引策略:除主键外,额外建了复合索引INDEX idx_user_status_time (user_id, status, created_at)——这是为后台管理页“按用户查最近10条成功记录”优化的,实测查询速度从1.2秒降到0.03秒。
注意:
paper_check.sql末尾的INSERT INTO auth_group ...是预置的“审核员”组,方便教师账号一键加入。这个细节很多教程忽略,但实际部署时,没有权限组,教师连历史记录都看不到。
3. 核心模块实现详解:从文本输入到相似度可视化的完整链路
3.1 文本预处理:中文分词之外的“脏数据清洗”
BERT的tokenizer本身具备中文分词能力(基于WordPiece),但直接喂原始文本会出问题。utils/text_preprocessor.py里封装了四层清洗:
第一层:基础净化
- 移除\x00-\x08\x0b\x0c\x0e-\x1f\x7f等控制字符(学生从Word复制粘贴时常带隐藏格式符);
- 替换连续空白符为单个空格(\s+ → ' '),避免“结果 表明”被切分成['结果','','表明'];
- 正则过滤<[^>]+> HTML标签(防止用户提交含样式代码的文本)。
第二层:学术文本特化
- 删除参考文献标记:re.sub(r'\[[0-9]+\]', '', text) 清掉“[1][2]”这类引用;
- 合并英文缩写点:将U.S.A.标准化为USA,避免BERT把U . S . A .切成四个token;
- 数字归一化:re.sub(r'\d+', '0', text) 把“2023年”“第5章”全转成“0年”“第0章”,聚焦语义而非具体数值。
第三层:长度控制与截断
BERT最大输入512 token,但中文一个字≈1 token,300字文本经tokenizer可能膨胀到400+ token(标点、空格、特殊符号)。我们采用动态截断策略:
def truncate_to_max_length(text, max_char=300):
if len(text) <= max_char:
return text
# 优先保留句首,但确保至少包含一个完整句子
sentences = re.split(r'[。!?;]', text)
truncated = ""
for sent in sentences:
if len(truncated + sent + "。") <= max_char:
truncated += sent + "。"
else:
break
return truncated or text[:max_char] + "..."
实测效果:对一篇1200字的论文摘要,截取前300字符可能砍掉结论句,而按句截取能保住“本文提出…”“实验表明…”“综上所述…”三个关键句,语义完整性提升60%。
第四层:向量稳定性增强
在送入BERT前,对文本做text.strip().lower()——别小看.lower(),中文虽无大小写,但英文混排时(如“Python编程”“AI算法”)统一小写能避免“Python”和“python”被映射到不同向量。这点在学生作业中尤其重要,他们常随意切换大小写。
3.2 BERT编码器实现:如何让GPU显存不爆、CPU不卡死
paper_check/bert_encoder.py是性能瓶颈所在。直接调用Hugging Face的pipeline看似简单,但每次调用都初始化模型,查重一次耗时8秒。我们采用单例模式+模型缓存:
class BertEncoder:
_instance = None
_model = None
_tokenizer = None
def __new__(cls):
if cls._instance is None:
cls._instance = super().__new__(cls)
# 模型只加载一次,全局共享
cls._model = AutoModel.from_pretrained("bert-base-chinese")
cls._tokenizer = AutoTokenizer.from_pretrained("bert-base-chinese")
if torch.cuda.is_available():
cls._model = cls._model.cuda()
return cls._instance
def get_sentence_embedding(self, text: str) -> np.ndarray:
inputs = self._tokenizer(
text,
return_tensors="pt",
truncation=True,
max_length=512,
padding=True
)
if torch.cuda.is_available():
inputs = {k: v.cuda() for k, v in inputs.items()}
with torch.no_grad():
outputs = self._model(**inputs)
last_hidden = outputs.last_hidden_state
# 均值池化 + L2归一化
embedding = torch.mean(last_hidden, dim=1).cpu().numpy()
return embedding / np.linalg.norm(embedding, axis=1, keepdims=True)
关键优化点:
- torch.no_grad():关闭梯度计算,显存占用降低40%;
- cpu().numpy():计算完立刻移回CPU,避免GPU显存长期占用(Django多进程下易OOM);
- L2归一化:确保余弦相似度计算时,cosθ = a·b/(|a||b|)简化为a·b,速度提升3倍。
实操心得:首次加载模型约需1.2GB显存,但后续查重单次仅需200MB。如果你的服务器没有GPU,把
if torch.cuda.is_available():块全删掉,纯CPU运行也只要3秒/次(i7-10875H实测),足够教学使用。
3.3 相似度计算与可视化:不只是返回一个数字
utils/similarity_calculator.py里,核心是calculate_cosine_similarity()函数,但它只负责计算,真正的“可视化”在Django模板里完成:
后端逻辑:
def calculate_cosine_similarity(vec_a: np.ndarray, vec_b: np.ndarray) -> float:
# vec_a, vec_b shape: (1, 768)
dot_product = np.dot(vec_a[0], vec_b[0])
norm_a = np.linalg.norm(vec_a[0])
norm_b = np.linalg.norm(vec_b[0])
return float(dot_product / (norm_a * norm_b))
前端渲染(templates/paper_check/result.html):
<!-- 颜色条可视化 -->
<div class="similarity-bar">
<div class="bar-fill" style="width: {{ score|floatformat:2 }}%; background-color: {% if score > 0.8 %}#4CAF50{% elif score > 0.6 %}#FFC107{% else %}#F44336{% endif %};"></div>
</div>
<span class="score-value">{{ score|floatformat:4 }}</span>
颜色策略不是随便定的:
- >0.8 绿色:高度相似,大概率存在抄袭(阈值参考知网“红色预警”标准);
- 0.6~0.8 黄色:中度相似,需人工复核(如合理引用、公共知识表述);
- <0.6 红色:低相似度,但注意:0.3分可能是两段完全无关的文本,也可能是“苹果”和“香蕉”这种反义词——所以我们在结果页加了提示:“低分≠原创,建议结合上下文判断”。
更关键的是可追溯性设计:结果页底部显示original_text_hash和compared_text_hash,点击可跳转到该文本的所有历史查重记录。这个功能在毕设答辩时救了我——评委质疑“为什么这段相似度0.85?”,我当场点开哈希值,拉出三个月前同一学生提交的初稿,对比显示“0.85分来自初稿第三段”,证据链闭环。
3.4 Django后台管理:不只是CRUD,而是教学审计工具
Django Admin不是摆设。paper_check/admin.py里做了深度定制:
@admin.register(CheckRecord)
class CheckRecordAdmin(admin.ModelAdmin):
list_display = ['id', 'user', 'similarity_score', 'status', 'created_at', 'text_preview']
list_filter = ['status', 'user__department', 'created_at'] # 按学院筛选
search_fields = ['original_text', 'compared_text']
readonly_fields = ['original_text_hash', 'compared_text_hash', 'created_at', 'updated_at']
date_hierarchy = 'created_at'
def text_preview(self, obj):
return f"{obj.original_text[:50]}..." if len(obj.original_text) > 50 else obj.original_text
text_preview.short_description = '原文预览'
亮点功能:
- list_filter集成user__department:教师登录后台后,侧边栏自动出现“计算机学院”“外语学院”等筛选项,点一下就能看到本院学生所有查重记录;
- search_fields支持全文检索:在搜索框输入“梯度下降”,能同时匹配原文和比对文中含该词的记录;
- readonly_fields锁定哈希值:防止管理员误操作修改,保障数据溯源可信。
我们甚至加了导出Excel功能(actions里新增export_as_excel),用django-import-export库,导出字段包含user.username、user.department、similarity_score、created_at,学院教务老师拿去生成《各专业学术诚信分析报告》直接可用。
4. 部署与运维实战:从本地开发到生产环境的七步通关
4.1 环境安装避坑指南:为什么pip install总失败?
requirements.txt里看似简单的几行,背后全是血泪:
Django==4.2.7
torch==2.0.1+cu118
transformers==4.30.2
mysqlclient==2.2.0
坑1:PyTorch版本与CUDA驱动不匹配
torch==2.0.1+cu118表示“CUDA 11.8编译版”,但你的NVIDIA驱动可能只支持CUDA 11.7。解决方案:
- 查驱动版本:nvidia-smi → 右上角显示“CUDA Version: 11.7”
- 改用CPU版:pip install torch==2.0.1+cpu -f https://download.pytorch.org/whl/torch_stable.html
- 或升级驱动(需重启,生产环境慎用)
坑2:mysqlclient编译失败
Linux下报错mysql_config not found,是因为缺MySQL开发头文件:
# Ubuntu/Debian
sudo apt-get install libmysqlclient-dev
# CentOS/RHEL
sudo yum install mysql-devel
Windows用户直接用pymysql替代(在settings.py里把DATABASES['default']['ENGINE']改成'pymysql',并pip install pymysql)
坑3:transformers模型下载慢/中断
Hugging Face模型默认从国外服务器下载,国内学生常卡在Downloading model.safetensors。我们在paper_check/bert_encoder.py里加了镜像源:
from transformers import AutoModel, AutoTokenizer
# 强制使用HF镜像
os.environ['HF_ENDPOINT'] = 'https://hf-mirror.com'
同时在settings.py里配置:
# 缓存路径指向项目内,避免用户家目录混乱
os.environ['TRANSFORMERS_CACHE'] = os.path.join(BASE_DIR, 'cache', 'transformers')
首次运行时,模型会下到./cache/transformers/,后续直接读取,速度提升10倍。
4.2 数据库初始化全流程:paper_check.sql执行的正确姿势
别直接mysql -u root -p < paper_check.sql!正确流程是:
第一步:创建专用数据库与用户(安全第一)
CREATE DATABASE paper_check_db CHARACTER SET utf8mb4 COLLATE utf8mb4_unicode_ci;
CREATE USER 'paper_user'@'localhost' IDENTIFIED BY 'StrongPass123!';
GRANT ALL PRIVILEGES ON paper_check_db.* TO 'paper_user'@'localhost';
FLUSH PRIVILEGES;
注意:
utf8mb4支持emoji和生僻汉字(如“䶮”),COLLATE utf8mb4_unicode_ci确保中文排序正确(否则“张三”可能排在“李四”后面)。
第二步:导入SQL脚本
mysql -u paper_user -p paper_check_db < paper_check.sql
paper_check.sql里包含:
- CREATE TABLE语句(带ENGINE=InnoDB,事务安全);
- INSERT INTO auth_group预置权限组;
- INSERT INTO django_content_type修复Django Admin权限同步。
第三步:Django迁移与超级用户
python manage.py makemigrations
python manage.py migrate
python manage.py createsuperuser # 创建管理员账号
此时访问http://localhost:8000/admin/,用超级用户登录,就能看到CheckRecord管理界面。
4.3 本地开发与生产部署差异:gunicorn + Nginx才是正解
开发时用python manage.py runserver没问题,但生产环境必须换:
为什么不能runserver?
- 单线程,无法处理并发请求;
- 无静态文件服务(CSS/JS会404);
- 无进程守护,终端关闭服务即停。
标准部署栈:
用户浏览器 → Nginx(反向代理+静态文件) → gunicorn(WSGI服务器) → Django应用
Nginx配置片段(/etc/nginx/sites-available/paper-check):
server {
listen 80;
server_name your-domain.com;
location /static/ {
alias /path/to/your/project/staticfiles/; # collectstatic后路径
}
location / {
proxy_pass http://127.0.0.1:8000;
proxy_set_header Host $host;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
}
}
gunicorn启动命令:
gunicorn paper_check.wsgi:application \
--bind 127.0.0.1:8000 \
--workers 3 \ # CPU核心数+1
--timeout 120 \
--log-level info \
--pid /var/run/gunicorn.pid
最后用systemd守护进程:
# /etc/systemd/system/gunicorn.service
[Unit]
Description=gunicorn daemon
After=network.target
[Service]
User=www-data
Group=www-data
WorkingDirectory=/path/to/your/project
ExecStart=/path/to/venv/bin/gunicorn paper_check.wsgi:application --bind 127.0.0.1:8000 --workers 3
[Install]
WantedBy=multi-user.target
启用:sudo systemctl enable gunicorn && sudo systemctl start gunicorn
4.4 性能调优实录:如何把查重响应压到1.5秒内
在学院服务器(Intel Xeon E5-2680v4, 32GB RAM, GTX 1080Ti)上,我们做了三次压测:
| 优化阶段 | 平均响应时间 | 关键操作 |
|---|---|---|
| 初始版本 | 8.2秒 | CPU推理,无缓存 |
| 加GPU+均值池化 | 2.1秒 | model.cuda() + torch.no_grad() |
| 加Redis缓存 | 1.4秒 | 对相同哈希值的文本对,直接返回缓存分数 |
Redis缓存实现(utils/cache_manager.py):
import redis
r = redis.Redis(host='localhost', port=6379, db=0)
def get_cached_similarity(hash_a: str, hash_b: str) -> Optional[float]:
key = f"sim:{min(hash_a, hash_b)}:{max(hash_a, hash_b)}"
cached = r.get(key)
return float(cached) if cached else None
def cache_similarity(hash_a: str, hash_b: str, score: float):
key = f"sim:{min(hash_a, hash_b)}:{max(hash_a, hash_b)}"
r.setex(key, 3600, score) # 缓存1小时
为什么选Redis而不是Django Cache?
- Redis支持原子操作,避免并发写入冲突;
- setex自动过期,无需手动清理;
- 哈希键设计min/max确保A-B和B-A查同一缓存,减少冗余存储。
实测:学生反复查同一段文本(如论文摘要),第二次起响应时间稳定在150ms内,体验接近本地软件。
5. 常见问题与排查技巧:那些文档里不会写的“血泪经验”
5.1 模型加载失败:ModuleNotFoundError: No module named ‘tokenizers’
现象:运行python manage.py runserver报错,提示缺tokenizers模块。
原因:transformers依赖tokenizers,但某些旧版pip会漏装。
解决:
pip install --upgrade pip
pip install tokenizers
# 如果还报错,强制重装
pip uninstall tokenizers -y && pip install tokenizers
经验:在
requirements.txt末尾加一行tokenizers==0.13.3,版本锁死。
5.2 查重分数异常:总是0.0或1.0
现象:无论输什么文本,相似度固定为0.0000或1.0000。
排查路径:
1. 检查文本预处理:在views.py的CheckSimilarityView.post()里,print(f"Preprocessed: {cleaned_original}"),确认是否被清空成空字符串;
2. 检查向量维度:在bert_encoder.py的get_sentence_embedding()返回前,print(embedding.shape),正常应为(1, 768),若为(0, 768)说明文本过短(<5字符),BERT tokenizer返回空;
3. 检查归一化:np.linalg.norm(embedding)若为0,说明向量全零——常见于输入全是标点(如“。。。”),需在预处理加if len(text.strip()) < 5: raise ValueError("文本过短")。
5.3 MySQL连接拒绝:django.db.utils.OperationalError: (2003, “Can’t connect to MySQL server”)
现象:Django启动时报MySQL连接失败。
九成原因是配置错误:
- 检查settings.py中DATABASES['default']的HOST:本地开发填'localhost',Docker填'db'(容器名),云服务器填内网IP;
- 检查USER和PASSWORD是否与CREATE USER语句一致;
- 检查MySQL是否监听外部端口:sudo nano /etc/mysql/mysql.conf.d/mysqld.cnf,注释掉bind-address = 127.0.0.1。
5.4 中文乱码:数据库存的是“????”,页面显示方框
根源:MySQL字符集、连接字符集、Django设置三者不一致。
终极解决方案(四步走):
1. MySQL服务端:sudo nano /etc/mysql/mysql.conf.d/mysqld.cnf,在[mysqld]下加:
ini character-set-server = utf8mb4 collation-server = utf8mb4_unicode_ci
2. MySQL客户端:sudo nano /etc/mysql/mysql.conf.d/client.cnf,在[client]下加:
ini default-character-set = utf8mb4
3. Django settings.py:
python DATABASES = { 'default': { # ... 其他配置 'OPTIONS': { 'charset': 'utf8mb4', 'init_command': "SET sql_mode='STRICT_TRANS_TABLES'", }, } }
4. 重建数据库:DROP DATABASE paper_check_db; CREATE DATABASE ...(已有数据用mysqldump导出再导入)。
5.5 生产环境502 Bad Gateway:Nginx与gunicorn通信失败
典型日志:connect() failed (111: Connection refused) while connecting to upstream
排查清单:
- sudo systemctl status gunicorn:确认服务是否active;
- sudo journalctl -u gunicorn -f:看gunicorn启动日志,常见错误是ImportError: No module named 'paper_check'(工作目录不对);
- netstat -tuln | grep :8000:确认gunicorn是否真在监听8000端口;
- curl http://127.0.0.1:8000:绕过Nginx直连gunicorn,排除Nginx配置问题。
最后分享一个小技巧:在
paper_check/views.py里加一个HealthCheckView,返回{"status": "ok", "timestamp": ...},Nginx的upstream块里加health_check,实现自动故障转移——这个功能我们后来加到了学院平台,现在服务器宕机时,教务老师手机会立刻收到钉钉告警。
这个项目从最初的学生课程设计,到现在支撑学院三个专业的毕设查重,核心没变:用最扎实的工程细节,把前沿的BERT语义理解,变成老师学生伸手就能用的工具。它不追求炫技,但每一个.sql里的注释、每一行views.py里的异常捕获、每一次git commit的清晰日志,都在告诉你:好的技术落地,从来不是堆砌概念,而是把“为什么这样设计”的思考,刻进每一行代码里。
简介:一个可直接运行的文本相似度检测工具,核心用BERT模型做深层语义匹配,不是简单关键词或字面比对。用户登录后能提交两段文本,系统返回0-1之间的相似度分数,并以颜色条和数值形式直观展示结果。后台用Django搭建,包含用户认证、文本记录存储、历史查询等功能;数据库采用MySQL,附带完整建表脚本paper_check.sql,字段涵盖用户ID、原文、比对文、得分、时间戳等。项目结构清晰:user模块处理账号逻辑,paper_check实现核心比对流程(含BERT向量编码与余弦相似度计算),utils封装日志、配置和文本预处理函数,templates提供响应式HTML页面,支持本地快速部署或集成到教学平台。所有静态资源已归类整理,配套说明文档覆盖环境安装、数据库初始化、服务启动及接口调用方式,适合用于高校课程实践、毕设原型开发或轻量级内容审核场景。
316



被折叠的 条评论
为什么被折叠?



