中国高校计算机大赛--大数据挑战赛
比赛链接:https://www.kesci.com/home/competition/5cc51043f71088002c5b8840
搜索中一个重要的任务是根据query和title预测query下doc点击率,本次大赛参赛队伍需要根据脱敏后的数据预测指定doc的点击率,结果按照指定的评价指标使用在线评测数据进行评测和排名,得分最优者获胜。
列名 | 内容 | 样例 |
---|---|---|
query_id | int,一个query的唯一标识 | 1 |
query | 字符string,term空格分割 | "字节跳动" |
title | 字符string,term空格分割 | "字节跳动-百科" |
label | int,取值{0, 1},有点击为1,无点击为0 | 1 |
Note: 文本数据是脱敏的,呈现方式是数字序列,所以没有现成子向量文本可用,需要自己重新训练词向量矩阵
选手提交结果的评估指标是qAUC,qAUC为不同query下AUC的平均值,计算如下:
其中AUCi为同一个query_id下的AUC(Area Under Curve)
.
├── ESIM
│ ├── data
| | ├── checkpoints
│ │ └── train_data.sample
│ ├── esim
│ │ ├── data.py
| | ├── utils.py
│ │ ├── layers.py
│ │ └── models.py
│ └── utils.py
|—— 复赛ESIM线下测试版.ipynb
|__ ReadMe.md
注:data文件中的train_data.sample数据文件是官方给参赛选手线下调整模型用的样例文件,仅作测试用只有几千case。真实的比赛环境全在和鲸线上,数据量有超过10亿,所以本项目的数据文件仅是参考,模型效果与真实比赛成绩会有不同。
A. Input encoding
B. Local inference modeling
C. Inference composition
Key Idea:
在比赛中,使用ESIM模型训练query与title对,训练的数据量的增大会带来明显的提升
小伙伴有什么想问的或者想要的功能接口可以提在issues里