Benchmark Data Contamination of Large Language Models: A Survey https://arxiv.org/abs/2406.04244 大规模语言模型的基准数据污染：一项综述 文章目录 大规模语言模型的基准数据污染：一项综述摘要1 引言 摘要 大规模语言模型（LLMs），如GPT-4、Claude-3和Gemini的快

PROVING TEST SET CONTAMINATION IN BLACK BOX LANGUAGE MODELS https://openreview.net/forum?id=KS8mIvetg2 验证测试集污染在黑盒语言模型中 文章目录 验证测试集污染在黑盒语言模型中摘要1 引言 摘要 大型语言模型是在大量互联网数据上训练的，这引发了人们的担忧和猜测，即它们可能已

iclr 2024 spotlight reviewer评分 688 1 intro 论文认为许多下游任务（例如，总结、自然语言推理、文本分类）上观察到的LLMs印象深刻的表现可能因数据污染而被夸大 所谓数据污染，即这些下游任务的测试数据出现在LLMs的预训练数据中保证无污染并非易事，因为有两个潜在的污染源：直接从官方数据集版本摄取（较易控制），和通过网络上某处找到的重复数据间接获得（几乎无法