封面评论 | 大学论文强化“含AI率”检测，若无可靠技术工具威慑只是空话

standme

□蒋璟璟
2024年的高校毕业季即将到来记者注意到，相比往年，今年不少国内高校先后发文，就学生如何在毕业论文中使用生成式AI、AI代写在论文中的比例等问题作出规范。有不少学生表示，他们在论文创作中会使用AI来搜集文献、处理数据、书写代码等。也有学生称，AI写出的内容有时会出现错误。（中新社）
AI技术加速渗透进学术生产领域，这丝毫不令人意外。在这其中，大学毕业论文成为“重灾区”，同样合乎此前各方的预期。毋庸讳言，即便同样可以归入学术生产，但是大学阶段特别是本硕阶段的论文写作，无疑属于是相对比较低级的那类学术生产。正是有鉴于此，其注定更容易被AI代劳。而从最近高校披露的情况看，大学生用AI写论文的，确实不在少数。
一个值得注意的趋势是，高校对于AI参与论文生产，普遍采取了一种务实主义、选择性“接受”的立场，也即多强调“规范”而非“禁止”。其最常用的措辞，就是明确“须披露是否使用生成式人工智能，并说明其生成过程。”“人工智能工具仅可用于文献检索、数据处理等辅助工作”。只是很遗憾，这些纸面上的“要求”，必然不是所有的学生都会照做照办。为了避免此类新规则被架空虚置而系统虚设，不少学校在这个毕业季，都强化了对毕业论文的含AI量检测。
当然了，相较于传统论文查重所采用的成熟性技术解决方案，当前阶段，高校论文“查AI”，更多还属于是匆匆上马的性质。大多数高校，都没有披露其所采用的“查AI工具”。但需要补充的一个背景信息是，相较于生成式人工智能狂飙突进的大发展，检测甄别AI生产内容的技术工具，却似乎没有取得对等的进展。至少在应用层面，并没有公认的、好用的、可靠的“查AI”“反AI”工具。这使得高校“对毕业论文中的人工智能生成内容占比进行检测”的喊话，颇有雷声大雨点小的风险。
一个非常可能的情况是，当学生们在写作毕业论文时，只要提示词设置得足够复杂，通过多层嵌套式诱导和N次“洗稿”动作，或许就能“骗过”如今尚不成熟的查AI工具。理想状态下，学生毕业论文对于AI的运用，是那种“点到即止”的，然而在当下的语境内，在缺乏足够技术性路径反制的前提下，从“浅用”到“滥用”的风险，或许远比我们想象的要大得多。
对于AI生成的图像、视频等，尚且可以通过将数字指纹识别标签嵌入内容中来方便识别。而对于AI生成的论文等文字内容，又该如何予以识别和约束呢？这不仅是高校要面临的难题，更是各家技术服务商应该思考的课题。