Roman Urdu 仇恨言论分类：LoRA 微调与提示工程的对比研究

研究背景

Roman Urdu 是巴基斯坦及全球乌尔都语社区广泛使用的低资源语言，以拉丁字母书写。由于语法松散、句式不规则以及拼写变体繁多，面向 Roman Urdu 的自然语言处理研究一直面临数据稀缺和标准化困难的双重挑战。与此同时，互联网与社交媒体的普及使得仇恨与有毒内容快速增长，对社会造成显著负面影响。本文聚焦 Roman Urdu 仇恨言论分类任务，旨在低资源场景下寻找最有效的技术路线。

研究目标

研究的核心问题是：在标注数据有限的前提下，哪种大模型适配方法更适合 Roman Urdu 仇恨言论分类。具体而言，论文系统比较了三类主流方法——参数高效微调（PEFT）中的 LoRA、prompt tuning，以及 prompt engineering，覆盖零样本与少样本等多种实验配置。

实验设计

论文共设计四组实验，逻辑上从「不微调」逐步过渡到「轻量微调」再到「纯提示驱动」：

• 实验一：直接对 LLM 进行零样本推理，不做任何微调，考察模型在零样本设定下对 Roman Urdu 的理解能力。
• 实验二：使用 LoRA 进行参数高效微调，仅更新模型中一小部分参数，以降低计算成本。
• 实验三：探索 prompt tuning，使用极少量训练样本（相对全数据集而言），并分别尝试混合提示与人工构造提示两种方式。
• 实验四：采用 prompt engineering，依赖精心设计的指令提示完成零样本与少样本分类，不进行任何额外训练。

研究意义与局限

该工作的价值在于为 Roman Urdu 这一低资源语言提供了方法论层面的横向对比，验证了 LoRA、prompt tuning 与 prompt engineering 在有限数据条件下的适用边界，对其他类似低资源语言的 NLP 任务具有参考意义。不过，摘要层面未披露具体使用的模型、基准数据集、评测指标与各项实验的准确率对比，读者尚需查阅正文与实验章节以获得完整结论。