喜报！我院学子斩获阿里巴巴天池AI大模型挑战赛二等奖

        阿里巴巴天池大模型竞赛是由阿里巴巴主办，面向全球新生代力量的高端算法竞赛。大赛面向全社会开发，个人、高等院校、科研单位、企业、创客团队等人员。自2014年起已持续办赛近10年，成为全球最具知名度和影响力的互联网竞赛之一。在本次阿里巴巴天池大模型竞赛中，由信息与智能工程学院牧码南山社团成员，大数据2102班徐金辉、大数据2202班卢毅、原点与圆梦2201班李茹宣组成的团队，在指导老师于营的带领下荣获此次挑战赛二等奖。

        本次大赛赛题为优酷x天池 [酷文] 小说创作大模型挑战赛，旨在激发开发者的兴趣，共同研究如何拓展AI模型的创作能力，推动AIGC在文学创作中的应用与发展。

        根据赛题要求，牧码南山团队选择了三款Base Model进行实验迭代过程。由于受到 RLHF阶段中的PPO算法的启发，提出了一种新颖的数据合成管道——“PJC Pipeline”。该数据合成管道分为三个阶段，分别对应着“Player、Judge、Champion”。在Player阶段，首先部署多个小模型，称为“Seed Data（种子数据）”。接着，把这些“Seed Data”给到Judge阶段，利用中等规模的模型作为评判家，为种子数据赋予一个固定范围的分值，并给出修改意见（分别对应图中的“Score”和“Opinion”），最终以Json的格式输出。接着，把这些“Seed Data”给到Judge阶段，利用中等规模的模型作为评判家，为种子数据赋予一个固定范围的分值，并给出修改意见（分别对应图中的“Score”和“Opinion”），最终以 Json的格式输出。

        反思和后续可研究方向：1）团队对SFT数据集做了去重和高质量转化，但没有做多样性评估，这对文本创作任务是致命的；2）由于Reward Model团队的训练效果并不理想，所以最终模型并没有很好地实现RLHF阶段。如果实现，这能够大幅提升文本创作的能力；3）由于时间和成本上的限制，团队没有对OpenSource Dataset进行数据管道增强和压缩；4）团队期望通过训练一个分类器，来获取更大量的开源文本创作数据集并对其进行增强，可惜在有限的时间下该任务优先级较低，在后续的研究中可以积极尝试。

参赛感想

        天池竞赛作为国际性赛事，所发布的赛题都处于学术或工业前沿。这也吸引了无数技术前沿团队、高校前来参赛，其中不乏众多国内外新兴大模型实验室、双一流高校的研究生、博士生，其赛题难度和获奖门槛都不言而喻。得益于于营老师的指引和赛事顶尖团队间的相互交流，团队从中学到了很多，并充分利用了我院学生及牧码南山团队成员特有的动手能力和执行力，在众多高手中突出重围，并取得优异成绩。

        首先，团队的力量是能够获奖的一大因素。赛事备赛期间，牧码南山团队组建了四支队伍，并联合人文与传播学院进行高效合作，队内时刻保持沟通、积极参与实验、问题发现立刻解决问题。

        其次，得益于老师的指引，团队找到了一些平台能够快速为团队提供最新的学术成果和搜索引擎，例如PapersWithCode。在参赛构思阶段，团队成员翻阅了大量的最新、最相关的学术论文或技术报告，并从中获取大量启发，来构建训练、推理策略。当然，“罗马不是一天建成的”，队内也在短期内通过思考和实验快速论证当下的想法，如果不行，就立刻推倒重构。

        最后，个人认为“思考要大于行动”。这也许反常识，因为大多数人认为的最佳状态是：“先行动起来再说”。但团队在一个赛事或一个项目中的前期阶段，或决策阶段，偏向于频繁开会，组织3~5个人进行长时间的激烈讨论。雷军二十年前写的一篇文章里提到：“深度思考，比什么都重要”，因为在思考充分的情况下，能帮助团队排除大部分无用策略，和提前预想Plan B。团队也一直遵循这种模式，并同时保持着极高的执行力，从而在包括此次赛事以内的众多赛事中，屡获佳绩。

指导老师于营

        自主学习是通往科技前沿的必由之路。在大模型技术的自主学习中，团队的同学不仅学会了如何利用最新的科研成果和开源工具，不断优化模型，提升算法效率，而且在实战中不断试错、迭代，每一次模型的微调，每一次代码的优化，都增加了向专业领域深处探索的方向和信心。这种经历，不仅能够拓宽国际视野，更能够激发创新潜能，培养团队协作能力，这些都是成为一名合格的科技人才不可或缺的素质。

        每一次尝试，都是对未知领域的勇敢探索；每一份坚持，都是对梦想的坚定追求。很感谢这段参赛的时光，不仅仅因为团队取得了满意的成绩，更是因为学生在勇敢地追求自己的梦想，不断地挑战自我，超越自我过程中的成长。