交通垂直领域微调大模型

• 项目介绍
• 更新日志
• 模型
• 训练方法
• 数据集
• 设备要求
• 如何使用
• 交通领域测试
• 免责声明
• 协议
• 致谢

当前交通系统的运行高度依赖交通决策者的参与，但不同决策者的决策行为具有较大异质性，交通系统的安全和效率都难以得到有效保证。理想的交通安全管理体系计划基于云端提供实时海量数据、算力支持和高度智能化的车辆以及道路，能够不依赖于人类决策满足各种驾驶场景的要求，通过交通领域的专用大模型为交通系统赋予一套整合的安全管理系统，实现从感知到控制全过程的智能一体化的安全保障，是保障智慧交通出行安全的关键。

针对上述目标，为实现交通系统安全的智能化，提升系统的智能服务水平，本团队设计并研发了RoadSafety-GPT道路交通安全大模型。该模型以大型预训练语言模型为基座，采用层叠模型和权重共享技术，通过多任务学习和数据集平衡，实现领域特化的正则化，通过继续预训练、有监督微调、强化学习三个步骤，使得模型在保留通用能力的同时在交通领域展现出强大的专业能力。通过多模态生成、循环迭代机制等技术，模型能够及时适应交通的复杂场景变化，增强其下游任务的解决能力。

[24/04/02] 新开源了用于生成交通事故标准化生成的扩散模型的LORA训练权重，可以在Stable Diffusion中加载使用，模型扩散过程如下。但RoadSafety-Diffusion仅为测试版本，仍存在不可避免的问题！

demo https://github.com/l-show/RoadSafety-Gpt/blob/main/demo/stable-diffusion.mp4

模型文件已开源

RoadSafety-GPT-6b-chat:- ModelSpace

RoadSafety-GPT-14b-chat:- ModelSpace

RoadSafety-Diffusion:- ModelSpace

训练集扩充

全训练流程

RoadSafety-GPT使用两种格式的数据集：alpaca 和 sharegpt

alpaca 格式：

[
  {
    "instruction": "用户指令（必填）",
    "input": "用户输入（选填）",
    "output": "模型回答（必填）",
    "system": "系统提示词（选填）",
    "history": [
      ["第一轮指令（选填）", "第一轮回答（选填）"],
      ["第二轮指令（选填）", "第二轮回答（选填）"]
    ]
  }
]

偏好数据集：

{
  "instruction": "用户指令",
  "input": "用户输入",
  "output": [
    "优质回答",
    "劣质回答"
  ]
}

sharegpt 格式：

[
  {
    "conversations": [
      {
        "from": "human",
        "value": "用户指令"
      },
      {
        "from": "gpt",
        "value": "模型回答"
      }
    ],
    "system": "系统提示词（选填）",
    "tools": "工具描述（选填）"
  }
]

1.如果您下载的是经Lora训练后发布的权重模型，请您将其作为adapter与原模型进行权重合并，或在推理时直接加载adapter权重

2.如果您下载的是完整模型，请您参考chatglm与qwen的template进行模型部署

3.我们推荐使用LLaMA-Factory开源项目使用web-ui进行模型推理或训练

1-服务器选择 在AutoDL上，使用RTX-3090显卡，通过LLaMA-Factory部署RoadSafety-GPT-6B-Chat服务，完成微调并测试推理成功！

2-项目下载

apt update && apt install git-lfs -y
cd **下载目录**
git clone https://github.com/hiyouga/LLaMA-Factory.git
git clone https://www.modelscope.cn/ZhipuAI/chatglm3-6b.git
git clone https://www.modelscope.cn/LSSSSSSSSSS/RoadSafety-GPT-6b-chat.git
du -sh **文件夹名称** #查看文件大小
cd ./LLaMA-Factory
pip install -r requirements

3-通过LLaMA-Factory启动（推荐）

cd ./LLaMA-Factory/src
ls #查看文件列表
vim train_web.py
#添加：server_port=6006
python3 train_web.py

4-使用SSH访问Local Host

5-通过LLaMA-Factory启动 加载模型

nvidia-smi #查看显存占用

使用了小样本分类任务测试方式，RoadSafety-GPT模型的表现使用混淆矩阵记录

模型在测试集上的表现与ChatGLM4.0进行对比

本项目基于如下开源项目展开，在此对相关项目和开发人员表示诚挚的感谢：

• Qwen-14B
• LLaMA Factory
• ChatGLM3-6B

@article{qwen,
  title={Qwen Technical Report},
  author={Jinze Bai and Shuai Bai and Yunfei Chu and Zeyu Cui and Kai Dang and Xiaodong Deng and Yang Fan and Wenbin Ge and Yu Han and Fei Huang and Binyuan Hui and Luo Ji and Mei Li and Junyang Lin and Runji Lin and Dayiheng Liu and Gao Liu and Chengqiang Lu and Keming Lu and Jianxin Ma and Rui Men and Xingzhang Ren and Xuancheng Ren and Chuanqi Tan and Sinan Tan and Jianhong Tu and Peng Wang and Shijie Wang and Wei Wang and Shengguang Wu and Benfeng Xu and Jin Xu and An Yang and Hao Yang and Jian Yang and Shusheng Yang and Yang Yao and Bowen Yu and Hongyi Yuan and Zheng Yuan and Jianwei Zhang and Xingxuan Zhang and Yichang Zhang and Zhenru Zhang and Chang Zhou and Jingren Zhou and Xiaohuan Zhou and Tianhang Zhu},
  journal={arXiv preprint arXiv:2309.16609},
  year={2023}
}
@Misc{llama-factory,
  title = {LLaMA Factory},
  author = {hiyouga},
  howpublished = {\url{https://github.com/hiyouga/LLaMA-Factory}},
  year = {2023}
}
@inproceedings{du2022glm,
  title={GLM: General Language Model Pretraining with Autoregressive Blank Infilling},
  author={Du, Zhengxiao and Qian, Yujie and Liu, Xiao and Ding, Ming and Qiu, Jiezhong and Yang, Zhilin and Tang, Jie},
  booktitle={Proceedings of the 60th Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers)},
  pages={320--335},
  year={2022}
}

同样感谢其他未能列举的为本项目提供了重要帮助的工作。

1. RoadSafety-GPT有着目前大语言模型尚无法克服的问题和缺陷,尽管它能够在许多交通事故分析和隐患排查方面提供可供参考的建议, 但模型仅供用户参考使用，仍然可能产生错误的、有害的、冒犯性的或其他不良的输出;我们不对因使用 RoadSafety-GPT 所引发的任何问题、风险或不良后果承担责任,用户在关键或高风险场景中应谨慎行事, 不要使用这些模型作为最终决策参考, 以免导致人身伤害、财产损失或重大损失.

2. RoadSafety-GPT由ChatGLM3-6B模型、Qwen-14B交通领域调优而得, 按"原样"提供, 在任何情况下, 作者、贡献者或版权所有者均不对因模型使用或其他因模型产生的交易而产生的任何索赔、损害赔偿或其他责任(无论是合同、侵权还是其他原因)承担责任.

3. 使用RoadSafety-GPT即表示您同意这些条款和条件, 并承认您了解其使用可能带来的潜在风险.

RoadSafety-Gpt 可在 Apache 许可证下使用。请查看 LICENSE 文件获取更多信息。

本项目由中南大学<智慧交通湖南省重点实验室>发起。