重视大模型风险,发展负责任AI

摘要：

人工智能(AI)的发展经历了符号系统、基于统计的机器学习之后,进入了深度学习阶段.在2017 年Transformer出现之后进入了快速发展期,先后出现了GPT、BERT、T5等基于自监督学习的预训练模型,并兴起了预训练模型基础上的微调范式.随后以ChatGPT为标志,在预训练模型中加入了有监督的微调和基于人类反馈的强化学习,AI进入了大模型时代. AI模型和系统在参数量、任务性能、应用场景等方面都实现了飞跃式的突破.在海量数据上训练的百亿、千亿乃至万亿参数规模的大模型,具备了少样本学习、推理解释和对话式交互的能力,在多任务上展现了接近甚至超过人类水平的通用能力,向着通用AI迈出了第一步.

机标关键词：模型风险、大模型、负责任

所属期刊栏目：60

分类号：TU984;F830;F231.5

在线出版日期：2023-09-21（万方平台首次上网日期，不代表论文的发表时间）

页数：共1页

页码：1925