大模型关联度预测的形式化和语义解释研究

摘要：

本文探讨"大型语言模型是什么"的问题.为此对大模型的评判标准展开实验观察,对大模型的基础设施关联度预测进行直观分析,构建关联度预测的一种形式化LC,进而研究关联度预测的语义解释.在此基础上讨论大模型的真实性挑战、共识挑战、内容属性挑战和非封闭性挑战.主要发现包括:语元关联度是体现人类语言习惯的可自动提取的语言痕迹;关联度预测具有语境相关的统计性质;LC具有弱共识性实质语义;LC是一个非概念化公理系统.这些特点颠覆了科学理论、形式化方法和软件的传统理念在人工智能领域的主导地位,是大模型输出既出人预料、又符合语言习惯的深层原因.

关键词：大模型、形式化、语义、概念化、弱共识

所属期刊栏目：18

分类号：TP391(计算技术、计算机技术)

资助基金：国家自然科学基金;国家自然科学基金;国家重点研发计划

在线出版日期：2023-08-28（万方平台首次上网日期，不代表论文的发表时间）

页数：共7页

页码：894-900