华为云人工智能总裁尤鹏：大模型实践中面临十大难题

据《科创板日报》12 月 23 日报道，在 2023 华为云 AI 院长峰会上，华为云大数据与人工智能领域总裁尤鹏总结了大模型实践过程中的十大难题：在训练上，面临着万卡/十万卡集群分布式训练及可靠性的挑战；在推理上，需解决面向 LLM 长文本生成的高效解码的挑战；在高效资源利用方面，面临着 AI 集群碎片资源利用及全局作业最优调度的难题；在大模型压缩方面，需解决高效量化及无损量化评测标准及技术方案的难题。此外，还需解决：行业训练数据安全可控、可用不可得，大模型幻觉缓解甚至消除及可解释性，如何构建具备强大逻辑推理与规划能力的大模型，基于图数据的大模型知识增强技术，通用结构化数据及时序数据特征对齐及预训练等难题。