背景

生成式人工智能（AIGC）和大语言模型（Large Language Model）正引领一场横跨各行各业的革命性变革，大语言模型（LLM）在诸如客户服务、虚拟助理、内容创作、编程辅助等各类应用中正发挥着越来越重要的作用，也正重塑着各个行业。随着大语言模型(LLM) 规模不断扩大，运行大模型所需的资源消耗也越来越大，给 AI 应用开发者带来了相当大的挑战。英特尔开源的BigDL-LLM轻量级大语言模型加速库，可助力 AI 开发者和研究者在英特尔® 平台上加速优化大语言模型，提升大语言模型在英特尔® 平台上的使用体验。

BigDL-LLM的分享，以下是一些链接：

• BigDL Repo: https://github.com/intel-analytics/BigDL/

• Tutorial (上手教程): https://github.com/intel-analytics/bigdl-llm-tutorial

• Examples (大量社区中流行的模型在Intel CPU/GPU上经BigDL-LLM优化后的使用实例，还包括qlora fintune等): https://github.com/intel-analytics/BigDL/tree/main/python/llm/example

• API 文档: https://bigdl.readthedocs.io/en/latest/doc/PythonAPI/LLM/index.html

本栏目推荐文章
• cleaning of llm corpus 大模型语料清洗
• LLM series: Transformer
• 大语言模型LLM幻觉的解决方法：检索增强生成RAG
• 使用CLIP和LLM构建多模态RAG系统
• 面向初学者的机器学习、数据科学、AI、LLM课程统统免费
• LLM增强LLM；通过预测上下文来提高文生图质量；Spikformer V2；同时执行刚性和非刚性编辑的通用图像编辑框架
• 如何避免LLM的“幻觉”(Hallucination)
• 微软真是活菩萨，面向初学者的机器学习、数据科学、AI、LLM课程统统免费
• 一文读懂大型语言模型LLM
• 打通Rasa Action Server和LLM接口的尝试方法

BigDL-LLM BigDL LLMbigdl-llm bigdl-llm bigdl llm bigdl llm mlc-llm scikit-llm llm-blender 资料llm autonomous powered agents llm langchain模型llm