课程:LLM大模型应用与项目构建实战-火龙果软件


刘老师
拥有着超过 15 年软件研发经验，对人工智能机器学习、区块链、 Java 、 Python 等技术领域有独特的研究。

时间地点：线上 12月26-27日；北京、上海、深圳根据报名开班

课程费用：活动价格 2900元/人（11月23日前完成报名），原价 5500元/人

报公开课

要内训

企业内训：可以根据企业需求,定制内训,详见内训学习手册

认证方式：
培训前了解能力模型。
培训后进行能力评测：

在线考试

能力分析，给出学习建议

合格者颁发证书，作为职业技能资格证明

课程概要：

微型机器学习 Tiny Machine Learning (TinyML) 是一个由 MIT Han Lab 主导的研究与开发项目，其目标是将机器学习（ ML ）技术引入资源受限的边缘设备中，比如嵌入式系统、微控制器和物联网设备。通过在这些小型硬件上实现高效的深度学习模型， TinyML 旨在开启全新的应用场景，让智能化无处不在。

培训目标：

了解 AI 大模型应用场景与 Prompt 提示词
GPT 与阿里千问的 API 调用与微调实现
LangChain 框架实现 LLM 的封装与落地
如何通过 Ollama 部署开源大模型

培训对象：AI工程师、数据分析师、有一年以上工作经验的算法工程师、对AI技术感兴趣的IT从业人员。

学员基础：了解数据分析和人工智能的基础知识

授课方式：定制课程 + 案例讲解 + 小组讨论，60%案例讲解，40%实践演练

培训内容：2天

主题	内容安排
第1天应用场景、调用与微调
LLM 应用场景与 Prompt 提示词技巧 (3h)	• 大模型基础知识、应用场景和发展趋势 • 各种模型、多模态介绍与对比演示（ GPT4 、通义千问、文心一言） • 模型各种测试（逻辑能力、记忆能力、常识） • GPT Prompt 工程和技巧（五要素讲解） • Prompt 思维树（ TOT ）与思维链（ COT ） • Prompt 确定服务内容与边界 • GPT4 Plus ：构建知识库成为行业专家 • GPT4 Plus ： Custom Instructions 与角色设置
基于 ChatGPT 、千问的模型调用与微调（ 3h ）	• 模型调用 SDK 与 API Key 申请 • 单轮对话与多轮对话，如果优化历史记录 • 多模态调用与返回结果分析 • 流式与结构化输出 • Function Call ( 外部调用工具实现 ) • Asyncio 接口（异步调用实现） • 搭建 Web API 与鉴权实现
第 2 天知识库与模型私有化
LangChain 构建企业知识系统（ 3h ）	• LangChain 的系统安装和快速入门 • 体验 LangChain + LLM 的全新开发范式 • LangChain 结构体系介绍与 Toolkits 一览 • 模型 I/O ：输入提示、模型调用、解析与输出 • 提示工程，思维链与思维树 • 模型调用： LangChain 整合 GPT4/ChatGLM • OutPutParse 实现列表输出与推荐 • Memory 动态存储历史记忆
LLM 推理与本地私有化部署（ 3h)	• 各种模型文件介绍 • 模型的推理、量化介绍与实现 • Modelscope 、 Hugging Face 简单介绍与使用 • 大模型管理底座 Ollama 介绍 • Ollama + lLama 部署开源大模型 • Open WebUI 发布与调用大模型 • 微调常见方式介绍：微调、偏好对齐、蒸馏、奖励模型 • 训练集与测试集拆分与模型评估 • Llama3 开源大模型的微调与使用
注：培训中讲师会根据学员的情况进行适当的调整。

报公开课

要内训

80 次浏览

3 次

其他人还看了课程

GPU和CUDA并行计算应用程序开发 403 次浏览

机器学习(深度学习)算法和应用 3177 次浏览

人工智能，机器学习和深度学习 27989 次浏览

图数据库与知识图谱应用实践 394 次浏览

大模型原理与实战 2095 次浏览

图像识别与深度学习 3915 次浏览

最新活动计划

LLM大模型应用与项目构建 12-26[特惠]

QT应用开发 11-21[线上]

C++高级编程 11-27[北京]

业务建模&领域驱动设计 11-15[北京]

用户研究与用户建模 11-21[北京]

SysML和EA进行系统设计建模 11-28[北京]