Q：大模型应用开发会不会过几年淘汰了
我认为在相当长的一段时间，大模型应用都将是主流
Q：私有化部署了qwen
部署deepseek-r1（蒸馏版本，14B，32B）=> 公司允许使用这样的大模型
数据安全性
部署 qwen3
claude，在写代码中，会使用到
个人使用，建议使用claude进行编程，能力比deepseek-r1/v3强大
cursor前50轮对话是免费的，之后需要pro会员
Trae，codebuddy（腾讯），lingma
Q:老师, 我们自己开发跟测试是不是基本上躲不过私有化部署? 如果自己的设备不那么好 (比如只有轻薄本跟老电脑) 该怎么自己开发跟学习呢
私有化部署 => 公司最关心的，因为数据安全性
学习的话 => 建议先直接使用API，搭建一个完整的LLM应用的流程 ***，原来调用的大模型是 阿里云百炼上的大模型接口
LLM应用在公司内部进行私有化部署，修改接口即可 => 现在调用的大模型接口，改成公司内部的接口
7B，4090, 32B
Q：私有化部署模型有点傻
了解和掌握私有化部署模型即可
私有化部署 不等于大模型的应用开发。一般公司都是已经部署好了大模型的节点，我们可以直接使用
ollama
Q：部署不是按文档说明next,next就可以？
一步一步进行操作即可，一般大模型部署是需要GPU的，根据大模型参数量 选择适合的GPU显存
Q：必须用cursor吗？
不是，可以用 trae, codebuddy, lingma, cline ...
Q：我们每次都有作业吗？
会留打卡的练习，
Q:cursor从哪里下载，有推荐下载地址嘛？
cursor.com
Q:Cursor是不是在墙外
下载后，国内网络可以使用
Q：我们用的代码编辑环境是什么
语言是用Python，编辑器可以选择AI编辑器，比如 cursor, trae, codebuddy, lingma
Q：一周能学会py嘛
py了解基础语法，以后不需要自己完整的写Python代码，一般都是可以让AI帮你来写
但是最好，了解一些Python语法 => 不会有恐惧心态
Q：打卡练习，是使用自己的电脑做，还是给云电脑给我做
都可以
如果是用cursor，一般是自己的电脑
Q：脱产学这个课程好找工作吗
需要具备一定的AI应用开发的能力 => 胜任这个工作
如果每次课都能坚持打卡，
Q：模型微调会有实践课吗
有的
Q：是直播课上跟着做吗
有些环节可以跟着做，
如果没有跟下来，可以先看演示，然后课下来实践一遍
Q：RAG部分需要在实验室里做吗？
可以用实验室，也可以用本地
Q：今天就是把后面的课程过一遍吗？
是的，讲解下课程都会讲解到哪些，以及大家的一些疑问，学习方法
Q：课程有回放吗？
有的
Q：Embedding数据库能在本地电脑上部署吗？
可以
Q：所有词都第一次见，这种情况还能学会吗？
打卡 => 证明对这节课的实践的掌握
AI每3个月就会有新的内容产生，更好的大模型出现
年初DeepSeek-R1，qwen-3
Q:实验室 = 云电脑
网页上的Python运行环境
Q：除了显卡，还有什么其他硬件要求吗
办公流畅即可
大模型，一般来说都是通过调用API来完成
Q：上课之前，需要提前建环境或其他需要准备的吗？
在cursor课的时候，需要下载好 cursor, cursor.com
第一次课的时候，可以提前先安装下 python的环境
Q：python什么版本
建议>=3.10
Q：后续课程会有模型蒸馏和强化学习的教学及实验吗？
Q：这个text2sql的课程可以提前学吗？
一般是按部就班来完成的
Q：火山hiagent和dify比哪个更优一些对于银行业务
XX证券在内部已经部署了dify（社区版），直接可以使用
火山引擎和公司的高管见面了，
Q：学一半直接去找工作吗[捂脸]
不同公司对AI的需求是不一样，多样性
1）RAG问答
2）ChatBI，text2sql + Function Call
3）多模态的使用
4）Agent搭建
langchain, langgraph, qwen-agent
5）coze, dify 低代码
Q：智能审核的技术在课程里会涉及吗？
agent搭建
Q：课程结束后能达到中级应用开发工程师的水平吗
课程的体系知识面是有的
打卡 + 互动提问 + 思考自己的业务场景，多做一些实践
Q：接下来的课程一定要用jupyter吗
可以用其他的，比如 .py 源文件，可以用cursor, trae, ... 工具编辑
jupyter 是方便浏览，看结果
Q：有必要去考一个高级人工智能训练师得资格证？
意义不是特别大
AI应用搭建，如果有时间，可以多打卡 + 实践 => 意义更大
Q：学习AI对算法有要求吗
AI应用搭建，对算法要求我个人觉得还好
应用场景，哪些技术解决哪些问题
我们会有模块4，会讲解到一些AI算法（数据决策算法）
Q：请问对数据结构需要有多少了解
更多还是从业务场景，技术应用出发
数据结构，了解基本的数据结构：数组、字典
Q：除了python基础，以下需要掌握吗？1. http 调用，request，爬虫
2. http 服务，fastapi 什么的
3. 数据统计类的 pandas
需要用到的时候，再掌握即可
AI涉及的面很广很广
方法1：把所有的基础，前提都掌握了，再学习AI
方法2：先跟着课程走，学到某个模块，或者打卡中需要用到哪个，再掌握哪个
Q：老师，有些数据源是从公司数据库取，会讲如何写接口吗
有的
Q：数据库用什么比较好
MySQL，SQL Server，mongodb
向量数据库 Faiss
Q:dify部署到云服务需要GPU吗？
不一定需要GPU，可以调用大模型的API
Q：有些数据要联表，在 coze 重新做这个数据关联比较麻烦，可以直接请求现成的业务接口吗
可以用插件
Q：api这么多都需要单独付费，没有大统一api吗
阿里云百炼
Q：有涉及到财务这块的Ai应用么
图表的识别
AI大赛：资金流入流出分析与预测
Q：老师，我们会讲超长文本(超token场景)的处理的吗?比如超长文本的AI分段
有的，可以用到qwen-agent
Q：学完之后AI大赛好获奖吗
二手车价格预测 MAE<550
资金流入流出预测 > 120
目前是这样设置的
Q：可以做股价预测．．．
我们学完之后，可以做相关的预测
Q：打卡任务重吗?老师
打卡实际上就是课上的实践
Q：AI大赛有奖金吗
我们的学习赛没有奖金
但是你可以参加其他的AI大赛，里面有奖金设置，但是难度会非常大
Q：没办法连外网对于学习dify有影响吗
可以本地部署
Q：老师，一周两节课吗？
是的
Q：华为云的大模型咋样呢
tob会多一些
阿里云，火山引擎
Q：老师看看我呢，
会讲解ai怎么训练项目里的代码仓，让ai生成的代码内容里使用的组件插件是用自己组内研发的组件插件吗？会是第几节课呀
AI辅助开发么？
agent调用工具 => 会讲
AI + 前端的Chat（搭建UI）
Q：感觉字节的AI很不错，我们有用到吗
coze会讲到
doubao 大家可以切换到doubao的API就可以
Q：企业搭建知识库问答应用的话，是不是要私有部署大模型才安全
对于企业来说，是的
Q：他是想问 Cursor 让他用 到 代码的组件
我们需要有个代码组件的使用文档
@该文档，让cursor调用
把UI组件，放到项目文件夹下面，@这个组件 让cursor帮撰写 .md文档，来解释下这个组件的作用和调用方法
@ .md文档，使用这个组件，完成新的任务
caseA =>
Q: 老师，学完这个课程，可以用AI生成开发设计流程图吗
通过提示词工程就可以完成
1）需要描述你的项目内容
2）@ 项目内容，然AI整理流程图 .md
3）再把流程图生成 marmeid语法
可以利用cursor来完成
Q：会讲Lora么
在第14次课中会讲解到，unsloth工具来完成
Q：知识萃取怎么会事？
知识蒸馏 => 大模型的能力强，可以给我们生成一些标注
比如让gemini生成<Q, A>
=> 让小模型来学习
Q：我也想问问有没有AI辅助自动化测试的内容，包括CI/CD及运维方面
Q：请问大模型可以解决具体专业业务性问题吗？比如工科常用的画CAD图或其他图形这种，以提升效率甚至自动画图？需要重点学习哪些内容？
我有很多客户，有类似的需求，比如中车集团
但是大模型画CAD图，目前还不行
可以让视觉大模型，对CAD图进行理解 => 这个目前有一定可行性，基于理解，可以帮你推荐相关的零件
大模型如果要画CAD图，目前不是qwen, openai他们要解决的问题，可能需要专业的CAD公司，用现有的大模型来训练
qwen, openai要解决的是通用能力，他们用的是通用语料
Q：这块我熟悉，让ai计算参数，然后让cad的api来自动生成cad图纸
通过CAD的API，可以完成CAD图纸
Q：假如学习完这个课程，后期再有技术更新，或者新的模块要学习该怎么办
多实践，找到一个业务场景，通过该技术来完成AI应用的搭建
Q：视觉大模型我学了，是不是可以增加一个自动驾驶开发岗位选择
自动驾驶开发岗也会涉及到很多的模块
规划模块，视觉模块，数据处理模块
Q：图片识别主流使用什么工具？
我个人使用qwen-vl
Q：这个课程需要多少种编程技术啊？都要很熟吗
课程涉及的知识面比较广，现在的AI编程，一般都是和AI对话，让AI来完成代码（比如使用cursor）
=> 需要了解更广的知识面，了解都有哪些工具，如何描述出来，让AI来干活
Q：我是一个数据分析师，我需要分析用户转化失败的原因，我手里有成百上千万的用户行为数据，我如何能让AI
=> 属于数据分析，决策的内容，在第4个模块里面会讲解到
比如使用漏斗分析
用户进入到页面，点击某个按钮 => 选择商品，放到购物车 => 点击支付
用户画像细分（性别、城市、时间）
商品画像（不同类别）
设备画像
北京、晚上、ios15的人 转化率低
Q：大模型是如何进行评测效果好坏的
1）设置测试集 => 就是用户提问的问题
哪怕测试集数量少一些，就5个问题
2）可以针对这些问题，进行自动化测试
NLP打分规则，判断大模型的output和人类写的理想的output的分数
LLM打分（基于得分的规则来判断）
Q：AI怎样与制造业结合，打造核心竞争力。我们公司是做电动汽车充电桩，AI怎样与汽车充电桩，给客户创造价值？
1）业务场景出发
充电桩的点位布置，可以通过高德地图，车流量，附近的充电桩等来判断
电池的剩余电量的分析 => 电池的衰减
Q：前些年也有一些，比如人脸识别，笔记识别之类的，在 AI 出来之前就有。这些应用背后的技术与我们现在说的 AI 由什么区别？
AI不是现在采用的，之前的AI，也是神经网络，但是参数量小，推理能力差（不属于生成式AI） => 主要是做专有的模型
现在的AI，通用性强，生成能力强
可以用现在的AI => 生成代码 + 客户交互
可以用之前的AI算法 => 打造专有模型（小工具，让现在的大模型来调用）
Q：有那么多需求吗
AI应用会越来越多 => 现在的AI应用的渗透率是怎样的？
Q：普通人 如何利用 AI创业呢 老师能不能聊聊？
你看谁有需求，企业对AI有需求
1）全职岗位
2）兼职外包
需求第一，然后再投入
Q：我是一名招行一线客户经理，目前感觉到AI可以帮助打破信息茧房，改变工作流。目前招行用AI赋能已经有很多agent，包括数字人，文书助手等
Q：老师，那么如果本地化部署，涉及到lisence和api token限制吗，特别是过了半年后的本地部署，还会收到使用限制，是不是还是需要购买序列号
开源，MIT协议
Q：多学点总归没坏处，刚才老师不是说要很广的知识面嘛
了解有哪些业务场景，可以使用哪些AI工具，不同的AI工具（AI Agent）有怎样的特点
如何和AI沟通，把问题描述清楚也是一种很重要的能力
=> 让AI执行
=> 检查AI的工作
Q：fine-tune能做到哪一步
AI应用的3个范式
1）提示词工程
2）RAG
3）模型的微调
Q：说实话总是不太放心让AI去些代码，尤其是复杂的，觉得没灵魂[捂脸]
我们可能心态会从
不太放心 => 放心 => 过度放心 => 理性
Q：像 ppt生成这类应用，它后面是使用 大模型 然后自己用数据训练吗 ？如果自己想做这种类似的应用 ，数据从哪里搞啊 。。
现在的AI PPT，还不成熟
你可以用AI PPT做个 读书分享，如果是工作汇报，排版和内容，都不是很成熟
AI PPT => 更多的是PPT的排版，内置了很多板式
Q：老师，会讲到如何解决 AI 幻视的问题么？我之前在用 ai 辅助写代码的时候，经常会出现前几次都还是完全 ok 的，但是后面就开始跑偏了。即便修改提示词，几次后
出现这种情况的原因：是因为多轮对话，可能会造成幻觉叠加的叠加
=>中间状态，生成 .md文档，可以看到AI的理解
=> 在后面，可以@ 这个.md，因为这个工作流程我们已经确认过的，在这个基础上，让AI继续完成后续的代码
发表回复
要发表评论，您必须先登录。