大模型应用开发基础
大模型应用开发基础
课程目录
课程介绍
去年有同学让我出大模型应用开发的课,我还在犹豫,觉得没有太多好讲的,而从今年开始,大模型的能力提升、AI编程飞速发展、Agent开发技术逐渐完善,大模型应用的开发能力,已经成为了程序员的必备能力,跟系统设计、算法、编程语言、计算机基础等内功级的知识,已经平起平坐了。
不管是面试还是项目开发,都需要你对大模型应用开发有一些了解。
从我最近看简历的经历来讲,基本上如果是后端程序员,大都很自觉地在简历上补充了一些大模型的技能,甚至大模型项目开发经验。这确实也是面试官期望看到的,毕竟在项目开发中,很多项目或多或少的都会加入一些大模型的赋能功能!面试官也期望候选人具备这样的开发能力。
我们网站从开始就定义为补全程序员的基本功、夯实内功,因此,大模型应用开发相关的课就不得不提上了日程。
因为课程的内容较多,所以,我们把整个课程,暂时分成了三部分来讲解:
《大模型应用开发基础》
《大模型应用开发进阶(Agent)》
《大模型应用开发实战(项目)》。
后面的内容中,我们也会讲到,不同的项目对大模型的应用深浅不同。从浅入深,我们可以分为:
单次调用:发送一个段Prompt,大模型返回一段结果,项目拿到结果之后使用。其实,很多应用对大模型的使用都还停留在这个层面。
workflow:复杂项目分解为多个步骤,用代码串起来:先让模型判断用户意图,再去数据库、RAG等查数据,最后让模型基于查到的数据生成回复。关键在于,每一步走到哪、下一步干什么,都是你在代码里写死的,模型只负责它那一环,不参与决策。
Agent:代码不再写死执行步骤,而是将目标和一组工具交给模型,让大模型自己判断:现在该调哪个工具、拿到结果后要不要再查一次、什么时候算干完了。程序进入一个循环:模型思考,调用工具,看结果,再思考,再调用,直到它认为任务完成。
同样是大模型应用,复杂度差别很大,因此,课程的内容也由浅入深的来讲。
基础课讲解了大模型应用的基础开发技能,学完它,你可以搞定「单次调用」和简单的「workflow」,其实大部分项目的开发都停留在这一层面。进阶课讲解了Agent开发的一些技能,学完他,你可以搞定复杂「workflow」和「agent」开发。项目实战课,我们会做一个Agent项目,项目不复杂,主打一个精炼,能够用到所有我们到的内容。
《大模型应用开发基础》课程介绍
铺垫了这么多,我们正式进入《大模型应用开发基础》课程的介绍。
看了上面的描述,你可能会说,基础课讲的内容很简单啊,不就是调用一下大模型,返回一段结果吗?有什么好学的!
确实,从理论的角度来讲,就是一次大模型调用,但是,大模型应用开发本身就不是一个理论问题,而是一个工程问题,更具体点讲就是Harness(直译为马的缰绳,我们这里可以理解为:控制)的问题,即如何驯服一个能力很强但存在不确定性(概率性)的系统组件为我们所用!
所以,看似很简单的大模型调用,如果你做过真实的业务场景,大概率会遇到很多工程问题:
- 模型为什么每次回答不完全一样?怎么办?
- 多轮对话越来越长,历史消息应该怎样保存?
- 如何让模型稳定返回系统可以解析的 JSON?
- 企业内部资料不在模型知识中,怎样让它基于真实资料回答?
- 模型调用超时、限流或返回错误时,系统怎样继续运行?
- Prompt、模型和框架升级后,如何确认应用没有退化?
- 提示词改了之后,怎么能知道是否提升了质量?
- ....N多工程问题...
课程面向的读者介绍
课程会由浅入深来讲,默认读者是具有一定软件开发基础,但大模型经验主要停留在使用 ChatGPT、Claude、通义千问等对话助手的开发者。你不用担心听不懂,也不用担心过于浅显,我们的课程设计目标是:大模型从入门到精通,会覆盖你该掌握的所有大模型应用开发相关的技能和知识。
课程中的示例代码,以Python和Java为主,项目实战以Java为主。毕竟,Python的生态很完善,作为示例最方便,但是,对于业务开发来说,大多数还是使用Java语言。因此,两种语言我们都有涉及,也能看到两种语言、框架的不同地方,避免一种语言的固化思维。
实际上,课程的讲解多是语言无关的,你熟悉任何语言都没有问题,强烈建议不要拘泥于编程语言,只要你是后端开发,或者前端想要转全栈,都可以来学习,没有一点问题。
课程的更新进度
《大模型应用开发基础》已经上线。
《大模型应用开发进阶(Agent)》最迟10月1日上线。
《大模型应用开发实战(项目)》最迟11月1日上线。
当然,整套课程我们还规划了其他内容,暂时不做承诺,看具体读者的反馈情况。
