狂飙的大模型-2023年度总结
大模型
多年以后，我一定会记得我第一次使用 ChatGPT 那种震撼的感觉。起初我只是以为使用了一个有意思的工具，却不知迎来了 AI 浪潮的大时代。他打乱了很多顶级互联网公司的战略发展的节奏，也打乱了我个人发展发向。2022年，同样是在火山引擎开发者社区，我总结了我的2022 ，并定下了2023年几个探索的技术方向。（详情可点击：我的 2022 云原生修炼之路｜社区征文 ）ChatGPT 的出现打乱了一切。多集群，可观测性等 cloud native 方向暂时搁浅，团队开始探索 AI Native 方向的落地 。
总结下 2023 大模型等几个关键词。LLMOps 、prompt、langchain、ChatGPT API、RAG、向量检索。。。
感谢吴恩达，他在 deeplearning 上有很多基础入门的课程，对我帮助很大。下面是我学习的三个课程的笔记：吴恩达 prompt 课程笔记，吴恩达-使用ChatGPT API构建系统-笔记，吴恩达-基于LangChain的大语言模型应用开发。
这里也要推荐一位宝藏博主 宝玉，第一时间利用 ChatGPT 为大模型相关的视频制作字幕。
专利生成服务
主要根据论文、交底稿来生成专利五书。
这是今年利用大模型端到端开发的一个应用，软件架构本身很简单，分为后端、前端、PDF提取服务三大块。后端对外暴露几个接口，分别生成专利的各个部分，比如权利要求点、说明书、实施方式等。这里的 prompt 设计就比较关键，根据提取的论文内容，进行凝练，总结，然后扩展成专利的内容。
AI native 应用落地困境
- 法律和政策风险
- 过度依赖大模型的能力，ChatGPT 效果最好，但是价格最贵。
- 没有技术壁垒。
ChatGLM金融大模型挑战赛
这是今年参加的一个比赛，根据5000多份上市公司年报，来回答金融领域问题。属于检索增强生成 (RAG) 应用的范例。比赛地址
思路很简单，但是参加比赛后发现还挺难的，第一步的 PDF 解析就成了问题，如果不能把文章拆的的足够细，回答的准确率就上不去。其次数据量很大，向量数据库的检索也成了瓶颈。所以虽然比赛没有获得名次，但是也从中学到了很多。
这里是获奖大佬们的方案和答辩PPT地址。下面是挑战赛第一名的架构图。
社区参与
由于疫情结束，今年参加了 15场线下活动，尤其是第一次参加 KubeCon ，和许多久闻的大佬面基，看到大家的灿烂的笑容，我就知道 云原生这条路没有走错。具体详情参考这篇meetup 2023 博文。
小收获
- 去年年底参加极狐征文比赛，拿到了 Go Pro。
- 2022年火山引擎年度总结 100 元京东卡
- 星汉未来 社区贡献 500 元 京东卡
- Bytebase 体验官 100 元京东卡
- 字节 byconity 征文 1000 块 京东卡
- 杭电 校外导师课 1700 劳务费
- 滴滴送的 行李箱
今年将很多衣服送给了爸爸妈妈、岳父岳母，帆布包送给了老婆的同事，杯子送给了朋友，感觉朋友们都很开心，我自己也很开心。断舍离，真的很舒服。感觉在减熵。因为家里的东西少了，大脑计算量就降低了。
提升
说到提升，比较惭愧。技术、运动、读书都没有值得说的突破，就认认真真读了一本《额尔古纳河右岸》。报了唐刚老师的 rust 课程，算是入门了 rust。另外抽空考了一个 《初级茶艺师》也算小突破吧。
希望 2024 年在运动、读书、技术这三方面踏踏实实做点事情，不管环境怎么变化，坚持自己的初心。
碎碎念
看看去年指定的目标和计划，技术和学术几乎都没怎么做。很简单，工作内容都换成了大模型。追着大模型疲于奔命，最后落得两手空空。
另外下半年公司进行了组织大变革，身处其中不能幸免。拥抱变化，参与空天项目，做的还是自己喜欢的云原生方向。
生活方面的旅游今年还不错，9月疗休养，带着妈妈去了千岛湖。10月带着岳父去了南京。11月和老婆去了武汉。
今年不这么跑步了，感觉自己的脚后跟老是痛，所以想做一些不那么剧烈的运动，体重一直维持在74，距离65，还有9公斤。2024年，期待路冲板运动，能够有所改观。运动贵在坚持，今年尝试了游泳，爬楼梯，跳操，甚至想买一个健身环大冒险。不管怎样，还是那句话，管住嘴，迈开腿。
今年10月份，还清了除了房贷以外的外债，终于有了自己的存款。哎，毕业6年终于没有欠钱的压力了，无债一身轻感觉真不错，真想找一个没人的地方，大醉一场。
今年去省妇保，邵逸夫，方回春堂看了气虚的问题，坚持💊。
最后一直心心念念的NAS，被我用闲置的硬盘盒加一个USB扩展线搞定，提前下载了资源放到硬盘里面，硬盘插到电视上直接看。什么群晖，什么raid，简单粗暴。看完了 杨德昌系列。
目标是为了让生活更精彩，所以，身体健康，家人平安最重要。
2024 规划
尽管回首 2023 被大模型裹挟着匆匆而过，2024还是要突破下自己。
- 学会路冲板（报班也行）
- 用 rust 开发一个应用
- 读完书架上的书