AI智能体

通过微调改善大模型在垂直领域的表现

微调类似于考生应对闭卷考试的过程,考生需要在考试前经过老师的教学,把书本上的内容吃透,才能写出正确答案。通常只看一遍书不够,要反复看书,多做习题,查漏补缺,及时纠正错误的认知。这种临时抱佛脚的过程,会让很多人精疲力尽,考完试什么事也不想做了。微调也是这样,准备微调数据集的过程已经比较复杂了,微调工作中需要反复尝试,不断寻找最优参数组合,因此整体成本通常比较高。

认识大模型

你有过使用搜索引擎搜索问题却怎么也找不到有效信息的时候吗?拥有大模型之前我们使用搜索引擎去搜索问题,然而由于网页内容质量参差不齐,你有可能看了五个网页也找不到自己的答案拥有大模型之后直接将输入搜索引擎的问题输入大模型,比如“如何安装Python”,由于大模型有非常庞大且高质量的知识,因此它会输出正确答案,而且会包含不同系统的Python安装方法,比我们直接使用搜索引擎寻找答案方便多了

拓展学习:多模态大模型、MoE混合专家模型、大小模型云端协同

1多模态大模型1.1什么是多模态大模型每一种信息的来源或者形式,都可以称为一种模态(Modality)。例如,人类会通过色香味点评食物,并通过文字和图片记录。这里的视觉、嗅觉、味觉、文字、图片都是不同的模态。而在大模型领域,模态指的是数据或信息的类型或表达形式,文本、图像、视频、音频等都是不同的模态。多模态,顾名思义,就是指结合两种及以上的模态,进行更综合的数据处理和分析。

通过RAG增强大模型回答原本无法回答的问题

前言你报名参与了导游志愿者活动,但对景点并不熟悉的你很难给出令游客满意的景点介绍。你意识到可以通过查询资料来帮助你完成导游工作,这时的你不再扮演知识的输出者,而是知识的总结者。同样地,给大模型配备知识库,也可以让它参考查询到的信息回答原本无法回答的问题。这种结合了信息检索与文本生成的方法就是我们本节课程要介绍的检索增强生成(RAG)

大模型应用的安全合规

了解大模型的多种优化方法后,你可能已经准备将其引入到业务中。但在正式应用和上线之前,你应该充分了解引入大模型后可能存在的风险以及应对策略。课程目标学习完本课程后,你将能够:认识大模型的个人信息、内容安全、模型安全和知识产权风险了解大模型的个人信息、内容安全、模型安全和知识产权风险的治理策略了解大模型应用的备案要求和方法1大模型的风险随着生成式人工智能技术的广泛应用,其在保护用户个人

通过插件增强大模型的能力

你已经熟练使用大模型的;来自动处理各种批量任务。不过,你可能也发现,并不是所有任务大模型都能完美解决。例如,当你给大模型一批小学难度的计算题,比如393乘以285,它竟然给出了错误答案。就像不擅长数学的人可以使用计算器来解决复杂的算术问题一样,大模型也可以借助插件这种工具来解决它原本难以解决的问题。