Chat、Kimi、蓝心、盘古、文心一言等24个AI大模型功能比较，哪些最适合您？（带链接）
文章概要：
1. 推荐关注此公众号，深入了解中国领先的24个人工智能大模型，包括文心一言、通义千问等，掌握其功能、应用领域及官方链接，探索AI在搜索引擎、在线客服、教育等领域的强大潜力。通过学习AI写作攻略，提升论文及内容创作效率
2. 详细介绍了24国内AI人工智能大模型的背景、功能特长以及适用领域，包括文心一言、通义千问大模型、混元AI模型、豆包AI模型、商量（商汤）AI模型、星火认知大模型、ChatGLMS模型、百川（百小应）AI模型、书生AI模型、蓝心（VIVO-BlueLM)、天工AI模型、封神榜开源体系、KnowLM平台、CPM-Bee模型、Kimi AI模型、腾讯元宝模型、盘古大模型、智谱清言大模型、科大讯飞星火大模型、360智脑模型、赤兔大模型、文修大模型、YonGPT大模型、写易智能创作引擎。
阅读原文
2. 详细介绍了24国内AI人工智能大模型的背景、功能特长以及适用领域，包括文心一言、通义千问大模型、混元AI模型、豆包AI模型、商量（商汤）AI模型、星火认知大模型、ChatGLMS模型、百川（百小应）AI模型、书生AI模型、蓝心（VIVO-BlueLM)、天工AI模型、封神榜开源体系、KnowLM平台、CPM-Bee模型、Kimi AI模型、腾讯元宝模型、盘古大模型、智谱清言大模型、科大讯飞星火大模型、360智脑模型、赤兔大模型、文修大模型、YonGPT大模型、写易智能创作引擎。
分享| 大模型如何赋能智慧城市新发展？
文章概要：
1. 我国数据要素市场化改革步伐加快，数字技术广泛应用。
2. 以人工智能为代表的数字技术被认为是引领未来的战略性技术。
3. 大模型技术给城市发展带来新期待，能为城市治理提供智能化解决方案。
4. 百度发布政务大模型解决方案2.0和政务大模型一体机，为大模型技术赋能城市提供参考答案。
5.大模型解决方案2.0将为政府提供更加全面、智能服务和管理手段。
6. 百度联合唐山市人民政府发布全国首个服务智能体应用，可实现覆盖全场景、全事项的智能问答。
7. 大模型的热度从企业蔓延到城市，成为建设宜居、韧性、智慧城市的重要引擎
8. 海淀区将百度文心模型能力与“接诉即办”应用场景相结合，实现了智能派单、处置、分析、主动治理等工作流程的升级。
9. 经开区构建了亦智大模型服务平台，实现了视觉大模型全域覆盖的城市治理场景。
10. 大模型为城市发展提供了更为泛化的能力和的想象空间。
阅读原文
如何构建出更好的大模型RAG系统？
文章概要：
1. ChatGPT爆火后，以ChatPDF为首的掀起了问答的。
2 大模型爆火后的RAG系统发展，可分为初级、高级、三个阶段。
3. 初级RAG处于23年元旦前后，通过对知识库文档进行定长分块建立索引，用户query去索引中召回相关的文档片段，预定义的prompt模板，让生成问题相关的答案。
4. 高级RAG阶段横跨23年整年的时间，分为模型测和策略测。
5. 超级RAG处于23年底一直到，RAG的概念几乎是2个月变一次。<> 6. 23年底，24年初，的大模型出现如Yi-3B，wen-7B等具备长上下文能力且效果优异的大模型。RAG的发展需要往当时火热的Agent测靠拢。
7. 多模态RAG，结构化RAG属于小而美的范畴。
8. 24年上半年，部分厂商的RAG系统，在新的方向。
9. 24年中，微软开源了GraphRAG项目代码，无数的公众号在炒作这个图谱的RAG系统。
10. 24年也有很多R不存在的说法，如很多的在评估Long Context(LC)大模型R系统准确率的之时，AG系统都处于下风。
阅读原文
2 大模型爆火后的RAG系统发展，可分为初级、高级、三个阶段。
3. 初级RAG处于23年元旦前后，通过对知识库文档进行定长分块建立索引，用户query去索引中召回相关的文档片段，预定义的prompt模板，让生成问题相关的答案。
4. 高级RAG阶段横跨23年整年的时间，分为模型测和策略测。
5. 超级RAG处于23年底一直到，RAG的概念几乎是2个月变一次。<> 6. 23年底，24年初，的大模型出现如Yi-3B，wen-7B等具备长上下文能力且效果优异的大模型。RAG的发展需要往当时火热的Agent测靠拢。
7. 多模态RAG，结构化RAG属于小而美的范畴。
8. 24年上半年，部分厂商的RAG系统，在新的方向。
9. 24年中，微软开源了GraphRAG项目代码，无数的公众号在炒作这个图谱的RAG系统。
10. 24年也有很多R不存在的说法，如很多的在评估Long Context(LC)大模型R系统准确率的之时，AG系统都处于下风。
一文讲明白大模型分布式逻辑（从GPU通信原语到Megatron、Deepspeed）
文章概要：
1. 背景介绍：分布式就是把模型或者数据分散分布到不同的GPU去，分布式方法分类有单卡能够容纳训练的小模型，分布式就是为了训练加速，一般使用的是数据并行的方法，也就是每一块GPU复制一份模型，然后将不同的数据放到不同的GPU训练；模型变得越来越大，单卡都无法支持一个模型训练的时候，就会使用模型并行的方法，模型并行又分为流水线并行和张量并行，其中流水线并行指的是将模型的每一层拆开分布到不同GPU；当模型大到单层模型都无法部署在单个gpu上的时候，我们就会用到张量并行，将单层模型拆开训练；
2. 必要知识补充：模型是怎么训练的，我们以目前最广泛使用的混合精度训练为例，按照训练运行的逻辑来讲：优化器会先备份一份FP32精度的模型权重，初始化好FP32精度的一阶和二阶动量（用于更新权重）；开辟一块新的存储空间，将FP32精度的模型权重转换为FP16精度的模型权重（用于前向和计算梯度）；运行forward和backward，产生的梯度和激活值都用FP16精度存储；优化器利用FP16的梯度和FP32精度的一阶和二阶动量去更新备份的FP32的模型权重；重复Step2到Step4训练，直到模型收敛；
3. 数据并行：数据并行，就是一开始大模型很小的时候，单卡装下绰绰有余，这时候我们想加速训练，除了batchsize开大，还有什么办法呢，一个人刷盘子太慢，那就多招几个人嘛，多招几个人，指的就是多复制几个模型每个模型占领一个GPU去干活嘛；
4. 模型并行：上面讲到的数据并行是在模型足够小能被单张GPU容纳的情况下的并行方法，但是现在大模型时代模型动不动70B、B的，单张卡都容纳不下，该怎么办呢，那就只能把模型肢解了呗；
5. 混合并行：Megatron的核心思路就是混合了模型并行（MP）（包括了张量并行（TP）、流水线并行（PP））和数据并行（DP）这三种并行方式，也被称为3D并行的策略；
6. 总结：本来只想简单地勾勒整个技术链路的逻辑，没想到写了这么多的内容，累鼠我了。感觉也没啥好总结的了，就先这样吧，有什么漏洞和问题的后面再补。毕竟要先做一坨屎出来，然后再慢慢修改是最好的。
阅读原文
2. 必要知识补充：模型是怎么训练的，我们以目前最广泛使用的混合精度训练为例，按照训练运行的逻辑来讲：优化器会先备份一份FP32精度的模型权重，初始化好FP32精度的一阶和二阶动量（用于更新权重）；开辟一块新的存储空间，将FP32精度的模型权重转换为FP16精度的模型权重（用于前向和计算梯度）；运行forward和backward，产生的梯度和激活值都用FP16精度存储；优化器利用FP16的梯度和FP32精度的一阶和二阶动量去更新备份的FP32的模型权重；重复Step2到Step4训练，直到模型收敛；
3. 数据并行：数据并行，就是一开始大模型很小的时候，单卡装下绰绰有余，这时候我们想加速训练，除了batchsize开大，还有什么办法呢，一个人刷盘子太慢，那就多招几个人嘛，多招几个人，指的就是多复制几个模型每个模型占领一个GPU去干活嘛；
4. 模型并行：上面讲到的数据并行是在模型足够小能被单张GPU容纳的情况下的并行方法，但是现在大模型时代模型动不动70B、B的，单张卡都容纳不下，该怎么办呢，那就只能把模型肢解了呗；
5. 混合并行：Megatron的核心思路就是混合了模型并行（MP）（包括了张量并行（TP）、流水线并行（PP））和数据并行（DP）这三种并行方式，也被称为3D并行的策略；
6. 总结：本来只想简单地勾勒整个技术链路的逻辑，没想到写了这么多的内容，累鼠我了。感觉也没啥好总结的了，就先这样吧，有什么漏洞和问题的后面再补。毕竟要先做一坨屎出来，然后再慢慢修改是最好的。
万字长文带你全面解读视觉大模型
文章概要：
1. 文章主要介绍了视觉大模型的发展脉络，包括背景介绍、基础架构、目标函数、预训练、微调、提示工程等方面。文章还介绍了基于文本提示、视觉提示和异构模态的基础模型，以及它们在不同领域的应用。
2. 文章指出，基础模型在视觉领域的发展取得了显著的成功，特别是通过大型语言模型（LLMs），主要归因于数据和模型规模的大幅扩展。
3. 文章还介绍了一些典型的架构设计，这些设计结合了不同的模态信息，包括视觉、文本、音频；此外，文章还着重讨论不同的训练目标，如对比式学习和生成式学习。
阅读原文
2. 文章指出，基础模型在视觉领域的发展取得了显著的成功，特别是通过大型语言模型（LLMs），主要归因于数据和模型规模的大幅扩展。
3. 文章还介绍了一些典型的架构设计，这些设计结合了不同的模态信息，包括视觉、文本、音频；此外，文章还着重讨论不同的训练目标，如对比式学习和生成式学习。
《奶奶看了都会的 coze 大模型入门》
文章概要：
1. AI Agent是指人工智能代理，一种能够感知环境、进行决策和执行动作的智能实体，由LLM（大、Planning（规划）、Memory（记忆）、（工具）4个组成。
2. Coze是新一代一站式AI Bot开发平台，无论是否有，都可以在Coze平台上快速搭建基于AI模型的各类问答Bot，并可以将搭建的Bot发布到各类社交平台和通讯软件上与这些平台/软件上的用户互动。br>.ze是字节开发的AI Agent开发平台，字节将AI AgentAI bot，针对Coze这个产品部署国内版和海外版两个站点。
4. 大模型的数据不是实时最新的，且数据质量良莠不齐，无法获得企业私有数据，可以通过大模型外接私有数据库，将特定知识告诉大模型，从而提高回答特定领域问题的准确度。br>5. 工作流就如同预制菜，将流程中每个步骤确定性执行，避免结果的不确定性，因此工作流中有诸多代码，IF选择等编程类节点。
6. 卡片可以让工作流的输出丰富多彩，在如旅途助手这种bot时，输出内容的形式就格外重要。
7. 图片流不仅具备文生图，图生图，图片拓展，高清修复等基础能力，还支持stable difusion中control net的图片控制能力，能够生成动作一致的图像，识别图片建筑的景深。
阅读原文
2. Coze是新一代一站式AI Bot开发平台，无论是否有，都可以在Coze平台上快速搭建基于AI模型的各类问答Bot，并可以将搭建的Bot发布到各类社交平台和通讯软件上与这些平台/软件上的用户互动。br>.ze是字节开发的AI Agent开发平台，字节将AI AgentAI bot，针对Coze这个产品部署国内版和海外版两个站点。
4. 大模型的数据不是实时最新的，且数据质量良莠不齐，无法获得企业私有数据，可以通过大模型外接私有数据库，将特定知识告诉大模型，从而提高回答特定领域问题的准确度。br>5. 工作流就如同预制菜，将流程中每个步骤确定性执行，避免结果的不确定性，因此工作流中有诸多代码，IF选择等编程类节点。
6. 卡片可以让工作流的输出丰富多彩，在如旅途助手这种bot时，输出内容的形式就格外重要。
7. 图片流不仅具备文生图，图生图，图片拓展，高清修复等基础能力，还支持stable difusion中control net的图片控制能力，能够生成动作一致的图像，识别图片建筑的景深。
当软件工程遇上盘古大模型，是时候革新传统开发了
文章概要：
1. 软件开发从业者的编程日常可能是查看AI给出昨天代码的审查建议一部分“编程”工作直接自然语音描述，输入提示词并审核，再编辑生成的代码，一部分工作是“半编程”写出想要的块，并加以注释让大模型知道想要的是什么，然后按键补全代码。
2. 大模型掀起了软件开发领域效率革命云发布了基于盘古大模型、昇腾AI云服务等全栈AI能力升级的CodeArts盘古助手，具备重塑软件开发的智能化能力，带来了覆盖软件开发全生命周期的服务。
3. 华为云CodeArts是云上一站式软件开发，汇集了华为30多年的研发实践和研发理念，提供需求管理Req、代码检查Check、测试管理TestPlan、代码托管（Code Repo）等自主创新软件工具服务，覆盖需求、设计、开发、测试、部署、运维等软件开发全生命周期环节，打造云化的软件开发环境。
4. CodeArts盘古助手基于千万级研发书籍、技术博客和产品文档等数据训练，支持通过交互精准获取200+华为云服务技术支持和通用研发技术知识，可以一键生成代码实现的功能、调用、使用方法等解释出来，分析代码错误，给出修复结果推荐，有效降低代码阅读理解成本和提升代码修复效率6. 目前 CodeArts 盘古助手已在金融、汽车、教育、制造等众多行业场景中成功实践，帮助企业加速构建现代化应用中国邮政储蓄银行通过使用华为云CodeArts盘古助手打造智能开发平台生成采纳率超30%，单元测试代码采纳率超60%已自动生成29万余行代码，高效支持超过200个应用开发，实现了更好的智能化开发。
阅读原文
2. 大模型掀起了软件开发领域效率革命云发布了基于盘古大模型、昇腾AI云服务等全栈AI能力升级的CodeArts盘古助手，具备重塑软件开发的智能化能力，带来了覆盖软件开发全生命周期的服务。
3. 华为云CodeArts是云上一站式软件开发，汇集了华为30多年的研发实践和研发理念，提供需求管理Req、代码检查Check、测试管理TestPlan、代码托管（Code Repo）等自主创新软件工具服务，覆盖需求、设计、开发、测试、部署、运维等软件开发全生命周期环节，打造云化的软件开发环境。
4. CodeArts盘古助手基于千万级研发书籍、技术博客和产品文档等数据训练，支持通过交互精准获取200+华为云服务技术支持和通用研发技术知识，可以一键生成代码实现的功能、调用、使用方法等解释出来，分析代码错误，给出修复结果推荐，有效降低代码阅读理解成本和提升代码修复效率
宁可不用大模型，也不要用国产大模型！
文章概要：
1. 国产大模型的故事始于2年前，OMA开源后，国产大模型纷纷宣布发布。尽管“夫妻肺片、指鹿为马、烈火...”的故事刚过去一年多，但大佬们在各种场合宣称“遥遥领先”，并试图通过公关删除网络记忆。然而，通过截图保存方式，给李彦宏们和他们雇佣的枪手带来了不少麻烦。
2. 用了2年的时间黏贴/复制，大佬们把风向从“大是否原创？”变成了“国产大模型已超越GPT4.0、Sora，就像一只从小生活在人类家庭中的猴子，处处模仿着人类，有一天他又回到动物园，跟其他说已经了。
3. 场景亲测：图片识别能力PK，、KIMI、GPT的回答各不相同；文字生成能力存在差异。<> 4. 不用大模型不会更聪明，使用国产大模型会让你变坏！未来人类自己PK的核心能力是“提问题能力，具备这个能力核心特征就是会独立思考，否则你让模型输出的内容不会有深度和特点，最终输出的就是一堆的废话，更提深度了。
阅读原文
2. 用了2年的时间黏贴/复制，大佬们把风向从“大是否原创？”变成了“国产大模型已超越GPT4.0、Sora，就像一只从小生活在人类家庭中的猴子，处处模仿着人类，有一天他又回到动物园，跟其他说已经了。
3. 场景亲测：图片识别能力PK，、KIMI、GPT的回答各不相同；文字生成能力存在差异。<> 4. 不用大模型不会更聪明，使用国产大模型会让你变坏！未来人类自己PK的核心能力是“提问题能力，具备这个能力核心特征就是会独立思考，否则你让模型输出的内容不会有深度和特点，最终输出的就是一堆的废话，更提深度了。
宁可不用大模型，也不要用国产大模型！
文章概要：
1. 国产大模型在2年前纷纷宣布发布，尽管曾有，但大佬们通过各种手段改变风向，声称已超越ChatGPT4.等。
. 通过场景亲测，对比了海螺AI、IMI和ChatGPT的图片识别能力其他未放出的差不多。
3. 提到文字生成能力，其他问题因审核未放。
4. 认为不用大模型只是不会更聪明，使用国产大模型会让人变坏，因为未来人类是提问题和独立思考大模型输出主观立场信息可能会洗脑。
5. 此外，FTP欢迎企业订制化风控系统建设咨询和业务合作。
阅读原文
. 通过场景亲测，对比了海螺AI、IMI和ChatGPT的图片识别能力其他未放出的差不多。
3. 提到文字生成能力，其他问题因审核未放。
4. 认为不用大模型只是不会更聪明，使用国产大模型会让人变坏，因为未来人类是提问题和独立思考大模型输出主观立场信息可能会洗脑。
5. 此外，FTP欢迎企业订制化风控系统建设咨询和业务合作。
颠覆认知：大模型不可靠，越大越不可靠？最新研究登上 Nature
文章概要：
1. 最新研究表明，大参数模型在简单任务上可能会出现过度拟合或估计风险，反而更不可靠
2. 研究人员从人类用户与LLM的角度，探讨了难度一致性、任务回避和稳定性三个核心交织元素对LLM可靠性的影响> 3. 模型在面对复杂任务表现提升在任务上的错误率却明显上升
4. 优化后模型中回避行为与错误率之间存在微妙关系，模型在无法正确回答问题时，选择答或给出不符合要求的回应
. 随着模型规模的增加，模型对不同自然语言表述的敏感度有所提高，能更好地应对措辞上的微调> 6. 研究发现，当用户的难度预期与的输出结果不一致时，尤其是对于简单任务，和用户的错误监督都会增加，且人类监督无法弥补这些问题
7. 尽管人类对任务难度的预期可以作为模型正确性的预测指标，但模型在简单任务上仍存在错误；模型规模的扩展和优化不仅减少了回避行为，还导致错误率的增加，并且回避行为与任务难度无关；即便对模型进行了扩展和，提示工程的仍然存在，并且提示性能的提升并不随难度单调增加
8. 这项研究不仅揭示了大模型扩展的盲区，更为未来的AI发展提供了新的方向——在模型规模任务难度找到最佳平衡，或许才是智能进化的关键> 9. 研究人员表示，将进一步扩大关于人类难度预期和输出的，以便将这些更高质量的数据引入模型训练中，并通过AI来训练监督者，从而改进模型的优化过程
10. 在医疗等关键领域，模型可以通过设计拒答选项或与外部AI监督者的，提高其回避能力，最终使LLM展现出更符合人类预期的可靠性和一致性
阅读原文
2. 研究人员从人类用户与LLM的角度，探讨了难度一致性、任务回避和稳定性三个核心交织元素对LLM可靠性的影响> 3. 模型在面对复杂任务表现提升在任务上的错误率却明显上升
4. 优化后模型中回避行为与错误率之间存在微妙关系，模型在无法正确回答问题时，选择答或给出不符合要求的回应
. 随着模型规模的增加，模型对不同自然语言表述的敏感度有所提高，能更好地应对措辞上的微调> 6. 研究发现，当用户的难度预期与的输出结果不一致时，尤其是对于简单任务，和用户的错误监督都会增加，且人类监督无法弥补这些问题
7. 尽管人类对任务难度的预期可以作为模型正确性的预测指标，但模型在简单任务上仍存在错误；模型规模的扩展和优化不仅减少了回避行为，还导致错误率的增加，并且回避行为与任务难度无关；即便对模型进行了扩展和，提示工程的仍然存在，并且提示性能的提升并不随难度单调增加
8. 这项研究不仅揭示了大模型扩展的盲区，更为未来的AI发展提供了新的方向——在模型规模任务难度找到最佳平衡，或许才是智能进化的关键> 9. 研究人员表示，将进一步扩大关于人类难度预期和输出的，以便将这些更高质量的数据引入模型训练中，并通过AI来训练监督者，从而改进模型的优化过程
10. 在医疗等关键领域，模型可以通过设计拒答选项或与外部AI监督者的，提高其回避能力，最终使LLM展现出更符合人类预期的可靠性和一致性
行业洞察 | GPT-o1模型发布后，算力租赁如何引爆大模型超强潜力？
文章概要：
1 OpenAI发布了ChatGPT的最新版本ChatGPT-o1，其引入了“慢思考+思维链模式”，能够更好地处理复杂问题，多步推理和逻辑分析
2. ChatGPT-o1在推理能力和应用效果有了显著，应用离不开高性能计算
3. 算力租赁是一种通过租赁形式提供计算资源模式旨在满足企业和个人在计算能力方面的多样化需求
4. 结合算力租赁灵活算力资源配置，ChatGPT-o1能够在大规模数据处理和复杂任务中展现出卓越的性能
阅读原文
2. ChatGPT-o1在推理能力和应用效果有了显著，应用离不开高性能计算
3. 算力租赁是一种通过租赁形式提供计算资源模式旨在满足企业和个人在计算能力方面的多样化需求
4. 结合算力租赁灵活算力资源配置，ChatGPT-o1能够在大规模数据处理和复杂任务中展现出卓越的性能
腾讯和同济大学达成新合作！
文章概要：
1. 腾讯和同济大学达成新合作，共建「同济-腾讯大设计模型行动（）」。
2.旨在打造设计领域首个拉通和产业全链路的大模型生态。
3. 合作的初步尝试大学教授AI智能体. Lou，它可以回答各种设计相关的专业问题。
4. Prof.收集了娄教授公开发表的百万字语料，并经过多种方法优化。
5. 腾讯和同济大学的不止于单个大模型，一个长时间的行动。
6. 双方将推出一系列面向教育、、的智能体，实现对学科端和产业端的链接。
7. 在人才培养层面，双方将共同探索人工智能技术在设计学科的创新与学科发展。
阅读原文
2.旨在打造设计领域首个拉通和产业全链路的大模型生态。
3. 合作的初步尝试大学教授AI智能体. Lou，它可以回答各种设计相关的专业问题。
4. Prof.收集了娄教授公开发表的百万字语料，并经过多种方法优化。
5. 腾讯和同济大学的不止于单个大模型，一个长时间的行动。
6. 双方将推出一系列面向教育、、的智能体，实现对学科端和产业端的链接。
7. 在人才培养层面，双方将共同探索人工智能技术在设计学科的创新与学科发展。
阅读原文
NotebookLM：一款基于长文本理解/多模态大模型设计的Google笔记应用
文章概要：
1. NotebookLM是Google AI Lab开发的AI原生的笔记应用，产品的设计逻辑完全基于Gemini 1.5 Pro的长文本理解+多模态能力，由于长文本，导致需要通过多个笔记本来区分内容，随着长文本/多模态的能力逐渐解锁，NotebookLM能力还会增强，目前看Google对于它的突破口还是考虑在教育领域
2. NotebookLM整体的产品交互设计非常一般，甚至说有些拉胯，比如笔记内容打开后无法全屏，阅读起来非常不方便
3. NotebookLM的核心能力是Gemini 1.5 Pro的超强长文本能力，这一点，NotebookLM的产品设计就会有一些不同：NotebookLM是基于笔记本的，多种内容形态的组合
4. 可以使用的场景，还真需要挖掘挖掘，核心前提是，基于超长内容源的理解。
阅读原文
2. NotebookLM整体的产品交互设计非常一般，甚至说有些拉胯，比如笔记内容打开后无法全屏，阅读起来非常不方便
3. NotebookLM的核心能力是Gemini 1.5 Pro的超强长文本能力，这一点，NotebookLM的产品设计就会有一些不同：NotebookLM是基于笔记本的，多种内容形态的组合
4. 可以使用的场景，还真需要挖掘挖掘，核心前提是，基于超长内容源的理解。
中国信通院专家李论：面向大模型的智算集群建设有三个要点
文章概要：
1. 9月27日，2024产学研融通创新活动在北京正式召开，中国信通人工智能研究所软硬件与生态部主任李发表了《大模型落地趋势与路径》主题演讲，强调了底座支撑作用。
2. 李论，面向大模型的智算集群建设有三个要点：一是软硬高效协同的新型基础设施；二是算力效能极致优化提升；三是超大规模扩展的网络架构。
3. 李论认为底座支撑整体的挑战包括三个方面：如何准确度量智算集群系统的实际算力？软硬件协同不深增强智算韧性？智算建设浪潮后，如何可持续运营与服务？
4. 李论给出了调整建议 ：一是提升智算基础设施规划水平；二是加快推动国产软硬件厂商兼容适配；三是引导鼓励智算集群差异化发展运营。
5 李论对大模型的未来发展提出了：未来一段时间，模型水平发展仍规模定律计算在一定情况下决定了大模型规模的天花板。底层是软硬高效协同的大，中间层是以Transformer架构为核心驱动通用智能探索的大算法，上层模型平台是以模型为的生态。
阅读原文
2. 李论，面向大模型的智算集群建设有三个要点：一是软硬高效协同的新型基础设施；二是算力效能极致优化提升；三是超大规模扩展的网络架构。
3. 李论认为底座支撑整体的挑战包括三个方面：如何准确度量智算集群系统的实际算力？软硬件协同不深增强智算韧性？智算建设浪潮后，如何可持续运营与服务？
4. 李论给出了调整建议 ：一是提升智算基础设施规划水平；二是加快推动国产软硬件厂商兼容适配；三是引导鼓励智算集群差异化发展运营。
5 李论对大模型的未来发展提出了：未来一段时间，模型水平发展仍规模定律计算在一定情况下决定了大模型规模的天花板。底层是软硬高效协同的大，中间层是以Transformer架构为核心驱动通用智能探索的大算法，上层模型平台是以模型为的生态。
有连云麒麟金融场景AI大模型成功入选中国信通院《金融科技技术解决方案集》
文章概要：
1. 204年9月24日，中国互联网协会中小企业发展工作委员会主办的“2024大模型数字生态大会铸基计划年中会议在北京成功召开。<> 2. 中国信通院在会上发布了多项大模型数字化工作成果，这些成果将推动数字化转型的高质量发展。
3. 有连云麒麟金融商用AI大模型成功入选《高质量数字化转型产品及服务全景图（224上半年度）》“AI模型、“市场营销”板块。
4. 有连云麒麟金融商用AI大基于对金融敏锐的洞察力、以AI赋能传统，推出了云创、云连和云数的闭环产品矩阵，重新定义金融行业AIGC垂类应用，一举入选信通院《科技技术解决方案集(224)》。
5. 金融行业因其行业特殊性，对数据的准确性、时效性、合规性、专业性等方面有着更高要求，企业常常面临着诸如创作难、协作难、见效慢痛点。“麒麟金融场景AI大模型有连云的金融专业语料库进行专项训练，集成自然语言处理、OCR、跨模态与多模态等技术，通过准确、实时、地各类事件指标，自由实现各类金融应用模型的自定义与配置需求，在内容的自动化生产和推送流程中，客户可实时查看与跟踪推送状态，并随时进行决策调整。AI赋能公募基金、券商、银行、保险及上市公司在产品营销、市场推广、风险声誉等多应用落地，帮助企业实现降本增效增益。
6. 未来，有连云麒麟金融场景商用AI大将携手更多行业伙伴，深入挖掘市场需求，持续创新金融AI应用，为金融行业注入新的活力。通过不断的技术革新和产品优化，致力推动金融科技领域的持续进步企业实现更高效、更智能的数字化转型。
阅读原文
3. 有连云麒麟金融商用AI大模型成功入选《高质量数字化转型产品及服务全景图（224上半年度）》“AI模型、“市场营销”板块。
4. 有连云麒麟金融商用AI大基于对金融敏锐的洞察力、以AI赋能传统，推出了云创、云连和云数的闭环产品矩阵，重新定义金融行业AIGC垂类应用，一举入选信通院《科技技术解决方案集(224)》。
5. 金融行业因其行业特殊性，对数据的准确性、时效性、合规性、专业性等方面有着更高要求，企业常常面临着诸如创作难、协作难、见效慢痛点。“麒麟金融场景AI大模型有连云的金融专业语料库进行专项训练，集成自然语言处理、OCR、跨模态与多模态等技术，通过准确、实时、地各类事件指标，自由实现各类金融应用模型的自定义与配置需求，在内容的自动化生产和推送流程中，客户可实时查看与跟踪推送状态，并随时进行决策调整。AI赋能公募基金、券商、银行、保险及上市公司在产品营销、市场推广、风险声誉等多应用落地，帮助企业实现降本增效增益。
6. 未来，有连云麒麟金融场景商用AI大将携手更多行业伙伴，深入挖掘市场需求，持续创新金融AI应用，为金融行业注入新的活力。通过不断的技术革新和产品优化，致力推动金融科技领域的持续进步企业实现更高效、更智能的数字化转型。
聚力科技创新｜传神语联以“根原创”任度大模型赋能新质生产力发展
文章概要：
1. 近日，“新质发展大会在武汉市会议中心举办，以 “聚力科技创新，加快发展新质生产力 为主题，政企学各界代表齐聚一堂。
2. 传神语联创始人兼董事长何恩培及其他7家在汉先进业企业代表参与现场深度对话聚力科技创新的故事，共同探讨寻找发展新质生产力的突破点。
3. 何恩通过“根原创”这一关键词，了关于传神语联20年来在人工智能领域耕耘的精彩演讲，安全可控是任度大模型的首要优势，其次，传神语联通过 “根创新” 实现不受限，再者，度模型可以让文化意识安全有。
4. 传神语联自2005年创立以来，秉承“做愚公 走道”的精神，坚持原创自主的，致力于打造自己的原创AI技术路线，将近20年积累的企业客户交付实践能力，赋能“大语言与“大模型”为两大核心业务版块。
. 在此次 “新质生产力发展大会” 上，传神语联充分展现出其在领域的卓越领先地位。同时，有效搭建起与行业内外伙伴紧密合作的桥梁，共探语人工智能在数字经济、、全球化交流等领域的新应用、新模式。
阅读原文
2. 传神语联创始人兼董事长何恩培及其他7家在汉先进业企业代表参与现场深度对话聚力科技创新的故事，共同探讨寻找发展新质生产力的突破点。
3. 何恩通过“根原创”这一关键词，了关于传神语联20年来在人工智能领域耕耘的精彩演讲，安全可控是任度大模型的首要优势，其次，传神语联通过 “根创新” 实现不受限，再者，度模型可以让文化意识安全有。
4. 传神语联自2005年创立以来，秉承“做愚公 走道”的精神，坚持原创自主的，致力于打造自己的原创AI技术路线，将近20年积累的企业客户交付实践能力，赋能“大语言与“大模型”为两大核心业务版块。
. 在此次 “新质生产力发展大会” 上，传神语联充分展现出其在领域的卓越领先地位。同时，有效搭建起与行业内外伙伴紧密合作的桥梁，共探语人工智能在数字经济、、全球化交流等领域的新应用、新模式。
聚力科技创新｜传神语联以“根源创“任度大模型赋能新质生产力发展
文章概要：
1. “新质生产力发展大会”在湖北省武汉市会议中心成功举办，大会以“聚力科技创新，加快发展新质生产力”为主题。br> 2. 政企学各界代表齐聚一堂，共同分享并深入探讨因地制宜加快发展的模式与经验。
3. 传神语联创始人兼董事长何恩培及其他7家在汉先进业企业代表参与现场深度对话，分享聚力科技创新的故事，共同探讨寻找发展新质生产力的突破点。
4. 何恩培通过“根源创”这一关键词，开启了关于传神语联20在人工智能领域耕耘的演讲。
5. 安全可控是任度大模型优势，任度大模型避免了在他人地基上盖房子所可能面临的不定时禁用、停更、遭受攻击等。
6. 任度大模型可以让文化意识安全有保障，将地道的中国文化智慧传递至全世界，传承给下一代，切实保障我国的语言文化安全。br> 7. 传神语联自25年创立以来，秉承“做愚公 走硬道”的，坚持原创自主的道路，致力于打造自己的原创AI技术路线。
8. 当主持人提及“企业发展过程中遇到过哪些难题”时，何恩培回顾传神语联深扎人工智能这条“硬道”上最为艰难的当属“敢于坚持自己的方向”。<> 9. 在此次“新质生产力发展大会”上，传神语联充分展现其在人工智能领域的卓越领先地位。
10. 传神语联将继续“根路线掌握人工智能发展的主动权，积极践行加快发展新质生产力的，为中华民族的伟大复兴不懈奋斗！
阅读原文
3. 传神语联创始人兼董事长何恩培及其他7家在汉先进业企业代表参与现场深度对话，分享聚力科技创新的故事，共同探讨寻找发展新质生产力的突破点。
4. 何恩培通过“根源创”这一关键词，开启了关于传神语联20在人工智能领域耕耘的演讲。
5. 安全可控是任度大模型优势，任度大模型避免了在他人地基上盖房子所可能面临的不定时禁用、停更、遭受攻击等。
6. 任度大模型可以让文化意识安全有保障，将地道的中国文化智慧传递至全世界，传承给下一代，切实保障我国的语言文化安全。br> 7. 传神语联自25年创立以来，秉承“做愚公 走硬道”的，坚持原创自主的道路，致力于打造自己的原创AI技术路线。
8. 当主持人提及“企业发展过程中遇到过哪些难题”时，何恩培回顾传神语联深扎人工智能这条“硬道”上最为艰难的当属“敢于坚持自己的方向”。<> 9. 在此次“新质生产力发展大会”上，传神语联充分展现其在人工智能领域的卓越领先地位。
10. 传神语联将继续“根路线掌握人工智能发展的主动权，积极践行加快发展新质生产力的，为中华民族的伟大复兴不懈奋斗！
大模型直接预测下一个句子，更快、更准、更长！
文章概要：
1 ArXiv上一篇名为《SentenceVAE：Enable Next-sentence Prediction for Large Language Models with Faster, Higher Accuracy and Longer Context》的引起了国外网友的讨论。
2 作者团队提出了一种新颖的推理方式：Next-sentence Prediction，使用大模型直接预测下句子。
3. 作者团队将深度为1~4层的SentenceV分别嫁接在OPT-125M、OPT-350M、OPT-1.3B模型的首尾（SLLM），并将原始OPT模型（LLM）作为基线（baseline）进行实验。
4. SLLM的token生成速度相比各LLM可分别提升200~3。
. SLLM相比LLM困惑度分别降低了46~75%。
6. SLLM相比LLM显存占用分别降低86~91%。<> 7. SLLM遵循Scaling Law，意味着该架构可以推广至更大规模的。
8. 一位ID名称为unadorable网友阅读该文并在YouTube上发表了对SentenceVAE的见解后，迅速引起了国外网友的讨论。
9. 作者，他们当前的工作主要是为了验证Sentence-level范式的可行性，因此在分割句子时采用了使用标点符号分割这种便捷的方式。
阅读原文
2 作者团队提出了一种新颖的推理方式：Next-sentence Prediction，使用大模型直接预测下句子。
3. 作者团队将深度为1~4层的SentenceV分别嫁接在OPT-125M、OPT-350M、OPT-1.3B模型的首尾（SLLM），并将原始OPT模型（LLM）作为基线（baseline）进行实验。
4. SLLM的token生成速度相比各LLM可分别提升200~3。
. SLLM相比LLM困惑度分别降低了46~75%。
6. SLLM相比LLM显存占用分别降低86~91%。<> 7. SLLM遵循Scaling Law，意味着该架构可以推广至更大规模的。
8. 一位ID名称为unadorable网友阅读该文并在YouTube上发表了对SentenceVAE的见解后，迅速引起了国外网友的讨论。
9. 作者，他们当前的工作主要是为了验证Sentence-level范式的可行性，因此在分割句子时采用了使用标点符号分割这种便捷的方式。
从百模大战到应用为王：投资人如何投AIGC？
文章概要：
1. 文章介绍8届上讨论，包括筛选AI项目的创业者可能面临的挑战。
2 投资人筛选AI项目的逻辑包括产品是否能带来核心价值增长是否能做到数据和应用场景的闭环等。
3. 投资人看待AI应用赛道的挑战包括市场的不确定性、技术的复杂性、模型能力不足、速度太慢、费用太贵等。
阅读原文
2 投资人筛选AI项目的逻辑包括产品是否能带来核心价值增长是否能做到数据和应用场景的闭环等。
3. 投资人看待AI应用赛道的挑战包括市场的不确定性、技术的复杂性、模型能力不足、速度太慢、费用太贵等。
教育领域大模型技术与应用
文章概要：
1. 介绍了教育领域大模型的背景和挑战，包括个性化学习、编程等方面的需求稀疏和学习延时性等问题
2. 提出了教育领域大模型的技术亮点，包括通过对偶数据的模型训练与评估和历史经验注入实现青少年编程垂类大语言模型，基于分层知识图谱和推理prompt生成实现基于小知识的大模型学习，融合知识追踪模型和大模型仿真的强化认知推荐
3. 分享了教育领域大模型的产品案例，包括青蛙编程平台、AI编程学习机、智能云端编译器和数字人AI录播课平台等
4. 探讨了教育领域大模型的思考与展望，包括大模型与“小模型”的比较，融入领域知识，以及“人工的智能”在于精细化的数据等方面
5. 进行了问答环节，回答了关于教育大模型的训练微调方法和小知识学习中主体知识补足的问题
阅读原文
2. 提出了教育领域大模型的技术亮点，包括通过对偶数据的模型训练与评估和历史经验注入实现青少年编程垂类大语言模型，基于分层知识图谱和推理prompt生成实现基于小知识的大模型学习，融合知识追踪模型和大模型仿真的强化认知推荐
3. 分享了教育领域大模型的产品案例，包括青蛙编程平台、AI编程学习机、智能云端编译器和数字人AI录播课平台等
4. 探讨了教育领域大模型的思考与展望，包括大模型与“小模型”的比较，融入领域知识，以及“人工的智能”在于精细化的数据等方面
5. 进行了问答环节，回答了关于教育大模型的训练微调方法和小知识学习中主体知识补足的问题
固本培元！盛派 AI 调用本地大模型
文章概要：
1. 文章介绍了本地大模型的概念、优势以及如何使用本地大模型，包括硬件准备、模型下载、安装依赖、模型部署、推理和调用、优化和调优等步骤。
2. 文章还介绍了盛派AI的NeuCharFramework(NCF)框架，以及如何使用NCF框架来调用本地大模型。
3. 文章通过一个具体的示例，演示了如何使用盛派AI调用本地大模型，并对模型的性能进行了评估。
阅读原文
2. 文章还介绍了盛派AI的NeuCharFramework(NCF)框架，以及如何使用NCF框架来调用本地大模型。
3. 文章通过一个具体的示例，演示了如何使用盛派AI调用本地大模型，并对模型的性能进行了评估。
以智促治 | 大模型如何赋能智慧城市新发展？
文章概要：
1. 国家数据局近期发布的《数字中国发展报告（2023）》显示，我国数据要素市场化改革步伐进一步加快，数字技术应用场景不断拓展。
2. 各类大模型如雨后春笋般竞相涌现，正对各行各业加速渗透，展现了人工智能广泛的应用和巨大的赋能潜力。
3. 大模型的出现，无疑给城市发展带来了更多的新期待。大模型技术凭借其强大的数据处理与学习能力，能够实时捕捉城市运行中的细微变化，精准预测并响应各类需求，时刻与城市发展节奏同步，为城市治理提供智能化解决方案。
4. 百度发布了政务大模型解决方案2.0和政务大模型一体机，为大模型技术赋能城市发展提供了参考答案。<> 5. 政务大模型解决方案2.0将为政府提供更加全面、智能的政务服务和管理手段，助力数字政府建设迈向新的高度。
6. 智能体的发布可以快速实现智能导办，实现在具体业务过程中边问边答，提高办事效率，切实解决了民众的实际办事难题，也减轻了基层工作人员的压力。
7. 大模型的热度已经从企业蔓延到城市，正在助力城市治理从“看”到“知”的跨越，成为建设宜居、韧性、的重要引擎。
8. 在北京海淀区，大模型技术已经为提高城市运行效率与服务居民能力提供强有力的技术支持。海淀区积极探索人工智能技术与应用的融合创新，基于大模型的政务服务体系实现再升级。
9. 在北京经济技术开发区百度智能云的基于国产可信算力的治理视频大模型全域智能训练场景”，实现视觉大模型区级全域覆盖的城市治理场景。
10. 随着大模型成为智慧城市高质量发展新的推动力，城市也将像生命体一样，会思考，有温度，能进化。
阅读原文
2. 各类大模型如雨后春笋般竞相涌现，正对各行各业加速渗透，展现了人工智能广泛的应用和巨大的赋能潜力。
3. 大模型的出现，无疑给城市发展带来了更多的新期待。大模型技术凭借其强大的数据处理与学习能力，能够实时捕捉城市运行中的细微变化，精准预测并响应各类需求，时刻与城市发展节奏同步，为城市治理提供智能化解决方案。
4. 百度发布了政务大模型解决方案2.0和政务大模型一体机，为大模型技术赋能城市发展提供了参考答案。<> 5. 政务大模型解决方案2.0将为政府提供更加全面、智能的政务服务和管理手段，助力数字政府建设迈向新的高度。
6. 智能体的发布可以快速实现智能导办，实现在具体业务过程中边问边答，提高办事效率，切实解决了民众的实际办事难题，也减轻了基层工作人员的压力。
7. 大模型的热度已经从企业蔓延到城市，正在助力城市治理从“看”到“知”的跨越，成为建设宜居、韧性、的重要引擎。
8. 在北京海淀区，大模型技术已经为提高城市运行效率与服务居民能力提供强有力的技术支持。海淀区积极探索人工智能技术与应用的融合创新，基于大模型的政务服务体系实现再升级。
9. 在北京经济技术开发区百度智能云的基于国产可信算力的治理视频大模型全域智能训练场景”，实现视觉大模型区级全域覆盖的城市治理场景。
10. 随着大模型成为智慧城市高质量发展新的推动力，城市也将像生命体一样，会思考，有温度，能进化。
【会员动态】云天励飞与华为共同发布大模型推理行业解决方案，推动“大模型+行业应用”发展
文章概要：
1. 华为全联接大会204上海举行，云天励飞受邀参加与华为昇腾联合发布模型行业解决方案
2. 云天励展示了与华为打造的训推一体行业解决方案城市治理和公共安全的应用
3. 云天励飞与保持密切合作，在智慧城市领域落地了一系列产品和解决方案
4 今年7月，云天励飞与华为签署昇腾原生开发合作备忘录，共同拓展大模型的多行业> 5 未来，云天励飞与华为一起努力，持续推动国产大模型迭代和应用落地
阅读原文
2. 云天励展示了与华为打造的训推一体行业解决方案城市治理和公共安全的应用
3. 云天励飞与保持密切合作，在智慧城市领域落地了一系列产品和解决方案
4 今年7月，云天励飞与华为签署昇腾原生开发合作备忘录，共同拓展大模型的多行业> 5 未来，云天励飞与华为一起努力，持续推动国产大模型迭代和应用落地
“思享荟”2024第二期：AI大模型蝶变将会带来何种新产业革命？
文章概要：
1 2024年第二期思享沙龙活动在上海举办，活动邀请阿里巴巴集团战略发展部上海总经理、阿里云智能集团公共事务部副总裁高骏杰作为主讲嘉宾，以《蝶变与契机：人工智能将会引发产业变革》为主题，与来自金融、科技、等领域的40余位，共话“效率与并重、技术与人性共存发展蓝图。
2. 高骏杰现场深度剖析，AI大的四大突破性进展正在改写行业规则。
3. 当前，AI大模型的应用范围正迅速扩展涵盖了智能制造、智慧城市、医疗健康、金融科技重要领域
4 高骏杰进一步指出，随着大模型的，企业核心竞争力将面临。<> 5. 面对AI大模型发展，高骏杰也提出了几点思考。一方面，认知差距、专业人才匮乏、安全与伦理考量成为亟待解决的课题。另一方面，对充满乐观，坚信大模型将推动产业升级，催生更多AI技术创新，如通用人工智能和超级人工智能的诞生，从而改变人类生活与工作的方式，智能生活助手、虚拟现实体验将成为常态。
6.思享荟”沙龙TODTOWN天荟的品牌活动，后续将持续精选国际形势、中外关系、经济市场、文化科技、社会教育等领域的热点议题，邀请更多专家、业内领袖现场分享灼见。
阅读原文
2. 高骏杰现场深度剖析，AI大的四大突破性进展正在改写行业规则。
3. 当前，AI大模型的应用范围正迅速扩展涵盖了智能制造、智慧城市、医疗健康、金融科技重要领域
4 高骏杰进一步指出，随着大模型的，企业核心竞争力将面临。<> 5. 面对AI大模型发展，高骏杰也提出了几点思考。一方面，认知差距、专业人才匮乏、安全与伦理考量成为亟待解决的课题。另一方面，对充满乐观，坚信大模型将推动产业升级，催生更多AI技术创新，如通用人工智能和超级人工智能的诞生，从而改变人类生活与工作的方式，智能生活助手、虚拟现实体验将成为常态。
6.思享荟”沙龙TODTOWN天荟的品牌活动，后续将持续精选国际形势、中外关系、经济市场、文化科技、社会教育等领域的热点议题，邀请更多专家、业内领袖现场分享灼见。
百度谢广军：百模大战和价格战之后，大模型下一个战场在工具平台
文章概要：
1. 谢广军分享AI大模型对生产生活的的迭代，企业需求明确，模型厂商提供提工具军过去一年半时间划分为三个阶段，分别是百模大战时期、>3. 谢广回顾百度千帆大模型平台的从1，提供生成式AI生产以及全流程开发工具链5 谢广军勾勒大模型产业落地的未来线条，包括价格下降、架构优化和成本控制
阅读原文
百度谢广军：百模大战和价格战之后，大模型下一个战场在工具平台
文章概要：
1. 百度副总裁谢广军分享AI大模型对生产生活的影响深远，企业和模型厂商共同迭代，国内厂商经历百模大战和价格战后，下一个战场在工具平台。
2. 谢广军将过去一年半多的时间划分为三个阶段，分别是百模大战时期、应用场景探索时期和深入场景和深度融合应用时期。
3. 百度千帆大模型平台3.0应运而生，为企业提供生成式AI生产以及应用全流程开发工具链，包括模型开发层、模型服务层和应用层。
4. 百度智能云千帆大模型平台在千行百业中细分场景，不断提升场景中的模型能力、数据能力以及应用能力，推出一系列应用样板间，让用户学会模型精调样板间，以及如何给大模型输入模板。
5. 随着技术的迭代，模型推理成本的降低，大模型的价格会持续下降，研究更好的推理架构，用低算力推理达到更好的模型效果，是值得长期重视的关键。
阅读原文
2. 谢广军将过去一年半多的时间划分为三个阶段，分别是百模大战时期、应用场景探索时期和深入场景和深度融合应用时期。
3. 百度千帆大模型平台3.0应运而生，为企业提供生成式AI生产以及应用全流程开发工具链，包括模型开发层、模型服务层和应用层。
4. 百度智能云千帆大模型平台在千行百业中细分场景，不断提升场景中的模型能力、数据能力以及应用能力，推出一系列应用样板间，让用户学会模型精调样板间，以及如何给大模型输入模板。
5. 随着技术的迭代，模型推理成本的降低，大模型的价格会持续下降，研究更好的推理架构，用低算力推理达到更好的模型效果，是值得长期重视的关键。
银行大模型，走到哪了？
文章概要：
1. 大模型浪潮汹涌澎湃，在应用层面走在前列。
2 国有大行中，工行与邮储银行对大模型的重视度相对更高。
3. 股份行中，招行、中信银行、民生银行等积极。
. 中小银行充分引入，在大层面并不落于下风。
阅读原文
2 国有大行中，工行与邮储银行对大模型的重视度相对更高。
3. 股份行中，招行、中信银行、民生银行等积极。
. 中小银行充分引入，在大层面并不落于下风。
AI大模型：离真正爆发还有多远？全球趋势与中国发展的对比解析
文章概要：
1. AI大模型圈正热火朝天讨论着AI大模型的应用场景，但离真正的爆发还有多远呢？业内预测，这一时刻可能会在未来的3至5年内到来。
2. 国外的AI大模型，尤其是美国和欧洲，已经进入了多模态AI的阶段。中国的AI大模型虽然也在多个垂直行业（如政务、教育、金融）了一定的应用进展，但整体上仍以单一模态为主。
3. 国外的AI大模型正在逐步向行业专用化和定制方向发展。中国的AI大模型商业化路径则更多依赖政策驱动和垂直行业应用。
4. 国外AI大模型的主要发展障碍集中在和能耗问题。中国的AI大模型发展则面临不同的挑战，尤其是在算力和数据方面。
5. 未来几年，的AI大模型预计将进一步向多模态AI和行业定制化方向发展，中国的AI大模型则会继续依托政策支持，垂直行业的应用落地。
阅读原文
2. 国外的AI大模型，尤其是美国和欧洲，已经进入了多模态AI的阶段。中国的AI大模型虽然也在多个垂直行业（如政务、教育、金融）了一定的应用进展，但整体上仍以单一模态为主。
3. 国外的AI大模型正在逐步向行业专用化和定制方向发展。中国的AI大模型商业化路径则更多依赖政策驱动和垂直行业应用。
4. 国外AI大模型的主要发展障碍集中在和能耗问题。中国的AI大模型发展则面临不同的挑战，尤其是在算力和数据方面。
5. 未来几年，的AI大模型预计将进一步向多模态AI和行业定制化方向发展，中国的AI大模型则会继续依托政策支持，垂直行业的应用落地。
“码上”赋能，看大模型如何助力高校教学创新变革？
文章概要：
1. 9月2星火联盟×风向讲堂举办大模型助力高校教学创新变革的线上专题沙龙。
2. 北京邮电大学计算机学院长聘副教授徐童分享如何借助讯飞星火码上平台开展特色编程教学。
3. 大模型的引入可以解决编程教学中的痛点，为学生提供编程辅导服务，教师提供教学管理服务。
4.大学码上”的智慧教学实验基地，已取得显著的改革成效。
5. 徐童分享推动基于“码上的教学经验，有组织的教学、试点和教学指导建议。br>. 徐童介绍了北京邮电大学、黑龙江外国语学院的真实教学案例，为各类高校提供了可借鉴的教育教学经验。
7. 徐童，讯飞星火码上可以解决各类专业问题，建设特色微专业
8. 本次专题沙龙在大家的热烈讨论与交流落下帷幕。
阅读原文
2. 北京邮电大学计算机学院长聘副教授徐童分享如何借助讯飞星火码上平台开展特色编程教学。
3. 大模型的引入可以解决编程教学中的痛点，为学生提供编程辅导服务，教师提供教学管理服务。
4.大学码上”的智慧教学实验基地，已取得显著的改革成效。
5. 徐童分享推动基于“码上的教学经验，有组织的教学、试点和教学指导建议。br>. 徐童介绍了北京邮电大学、黑龙江外国语学院的真实教学案例，为各类高校提供了可借鉴的教育教学经验。
7. 徐童，讯飞星火码上可以解决各类专业问题，建设特色微专业
8. 本次专题沙龙在大家的热烈讨论与交流落下帷幕。
2024，大模型的 iOS 时刻
文章概要：
1. 科技史是由一个个决定性时刻串联而成，2010年iPhone 4的发布标志着移动互联网时代的到来，其背后的IOS系统和安卓系统的推出，让手机的功能得到了极大的延伸，也孕育了一大批超级应用。
2. 大模型时代，代码能力不再是影响产品创意的决定性因素，理念设想到产品落地，中间仅需与AI不断对话。
3. 大模型不是万能的，技术的成熟抹平了代码能力的差距，数量的爆发带来了应用在千行百业的落地，新时代开发者眼前的最后一道鸿沟是行业经验。
4. 移动互联网时代，最大的增量机会出现在移动应用开发，但生态的繁荣，也进一步反哺，成为了苹果万亿市值的底座。
5. 百度的定位是成为大模型时代的基础设施，从技术、成本与生态三个角度来展开，通过文心大模型+千帆平台等AI基础设施作为应用开发的根基，智能体进入人人可开发时代。
6. 百度不仅有技术和生态，更能让开发者赚到钱，秘密就藏在百度的智能体分发生态中：搜索场景，正是智能体最重要的地方向；贴吧、文库、百度知道、爱奇艺，则是各种垂类智能体最精准的应用场景。
阅读原文
2. 大模型时代，代码能力不再是影响产品创意的决定性因素，理念设想到产品落地，中间仅需与AI不断对话。
3. 大模型不是万能的，技术的成熟抹平了代码能力的差距，数量的爆发带来了应用在千行百业的落地，新时代开发者眼前的最后一道鸿沟是行业经验。
4. 移动互联网时代，最大的增量机会出现在移动应用开发，但生态的繁荣，也进一步反哺，成为了苹果万亿市值的底座。
5. 百度的定位是成为大模型时代的基础设施，从技术、成本与生态三个角度来展开，通过文心大模型+千帆平台等AI基础设施作为应用开发的根基，智能体进入人人可开发时代。
6. 百度不仅有技术和生态，更能让开发者赚到钱，秘密就藏在百度的智能体分发生态中：搜索场景，正是智能体最重要的地方向；贴吧、文库、百度知道、爱奇艺，则是各种垂类智能体最精准的应用场景。
行业观察｜大模型之战，除了低价还战什么？
文章概要：
1. 近半年，大模型的推理算力价格正在快速下降，短期内Token消耗量快速增长，但目前却没有一家厂商能从中盈利。
2. 大模型推理算力降价会做大市场蛋糕，云厂商目前普遍在考虑更长远的问题——如何用降价催推动AI应用创新。
3. 企业使用大模型，既有显性成本，也有隐性成本。显性成本包括，模型推理算力成本。目前，一些企业数字化负责人的观点是，使用大模型的显性成本的确在下降，但隐性成本不得不考虑。
4. 云厂商的大模型竞争有两大变量：一是，算力规模能否持续扩大；二是，推理成本能否持续下降。大模型竞争正在加剧。谁规模更大，谁就有坚持到最后的底牌。
阅读原文
2. 大模型推理算力降价会做大市场蛋糕，云厂商目前普遍在考虑更长远的问题——如何用降价催推动AI应用创新。
3. 企业使用大模型，既有显性成本，也有隐性成本。显性成本包括，模型推理算力成本。目前，一些企业数字化负责人的观点是，使用大模型的显性成本的确在下降，但隐性成本不得不考虑。
4. 云厂商的大模型竞争有两大变量：一是，算力规模能否持续扩大；二是，推理成本能否持续下降。大模型竞争正在加剧。谁规模更大，谁就有坚持到最后的底牌。
智驭未来 赋能教育丨平阴县教育和体育局 举行“大模型赋能教育”专题培训
文章概要：
1. 平阴县体育局举办“大模型赋能教育”专题，旨在提升数字素养，推动教育教学改革
2 培训采用线上方式，内容包括生成式AI教育应用的新工具新场景等
3. 全县10中小学幼儿园信息科技负责人及骨干教师参加培训，教师们积极参与并表示收获颇丰
4. 平阴县教育和体育局将继续加强教育信息化工作，希望教师能将所学知识转化为实际
阅读原文
2 培训采用线上方式，内容包括生成式AI教育应用的新工具新场景等
3. 全县10中小学幼儿园信息科技负责人及骨干教师参加培训，教师们积极参与并表示收获颇丰
4. 平阴县教育和体育局将继续加强教育信息化工作，希望教师能将所学知识转化为实际
【特邀讲座分享】多模态大模型驱动的开放世界具身操作
文章概要：
1. 202年9月21日，智在微论坛第1期《多模态大模型驱动的开放世界身操作》上举行，本次讲座上海交通大学邹丹平教授主持。
2. 讲座的特邀嘉宾是香港大学在读博士生穆尧，他的研究方向是具身智能、强化学习、机器人控制和自动驾驶。
3. 随着多模态大模型和AIGC的快速发展通过整合大模型、计算机视觉和机器人等技术，我们正在更智能、自主、高效的机器人系统，并在领域发挥重要作用。本次报告将介绍面向开放世界具备具身认知、规划和能力的具身模型RoboCodeX、通用机器人代码生成评测平台oScript，以及大规模机器人专家数据生成器RoboTwin。
. 本次讲座吸引了清华大学、上海交通、香港大学哈尔滨工业、工业等近四十家单位相关技术创新人员前来聆听和交流，讲座内容提出自己的和疑问，嘉宾进行了深入的
阅读原文
2. 讲座的特邀嘉宾是香港大学在读博士生穆尧，他的研究方向是具身智能、强化学习、机器人控制和自动驾驶。
3. 随着多模态大模型和AIGC的快速发展通过整合大模型、计算机视觉和机器人等技术，我们正在更智能、自主、高效的机器人系统，并在领域发挥重要作用。本次报告将介绍面向开放世界具备具身认知、规划和能力的具身模型RoboCodeX、通用机器人代码生成评测平台oScript，以及大规模机器人专家数据生成器RoboTwin。
. 本次讲座吸引了清华大学、上海交通、香港大学哈尔滨工业、工业等近四十家单位相关技术创新人员前来聆听和交流，讲座内容提出自己的和疑问，嘉宾进行了深入的
人工智能大模型在教学中的万向应用
文章概要：
1. 人工智能大模型在教学中的万向应用
2. 高教国培 204年09月27日 1:00
3. 北京
. 阅读原文
5. 微信扫一扫
6. 关注该
7. 继续滑动看下一个
8. 高教国培
9. 向上滑动看下一个
10. 选择留言身份
阅读原文
2. 高教国培 204年09月27日 1:00
3. 北京
. 阅读原文
5. 微信扫一扫
6. 关注该
7. 继续滑动看下一个
8. 高教国培
9. 向上滑动看下一个
10. 选择留言身份
打完“价格战”，大模型还要比什么？
文章概要：
1. 大模型价格战：自阿里5月率先降价后，国内大模型厂商及OpenAI均跟进，行业降价幅度达90%左右，预计未来价格还将继续下调。
2. 规模比利润更重要：大模型行业目前规模比利润更重要，降价带来的效果显著，如阿里云付费客户数增长超200%，百度文心大模型日均调用量增长超10倍。
3. 阿里着力“AI大基建”：阿里提出“AI大基建”概念，除降价外还发布新一代开源大模型，希望降低使用门槛，让更多企业和创作者参与进来。
4. 模型能力仍是关键：大模型企业在打价格战的同时，也深知产品、技术、现金流的重要性，既要抗住降价压力，又要和对手拉开技术差距，持续提升模型性能和产品落地，才能形成良性的商业闭环。
阅读原文
2. 规模比利润更重要：大模型行业目前规模比利润更重要，降价带来的效果显著，如阿里云付费客户数增长超200%，百度文心大模型日均调用量增长超10倍。
3. 阿里着力“AI大基建”：阿里提出“AI大基建”概念，除降价外还发布新一代开源大模型，希望降低使用门槛，让更多企业和创作者参与进来。
4. 模型能力仍是关键：大模型企业在打价格战的同时，也深知产品、技术、现金流的重要性，既要抗住降价压力，又要和对手拉开技术差距，持续提升模型性能和产品落地，才能形成良性的商业闭环。
前沿观点 | 李彦宏揭开大模型认知误区：开源解决不了效率问题，大模型之间差距越来越大
文章概要：
1. 李彦宏最新内部讲话曝光，他认为大模型的天花板很高，现在距离理想情况还相差非常远，所以模型要不断快速迭代、更新和升级。
2. 李彦宏提出了三个大模型认知误区：大模型之间的差距在缩小吗？大模型技术已经接近天花板了吗？为什么说商业化模型更有性价比？
3. 李彦宏认为开源模型解决不了商业应用中的效率问题，智能体是大模型最重要的发展方向，低门槛让应用转化变得更加直接和高效。
4. 百度智能体实践已进入深水区，李彦宏在多次讲话中强调，智能体代表了AI时代的未来趋势。
阅读原文
2. 李彦宏提出了三个大模型认知误区：大模型之间的差距在缩小吗？大模型技术已经接近天花板了吗？为什么说商业化模型更有性价比？
3. 李彦宏认为开源模型解决不了商业应用中的效率问题，智能体是大模型最重要的发展方向，低门槛让应用转化变得更加直接和高效。
4. 百度智能体实践已进入深水区，李彦宏在多次讲话中强调，智能体代表了AI时代的未来趋势。
大模型技术学习过程梳理
文章概要：
1. 大模型技术学习过程梳理，介绍了大模型技术的框架，理论、技术和应用等方面。
2 大模型技术是人工智能技术的分支目前主流的研究方向之一。
3. 大的核心是使用深度学习算法模仿人类大脑神经元，来实现智能。
4. 神经网络是大模型载体，主要结构为层、输出层和隐藏层。
5. 大模型技术采用预训练的方式来实现智能，不同的任务需求，设计出不同的神经网络。7. 微调是在相似任务的预的基础之上，通过少量的数据对模型参数进行调整，使得其能够更加适应当前任务的一种方式。
8. 提示词工程的作用是地使用大模型，根据研究发现，对待同样的问题使用不同的提示词有时会得到完全不一样的效果。<>9. 智能体是大模型+外部工具实现的一种能够分析和解决复杂任务的一种载体。
阅读原文
2 大模型技术是人工智能技术的分支目前主流的研究方向之一。
3. 大的核心是使用深度学习算法模仿人类大脑神经元，来实现智能。
4. 神经网络是大模型载体，主要结构为层、输出层和隐藏层。
5. 大模型技术采用预训练的方式来实现智能，不同的任务需求，设计出不同的神经网络。
8. 提示词工程的作用是地使用大模型，根据研究发现，对待同样的问题使用不同的提示词有时会得到完全不一样的效果。<>9. 智能体是大模型+外部工具实现的一种能够分析和解决复杂任务的一种载体。
首个Mamba+Transformer混合架构多模态大模型来了！
文章概要：
1. 香港中文大学深圳和深圳大数据研究院的团队提出了首个混合架构多模态大语言模型LongLLaVA，在效率和性能之间实现了更好的平衡。
2. LongLLaVA采用了和Mamba的混合架构，并提出了一种高效图像表示方法，该方法对图像Token应用2D池化以降低计算成本同时保持性能。
3. 为确保模型在多图像场景中有效地区分图像之间的时序和空间依赖关系，并在各种任务中表现良好，团队细致地区分了不同场景下的特殊字符。
4. 团队逐步实现单模态和多模态的适配，将预训练语言模型转变为多模态长上下文模型。
5. LongLLaVA在MileBench上表现出色，甚至超过了闭源模型Claude-3-Opus，尤其在检索任务方面表现出色。
6. LongLLaVA在涉及中等至长视频的任务中表现出色，超越了传统的视频模型，如Video-LLaMA2和VideoChat2。
7. 团队探讨了不同架构在ICL能力和推理效率方面的优缺点，强调了混合架构的平衡优势。<>8. 随着可处理图像数量的增加，模型能够支持更多图像块以进行高分辨率图像理解，以及使用更多视频帧进行视频理解。
9. 模型在1000张图像集上实现了近100%准确率，而无需额外的训练。
阅读原文
2. LongLLaVA采用了和Mamba的混合架构，并提出了一种高效图像表示方法，该方法对图像Token应用2D池化以降低计算成本同时保持性能。
3. 为确保模型在多图像场景中有效地区分图像之间的时序和空间依赖关系，并在各种任务中表现良好，团队细致地区分了不同场景下的特殊字符。
4. 团队逐步实现单模态和多模态的适配，将预训练语言模型转变为多模态长上下文模型。
5. LongLLaVA在MileBench上表现出色，甚至超过了闭源模型Claude-3-Opus，尤其在检索任务方面表现出色。
6. LongLLaVA在涉及中等至长视频的任务中表现出色，超越了传统的视频模型，如Video-LLaMA2和VideoChat2。
7. 团队探讨了不同架构在ICL能力和推理效率方面的优缺点，强调了混合架构的平衡优势。<>8. 随着可处理图像数量的增加，模型能够支持更多图像块以进行高分辨率图像理解，以及使用更多视频帧进行视频理解。
9. 模型在1000张图像集上实现了近100%准确率，而无需额外的训练。
人工智能大模型教育场景应用优秀案例
文章概要：
1. 生成式人工智能改变了设计相关产业的生产方式，山东工艺美术学院开展人工智能赋能设计教育教学改革，探索“人工智能+设计教育”的新模式。
2. 山东工艺美术学院系统谋划，启动教学改革，成立人工智能设计研究中心，开展“五个一”工程。
3. 山东工艺美术学院重构课程体系，创新教学模式，设立人工智能与计算机教研室，开设通识课程，融入AI相关课程或内容。
4. 山东工艺美术学院汇聚多方力量，提升人才培养能力，引进专家和教师，加强现有教师队伍的培训，开展设计教育教学改革调研、研讨交流。
5. 山东工艺美术学院搭建服务平台，打造实践教学新生态，启动“山东省人工智能设计服务平台”建设，构建面向全省设计艺术专业师生以及相关行业从业者的，涵盖教育、研究和产业应用的综合性人工智能服务平台。
6 山东工艺美术学院完成了“天工开物”山东省人工智能设计服务平台开发建设，特色大模型、Lora模型训练开发，筹备成立AIGC设计产学研共同体，开展社会服务项目，举办各类展览，组织研讨会和讲座。
7. 山东工艺美术学院将持续推动AI与设计教育交叉融合走深走实，并积极拓展AI在设计教育中的更多应用场景，探索产教融合新模式，加强国际交流与合作。
阅读原文
2. 山东工艺美术学院系统谋划，启动教学改革，成立人工智能设计研究中心，开展“五个一”工程。
3. 山东工艺美术学院重构课程体系，创新教学模式，设立人工智能与计算机教研室，开设通识课程，融入AI相关课程或内容。
4. 山东工艺美术学院汇聚多方力量，提升人才培养能力，引进专家和教师，加强现有教师队伍的培训，开展设计教育教学改革调研、研讨交流。
5. 山东工艺美术学院搭建服务平台，打造实践教学新生态，启动“山东省人工智能设计服务平台”建设，构建面向全省设计艺术专业师生以及相关行业从业者的，涵盖教育、研究和产业应用的综合性人工智能服务平台。
6 山东工艺美术学院完成了“天工开物”山东省人工智能设计服务平台开发建设，特色大模型、Lora模型训练开发，筹备成立AIGC设计产学研共同体，开展社会服务项目，举办各类展览，组织研讨会和讲座。
7. 山东工艺美术学院将持续推动AI与设计教育交叉融合走深走实，并积极拓展AI在设计教育中的更多应用场景，探索产教融合新模式，加强国际交流与合作。
人工智能100问【20】- 大模型三大认知误区，未来模型间的差距越来越大？
文章概要：
1. 2024年新兴技术度曲线显示生成式人工智能已越过“期望膨胀期”，理性思考和技术洗牌阶段
2. 大模型间的能力差距不仅不会缩小，未来可能会越来越大
3. 开源模型在实际应用中成本优势削弱，硬件使用效率低，商业化应用优势不明显>4. AI应用的落地和商业化路径可以分为辅助工具阶段、智能体阶段和AI阶段
. 上海开悟有限公司专业的人工智能级解决方案，致力于为AI驱动型提供从算力供给到模型研发的整体解决方案
6. 开理悟智通过技术和资源整合，打破研发与应用的，建立从算力供给应用落地的全栈式AI解决方案
7. 开理悟智将持续通过技术创新与生态联动，助力行业客户建立更高效、更具韧性的AI体系，引领时代的产业发展与转型
阅读原文
2. 大模型间的能力差距不仅不会缩小，未来可能会越来越大
3. 开源模型在实际应用中成本优势削弱，硬件使用效率低，商业化应用优势不明显>4. AI应用的落地和商业化路径可以分为辅助工具阶段、智能体阶段和AI阶段
. 上海开悟有限公司专业的人工智能级解决方案，致力于为AI驱动型提供从算力供给到模型研发的整体解决方案
6. 开理悟智通过技术和资源整合，打破研发与应用的，建立从算力供给应用落地的全栈式AI解决方案
7. 开理悟智将持续通过技术创新与生态联动，助力行业客户建立更高效、更具韧性的AI体系，引领时代的产业发展与转型
AI呼叫2.0全面上线！大模型呼叫全面上线！大模型质检全面上线！交互优化！
文章概要：
1. AI呼叫2.0全面上线，所有客户均可在AI外呼-AI呼叫2.0新建任务执行更高效的外呼，需提前与运维联系配置线路br>2. 大模型呼叫全面上线，客户AI外呼-智能体中心配置大模型话术，支持文本测试、语音测试、正式呼叫。
3. 大模型质检全面，所有客户均可在AI外呼呼叫设置-大模型通话质检中配置规则，用于呼叫结果的意向订正。
4. 交互优化，包括小程序、移动端优化，客户端、管理操作日志中的IP地址支持点击后跳转，管理端账单支持求和、平均展示，AI呼叫任务栏优化，席工作情况字段间隔支持调整，新增话术日志，长时间不用的话术进入休眠状态，可以点击。
阅读原文
3. 大模型质检全面，所有客户均可在AI外呼呼叫设置-大模型通话质检中配置规则，用于呼叫结果的意向订正。
4. 交互优化，包括小程序、移动端优化，客户端、管理操作日志中的IP地址支持点击后跳转，管理端账单支持求和、平均展示，AI呼叫任务栏优化，席工作情况字段间隔支持调整，新增话术日志，长时间不用的话术进入休眠状态，可以点击。
AI大模型·白皮书 | 2024AIAgent（智能体）从技术概念到场景落地+应用场景未来展望及潜在标的分析报告
文章概要：
阅读原文重磅丨2024年中国AI大模型场景探索及产业应用调研报告：AI大模型如何引领行业变革？机遇与挑战并存！
文章概要：
1. 人工智能（AI）技术是推动数字化变革的力量，近日，《2024年中国AI大模型场景探索及产业应用调研报告》正式发布，揭示了AI大模型“引爆”行业新一轮变革。<>2. AI大模型是指采用大规模参数的神经网络模型，通过深度学习和大量算力训练而成，在处理复杂任务时展现出卓越的性能，能够显著提升各行业的生产效率。
3. AI大模型的技术进步不仅提升了生产要素的使用效率还显著提高了数据要素在生产组合中的地位，为企业数字化转型提供了强有力的支持
4.大模型面临的痛点与挑战包括算力与数据瓶颈、人才与法规风险等。
5 AI大模型的技术趋势与未来展望包括技术进步引领未来、应用场景多元化增长等。
. AI大模型的机遇与风险包括潜力巨大、风险管理不容忽视等。
7. 政策建议与行业包括政策引导与支持、企业创新与合作等。
阅读原文
3. AI大模型的技术进步不仅提升了生产要素的使用效率还显著提高了数据要素在生产组合中的地位，为企业数字化转型提供了强有力的支持
4.大模型面临的痛点与挑战包括算力与数据瓶颈、人才与法规风险等。
5 AI大模型的技术趋势与未来展望包括技术进步引领未来、应用场景多元化增长等。
. AI大模型的机遇与风险包括潜力巨大、风险管理不容忽视等。
7. 政策建议与行业包括政策引导与支持、企业创新与合作等。
在推荐场景落地大模型时，微信遇到了哪些难题？
文章概要：
1. 微信技术架构部高级算法研究员春旭老师将分享关于大语言模型(LLM)在推荐领域过程中的思考
2. 涉及特征增强、模型架构、信息融合、知识推理四方面
3. 沈老师是硕士，领域为多模态信息、推荐
. 近年聚焦推荐领域模型预训练多域数据联合建模工作
5.大会还邀请到了近70位数智领域的大咖，聚焦ChatBI、Agent、Copilot等方向，分享企业级落地的最新经验
6. 双节限时福利倒计时2天！9月15日9日期间，凡一次性购买三张或以上大会入场券，再添购一张即可享受半价特惠
7. 更多优惠可首席官宋福利，电话：1331134487（同）
阅读原文
2. 涉及特征增强、模型架构、信息融合、知识推理四方面
3. 沈老师是硕士，领域为多模态信息、推荐
. 近年聚焦推荐领域模型预训练多域数据联合建模工作
5.大会还邀请到了近70位数智领域的大咖，聚焦ChatBI、Agent、Copilot等方向，分享企业级落地的最新经验
6. 双节限时福利倒计时2天！9月15日9日期间，凡一次性购买三张或以上大会入场券，再添购一张即可享受半价特惠
7. 更多优惠可首席官宋福利，电话：1331134487（同）
[LLM-合集-01] 行业大模型从训练到落地应用的过程
文章概要：
1. OpenAI发布ChatGPT后，海内外厂商加速布局基础大模型。模型训练通常分预训练形成基础模型和针对特定领域两步。原则上只要有细分领域数据，大模型就可针对垂直领域优化，赋能各行各业。
2. 许多大模型厂商致力于推出各类行业大模型，因为具体到实际应用上，更需要对行业知识的和行业需求的适配，在行业里的具体上，行业大模型往往比直接用基础大模型去微调具有更好的泛化能力
3. 常见的基础模型有全连接神经网络、卷积神经网络、循环神经网络、生成对抗网络、自编码器、Transformer模型、支持向量机、决策树等。这些基础模型可以根据不同的应用场景进行组合和修改，形成更复杂的模型，以适应各种数据和任务的需求。
阅读原文
2. 许多大模型厂商致力于推出各类行业大模型，因为具体到实际应用上，更需要对行业知识的和行业需求的适配，在行业里的具体上，行业大模型往往比直接用基础大模型去微调具有更好的泛化能力
3. 常见的基础模型有全连接神经网络、卷积神经网络、循环神经网络、生成对抗网络、自编码器、Transformer模型、支持向量机、决策树等。这些基础模型可以根据不同的应用场景进行组合和修改，形成更复杂的模型，以适应各种数据和任务的需求。
从BLIP-2到Qwen2-VL，多模态大模型的技术点总结
文章概要：
1. 文章对BLIP-2、InstructBLIP、LLaVA、LLaVA-1.5、MiniGPT-4、MiniGPT-v2、Qwen-VL、Qwen2-VL这8款模型的模型结构、训练过程、预训练阶段及改进点等技术点进行了详细总结。
2. 文章介绍了BLIP-2的模型结构，包括视觉编码器、视觉和LLM的Adapter（Q-Former）、LLM。其中Q-Former是BLIP-2模型训练过程中主要更新的参数，视觉Encoder和大语言模型LLM在训练过程中冻结参数。
3. 文章介绍了BLIP-2的预训练包括两个阶段：Vision-and-Language Representation Learning和Vision-to-Language Generative Learning。
4. 文章介绍了InstructBLIP的模型结构与BLIP-2类似，区别在于输入文本换成了指令数据Instructions。Q-Former抽取指令感知的视觉特征（Instruction-aware vision model），根据指令的不同获取不同的视觉特征。
5. 文章介绍了Qwen-VL的模型结构，包括视觉编码器、VL Adapter、LLM。VL Adapter创建一组可训练的queries向量和image features一起做cross-attention，将视觉特征压缩至256的固定长度，同时为了提升细粒度的视觉理解，在cross-attention中也加入图像的2D绝对位置编码。
6. 文章介绍了Qwen2-VL相较于Qwen-VL的主要改进点：支持视频理解，支持context上下文长度到128k token（20分钟左右视频）；Visual Agent能力，支持实时视频对话；图像位置编码采用2D-RoPE，一张224*224分辨率的图像经过ViT/patch_size=14等一系列转换之后会被压缩至66个token输入到LLM。
7. 文章介绍了LLaVA的模型结构，包括视觉编码器、VL Adapter、Projection Layer、LLM。训练过程包括Pre-training for Feature Alignment和Fine-tuning End-to-End。
8. 文章介绍了LLaVA-1.5的模型结构，包括视觉编码器、VL Adapter、Projection Layer、LLM。
9. 文章介绍了MiniGPT-4的模型结构，包括视觉编码器、VL Adapter、Projection Layer、LLM。训练过程包括只训练Linear Projection Layer来对齐视觉特征和大语言模型和指令微调。
10. 文章介绍了MiniGPT-v2的模型结构，包括视觉编码器、VL Adapter、Projection Layer、LLM。训练过程包括预训练、多任务训练、多模态质量微调。
阅读原文
2. 文章介绍了BLIP-2的模型结构，包括视觉编码器、视觉和LLM的Adapter（Q-Former）、LLM。其中Q-Former是BLIP-2模型训练过程中主要更新的参数，视觉Encoder和大语言模型LLM在训练过程中冻结参数。
3. 文章介绍了BLIP-2的预训练包括两个阶段：Vision-and-Language Representation Learning和Vision-to-Language Generative Learning。
4. 文章介绍了InstructBLIP的模型结构与BLIP-2类似，区别在于输入文本换成了指令数据Instructions。Q-Former抽取指令感知的视觉特征（Instruction-aware vision model），根据指令的不同获取不同的视觉特征。
5. 文章介绍了Qwen-VL的模型结构，包括视觉编码器、VL Adapter、LLM。VL Adapter创建一组可训练的queries向量和image features一起做cross-attention，将视觉特征压缩至256的固定长度，同时为了提升细粒度的视觉理解，在cross-attention中也加入图像的2D绝对位置编码。
6. 文章介绍了Qwen2-VL相较于Qwen-VL的主要改进点：支持视频理解，支持context上下文长度到128k token（20分钟左右视频）；Visual Agent能力，支持实时视频对话；图像位置编码采用2D-RoPE，一张224*224分辨率的图像经过ViT/patch_size=14等一系列转换之后会被压缩至66个token输入到LLM。
7. 文章介绍了LLaVA的模型结构，包括视觉编码器、VL Adapter、Projection Layer、LLM。训练过程包括Pre-training for Feature Alignment和Fine-tuning End-to-End。
8. 文章介绍了LLaVA-1.5的模型结构，包括视觉编码器、VL Adapter、Projection Layer、LLM。
9. 文章介绍了MiniGPT-4的模型结构，包括视觉编码器、VL Adapter、Projection Layer、LLM。训练过程包括只训练Linear Projection Layer来对齐视觉特征和大语言模型和指令微调。
10. 文章介绍了MiniGPT-v2的模型结构，包括视觉编码器、VL Adapter、Projection Layer、LLM。训练过程包括预训练、多任务训练、多模态质量微调。
中国AI大模型创业「6+2」格局 | 量子位智库
文章概要：
1. 大模型创业凉了？不不不，只是退热了，说第一轮竞速，现在已经有了初赛结果了。
2. 从2022年11月ChatGPT发布，引爆国内百模大战，创业玩家如雨后春笋，互联网巨头也纷纷下场，巅峰时期国内公开大模型数量超过300个。
3. 如今一年半过去，模型战场局势已定，不论是技术壁垒、资源壁垒，还是资本吸引力，都决定了很难再有新的玩家涌入。5. 而创业玩家这边，第一阶段的头部梯队也已经形成，拿到门票，角逐新一轮的淘汰赛。
6. 这些玩家都用大模型自研能力证明了技术实力，开始通过应用和产品构建飞轮，更重要的是快速在资本创投层面完成了证明，获得了独角兽以上的估值，展现了整个赛道的虹吸效应，也让后来者更难获取资源，而且新的马太效应也已经开始了，大模型创业玩家更高的估值、更大额度的融资轮次，资本也开始更谨慎地做出押注——钱正在高速向塔尖头部聚集，人才也是。
7. 而这个第一阶段的格局，简单概括6+2。
. 包含6家独角兽创业公司，以及2家特点或路线稍有不同但同样值得关注公司。
9. 6也被称为“AI六小强”具体指代智谱 AI、MiniMax、阶跃、百川智能、月之暗面和零一万物。
10. 2，指的是面壁智能和DeepSeek。前者在大参数浪潮中率先开启“小钢炮”端侧落地，构建专而精壁垒；后者则不算严格意义的“创业公司”，基于量化金融方面资源和基础投身大模型研发，并在基础大模型、代码生成能力方面展现出全球性竞争力。
11. 6+2，也是中国大模型创业第一阶段结果，以及第二阶段值得重点关注的格局起点。
阅读原文
2. 从2022年11月ChatGPT发布，引爆国内百模大战，创业玩家如雨后春笋，互联网巨头也纷纷下场，巅峰时期国内公开大模型数量超过300个。
3. 如今一年半过去，模型战场局势已定，不论是技术壁垒、资源壁垒，还是资本吸引力，都决定了很难再有新的玩家涌入。
6. 这些玩家都用大模型自研能力证明了技术实力，开始通过应用和产品构建飞轮，更重要的是快速在资本创投层面完成了证明，获得了独角兽以上的估值，展现了整个赛道的虹吸效应，也让后来者更难获取资源，而且新的马太效应也已经开始了，大模型创业玩家更高的估值、更大额度的融资轮次，资本也开始更谨慎地做出押注——钱正在高速向塔尖头部聚集，人才也是。
7. 而这个第一阶段的格局，简单概括6+2。
. 包含6家独角兽创业公司，以及2家特点或路线稍有不同但同样值得关注公司。
9. 6也被称为“AI六小强”具体指代智谱 AI、MiniMax、阶跃、百川智能、月之暗面和零一万物。
10. 2，指的是面壁智能和DeepSeek。前者在大参数浪潮中率先开启“小钢炮”端侧落地，构建专而精壁垒；后者则不算严格意义的“创业公司”，基于量化金融方面资源和基础投身大模型研发，并在基础大模型、代码生成能力方面展现出全球性竞争力。
11. 6+2，也是中国大模型创业第一阶段结果，以及第二阶段值得重点关注的格局起点。
物流巨头扎堆布局的大模型，会是降本增效的一剂良药吗？
文章概要：
1. 顺丰再次丰语”物流行业垂直领域大语言模型，并展示其在多个业务板块的。
2. 大模型，、、中远海运家企业都的细分场景应用模型
3. 大模型可以通过优化运输路线、提高仓储效率、调度风险管理提升客户服务效率物流降本 4落地和问题与现有系统融合、成本平衡等挑战。
5. 物流企业应该当下需求未来发展，管理、提升效率为短期目标，寻找业务链条中能够被AI并
阅读原文
2. 大模型，、、中远海运家企业都的细分场景应用模型
3. 大模型可以通过优化运输路线、提高仓储效率、调度风险管理提升客户服务效率物流降本 4落地和问题与现有系统融合、成本平衡等挑战。
5. 物流企业应该当下需求未来发展，管理、提升效率为短期目标，寻找业务链条中能够被AI并
MoE大模型训练和推理的机遇与挑战
文章概要：
1. 随着大模型技术的发展，混合专家（MoE）模型凭借其高效架构，正成为大模型发展的重要方向之一
2. MoE大模型由路由和若干专家网络构成，训练层面，MoE可加速模型收敛，推理层面，MoE可成倍提升推理速度
. 尽管具备上述诸多优势，E大模型的工程实践仍处于早期，面临诸多挑战
4. 随着MoE大模型的势头趋热，科技企业也推出软件工具以降低其开发应用门槛
5. MoE架构已成为模型领域的重点方向，并逐渐从科研走向工程化落地，从聚焦模型走向工具平台的化
阅读原文
2. MoE大模型由路由和若干专家网络构成，训练层面，MoE可加速模型收敛，推理层面，MoE可成倍提升推理速度
. 尽管具备上述诸多优势，E大模型的工程实践仍处于早期，面临诸多挑战
4. 随着MoE大模型的势头趋热，科技企业也推出软件工具以降低其开发应用门槛
5. MoE架构已成为模型领域的重点方向，并逐渐从科研走向工程化落地，从聚焦模型走向工具平台的化
一行代码，AI大模型训练成本再降30%，混合精度训练再升级
文章概要：
1. AI大模型开发系统Colossal-AI混合精度支持主流的BF16(O2) + FP8(O1)的新一代混合精度训练方案，仅需一行代码，对主流LLM模型能够获得平均30%的加速效果，降低相应大模型开发成本，并保证训练收敛性。
2.8精度训练是低精度计算的发展趋势，目前FP8混合精度训练影响训练结果的最大因素就是scaling方案，的方案有延迟scaling和实时scaling。
3. Colossal-AI采用了对训练收敛性影响较小的实时scaling方案，同时实现有着不输其他延迟scaling的。
4.ossal-AIFP8的支持较为广泛，各种并行方式都能和FP8精度训练兼容。
阅读原文
2.8精度训练是低精度计算的发展趋势，目前FP8混合精度训练影响训练结果的最大因素就是scaling方案，的方案有延迟scaling和实时scaling。
3. Colossal-AI采用了对训练收敛性影响较小的实时scaling方案，同时实现有着不输其他延迟scaling的。
4.ossal-AIFP8的支持较为广泛，各种并行方式都能和FP8精度训练兼容。
利用AI做科研：大语言模型（LLMs）能生成新的研究创意吗？| arXiv
文章概要：
1. 本文探讨了大语言模型（LLMs）在生成创新研究想法方面的潜力，通过对比100多位自然语言处理（NLP）领域专家和AI生成的想法，提供了有力的实证数据。
2. 研究显示，AI生成的想法在新颖性方面优于人类专家，而在可行性上稍显不足。
3. 这项研究首次采用了大规模专家评审，严谨控制了可能影响结果的混淆因素。
4. 通过这些评估，作者识别了构建和评估研究代理存在的开放性问题，如AI自我评估的失败和生成的多样性不足。
5. 该论文为未来研究提供了坚实的基础，推动了对AI在科研创意生成中的可能性的进一步探索。
阅读原文
2. 研究显示，AI生成的想法在新颖性方面优于人类专家，而在可行性上稍显不足。
3. 这项研究首次采用了大规模专家评审，严谨控制了可能影响结果的混淆因素。
4. 通过这些评估，作者识别了构建和评估研究代理存在的开放性问题，如AI自我评估的失败和生成的多样性不足。
5. 该论文为未来研究提供了坚实的基础，推动了对AI在科研创意生成中的可能性的进一步探索。
2024大模型数字生态发展大会暨铸基计划年中会议成功召开
文章概要：
1. 2024年9月24“2024大模型数字生态发展大会暨铸基计划年中会议”在北京成功召开，由中国互联网协会中小企业发展工作委员会主办。
2. 中国互联网协会副理事长黄澄清、中国移动设计院副院长蔡亚莉、中国信通院泰尔终端实验室主任马鑫出席本次大会。
3 本次大会阶段性总结并展望了“基计划”在2024上半年度取得的工作成果及2024年后续工作。
4. 发布了中国信通院在大模型数字化等领域的多项工作成果。br>5. 大会定向邀请了通信、金融、证券、汽车、制造、能源、交通等行业超800家企业共计1000余名企业代表，联合探索行业数字化场景开放及行业共性需求，聚焦数字化转型高质量发展
阅读原文
2. 中国互联网协会副理事长黄澄清、中国移动设计院副院长蔡亚莉、中国信通院泰尔终端实验室主任马鑫出席本次大会。
3 本次大会阶段性总结并展望了“基计划”在2024上半年度取得的工作成果及2024年后续工作。
4. 发布了中国信通院在大模型数字化等领域的多项工作成果。br>5. 大会定向邀请了通信、金融、证券、汽车、制造、能源、交通等行业超800家企业共计1000余名企业代表，联合探索行业数字化场景开放及行业共性需求，聚焦数字化转型高质量发展
[本刊特稿] 肖峰 | 大模型与新质生产力的内在关联
文章概要：
1. 大模型是人工智能取得突破性发展的里程碑，它对重塑和提升生产力具有十分重要的影响，正在助力新质生产力的快速发展。大模型作为新一代人工智能，与新质生产力作为先进生产力的代表之间具有多向度的内在关联，两者在追求新颖和卓越、提高智能化水平、趋向高质量发展、寻求科技驱动与人文关怀的融合等方面具有高度的一致性，形成共同的时代特征，并以此为纽带，介导了大模型时代新质生产力不断涌现的潮流。探讨大模型与新质生产力的内在关联和深度融合，有助于拓展和加深理解大模型的社会意义和新质生产力的特征、现状及走向，进而揭示“大模型就是新质生产力”的本质关系。
2. 大模型代表了人工智能的最新成就，而新质生产力代表了生产力发展的新方向和新要求，它们的共同特征是“新”，而这种“新”内核就是不断提升的智能化水平，因此大模型与新质生产力首先在求新和智能化上形成内在的关联。
3. 新质生产力是高质量发展的基础，发展新质生产力就是为了实现高质量发展，所以高质量发展也是新质生产力的目标和特征。而大模型在促进高质量发展方面发挥着重要作用，可以说大模型就是高质量发展的“利器”。基于此，两者在高质量发展的追求上具有高度的“默契”，形成了共同促进高质量发展的内在关联。
4. 新质生产力是由科技驱动的生产力，也是富含人文关怀的生产力，而大模型也体现了科技与人文的融合，在此向度上两者也形成了生动的关联。
5. 大模型技术正在推动从传统生产力向智能化、数字化生产力的转变，使得新质生产力在大模型时代来临的背景下呈现出涌现的态势。
阅读原文
2. 大模型代表了人工智能的最新成就，而新质生产力代表了生产力发展的新方向和新要求，它们的共同特征是“新”，而这种“新”内核就是不断提升的智能化水平，因此大模型与新质生产力首先在求新和智能化上形成内在的关联。
3. 新质生产力是高质量发展的基础，发展新质生产力就是为了实现高质量发展，所以高质量发展也是新质生产力的目标和特征。而大模型在促进高质量发展方面发挥着重要作用，可以说大模型就是高质量发展的“利器”。基于此，两者在高质量发展的追求上具有高度的“默契”，形成了共同促进高质量发展的内在关联。
4. 新质生产力是由科技驱动的生产力，也是富含人文关怀的生产力，而大模型也体现了科技与人文的融合，在此向度上两者也形成了生动的关联。
5. 大模型技术正在推动从传统生产力向智能化、数字化生产力的转变，使得新质生产力在大模型时代来临的背景下呈现出涌现的态势。
用大模型优化大模型预训练数据，节省20倍计算量，实现显著性能提升！
文章概要：
1. 上海交通大学生成式人工智能实验室 (GAIR Lab)、上海人工智能实验室以及新加坡 Sea AI Lab 联合提出了 Program-Every-Example (ProX) 框架，通过采用语言模型而非人类规则进行自动化的数据优化，显著提升了预训练语料的质量。
2. ProX 利用语言模型自动生成优化程序，能够对每个数据样本进行个性化处理，提升数据的整体质量。
3. ProX 采用了一种统一的构造思路，无需对特定领域进行额外设计就可以广泛适用。
4. ProX 在数学语料上也有相似的提升，仅用了约 1/20的训练代价，就得到了效果堪比现有的使用开源数据训练 50B 甚至 200B 的专用数学大模型。
5. ProX 团队构想了未来的研究方向，包括设计更灵活的接口、将 ProX 发展到更多专用领域、减小模型尺寸和推理代价等。
阅读原文
2. ProX 利用语言模型自动生成优化程序，能够对每个数据样本进行个性化处理，提升数据的整体质量。
3. ProX 采用了一种统一的构造思路，无需对特定领域进行额外设计就可以广泛适用。
4. ProX 在数学语料上也有相似的提升，仅用了约 1/20的训练代价，就得到了效果堪比现有的使用开源数据训练 50B 甚至 200B 的专用数学大模型。
5. ProX 团队构想了未来的研究方向，包括设计更灵活的接口、将 ProX 发展到更多专用领域、减小模型尺寸和推理代价等。
了解大模型与 RAG 基本概念
文章概要：
1 大模型是大规模语言模型的简称，具有参数量大、训练数据量大、计算能力要求高、应用广泛等特点，发展至今主要经历发展初期、探索期、兴起期和井喷期四个阶段。
2. 大模型的核心生成原理是将输入的语句以词向量的表征形式传递给神经网络，通过编码器/解码器、位置编码和自注意力机制建立单词之间的联系。
3. 大模型的关键技术包括迁移学习、零样本学习、小样本学习、持续学习、多任务学习、RLHF(强化学习)、上下文学习、思维链、提示工程等。
4. 检索增强生成是指对大语言模型输出进行优化，使其能够在生成响应之前引用训练数据来源之外的权威知识库。
5. RAG的作用包括经济高效的实施、当前信息、增强用户信任度、更多开发人员控制权等。
6. RAG的工作原理是利用用户输入首先从新数据源提取信息，然后将新知识及其训练数据提供给LLM，以创建更好的响应。
阅读原文
2. 大模型的核心生成原理是将输入的语句以词向量的表征形式传递给神经网络，通过编码器/解码器、位置编码和自注意力机制建立单词之间的联系。
3. 大模型的关键技术包括迁移学习、零样本学习、小样本学习、持续学习、多任务学习、RLHF(强化学习)、上下文学习、思维链、提示工程等。
4. 检索增强生成是指对大语言模型输出进行优化，使其能够在生成响应之前引用训练数据来源之外的权威知识库。
5. RAG的作用包括经济高效的实施、当前信息、增强用户信任度、更多开发人员控制权等。
6. RAG的工作原理是利用用户输入首先从新数据源提取信息，然后将新知识及其训练数据提供给LLM，以创建更好的响应。
Chat、Kimi、蓝心、盘古、文心一言等24个AI大模型功能比较，哪些最适合您？（带链接）
文章概要：
1. 文章对24个国内AI人工智能大模型的发展背景、功能特长以及适用领域进行了详细介绍，包括文心一言、通义千问大模型、混元AI模型、包AI模型、商量AI模型、星火认知大模型、ChatGLMS模型、百川AI模型、书生AI模型、蓝心、天工AI模型、封神榜开源体系、KnowLM平台、CPM-Bee模型、Kimi AI模型、腾讯元宝模型、盘古大模型、智谱清言大模型、科大讯飞星火大模型、360智脑模型、赤兔大模型、文修大模型、YonGPT大模型、写易智能创作引擎。
2. 文章提到这些AI大模型的出现，标志着中国在人工智能领域的快速发展它们各自具备独特的功能和应用场景，助力不同行业的智能化升级与创新。未来，随着技术的不断突破，AI大模型将在更多领域发挥重要作用。
阅读原文
2. 文章提到这些AI大模型的出现，标志着中国在人工智能领域的快速发展它们各自具备独特的功能和应用场景，助力不同行业的智能化升级与创新。未来，随着技术的不断突破，AI大模型将在更多领域发挥重要作用。
颠覆认知：大模型不可靠，越大越不可靠？最新研究登上 Nature
文章概要：
1. 研究表明，大参数模型在简单任务上会出现过度拟合或错误估计的风险，反而更不可靠>2. 模型扩展带来“能力反差”，在面对复杂任务时表现显著提升，但在简单任务上的错误率却有上升
3. 优化后模型中回避行为与错误率之间存在关系，在无法正确回答问题时，选择不作答或给出不符合要求的回应
4.对提示词的敏感性随模型规模的增加而提高，能更好地应对措辞上的微调
5. 研究发现，人们对难度的认知存在不一致，模型在人类认为困难的任务上往往不太准确，但即使在简单任务上，它们也不是 100%准确
6. 研究人员表示，将进一步扩大关于人类难度预期和输出监督的数据集，以便将这些更高质量的数据引入模型训练中，并通过 AI 来训练监督者，从而改进模型的优化过程
阅读原文
3. 优化后模型中回避行为与错误率之间存在关系，在无法正确回答问题时，选择不作答或给出不符合要求的回应
4.对提示词的敏感性随模型规模的增加而提高，能更好地应对措辞上的微调
5. 研究发现，人们对难度的认知存在不一致，模型在人类认为困难的任务上往往不太准确，但即使在简单任务上，它们也不是 100%准确
6. 研究人员表示，将进一步扩大关于人类难度预期和输出监督的数据集，以便将这些更高质量的数据引入模型训练中，并通过 AI 来训练监督者，从而改进模型的优化过程
灵智9月盘点｜揽获3项行业大奖，发布百灵鸟AI大模型
文章概要：
1. 天虹股份与旗下科技子公司灵智数科共同举办“百灵鸟AI大模型”发布会，天虹董事长肖章林等重量级合作伙伴莅临现场。
2. 天虹股份助理总经理、灵智数科总经理徐灵娜受邀亮相华为全球合作伙伴大会-零售分论坛并作精彩分享，与华为合作，通过昇腾强大的算力底座，出能用、好用的百灵鸟AI大模型。
3. 灵智数科携前沿产品技术与购物中心百货行业解决方案亮相中购联第22届中国购物中心行业年会暨CASC亚洲购物中心协会20大会，卓越的产品能力和客户服务能力上榜中购联商业提质与专业赋能卓越榜。
4. 凭借“灵智数助力华侨城管全业态会员体系”案例，灵智数科一举斩获中百协2024年优秀零售解决方案奖。
5. 小活儿智能用工平台在人力资源管理领域专业实力和创新能力再次获得业界和学术界的双重认可，荣获第十四届“全国百篇优秀管理案例(微案例)”奖项。
阅读原文
2. 天虹股份助理总经理、灵智数科总经理徐灵娜受邀亮相华为全球合作伙伴大会-零售分论坛并作精彩分享，与华为合作，通过昇腾强大的算力底座，出能用、好用的百灵鸟AI大模型。
3. 灵智数科携前沿产品技术与购物中心百货行业解决方案亮相中购联第22届中国购物中心行业年会暨CASC亚洲购物中心协会20大会，卓越的产品能力和客户服务能力上榜中购联商业提质与专业赋能卓越榜。
4. 凭借“灵智数助力华侨城管全业态会员体系”案例，灵智数科一举斩获中百协2024年优秀零售解决方案奖。
5. 小活儿智能用工平台在人力资源管理领域专业实力和创新能力再次获得业界和学术界的双重认可，荣获第十四届“全国百篇优秀管理案例(微案例)”奖项。
大模型成本效益对比：DeepSeek 2.5 VS Claude 3.5 Sonnet VS GPT-4o
文章概要：
1. 与Claude和GPT模型相比DeepSeek模型过去一度被社区忽视。不过，过去几个月以来，Seek的势头非常。
2. DeepSeek-V2.5经过微调后更符合人类偏好在写作和指令执行等多个方面进行了优化。
3.Seek 2.5可通过网页平台和API访问。用户可以将其功能无缝集成到自身系统中。
4. DeepSeek 2.5已与GPT、Claude和Gemini等其他模型在推理、算术语言和生成能力方面进行了评估。<>5. Reddit等平台用户的反馈强调了DeepSeek 2.5相较其他模型的优势。
阅读原文
2. DeepSeek-V2.5经过微调后更符合人类偏好在写作和指令执行等多个方面进行了优化。
3.Seek 2.5可通过网页平台和API访问。用户可以将其功能无缝集成到自身系统中。
4. DeepSeek 2.5已与GPT、Claude和Gemini等其他模型在推理、算术语言和生成能力方面进行了评估。<>5. Reddit等平台用户的反馈强调了DeepSeek 2.5相较其他模型的优势。
万字长文，全面深入浅出解读视觉大模型汇总
文章概要：
1. 文章围绕基础模型，向读者展示全新的视觉系统。
2. 基础模型近年来取得显著成功，归因于数据和模型规模的大幅扩展。
3. 视觉基础大模型可以粗略归为三类：基于文本提示的模型、基于视觉提示的基于异构架构的模型。
4. 文章详细介绍了基础模型的架构、目标函数、预训练、微调、提示工程等方面。
5. 文章还介绍了基于文本提示的基础模型、基于视觉提示的基础模型、综合性基础模型的具体内容。
阅读原文
2. 基础模型近年来取得显著成功，归因于数据和模型规模的大幅扩展。
3. 视觉基础大模型可以粗略归为三类：基于文本提示的模型、基于视觉提示的基于异构架构的模型。
4. 文章详细介绍了基础模型的架构、目标函数、预训练、微调、提示工程等方面。
5. 文章还介绍了基于文本提示的基础模型、基于视觉提示的基础模型、综合性基础模型的具体内容。
报告分享丨《2024大模型十大趋势》（可下载）
文章概要：
1. 腾讯研究院联合上海交通大学、腾讯优图实验室、腾讯云智能发布了《2024 大模型十大趋势——走进「机器外脑」时代报告
2. 报告强调了大模型技术在推理分析、创意生成智能等方面的实质性飞跃，预示着人工智能将作为人类的「外脑」，提供智力外挂
. 报告下载方式：关注公众号，后台回复【2024092】下载报告全文
4. 十大趋势包括：算力底座、推理分析、创意生成、情绪感知、智能制造、游戏环境、革命、具身智能、开源共享、人机对齐
5. 具体内容如下：AI基础设施的增长，特别是算力的提升，将从万卡迈向十万卡集群实现速度和效率的双重提升
6. 大型语言模型（LLM）将带来推理能力的跃迁，开启“智力即服务”的新模式，使得AI能够处理知识密集型任务
7. AIGC（人工智能生成内容）应用的爆发将降低专业创作的门槛，使得创意产业更加多元和开放
8. AI将赋予机器情感价值打开人机陪伴市场，情感支持和陪伴10. 大与游戏的结合将为AI Agent提供最佳训练场，促进技术迭代和应用创新
11. 端侧模型优化将应用入口变革，移动设备体验
12. 人型机器人与大模型的共同进化，将为外脑“躯体”，在各种生产生活场景中发挥作用
13. 开源生态的繁荣发展将实现降本普惠，推进外脑共享和迭代
. 人机对齐将成为大模型产品的竞争力，关乎通用人工智能（AGI）的未来，确保AI系统的能力和行为与人类价值观一致
阅读原文
2. 报告强调了大模型技术在推理分析、创意生成智能等方面的实质性飞跃，预示着人工智能将作为人类的「外脑」，提供智力外挂
. 报告下载方式：关注公众号，后台回复【2024092】下载报告全文
4. 十大趋势包括：算力底座、推理分析、创意生成、情绪感知、智能制造、游戏环境、革命、具身智能、开源共享、人机对齐
5. 具体内容如下：AI基础设施的增长，特别是算力的提升，将从万卡迈向十万卡集群实现速度和效率的双重提升
6. 大型语言模型（LLM）将带来推理能力的跃迁，开启“智力即服务”的新模式，使得AI能够处理知识密集型任务
7. AIGC（人工智能生成内容）应用的爆发将降低专业创作的门槛，使得创意产业更加多元和开放
8. AI将赋予机器情感价值打开人机陪伴市场，情感支持和陪伴
11. 端侧模型优化将应用入口变革，移动设备体验
12. 人型机器人与大模型的共同进化，将为外脑“躯体”，在各种生产生活场景中发挥作用
13. 开源生态的繁荣发展将实现降本普惠，推进外脑共享和迭代
. 人机对齐将成为大模型产品的竞争力，关乎通用人工智能（AGI）的未来，确保AI系统的能力和行为与人类价值观一致
大模型公司对标：面壁智能
文章概要：
1. 面壁智能成立于2022年8月，总部位于北京市海淀区，是一家人工智能大模型技术创新与应用落地企业。
2. 面壁智能实施“大模型+Agent”双引擎战略，将大模型与智能体技术相结合，为用户提供更智能、个性化的服务和解决方案。
3. 面壁智能重视小模型与端侧模型研发，发挥小模型和端侧模型在特定细分场景下的优势，为拓展更多应用场景奠定基础。
4. 面壁智能推动面向医疗、教育、农业、文化、金融等行业应用场景大模型的发展，以推动行业智能化发展水平，实现行业大数据和大模型的商业价值。
5. 面壁智能成立不到三年，该公司还处于初创阶段，相关的财务数据包括营收数据、利润数据都尚未公开。
6. 面壁智能的技术主要包括多模态交互技术、大模型训练与优化技术、端侧模型技术、高效计算工具技术。
7. 面壁智能的产品与服务包括面壁露卡Luca、端侧语言模型面壁MiniCPM、CPM大模型、ModelForce全流程大模型高效加速平台。
8. 面壁智能的商业模式是产品和技术升级、行业合作拓展增加收入。
9. 面壁智能的客户市场拓展是向更多行业领域延伸，例如教育、医疗、交通等。
10. 面壁智能的产品市场拓展是重视端侧模型的研发，推出多模态大模型面壁OmniLMM。
11. 面壁智能的应用场景拓展是积极探索大模型在营销、法律等行业的应用场景，为提供解决方案，帮助企业降本提效。
12. 面壁智能构建了以面壁智能为核心的产学研“一体两翼”的组织联动架构。
13. 面壁智能引入多元投资，积极吸引来自不同背景的投资方，如春华创投、华为哈勃、北京市人工智能产业投资基金以及知乎等。
14. 面壁智能借助高校科研机构的深厚学术资源与创新能力，建立产学研协同、多行业应用联动的生态合作体系，与众多行业领域的企业和机构合作研发人工智能的新技术和新应用，共同打造大模型生态，推动技术创新与产业融合发展，促进AI大模型在多行业多场景的应用落地。
阅读原文
2. 面壁智能实施“大模型+Agent”双引擎战略，将大模型与智能体技术相结合，为用户提供更智能、个性化的服务和解决方案。
3. 面壁智能重视小模型与端侧模型研发，发挥小模型和端侧模型在特定细分场景下的优势，为拓展更多应用场景奠定基础。
4. 面壁智能推动面向医疗、教育、农业、文化、金融等行业应用场景大模型的发展，以推动行业智能化发展水平，实现行业大数据和大模型的商业价值。
5. 面壁智能成立不到三年，该公司还处于初创阶段，相关的财务数据包括营收数据、利润数据都尚未公开。
6. 面壁智能的技术主要包括多模态交互技术、大模型训练与优化技术、端侧模型技术、高效计算工具技术。
7. 面壁智能的产品与服务包括面壁露卡Luca、端侧语言模型面壁MiniCPM、CPM大模型、ModelForce全流程大模型高效加速平台。
8. 面壁智能的商业模式是产品和技术升级、行业合作拓展增加收入。
9. 面壁智能的客户市场拓展是向更多行业领域延伸，例如教育、医疗、交通等。
10. 面壁智能的产品市场拓展是重视端侧模型的研发，推出多模态大模型面壁OmniLMM。
11. 面壁智能的应用场景拓展是积极探索大模型在营销、法律等行业的应用场景，为提供解决方案，帮助企业降本提效。
12. 面壁智能构建了以面壁智能为核心的产学研“一体两翼”的组织联动架构。
13. 面壁智能引入多元投资，积极吸引来自不同背景的投资方，如春华创投、华为哈勃、北京市人工智能产业投资基金以及知乎等。
14. 面壁智能借助高校科研机构的深厚学术资源与创新能力，建立产学研协同、多行业应用联动的生态合作体系，与众多行业领域的企业和机构合作研发人工智能的新技术和新应用，共同打造大模型生态，推动技术创新与产业融合发展，促进AI大模型在多行业多场景的应用落地。
人工智能大模型教育场景应用优秀案例①
文章概要：
1. 人工智能大模型教育场景应用优秀案例
2. 山东工艺美术学院积极谋篇布局，以学科交叉、产教融合为切入点，在全校范围内开展人工智能赋能设计教育教学改革
3. 探索“人工智能+设计教育”的新模式、新技术、新方法，全面推进设计学科在教育内容和育人方式两个层面的数字化转型
4. 成立一个协调推进机构，即人工智能设计研究中心
5. 打造一门面向设计类专业学生的人工智能通识课程
6. 编写一套“高等学校设计专业+人工智能”系列教材
7. 搭建一个人工智能设计应用服务平台，完善实践教学体系
8. 建设一个人工智能设计现代产业学院，积极对接产业，推动产教融合走深走实
9. 学校以人工智能设计研究中心为平台，加强全校资源协调，提供人工智能设计的教学、展示、交流、创作、培训，解决技术储备、产教融合等问题
10. 各学院以“AI+设计”为核心理念，积极探索AIGC创作在课程教学中的融入应用
11. 学校以“数字媒体技术”新增专业建设为契机，积极引进具有数字媒体技术、人工智能等技术背景的专家和教师，同时加强现有教师队伍的培训
12. 携手人民美术出版社、清华大学出版社等知名出版机构，以及海南大学、福州大学、南京艺术学院、湖南师范大学、安徽师范大学等诸多高等院校，策划并编写一套规模庞大、内容丰富的“高等学校设计专业+人工智能（AI for Design）”系列教材
13. 学校还采用了灵活的工作坊等教学方式，积极推动与其他院校的深入合作
14. 与华为、英伟达、腾讯等大模型头部企业以及本地数字创意、文化创业领军企业开展合作，聘任产业导师，将企业项目纳入课程，开展“产学研合作+项目制教学”，打造协同育人平台，深入推进产教融合
15. 学校启动“山东省人工智能设计服务平台”建设，构建面向全省设计艺术专业师生以及相关行业从业者的，涵盖教育、研究和产业应用的综合性人工智能服务平台
16. 积极探索数字化元数据标准建立，图文语义对齐，通过人工智能、影视摄影、智能交互、虚拟仿真及3D扫描等多技术，研究建立艺术设计领域高质量数据集及AI语料库
17. 以传统艺术和现代技术深度融合的创新方式，推动数字生态赋能文化艺术管理与可持续发展
18. 基于学校良好的设计专业实践教学环境，持续加强实践教学数字化研究探索，利用人工智能在数据关联分析、结构重构、价值发现等方面的技术优势，推动实践教学在教学方式、个性评价、管理服务等领域的智能化
19. 依托国家产教融合工程、省创新创业共同体、省产教融合共同体，创新“三个融合”设计协同大实践教学模式
20. 目前，学校已完成“天工开物”山东省人工智能设计服务平台开发建设，特色大模型、Lora模型训练开发，筹备成立AIGC设计产学研共同体，已有180余家院校、企业积极响应，开展如地方文化振兴计划、北京西城区红楼文化设计等社会服务项目，将设计教育的成果转化为社会价值，2024年策划举办了山东省美术馆“塗龙季”第三季“画龙点睛”人工智能生成艺术展、山东博物馆世界博物馆日“未来的传统”人工智能生成艺术展、中国民艺馆“民艺AIGC”生成艺术展等各类展览，组织多场次人工智能设计相关的研讨会和讲座，打造院校、校企联动互助、协同提质、创新发展的交流平台
2. 下一步，学校将持续推动AI与设计教育交叉融合走深走实，并积极拓展AI在设计教育中的更多应用场景，如使用AI进行教学辅助、师生评价等，探索产教融合新模式，加强人工智能设计现代产业学院建设，紧密对接产业，以快速适应新技术和产业变革，形成互利互惠、共生共荣的产教融合共同体，加强国际交流与合作，与国际高校和研究机构的积极合作，建设虚拟国际设计学院，促进学术观点的国际交流，助力人工智能时代我国设计教育发展
阅读原文
2. 山东工艺美术学院积极谋篇布局，以学科交叉、产教融合为切入点，在全校范围内开展人工智能赋能设计教育教学改革
3. 探索“人工智能+设计教育”的新模式、新技术、新方法，全面推进设计学科在教育内容和育人方式两个层面的数字化转型
4. 成立一个协调推进机构，即人工智能设计研究中心
5. 打造一门面向设计类专业学生的人工智能通识课程
6. 编写一套“高等学校设计专业+人工智能”系列教材
7. 搭建一个人工智能设计应用服务平台，完善实践教学体系
8. 建设一个人工智能设计现代产业学院，积极对接产业，推动产教融合走深走实
9. 学校以人工智能设计研究中心为平台，加强全校资源协调，提供人工智能设计的教学、展示、交流、创作、培训，解决技术储备、产教融合等问题
10. 各学院以“AI+设计”为核心理念，积极探索AIGC创作在课程教学中的融入应用
11. 学校以“数字媒体技术”新增专业建设为契机，积极引进具有数字媒体技术、人工智能等技术背景的专家和教师，同时加强现有教师队伍的培训
12. 携手人民美术出版社、清华大学出版社等知名出版机构，以及海南大学、福州大学、南京艺术学院、湖南师范大学、安徽师范大学等诸多高等院校，策划并编写一套规模庞大、内容丰富的“高等学校设计专业+人工智能（AI for Design）”系列教材
13. 学校还采用了灵活的工作坊等教学方式，积极推动与其他院校的深入合作
14. 与华为、英伟达、腾讯等大模型头部企业以及本地数字创意、文化创业领军企业开展合作，聘任产业导师，将企业项目纳入课程，开展“产学研合作+项目制教学”，打造协同育人平台，深入推进产教融合
15. 学校启动“山东省人工智能设计服务平台”建设，构建面向全省设计艺术专业师生以及相关行业从业者的，涵盖教育、研究和产业应用的综合性人工智能服务平台
16. 积极探索数字化元数据标准建立，图文语义对齐，通过人工智能、影视摄影、智能交互、虚拟仿真及3D扫描等多技术，研究建立艺术设计领域高质量数据集及AI语料库
17. 以传统艺术和现代技术深度融合的创新方式，推动数字生态赋能文化艺术管理与可持续发展
18. 基于学校良好的设计专业实践教学环境，持续加强实践教学数字化研究探索，利用人工智能在数据关联分析、结构重构、价值发现等方面的技术优势，推动实践教学在教学方式、个性评价、管理服务等领域的智能化
19. 依托国家产教融合工程、省创新创业共同体、省产教融合共同体，创新“三个融合”设计协同大实践教学模式
20. 目前，学校已完成“天工开物”山东省人工智能设计服务平台开发建设，特色大模型、Lora模型训练开发，筹备成立AIGC设计产学研共同体，已有180余家院校、企业积极响应，开展如地方文化振兴计划、北京西城区红楼文化设计等社会服务项目，将设计教育的成果转化为社会价值，2024年策划举办了山东省美术馆“塗龙季”第三季“画龙点睛”人工智能生成艺术展、山东博物馆世界博物馆日“未来的传统”人工智能生成艺术展、中国民艺馆“民艺AIGC”生成艺术展等各类展览，组织多场次人工智能设计相关的研讨会和讲座，打造院校、校企联动互助、协同提质、创新发展的交流平台
2. 下一步，学校将持续推动AI与设计教育交叉融合走深走实，并积极拓展AI在设计教育中的更多应用场景，如使用AI进行教学辅助、师生评价等，探索产教融合新模式，加强人工智能设计现代产业学院建设，紧密对接产业，以快速适应新技术和产业变革，形成互利互惠、共生共荣的产教融合共同体，加强国际交流与合作，与国际高校和研究机构的积极合作，建设虚拟国际设计学院，促进学术观点的国际交流，助力人工智能时代我国设计教育发展
Chat、Kimi、蓝心、盘古、文心一言等24个AI大模型功能比较，哪些最适合您？（带链接）
文章概要：
1. 文章介绍了24个国内AI人工智能大模型的发展背景、功能特长以及适用领域，包括文心一言、通义千问大模型、混元AI模型、豆包AI模型、商量（商汤）AI模型、星火认知大模型、GLMS模型、（百小应）AI模型、书生AI模型、蓝心（VIVO-BlueLM)、天工AI模型、封神榜开源体系、KnowLM平台、CPM-Bee模型、Kimi AI模型、腾讯元宝模型、盘古大模型、智谱清言大模型、科大讯飞星火大模型、360智脑、赤兔大模型、文修大模型、YonGPT大模型、写易智能创作引擎。
2. 文章提到这些AI大模型的出现，标志着中国在人工智能领域的快速发展，它们各自具备独特的功能和应用场景，助力不同行业的智能化升级与创新。
阅读原文
2. 文章提到这些AI大模型的出现，标志着中国在人工智能领域的快速发展，它们各自具备独特的功能和应用场景，助力不同行业的智能化升级与创新。
Chat、Kimi、蓝心、盘古、文心一言等24个AI大模型功能比较，哪些最适合您？（带链接）
文章概要：
1. 介绍了24个国内AI人工智能大模型的发展背景、功能特长以及适用领域。2. 这些AI大模型包括文心一言、通义千问大模型AI模型、包AI模型、商量（商汤模型、星火认知大模型、ChatGLMS模型、百川（百小）AI模型、书生AI模型、蓝心（VIVO-BlueLM)、天工AI模型、封神榜体系、KnowLM平台、CPM-Bee模型、Kimi AI模型、腾讯元宝模型、盘古大模型、智谱清言大模型科大讯飞星火大模型、360智脑模型、赤兔大模型、文修大模型、YonGPT大模型、写易智能创作引擎。3. 这些AI大模型的出现，标志着中国在人工智能领域的快速发展。它们各自具备独特的功能和应用场景，助力不同行业的智能化升级与创新。
阅读原文
开源大模型技术路线及趋势
文章概要：
1. 大模型研发力量主要包括学术机构、大模型创业公司和科技大厂。
2. 旗舰开源模型的形态/模态经历了基础大模型、instruct大模型和多模态大模型的。
. 学术机构和创业公司在开源大模型领域逐渐式微，科技大厂主导开源大模型。
4. 开源技术路线在不同阶段有不同的关键词和痛点/机会点。
阅读原文
2. 旗舰开源模型的形态/模态经历了基础大模型、instruct大模型和多模态大模型的。
. 学术机构和创业公司在开源大模型领域逐渐式微，科技大厂主导开源大模型。
4. 开源技术路线在不同阶段有不同的关键词和痛点/机会点。
大语言模型技术点总结
文章概要：
1. 文章将开源文本大模型中的LLaMA系列和Qwen系列的各个版本技术点对比总结成表格形式，方便查看和阅览，然后基于一些共性的技术点进行详细介绍。
2. 介绍了LLaMA模型架构，从预训练到Chat训练全流程，以及预训练和后训练流程。
3. 总结了qwen系列几个系列的核心技术数据。
4. 介绍了大模型压缩技术：剪枝、知识蒸馏、量化、低秩分解。
5. 介绍了Transformer中的三种注意力机制：Self Attention, Cross Attention, Causal Masked Attention。
6. 介绍了对KV Cache的优化：MQA、GQA、MLA。
7. 对比了Norm方法：BatchNorm, LayerNorm, RMSNorm。
8. 介绍了Flash Attention。
9. 介绍了强化学习PPO、DPO。
阅读原文
2. 介绍了LLaMA模型架构，从预训练到Chat训练全流程，以及预训练和后训练流程。
3. 总结了qwen系列几个系列的核心技术数据。
4. 介绍了大模型压缩技术：剪枝、知识蒸馏、量化、低秩分解。
5. 介绍了Transformer中的三种注意力机制：Self Attention, Cross Attention, Causal Masked Attention。
6. 介绍了对KV Cache的优化：MQA、GQA、MLA。
7. 对比了Norm方法：BatchNorm, LayerNorm, RMSNorm。
8. 介绍了Flash Attention。
9. 介绍了强化学习PPO、DPO。