写给小白的大模型入门科普
文章概要：
1. 介绍大模型的定义和分类，包括语言大模型、视觉大模型、多模态大模型等。3. 探讨大模型的作用，根据训练数据类型和应用方向进行分类。
4. 分析大模型的发展趋势，包括成本、开源与闭源、应用场景等。
5. 讨论大模型带来的挑战，如失业率、版权、算法偏见、犯罪和能耗等问题。
阅读原文
4. 分析大模型的发展趋势，包括成本、开源与闭源、应用场景等。
5. 讨论大模型带来的挑战，如失业率、版权、算法偏见、犯罪和能耗等问题。
如何评估大模型的性能？有哪些常用的评估指标？
文章概要：
1. 评估大模型性能时，我们通常会考虑多个方面包括准确率、召回率、F1值等。对于生成式任务，文本生成，我们可能还会关注流畅性、多样性和相关性等。此外，模型的效率、稳定性和可解释性也是重要的评估方面。
2 评估大模型的性能涉及使用多种定量和定性来衡量模型在特定任务上的表现。以下是一些常用的评估指标：准确率、精确率、召回率、F1分数、均方误差、均方根误差交叉熵损失、困惑度U分数、ROUGE分数、AUC值、一致性。
阅读原文
2 评估大模型的性能涉及使用多种定量和定性来衡量模型在特定任务上的表现。以下是一些常用的评估指标：准确率、精确率、召回率、F1分数、均方误差、均方根误差交叉熵损失、困惑度U分数、ROUGE分数、AUC值、一致性。
AIGC大模型丨以AI赋能金融行业，筑牢金融合规安全屏障
文章概要：
1. 11月0日2年互联网大会乌镇开幕，互联网向“新”“”中共中央、副总理祥发表主旨讲话，互联网、大数据、、人工智能、区块链等取得突破，正在全面赋能经济社会发展，但数字鸿沟仍在，网络形势更加严峻。对此，他4点建议完善全球，空间与网络公平普惠发展网络>变革与产业革命，正步入一个全新的创意生成时代正在彻底改变一个又技术与发展融合，科技发展跃入期，金融机构来说及时变化模型正在迅速增强，模型凭借在、服务优势，逐步改变行业的面貌。作为金融行业的重要基石，成为大模型在应用中重点方向。br>3.ROBOT POWER金融大模型赋能金融企业提高效率，具体包括：自动化法规解析与内化，快速处理信息实现外识别识别风险风险评估依据；合规流程优化，优化合规审查流程，问题解决效率助力合规人员决策，专业知识支持，合规报告建议加强合规培训与教育，个性化培训内容生成，合规场景演练
阅读原文
对我国人工智能发展几个新现象的观察与思考
文章概要：
1. 近期国内人工智能的几个新现象：垂类大模型应用呈现明显加快；数字人初登发展迅速、涉及面广这是应用中的新事物；具身智能在人工智能进程中的地位明显上升；机器人率先出现发力提速态势；人工智能驱动的科学研究关注度快速提升；人工智能治理从倡议走向落地。br>2 对新现象进一步思考：“基础-垂类”协同、“-小型”融通适配、中心-边缘”次接续的模型体系形成身智能有望成为打通物理AI的突破口；实现通用人工智能的路径变得更加清晰明确；大模型创新将开创一批智能机会发展还将迎来更强技术范式；中国在人工智能治理合作中的角色将进一步提升；将在人工智能的竞赛中胜出？
阅读原文
全场景开源大模型资源免费用
文章概要：
. 魔乐开发者社区提供免费存储模型、代码和文件开源大模型资源，各种生成训练所需数据集，一键部署推理等服务
2. 魔社区作为一体化平台，集成了openMind Library和openMind Hub Clinet等工具套件，模型库、数据集和体验空间等核心组件覆盖了自然语言处理、、音频等领域
3基于Git的仓库，包含模型、文件，支持用户和组织协作开发的仓库，用于自然语言学习、视觉和音频任务的，托管用于翻译、语音识别和图像分类等任务的数据集，包含生成训练、评估和测试所需，提供机器学习和深度学习算法的案例，在即可模型的交互式应用程序
4. 社区秉持开放和包容的理念，支持深度学习开发套件。目前已openMind Library提供支持，它是的深度学习开发套件，支持从模型训练到的流程，原生兼容PyTorch和MindSpore等主流框架
5. 11月29日，DataFun社区将联合魔乐举办魔乐社区AI、工具与应用的之道》技术沙龙，届时天翼云、openMind、TeleAI等专家分享工具与的、大模型创新应用AI技术发展趋势内容
阅读原文
2. 魔社区作为一体化平台，集成了openMind Library和openMind Hub Clinet等工具套件，模型库、数据集和体验空间等核心组件覆盖了自然语言处理、、音频等领域
3基于Git的仓库，包含模型、文件，支持用户和组织协作开发的仓库，用于自然语言学习、视觉和音频任务的，托管用于翻译、语音识别和图像分类等任务的数据集，包含生成训练、评估和测试所需，提供机器学习和深度学习算法的案例，在即可模型的交互式应用程序
4. 社区秉持开放和包容的理念，支持深度学习开发套件。目前已openMind Library提供支持，它是的深度学习开发套件，支持从模型训练到的流程，原生兼容PyTorch和MindSpore等主流框架
5. 11月29日，DataFun社区将联合魔乐举办魔乐社区AI、工具与应用的之道》技术沙龙，届时天翼云、openMind、TeleAI等专家分享工具与的、大模型创新应用AI技术发展趋势内容
创业跨山海，新港等你来——“智谷杯”大模型创新创业大赛总决赛圆满落幕
文章概要：
1. 1120日下午，“杯”大模型大赛决赛在南京经开区红枫科技园举行，南京经开区管委会副主任汤伟等领导出席活动。
2. 汤伟副主任在开场致辞中表示，南京经开区将人工智能作为新一轮产业发展的重点方向，全力打造中国（南京）智谷。
3 缪卫副总经理在中介绍了园区的良好优势和企业服务精神。
4. 本次大赛·突破·改变：大模型改变世界为主题，吸引了众多国内外知名高校、龙头企业的创新团队和人工智能创业创新企业的积极参与。
5. 经过前期激烈角逐15支优秀团队脱颖而出，晋级此次决赛br> 6. 决赛，15支参赛团队上台进行演，评委们根据项目的多个方面进行综合打分和点评。
7. 经过小时激烈角逐，“GeneLLM津渡医学科技队”“芯潮队”“云蝠智能队”“电鸿信政务服务”“AI Mesh团队”“ORI高性能AI材料”在比赛中脱颖而出。
8. 本次“智谷杯”大模型大赛，为园区的人工智能产业发展注入了新的活力和动力。
阅读原文
2. 汤伟副主任在开场致辞中表示，南京经开区将人工智能作为新一轮产业发展的重点方向，全力打造中国（南京）智谷。
3 缪卫副总经理在中介绍了园区的良好优势和企业服务精神。
4. 本次大赛·突破·改变：大模型改变世界为主题，吸引了众多国内外知名高校、龙头企业的创新团队和人工智能创业创新企业的积极参与。
5. 经过前期激烈角逐15支优秀团队脱颖而出，晋级此次决赛br> 6. 决赛，15支参赛团队上台进行演，评委们根据项目的多个方面进行综合打分和点评。
7. 经过小时激烈角逐，“GeneLLM津渡医学科技队”“芯潮队”“云蝠智能队”“电鸿信政务服务”“AI Mesh团队”“ORI高性能AI材料”在比赛中脱颖而出。
8. 本次“智谷杯”大模型大赛，为园区的人工智能产业发展注入了新的活力和动力。
【海纳数聚】大模型平台，开启数字化转型&智能化升级新篇章！
文章概要：
1. 大模型平台产品背景随着人工智能飞速发展，模型技术成为各行各业数字化转型和智能化升级的关键力量。海聚大模型正是针对这些行业痛点而设计，它通过提供先进的大模型，帮助企业上述挑战，实现数据的高效处理、智能分析和个性化服务同时确保数据安全和隐私，推动企业在智能化浪潮中前行
2. 大模型平台产品：海纳数聚模型是一款集成了最模型技术创新型开发平台，专为满足企业级应用开发的需求而设计。海数聚模型的场景广泛包括但不限于智能客服、推荐摘要、情感分析、知识问答、挖掘、边问办、报告、事件分析、智能BI、智能对比、智能审查等它能够帮助企业提升服务智能化水平客户体验，同时提高运营效率决策质量。
3 大模型平台产品特性：的大模型、强大的知识整合智能文档解析算法自定义工作流、集成的和web页面、友好的开发环境、安全和隐私保护灵活不同的开源大模型、灵活的渠道。
4. 大平台产品功能说明：应用中心、插件中心中心
阅读原文
2. 大模型平台产品：海纳数聚模型是一款集成了最模型技术创新型开发平台，专为满足企业级应用开发的需求而设计。海数聚模型的场景广泛包括但不限于智能客服、推荐摘要、情感分析、知识问答、挖掘、边问办、报告、事件分析、智能BI、智能对比、智能审查等它能够帮助企业提升服务智能化水平客户体验，同时提高运营效率决策质量。
3 大模型平台产品特性：的大模型、强大的知识整合智能文档解析算法自定义工作流、集成的和web页面、友好的开发环境、安全和隐私保护灵活不同的开源大模型、灵活的渠道。
4. 大平台产品功能说明：应用中心、插件中心中心
大模型与物理空间：从单体智能到群体智能（附RockAI CEO刘凡平演讲全文）
文章概要：
1. 11月20日，RockAI CEO刘凡平在酷+科技峰会科技创新专场上发表了主题演讲，探讨了大模型面临的问题和发展路径。
2. 刘凡平认为，现有大模型存在局限，如依赖海量数据和强大算力，缺乏在现实生活中实时学习、交互的能力，且Transformer架构存在问题。
3. Yan架构是首个国产化非Transformer架构，其多模态大模型在性能和效率上优于同类，可达到Llama3 8B的水平，训练更高，推理吞吐更大，且能在多种低算力设备上部署。
4. RockAI认为群体智能是未来方向，实现群体智能需具备自主学习、人机交互和适配更多终端三个条件。
5. RockAI处于第三阶段并在追求群体智能，与OpenAI模式不同，坚持在算法层面做创新。
阅读原文
2. 刘凡平认为，现有大模型存在局限，如依赖海量数据和强大算力，缺乏在现实生活中实时学习、交互的能力，且Transformer架构存在问题。
3. Yan架构是首个国产化非Transformer架构，其多模态大模型在性能和效率上优于同类，可达到Llama3 8B的水平，训练更高，推理吞吐更大，且能在多种低算力设备上部署。
4. RockAI认为群体智能是未来方向，实现群体智能需具备自主学习、人机交互和适配更多终端三个条件。
5. RockAI处于第三阶段并在追求群体智能，与OpenAI模式不同，坚持在算法层面做创新。
大模型局限与业务需求双驱动，向量只是开始，多模才是终点
文章概要：
1. 大语言模型在企业实际应用中存在知识缺乏、知识时效性低、隐私数据安全性低、AI幻觉等挑战。
2. 基于检索增强生成框架（RAG）的数据管理技术，通过大模型外挂知识库的方式，有效解决了大模型知识库更新及大模型“幻觉”等问题，加速企业大语言模型的应用和发展。
3. 业内常用的方式是将文档、图片、音视频转化为向量数据存储在向量数据库，通过检索向量数据库来增强大模型。然而，仅仅通过向量数据还远远不够，结合全文的精确检索、图数据的实体检索等模型数据的联合检索可以有效提升大模型召回的准确率。
4. 随着大模型的广泛应用和新场景的不断拓展，多模数据库迎来快速发展期。
5. 为了解决大模型的局限性，以及满足更丰富的业务场景，多模型能力已成大模型时代的刚需。
6. 多模数据库旨在单个系统中集成了多个关系型和/或非关系型数据引擎（例如，文档、图、键值、时序等），通过使用单个系统来降低操作的复杂性，更好地支持不同场景下的多种类型数据处理，成为大模型外置知识库的最佳选择。
7. 目前常见的多模数据库实现架构主要有四种：为每一种新数据模型开发独立完整的存算策略、用单一存储引擎支撑多个存储模型、在多种独立数据库之上提供统一的用户界面、用统一接口、统一的计算引擎、统一的存储管理和统一的资源管理的原生统一多模架构来支持多模型。
阅读原文
2. 基于检索增强生成框架（RAG）的数据管理技术，通过大模型外挂知识库的方式，有效解决了大模型知识库更新及大模型“幻觉”等问题，加速企业大语言模型的应用和发展。
3. 业内常用的方式是将文档、图片、音视频转化为向量数据存储在向量数据库，通过检索向量数据库来增强大模型。然而，仅仅通过向量数据还远远不够，结合全文的精确检索、图数据的实体检索等模型数据的联合检索可以有效提升大模型召回的准确率。
4. 随着大模型的广泛应用和新场景的不断拓展，多模数据库迎来快速发展期。
5. 为了解决大模型的局限性，以及满足更丰富的业务场景，多模型能力已成大模型时代的刚需。
6. 多模数据库旨在单个系统中集成了多个关系型和/或非关系型数据引擎（例如，文档、图、键值、时序等），通过使用单个系统来降低操作的复杂性，更好地支持不同场景下的多种类型数据处理，成为大模型外置知识库的最佳选择。
7. 目前常见的多模数据库实现架构主要有四种：为每一种新数据模型开发独立完整的存算策略、用单一存储引擎支撑多个存储模型、在多种独立数据库之上提供统一的用户界面、用统一接口、统一的计算引擎、统一的存储管理和统一的资源管理的原生统一多模架构来支持多模型。
具身大模型，国内最大融资诞生
文章概要：
1. 11月1，银河通用宣布完成5亿元人民币战略轮融资，仅成立一年多时间已完成超12亿元融资，缔造了具身大模型赛道当前最大融资额。br> 2. 银河通用团队坚定地投入具身大模型的研发在智能、动作智能和硬件智能方面全栈布局多点联合探索，为产业应用上限的可持续性打下坚实基础。
3. 银河通用的人形机器人从设计之初就是为落地而生。针对商业领域无人值守应用场景银河通用在今年9月已与美团签署战略合作协议，将联手打造全球首个人形机器人智慧药房解决方案。br> 具身智能一定是关键词，众多出色的人形机器人，几乎每月有的更新不仅是在技术，量产与售价上似乎更有竞争力。<> 5.了技术进步之外，具身智能更是缔造了创投一幕幕火爆景象。 6. 人形机器人之所以被追逐，一方面来自于特斯拉雄心勃勃的Optimus人形机器人计划，另一方面则受到ChatGPT类大模型的。
7. 去年10月，出台《人形机器人创新发展指导意见》明确指出到202，人形机器人创新体系初步建立，一批“、小脑、肢体”关键技术，核心部组件安全供给，整机产品达到国际先进水平。
8. 人形机器人未来最确定的技术趋势——未来还有很长走目前全球范围内具身人形机器人都处于研发阶段。
9. 更现实的是，人形机器人行业尚实现大规模量产是成熟度不足，制作成本居高不下。此外，数据对于训练深度学习模型以增强和优化机器人能力至关重要。面向不同算法和本体实现数据闭环亦是具身一个关键。
阅读原文
3. 银河通用的人形机器人从设计之初就是为落地而生。针对商业领域无人值守应用场景银河通用在今年9月已与美团签署战略合作协议，将联手打造全球首个人形机器人智慧药房解决方案。br> 具身智能一定是关键词，众多出色的人形机器人，几乎每月有的更新不仅是在技术，量产与售价上似乎更有竞争力。<> 5.了技术进步之外，具身智能更是缔造了创投一幕幕火爆景象。
7. 去年10月，出台《人形机器人创新发展指导意见》明确指出到202，人形机器人创新体系初步建立，一批“、小脑、肢体”关键技术，核心部组件安全供给，整机产品达到国际先进水平。
8. 人形机器人未来最确定的技术趋势——未来还有很长走目前全球范围内具身人形机器人都处于研发阶段。
9. 更现实的是，人形机器人行业尚实现大规模量产是成熟度不足，制作成本居高不下。此外，数据对于训练深度学习模型以增强和优化机器人能力至关重要。面向不同算法和本体实现数据闭环亦是具身一个关键。
打造大模型安全标杆！360安全大模型在世界互联网大会连获两项殊荣
文章概要：
1. 204年世界互联网大会乌镇峰会举行，360集团的360安全大模型入选“2024中国互联网创新发展十大典型案例”和“人工智能创新应用典型案例”
2. 360集团以大模型核心，推出360安全大模型，该模型基于自主研发的“类脑分区”协同架构，EB级高质量安全数据，实现了从威胁检测溯源分析的全流程自动化可智能学习海量终端、网络等攻击特征
3. 360安全模型被广泛应用于政府、金融、能源、等关键领域，用户提供高效智能的网络安全服务
. 360安全大模型此前已多次荣获行业内外多项大奖，此次在全国范围内斩获两项标志性荣誉，更进一步巩固了360集团在网络安全的行业领导地位
5. 360集团科学家潘剑锋博士表示，未来，30集团将专注于人工智能与安全技术深度融合，引领行业迈向更智能、更高效的新时代
. 360大模型正在实战化助力“安全即服务”，360将安全大模型的能力发展为的公共安全基础设施推动数字安全产业、普惠化，护航新型工业化，不断为“”贡献力量
阅读原文
2. 360集团以大模型核心，推出360安全大模型，该模型基于自主研发的“类脑分区”协同架构，EB级高质量安全数据，实现了从威胁检测溯源分析的全流程自动化可智能学习海量终端、网络等攻击特征
3. 360安全模型被广泛应用于政府、金融、能源、等关键领域，用户提供高效智能的网络安全服务
. 360安全大模型此前已多次荣获行业内外多项大奖，此次在全国范围内斩获两项标志性荣誉，更进一步巩固了360集团在网络安全的行业领导地位
5. 360集团科学家潘剑锋博士表示，未来，30集团将专注于人工智能与安全技术深度融合，引领行业迈向更智能、更高效的新时代
. 360大模型正在实战化助力“安全即服务”，360将安全大模型的能力发展为的公共安全基础设施推动数字安全产业、普惠化，护航新型工业化，不断为“”贡献力量
【每日精读】万字长文剖析城市大模型：认知、应用、展望
文章概要：
1. 随着ChatGPT和GPT-4系列等大模型的涌现，通用人工智能的潜能正在被逐步解锁。为深化其应用，行业大模型、领域大模型的构建成为当前焦点。城市大模型作为其中的关键一环，有望通过其强大的存储与计算能力，解决城市治理中的复杂问题，提升规划决策与治理效能。
2. 行业大模型还没有准确定义，从零构建一个行业大模型是没有必要的，也不符合大模型主要能力来自“预训练”的本质。
3. 精调型行业大模型更符合多数人的认知，但这种行业大模型技术路线也有适用范围选择条件：知识、参数规模、基础模型。
4. 应用型行业大模型可能是现阶段最靠谱、也越来越成为主流形态。
5. 城市大模型的定义有两种，市场为出发点，由政府买单建设大模型；另一种是以数据和知识为核心，以人居环境知识来定义城市大模型。<.大模型应用场景包括辅助决策、敏捷治理、政务服务等。
7. 城市大模型的预期价值包括底层算法、应用架构、数据知识、成本效率、从大语言模型到跨模态。
阅读原文
2. 行业大模型还没有准确定义，从零构建一个行业大模型是没有必要的，也不符合大模型主要能力来自“预训练”的本质。
3. 精调型行业大模型更符合多数人的认知，但这种行业大模型技术路线也有适用范围选择条件：知识、参数规模、基础模型。
4. 应用型行业大模型可能是现阶段最靠谱、也越来越成为主流形态。
5. 城市大模型的定义有两种，市场为出发点，由政府买单建设大模型；另一种是以数据和知识为核心，以人居环境知识来定义城市大模型。<.大模型应用场景包括辅助决策、敏捷治理、政务服务等。
7. 城市大模型的预期价值包括底层算法、应用架构、数据知识、成本效率、从大语言模型到跨模态。
国产AI大模型强势崛起！阶跃星辰Step-2登顶LiveBench，力压GPT-4o，万亿参数+MoE架构，中文能力优势明显
文章概要：
1. 阶跃星辰Step-2登顶LiveBench，压GPT-4，国产基座大模型居首，全球位列前五
2. 在IF Average（指令遵从）中，阶跃星辰Step-2以86.5分夺冠
3. 在20人工智能大会（WAIC）上，阶跃星辰了三款Step系列通用大模型
4. Step-2采用创新的MoE（专家）模型架构，从零构建和训练MoE，提升模型性能上限
6. 与其他模型对比，阶跃在中文能力方面优势明显
7. 阶跃星辰在财经领域与财联社合作推出财跃F1金融大模型，在内容创作领域与上海集团合作，此外还推出了智能助手“跃问”和AI开放世界平台“冒泡鸭”，并启动“繁星计划多模态领域的初创企业和开发者
8 阶跃星辰正探索AI+3D游戏引擎，与YAHAHA Studios等合作伙伴紧密协作，降低游戏开发门槛推动行业的革命性变革
阅读原文
2. 在IF Average（指令遵从）中，阶跃星辰Step-2以86.5分夺冠
3. 在20人工智能大会（WAIC）上，阶跃星辰了三款Step系列通用大模型
4. Step-2采用创新的MoE（专家）模型架构，从零构建和训练MoE，提升模型性能上限
6. 与其他模型对比，阶跃在中文能力方面优势明显
7. 阶跃星辰在财经领域与财联社合作推出财跃F1金融大模型，在内容创作领域与上海集团合作，此外还推出了智能助手“跃问”和AI开放世界平台“冒泡鸭”，并启动“繁星计划多模态领域的初创企业和开发者
8 阶跃星辰正探索AI+3D游戏引擎，与YAHAHA Studios等合作伙伴紧密协作，降低游戏开发门槛推动行业的革命性变革
大模型时代的软件研发：正确的打开方式
文章概要：
1. 国内LLM在软件研发中的现状：国内软件研发团队对LLM的重视程度显著提升，绝大多数团队拥抱大模型，积极应用大模型的团队占比超过一半，在软件研发整个生命周期都有很好的应用，目前在编程环节LLM应用效果最好。然而，团队在应用LLM时仍面临诸多挑战，如生成代码的采纳率低、在需求、设计、测试等环节的应用还不够好等。
2. LLM更适合编程工作吗：LLM适合编程的三大理由成本的开发人员、高质量的代码数据、编程语言也是一种语言。LLM的局限性是幻觉问题，需要采取措施缓解幻觉问题。
3. 代码生成的正确打开方式：目前国内流行的AI编程助手，都是先生成代码，再基于代码生成单元测试。这种方式存在很大的风险，为了克服上述问题，可以让大模型想一想如何验证要实现的功能，然后生成测试代码，再基于正确的测试代码生成产品代码。
4. 大模型时代软件研发的落地方式：LLM是语言模型，特别适合文字处理的工作，在借助智能体（AI agent）和RAG技术，使其非常适合用于需求的采集、分析和定义。通过与用户的交互，LLM可以将模糊的需求转化为明确的用户故事（User Story）和验收。
5. 未来：随着AI技术的不断发展，计算机将更深入地理解现实世界，推动软件研发进入智能化时代。未来的软件开发将不再只是人类开发者的专属领域。多智能体系统（Multi-Agent Systems）将在开发过程中扮演重要角色。智能体/数字人和开发人员共同协作，实现更高效、更智能的软件开发。
阅读原文
2. LLM更适合编程工作吗：LLM适合编程的三大理由成本的开发人员、高质量的代码数据、编程语言也是一种语言。LLM的局限性是幻觉问题，需要采取措施缓解幻觉问题。
3. 代码生成的正确打开方式：目前国内流行的AI编程助手，都是先生成代码，再基于代码生成单元测试。这种方式存在很大的风险，为了克服上述问题，可以让大模型想一想如何验证要实现的功能，然后生成测试代码，再基于正确的测试代码生成产品代码。
4. 大模型时代软件研发的落地方式：LLM是语言模型，特别适合文字处理的工作，在借助智能体（AI agent）和RAG技术，使其非常适合用于需求的采集、分析和定义。通过与用户的交互，LLM可以将模糊的需求转化为明确的用户故事（User Story）和验收。
5. 未来：随着AI技术的不断发展，计算机将更深入地理解现实世界，推动软件研发进入智能化时代。未来的软件开发将不再只是人类开发者的专属领域。多智能体系统（Multi-Agent Systems）将在开发过程中扮演重要角色。智能体/数字人和开发人员共同协作，实现更高效、更智能的软件开发。
从“百模大战”到行业整合，大模型创企开始被大厂“收编”
文章概要：
1. 近日有消息称学习模型科技创始人吴翼已入职，该实验室首席科学家。
2. 边塞科技是一家专注于大语言模型与学习结合的初创公司，由清华控股出资设立，并在天使轮获得了顺资本、金山办公、小米和真格基金的投资
3. 今年以来，大模型创业公司高管加入大厂的并不少见，比如大模型初创企业波形智能CEO昱辰带领团队OPPO，零一万物算法副总裁、模型预训练负责人黄文灏加入了字节跳动大模型团队。>. 美国大模型，这些动作显示，中美大厂都在通过收购AI初创公司的核心人才和技术，布局意味着大进入整合期。
5. 一些业内、投资人判断，基础模型将进入淘汰赛，难以差异化和的很快声。
阅读原文
2. 边塞科技是一家专注于大语言模型与学习结合的初创公司，由清华控股出资设立，并在天使轮获得了顺资本、金山办公、小米和真格基金的投资
3. 今年以来，大模型创业公司高管加入大厂的并不少见，比如大模型初创企业波形智能CEO昱辰带领团队OPPO，零一万物算法副总裁、模型预训练负责人黄文灏加入了字节跳动大模型团队。>. 美国大模型，这些动作显示，中美大厂都在通过收购AI初创公司的核心人才和技术，布局意味着大进入整合期。
5. 一些业内、投资人判断，基础模型将进入淘汰赛，难以差异化和的很快声。
一文通览：国内外知名大模型及240余家大模型清单
文章概要：
1. 大模型概述：大模型是利用海量数据，通过先进的算法和技术，训练得到的具有强大预测和决策能力的模型。
2. 大模型特点和分类：大模型特点包括巨大的规模、涌现能力、更好的性能和泛化能力、多任务学习、大数据训练、强大的计算资源、迁移学习和预训练、自学习、领域知识融合、自动化和效率。大模型分类按照输入数据类型不同可分为语言大模型、视觉大模型、多模态大模型按照应用领域不同可分为通用大模型L0、行业大模型L1、垂直大模型L2。<>3. 知名大模型概述及国产大模型清单：文心一言、讯飞星火、通义问、天工AI、百川AI、豆包AI、GPT-4O、商汤AI、Kimi模型这九个AI大模型是当下备受关注的人工智能技术范例。
4. 大模型解锁应用场景：模型可分为通用大模型和行业大模型两种。通用大模型是具有强大泛化能力，可在不进行微调或少量微调的情况下完成多场景任务，相当于AI完成了“通识教育”。行业大模型则是利用行业知识对大模型进行微调，让完成“专业教育”，以满足在能源、金融、制造、传媒等不同领域需求。
阅读原文
2. 大模型特点和分类：大模型特点包括巨大的规模、涌现能力、更好的性能和泛化能力、多任务学习、大数据训练、强大的计算资源、迁移学习和预训练、自学习、领域知识融合、自动化和效率。大模型分类按照输入数据类型不同可分为语言大模型、视觉大模型、多模态大模型按照应用领域不同可分为通用大模型L0、行业大模型L1、垂直大模型L2。<>3. 知名大模型概述及国产大模型清单：文心一言、讯飞星火、通义问、天工AI、百川AI、豆包AI、GPT-4O、商汤AI、Kimi模型这九个AI大模型是当下备受关注的人工智能技术范例。
4. 大模型解锁应用场景：模型可分为通用大模型和行业大模型两种。通用大模型是具有强大泛化能力，可在不进行微调或少量微调的情况下完成多场景任务，相当于AI完成了“通识教育”。行业大模型则是利用行业知识对大模型进行微调，让完成“专业教育”，以满足在能源、金融、制造、传媒等不同领域需求。
端到端大模型席卷广州车展，智驾行业的一次技术大跃迁
文章概要：
1. 端到端大模型成为广州车展的核心主题，国内外厂商都在采用这一技术提升城区智驾表现。
2. 端到端大模型以参数规模更大的模型取代过去的技术架构，提升了系统获取信息和学习开车方法的
3. 行业推动城市NOA量产已有两三年时间，但用户体验不佳是其还没有开始大规模普及的主要原因。
4. 基于端到端与大模型的技术，成为过去一年提升智驾MPI的关键利器，国内外头部厂商都在研发端到端智驾版本。br>5. 汽车行业的研发挑战包括数据采集、存储、标注，以及算力军备赛和人才竞赛。
6. 端到端本质上是资本、人才、工程化能力的集合体，主机厂在端到端时代需要回归理性，做增量性的创新。
7. 解决端到端的安全底线需要智驾地图与视觉语言模型，共识，其中一种路径是世界模型，另一种方式则是运行车端的双系统。
阅读原文
2. 端到端大模型以参数规模更大的模型取代过去的技术架构，提升了系统获取信息和学习开车方法的
3. 行业推动城市NOA量产已有两三年时间，但用户体验不佳是其还没有开始大规模普及的主要原因。
4. 基于端到端与大模型的技术，成为过去一年提升智驾MPI的关键利器，国内外头部厂商都在研发端到端智驾版本。br>5. 汽车行业的研发挑战包括数据采集、存储、标注，以及算力军备赛和人才竞赛。
6. 端到端本质上是资本、人才、工程化能力的集合体，主机厂在端到端时代需要回归理性，做增量性的创新。
7. 解决端到端的安全底线需要智驾地图与视觉语言模型，共识，其中一种路径是世界模型，另一种方式则是运行车端的双系统。
大模型存储新王牌，焱融科技如何引爆AI竞争力
文章概要：
1. 焱融科技在Perf v1.0存储性能基准测试中，其全闪存储产品在带宽、模拟GPU数量以及GPU利用率等关键性能指标上获得多项世界第一。
2. 焱融科技推出企业级全闪分布式存储一体机追光F9000X，实现了节点存储的性能75IOPS和270GBps带宽，可满足大规模训练、推理及高算力场景的需求。
3. 焱融科技是国内少数几家专注于文件存储的AI存储企业之一，其产品在大模型训练、推理过程中具有优势。
4. 焱融科技的全闪产品成为公司营收增长的核心引擎，有力推动了整体业绩的提升和持续发展。
阅读原文
2. 焱融科技推出企业级全闪分布式存储一体机追光F9000X，实现了节点存储的性能75IOPS和270GBps带宽，可满足大规模训练、推理及高算力场景的需求。
3. 焱融科技是国内少数几家专注于文件存储的AI存储企业之一，其产品在大模型训练、推理过程中具有优势。
4. 焱融科技的全闪产品成为公司营收增长的核心引擎，有力推动了整体业绩的提升和持续发展。
ASR 大模型 GPU 推理方案来啦!
文章概要：
1. ASR大模型GPU推理方案来啦！NVIDIA TensorRT-LLM能有效将推理速度提升50%以上，仅用一张A10 GPU，Whisper的中文微调模型每秒钟可以处理500秒的音频，结合Qwen2 7B的ASR模型，则可实现0.07的Real Time Factor指标。
2. 本文介绍了新一代Kaldi Sherpa中的ASR大模型GPU推理方案，包括方案介绍、方案性能、快速上手、其它方案和结语。
3. 方案介绍中，类似Whisper或者结合了LLM的ASR大模型逐渐流行，更大的参数量和自回归解码的特点让这类模型的推理比较慢，借助NVIDIA TensorRT-LLM和NVIDIA Triton推理服务器，开发了针对此类模型的GPU推理加速方案。
4. 方案性能中，分别从Offline推理和Client-Server推理两种模式对部署方案的性能进行了测试，测试结果表明，相比于社区流行的Faster Whisper方案，RT-LLM方案的速度提升了50%以上。
5. 快速上手中，介绍了如何了解Nvidia TensorRT-LLM和Nvidia Triton，以及如何复现Offline解码模式测试的流程和Client-Server模式测试的流程。
6. 其它方案中，除了ASR大模型的部署方案还针对许多社区流行的ASR模型开发了对应的推理方案。
7. 结语中，本文介绍了Sherpa中的ASR大模型部署方案，未来，也会不断迭代这些部署加速方案。
阅读原文
2. 本文介绍了新一代Kaldi Sherpa中的ASR大模型GPU推理方案，包括方案介绍、方案性能、快速上手、其它方案和结语。
3. 方案介绍中，类似Whisper或者结合了LLM的ASR大模型逐渐流行，更大的参数量和自回归解码的特点让这类模型的推理比较慢，借助NVIDIA TensorRT-LLM和NVIDIA Triton推理服务器，开发了针对此类模型的GPU推理加速方案。
4. 方案性能中，分别从Offline推理和Client-Server推理两种模式对部署方案的性能进行了测试，测试结果表明，相比于社区流行的Faster Whisper方案，RT-LLM方案的速度提升了50%以上。
5. 快速上手中，介绍了如何了解Nvidia TensorRT-LLM和Nvidia Triton，以及如何复现Offline解码模式测试的流程和Client-Server模式测试的流程。
6. 其它方案中，除了ASR大模型的部署方案还针对许多社区流行的ASR模型开发了对应的推理方案。
7. 结语中，本文介绍了Sherpa中的ASR大模型部署方案，未来，也会不断迭代这些部署加速方案。
AI大模型给心理学带来的挑战与机遇
文章概要：
1大模型爆火带来的是惊奇还是恐惧，还是，挑战还是？
2模型？
3 大模型如何颠覆心理学？
阅读原文
2模型？
3 大模型如何颠覆心理学？
阅读原文
吴婷：大模型的下半场，“应用”为王
文章概要：
1. 2024百度世界大会主题是“应用”，吴婷通过百度智能云分享行业趋势，总结为三个暴增”。
2. 首先是生产力暴增，人工智能带来的智能化革命推动人类文明不断进化，百度文心一言是国内首个对标ChatGPT的大模型，率先拿到智能化革命的入场券。
3. 其次是支撑力云推出一套基础设施，包括千帆大模型和百舸算力平台，支撑各行各业的智能化变革。
4. 最后是生产力场景的暴增百度智能云推出千帆行业增强版，已经打磨出八大行业解决方案，拿下国内大模型落地规模第一
.婷列举了联招聘、胜中国、未来医学、高证券等的案例说明百度智能云如何帮助企业提高效率。
阅读原文
2. 首先是生产力暴增，人工智能带来的智能化革命推动人类文明不断进化，百度文心一言是国内首个对标ChatGPT的大模型，率先拿到智能化革命的入场券。
3. 其次是支撑力云推出一套基础设施，包括千帆大模型和百舸算力平台，支撑各行各业的智能化变革。
4. 最后是生产力场景的暴增百度智能云推出千帆行业增强版，已经打磨出八大行业解决方案，拿下国内大模型落地规模第一
.婷列举了联招聘、胜中国、未来医学、高证券等的案例说明百度智能云如何帮助企业提高效率。
《智谱GLM白皮书》：大模型“海平面”正在淹没人类能力“山头”丨AI时刻
文章概要：
1. 近日，君联投资企业智发布了《“智能新物种”未来企业进化蓝图——智谱GLM白皮书》。该白皮书系统阐述GLM系列大模型在各行各业中的应用场景和赋能方向，并佐以AI大模型商业化案例为支撑，为实施企业AI数智化转型的管理者提供务实指引，为业界贡献AI融合企业发展的解决
2. 2024年注定成为大模型从尝试走向产业落地的关键。历经从技术到场景到落地的火热探讨与实践，大模型已不再是遥不可及的概念，而是逐渐渗透到各行各业，成为推动产业
3. 未来的“智能新物种”企业，业务场景将全面依托AI能力，大模型将重塑其从产品研发、服务运营到组织发展和营销推广等各个环节。AI能力的广泛应用，终将催生全新的商业机会和合作模式，持续推动行业的可持续发展。
4. 生成式AI的发展速度远超个人电脑、互联网和移动互联网。
5. 智谱GLM白皮书揭秘了真效果：大模型赋能业务方向及产品场景。
6. 智谱GLM白皮书发布，期待能为加速推动大模型的产业落地，激发更多新场景、新应用的诞生，真正拥抱“AGI”和“智能新物种”的到来！
阅读原文
2. 2024年注定成为大模型从尝试走向产业落地的关键。历经从技术到场景到落地的火热探讨与实践，大模型已不再是遥不可及的概念，而是逐渐渗透到各行各业，成为推动产业
3. 未来的“智能新物种”企业，业务场景将全面依托AI能力，大模型将重塑其从产品研发、服务运营到组织发展和营销推广等各个环节。AI能力的广泛应用，终将催生全新的商业机会和合作模式，持续推动行业的可持续发展。
4. 生成式AI的发展速度远超个人电脑、互联网和移动互联网。
5. 智谱GLM白皮书揭秘了真效果：大模型赋能业务方向及产品场景。
6. 智谱GLM白皮书发布，期待能为加速推动大模型的产业落地，激发更多新场景、新应用的诞生，真正拥抱“AGI”和“智能新物种”的到来！
民间物议｜中国大模型，两大洗牌逻辑
文章概要：
1. 2024年AI领域热度回升，但2025年融资难以持续，科技公司将减少在基础大模型上的新投入，实际应用和商业化，行业洗牌开始。
2. 中国和美国在大模型领域呈现强格局，但中国底层技术上相对薄弱。大模型的训练和运营成本极高，中国科技公司整体投入体量相对较小。
3. 大模型距离大规模落地应用还有差距，要实现，满足模型本身的能力、有愿意为模型能力买单的市场和用户、具备找到具体客户并交付的能力等条件。
4 2025年，大模型会在通用的道路上，且很难在短时间内实现真正的。科技公司们开始陆续意识到，仅发布一个免费的应用，并不能为带来直接收益，需要直接触及那些愿意付费的行业客户
阅读原文
2. 中国和美国在大模型领域呈现强格局，但中国底层技术上相对薄弱。大模型的训练和运营成本极高，中国科技公司整体投入体量相对较小。
3. 大模型距离大规模落地应用还有差距，要实现，满足模型本身的能力、有愿意为模型能力买单的市场和用户、具备找到具体客户并交付的能力等条件。
4 2025年，大模型会在通用的道路上，且很难在短时间内实现真正的。科技公司们开始陆续意识到，仅发布一个免费的应用，并不能为带来直接收益，需要直接触及那些愿意付费的行业客户
大模型人人皆可“炼”，讯飞星辰MaaS平台精调门槛再降低
文章概要：
1. 大模型人人皆可“炼”，讯飞星辰MaaS平台精调门槛再降低。
2. 讯飞开放平台以技术为，是一个人工智能开放平台，用户可访问[xfyun.cn]免费接入各类云端人工智能技术服务。br> 3. 关注讯飞开放平台服务号可随时查看应用数据跟进审核进度，获取最新技术干货、了解讯飞先锋科技，可进行技术问题答疑、业务初步对接。
阅读原文
2. 讯飞开放平台以技术为，是一个人工智能开放平台，用户可访问[xfyun.cn]免费接入各类云端人工智能技术服务。br> 3. 关注讯飞开放平台服务号可随时查看应用数据跟进审核进度，获取最新技术干货、了解讯飞先锋科技，可进行技术问题答疑、业务初步对接。
【动态】全球AI大模型攻防挑战赛乌镇收官 双赛道十强亮相世界互联网大会
文章概要：
1. 1120日，全球AI攻防挑战赛在世界互联网大会乌镇峰会收官，由中国图象图形学学会、蚂蚁集团、云安全联盟CSA）大中华区联合主办。
2 赛事由多所高校产学研组织共同发起，聚焦大模型自身安全和大模型生成内容的防伪检测两个赛道，吸引了全球18个国家和地区的270多个赛队、200余名技术精英参与。
3.最终角逐出全球十强，由来自字节跳动合合信息科技、济南大学、浙江工业大学、安徽大学、上海交通大学等企业和高校的赛队获得。
4.了十强选手之外，还特别评选出“杰出方案”，由西安上海交通大学及理想汽车赛队。
5. 蚂蚁集团在为优秀选手颁发直通offer，优秀技术人才秒入职。
6. 活动现场，中国信通院启动“护证计划”，中国图象图形学学会积极响应加入该计划。
阅读原文
2 赛事由多所高校产学研组织共同发起，聚焦大模型自身安全和大模型生成内容的防伪检测两个赛道，吸引了全球18个国家和地区的270多个赛队、200余名技术精英参与。
3.最终角逐出全球十强，由来自字节跳动合合信息科技、济南大学、浙江工业大学、安徽大学、上海交通大学等企业和高校的赛队获得。
4.了十强选手之外，还特别评选出“杰出方案”，由西安上海交通大学及理想汽车赛队。
5. 蚂蚁集团在为优秀选手颁发直通offer，优秀技术人才秒入职。
6. 活动现场，中国信通院启动“护证计划”，中国图象图形学学会积极响应加入该计划。
ASR 大模型 GPU 推理方案来啦!
文章概要：
1. 相较于社区的Faster Whisper方案，NVIDIA TensorRT-LLM能有效将推理提升50%以上。
2. 仅用一张A10 GPU，Whisper Turbo的中文微调模型每秒钟可以处理500秒的音频。
3. 结合Qwen2 7B的ASR模型，则可实现0.027的Real Time Factor (RTF)指标。
4. 本文介绍新一代Kaldi Sherpa中的ASR大模型GPU推理方案。
5. 方案介绍了Whisper和Speech Encoder+LLM的部署方案 6. 分别从Offline推理和Client-Server推理两种模式对部署方案的性能进行了测试。
7. 测试结果显示，相比于社区流行的Faster Whisper方案，TensorRT-LLM方案的速度提升了50%以上。
8. 了解Nvidia TensorRT-LLM和Nvidia Triton的方法。
9. 复现Offline解码模式测试的流程。
10. 复现Client-Server模式测试的流程。
11. 除了ASR大模型的部署方案，还针对许多社区流行的ASR模型开发了对应的推理方案。
12. 未来，会部署加速方案。
阅读原文
2. 仅用一张A10 GPU，Whisper Turbo的中文微调模型每秒钟可以处理500秒的音频。
3. 结合Qwen2 7B的ASR模型，则可实现0.027的Real Time Factor (RTF)指标。
4. 本文介绍新一代Kaldi Sherpa中的ASR大模型GPU推理方案。
5. 方案介绍了Whisper和Speech Encoder+LLM的部署方案 6. 分别从Offline推理和Client-Server推理两种模式对部署方案的性能进行了测试。
7. 测试结果显示，相比于社区流行的Faster Whisper方案，TensorRT-LLM方案的速度提升了50%以上。
8. 了解Nvidia TensorRT-LLM和Nvidia Triton的方法。
9. 复现Offline解码模式测试的流程。
10. 复现Client-Server模式测试的流程。
11. 除了ASR大模型的部署方案，还针对许多社区流行的ASR模型开发了对应的推理方案。
12. 未来，会部署加速方案。
百度Q3财报：净利润增17%超预期，文心大模型日调用量增30倍达15亿
文章概要：
1. 11月2日晚，百度发布2024年第三季度财务报告，显示季度总营收33亿元，核心营收265亿元，归属百度核心的净利润75.4亿元，同比增长17，超出市场预期
. 财报显示，11月文心大模型调用量达15亿次。相比去年Q4披露的5000万次，增长0> 3. 三季度内，推出ERNIE Speed Pro和ERNIE Lite Pro两款增强的轻量级模型，进一步扩展文心模型的性
4. 9月，百度App月活用户达7.04亿，增长6%；季度内，百度核心在线营销收入88
5. 公开数据显示，百度文心智能体平台已有15万家企业和80开发者
6 智能云方面IDC在8发布的《中国人工智能公有云服务市场，223报告，百度智能云五年排名第一
7. 自动驾驶领域，截至10月28百度自动驾驶出行服务在全国累计提供超80万服务；三季度内提供的乘车服务9.8万次，同比增长%
阅读原文
. 财报显示，11月文心大模型调用量达15亿次。相比去年Q4披露的5000万次，增长0> 3. 三季度内，推出ERNIE Speed Pro和ERNIE Lite Pro两款增强的轻量级模型，进一步扩展文心模型的性
4. 9月，百度App月活用户达7.04亿，增长6%；季度内，百度核心在线营销收入88
5. 公开数据显示，百度文心智能体平台已有15万家企业和80开发者
6 智能云方面IDC在8发布的《中国人工智能公有云服务市场，223报告，百度智能云五年排名第一
7. 自动驾驶领域，截至10月28百度自动驾驶出行服务在全国累计提供超80万服务；三季度内提供的乘车服务9.8万次，同比增长%
大模型产业发展每周速递（11.15-11.21）
文章概要：
1. 介绍“模速空间”是全国首个大模型专业孵化和加速载体，位于徐汇滨江，基于“百千万”目标，打造多个功能平台，赋能各类大模型企业汇聚上海、引领全国、扬帆世界> 2. 提到当前内容可能存在未经审核的第三方商业营销信息
阅读原文
乘风引擎发布营销大模型乘风1.0，以AI引领数字化营销转型
文章概要：
1. 20241月21日，202世界大会新产品发布会在举行，乘风引擎发布营销大模型1.0，同时推出AI测评、AI建站、AI名片等多款智能体应用产品。
2 乘风1.是以文心一言、义千问等通用大模型，营销领域、客户管理领域、行业领域知识等多个营销数据集，通过模型训练、优化、推理等深度学习推出的自研营销模型，垂直于数字营销领域。
3. 乘风1.0可针对机械设备、医疗、生产等多个行业提供语义理解、多轮对话、文本生成等多场景多的应用。
4. 乘风.0高效地和分析海量数据，在短时间内处理数据，从中挖掘出有价值的信息，为用户提供准确的营销洞察。
5. 乘风1.0采用了先进的大模型训练技术和优化算法自主设计模型结构和配置，实现数据构建、训练、微调、推理加速等全链路核心技术掌控，融合市场营销、客户管理、行业知识等专业领域，专项训练和优化，企业“量体裁衣”快速构建针对性较强的营销解决方案。
6. 乘风1.0通过深度学习等实现了对行为的预测和个性化推荐。广告主可以根据用户的、偏好和行为习惯，实时动态调整营销策略。
. 基于乘风大模型内核的赋能，乘风引擎实现了更深层次的优化和提升作为效果营销的开创者，在营销领域更为的表现。<>8. 2024世界互联网大会上，1.0模型的发布，展示了乘风引擎在AI技术应用与数字化营销领域融合发展的成果。
阅读原文
2 乘风1.是以文心一言、义千问等通用大模型，营销领域、客户管理领域、行业领域知识等多个营销数据集，通过模型训练、优化、推理等深度学习推出的自研营销模型，垂直于数字营销领域。
3. 乘风1.0可针对机械设备、医疗、生产等多个行业提供语义理解、多轮对话、文本生成等多场景多的应用。
4. 乘风.0高效地和分析海量数据，在短时间内处理数据，从中挖掘出有价值的信息，为用户提供准确的营销洞察。
5. 乘风1.0采用了先进的大模型训练技术和优化算法自主设计模型结构和配置，实现数据构建、训练、微调、推理加速等全链路核心技术掌控，融合市场营销、客户管理、行业知识等专业领域，专项训练和优化，企业“量体裁衣”快速构建针对性较强的营销解决方案。
6. 乘风1.0通过深度学习等实现了对行为的预测和个性化推荐。广告主可以根据用户的、偏好和行为习惯，实时动态调整营销策略。
. 基于乘风大模型内核的赋能，乘风引擎实现了更深层次的优化和提升作为效果营销的开创者，在营销领域更为的表现。<>8. 2024世界互联网大会上，1.0模型的发布，展示了乘风引擎在AI技术应用与数字化营销领域融合发展的成果。
使用大模型与 RAG 技术从零构建一个帮你阅读书籍的智能体
文章概要：
1. 文章介绍了如何构建一个可以回答文档中任何问题的机器人，包括LLM的概念、构建方法、局限性和结论。
2. LLM是一种基于大量文本数据集训练的机器学习模型，它可以理解和生成自然语言。
3. 构建机器人的方法包括使用LLM、RAG技术和向量搜索。
4. 局限性包括语义检索问题、复杂查询和性能损失。
5. 结论是LLM是一个非常优秀的语言统计模型，但需要正确使用。
阅读原文
2. LLM是一种基于大量文本数据集训练的机器学习模型，它可以理解和生成自然语言。
3. 构建机器人的方法包括使用LLM、RAG技术和向量搜索。
4. 局限性包括语义检索问题、复杂查询和性能损失。
5. 结论是LLM是一个非常优秀的语言统计模型，但需要正确使用。
主流AI大模型最全横评：GPT-4/Claude 3/Gemini对比解析
文章概要：
1. 204年AI大模型市场已形成OpenAI、Anthropic和Google三足鼎立的局面，各家旗舰模型分别GPT-4、Claude 3和Gemini
2. 从理解与对话能力、专业领域表现、实用特性对比、选择建议、使用小贴士和未来展望六个方面GPT-4、Claude 3和Gemini进行了
3. 个人用户选择建议：日常对话选GPT-4，学习辅助选Claude 3，创意工作选GPT-4> 4. 开发者选择建议：个人开发选GPT-应用选Claude 3，规模部署选Gemini
5. 企业用户选择建议系统选Claude 3，内容创作选GPT-4，数据处理选Gemini
6.展望：多模态能力将进一步增强，推理能力会提升，知识实时性有望突破，场景化解决方案增多，化能力更强，pricing策略更灵活
阅读原文
2. 从理解与对话能力、专业领域表现、实用特性对比、选择建议、使用小贴士和未来展望六个方面GPT-4、Claude 3和Gemini进行了
3. 个人用户选择建议：日常对话选GPT-4，学习辅助选Claude 3，创意工作选GPT-4> 4. 开发者选择建议：个人开发选GPT-应用选Claude 3，规模部署选Gemini
5. 企业用户选择建议系统选Claude 3，内容创作选GPT-4，数据处理选Gemini
6.展望：多模态能力将进一步增强，推理能力会提升，知识实时性有望突破，场景化解决方案增多，化能力更强，pricing策略更灵活
重大突破！光谷大模型首创数推分离技术创新
文章概要：
1. 近日，光谷企业传神语联推出任度“双脑”大模型，在业内独辟蹊径，首创“双网络数推分离”这全新技术，破解大模型企业落地难题。br> 2. 传神语联董事长何恩培认为，模型正在从时代迈向“实时”时代。
3. 大模型的落地中最重要的就是如何与客户数据，为解决这些问题，自2021年起，我们就构建了客户数据学习网络和推理网络分离的架构从而形成‘双脑结构’，走出了一条的技术发展道路。<> 4. 以任度大模型，其数分离双网络架构独具特色是真正意义从底层框架到应用的全技术自主研发成果，通过了中国信息通信研究院“0依赖”的评测，未使用任何开源代码和> 5. 如何培养有正确的主权大模型？在恩培看来，在遵守人类共通的主流价值观的同时，坚定求同存异，丢弃自己的特色。
阅读原文
3. 大模型的落地中最重要的就是如何与客户数据，为解决这些问题，自2021年起，我们就构建了客户数据学习网络和推理网络分离的架构从而形成‘双脑结构’，走出了一条的技术发展道路。<> 4. 以任度大模型，其数分离双网络架构独具特色是真正意义从底层框架到应用的全技术自主研发成果，通过了中国信息通信研究院“0依赖”的评测，未使用任何开源代码和> 5. 如何培养有正确的主权大模型？在恩培看来，在遵守人类共通的主流价值观的同时，坚定求同存异，丢弃自己的特色。
浩鲸科技深度参编中国信通院交通云大模型系列标准
文章概要：
1. 中国信通院举行交通运输行业上云云推进中心专题研讨会，发布交通云大模型系列标准成果。浩鲸科技参与交通云大模型系列标准编写，其交通云事业部副总经理杨常烨受邀参加标准发布仪式，事业部产品技术总工刘四奎获评“核心参编专家”称号。
2. 浩鲸科技参编的三项标准旨在为公路、城市道路交通领域的大模型技术供应方和建设需求方提供参考规范，指引建设方构建适配自身的大模型业务管理能力体系。
3. 浩鲸科技在交通运输、交通管理方面具有十几年的行业积累，已形成行业“能力底座+应用”的成熟产品体系。
. 浩鲸科技依托“鲸智大模型”能力体系等产品能力，从建设促进交通工作效能的、建设促进交通数据信息流动效率的智能问答、打造智能一体化整合的中台能力三个方面推进大模型在交通行业。br> 5. 浩鲸科技充分发挥技术和行业优势，积极携手中国信通院等行业组织推动标准化建设深化大模型在交通领域场景应用，助力交通新质生产力高质量发展
阅读原文
2. 浩鲸科技参编的三项标准旨在为公路、城市道路交通领域的大模型技术供应方和建设需求方提供参考规范，指引建设方构建适配自身的大模型业务管理能力体系。
3. 浩鲸科技在交通运输、交通管理方面具有十几年的行业积累，已形成行业“能力底座+应用”的成熟产品体系。
. 浩鲸科技依托“鲸智大模型”能力体系等产品能力，从建设促进交通工作效能的、建设促进交通数据信息流动效率的智能问答、打造智能一体化整合的中台能力三个方面推进大模型在交通行业。br> 5. 浩鲸科技充分发挥技术和行业优势，积极携手中国信通院等行业组织推动标准化建设深化大模型在交通领域场景应用，助力交通新质生产力高质量发展
AI新地標！廣州海珠建設人工智慧大模型應用示範區
文章概要：
1. 广州海珠将打造全国首个大模型应用聚集高端人才。br>2 广州宣布计划于6年人工智能大模型在8以上行业深度应用，推广典型应用场景不少于30个，标杆企业50，算法超5000个，示范区主营业务收入超500亿元。<>3. 海珠区打造“六大平台”，包括政策助力、算力供给平台、合规指导服务中心孵化培育平台、金融赋能平台、生态集聚平台br>4.内已有21个大模型应用落地，我们生活息息相关。
阅读原文
3200位高手激战AI攻防：你用的大模型真的安全吗？
文章概要：
1. AI大模型攻防挑战赛应运而生，希望探索AI技术与社会价值的最优解。
2. 大模型越狱本质上就是安全对齐问题，大模型安全的研究，需要各方共同关注、投入，形成共识。
3. 全球AI模型攻防挑战赛吸引了全球范围内超过2700支赛队、3200余名技术精英参与，这场比赛的意义远不止于技术，它更是一场全球人才的聚会。
4. 中国工程院院士、中国图象图形学学会理事长王耀南表示，大模型时代，如何确保AI系统的安全可控、如何有效应对中的潜在风险，成为亟待解决的重要问题。
5. 蚂蚁集团在让AI既强大又可信这条道路上已经探索了近十年，用全新大模型安全一体化解决方案“蚁天鉴”予以回应。
阅读原文
2. 大模型越狱本质上就是安全对齐问题，大模型安全的研究，需要各方共同关注、投入，形成共识。
3. 全球AI模型攻防挑战赛吸引了全球范围内超过2700支赛队、3200余名技术精英参与，这场比赛的意义远不止于技术，它更是一场全球人才的聚会。
4. 中国工程院院士、中国图象图形学学会理事长王耀南表示，大模型时代，如何确保AI系统的安全可控、如何有效应对中的潜在风险，成为亟待解决的重要问题。
5. 蚂蚁集团在让AI既强大又可信这条道路上已经探索了近十年，用全新大模型安全一体化解决方案“蚁天鉴”予以回应。
艾伦研究所与华盛顿大学团队推出开源科研大模型OpenScholar，用小参数超越GPT-4o
文章概要：
1. 科研论文数量的增长带来信息过载问题，通用模型在处理科学问题时存在缺陷。
2. 艾伦人工智能研究所和大学开发了开源科研大模型OpenScholar，是一种检索增强型语言模型，将尖端检索系统与经过微调的语言模型相结合，应对查询时能够检索出相关文献并生成带有引用综合性回答。
3. OpenScholar的核心架构由存储、检索器、生成模块和自我反馈机制构成。
4. 研究团队开发了首个跨学科的大规模文献检索—ScholarQAB，OpenScholar在测试中表现显著优势。
5. OpenScholar的数据存储、检索器和排序模型以及自反馈生成管道还可以应用于其他现成的模型。
. 专家评审中，OpenScholar的在51%的情况下更受专家青睐，结合GPT-4的版本更是达到了70%的偏好率。
7. OpenScholar存在一些不足，如数据来自于开放论文，了它在一些高风险领域的应用，生成在很大上依赖于检索数据的质量。
8. OpenScholar代码、模型、数据存储、评估工具等已开源。
阅读原文
2. 艾伦人工智能研究所和大学开发了开源科研大模型OpenScholar，是一种检索增强型语言模型，将尖端检索系统与经过微调的语言模型相结合，应对查询时能够检索出相关文献并生成带有引用综合性回答。
3. OpenScholar的核心架构由存储、检索器、生成模块和自我反馈机制构成。
4. 研究团队开发了首个跨学科的大规模文献检索—ScholarQAB，OpenScholar在测试中表现显著优势。
5. OpenScholar的数据存储、检索器和排序模型以及自反馈生成管道还可以应用于其他现成的模型。
. 专家评审中，OpenScholar的在51%的情况下更受专家青睐，结合GPT-4的版本更是达到了70%的偏好率。
7. OpenScholar存在一些不足，如数据来自于开放论文，了它在一些高风险领域的应用，生成在很大上依赖于检索数据的质量。
8. OpenScholar代码、模型、数据存储、评估工具等已开源。
第一！华为云领跑汽车大模型市场
文章概要：
1. 华为云在汽车大模型市场位居象限，成为车企智能化升级的首选伙伴。
2. 华为云的行业大模型在汽车、政务、工业、金融、医疗、药物、气象等7个领域都取得领先地位。br>3. 凭借技术硬实力，越来越多的车企选择“跑”在华为云上。
4. 华为携手50余家业内的，一起服务了30多个汽车行业客户业务创新。6. 华为还在全球化、网联化数字化、软件化等创新技术，助力车企在新时代构筑技术韧性造好车、卖好车。
7. 华为云将继续深耕，助力中国汽车产业做大做强，为自动驾驶量产落地加速助力。
阅读原文
2. 华为云的行业大模型在汽车、政务、工业、金融、医疗、药物、气象等7个领域都取得领先地位。br>3. 凭借技术硬实力，越来越多的车企选择“跑”在华为云上。
4. 华为携手50余家业内的，一起服务了30多个汽车行业客户业务创新。
7. 华为云将继续深耕，助力中国汽车产业做大做强，为自动驾驶量产落地加速助力。
干货+资料 | 从模型到应用，大模型产业落地进入加速期
文章概要：
. 自生成式AI爆火以来，大模型如同一股旋风席卷全球。
2. 目前企业落地大模型的路径有三种：直接调用模型、模型应用效果优化、大模型应用开发。
3. 百度智能云千帆大模型平台不仅加速了大模型技术在企业内部的普及，还为大模型应用产品的落地提供了基础设施支撑。
4. 百度智能云发布大模型服务品牌“知一”，未来将通过知行合一的专业服务，助力企业AI落地。
5. 大落地，首先要思考什么样的场景才能创造价值。
6. 好未来正在尝试实现大规模的个性化教育。
7. 高华证券正在尝试通过大模型模拟人类专业投资者的思维方式，进行信息处理和推理，最终为投资者形成投资组合建议。
8. 智联招聘正在通过大模型帮助企业更加快速、准确、高效得完成过去冗长的招聘流程。
9. 全景医学通过百度智能云千帆大模型平台打造智能问答系统和健康管家，借助企业RAG能力，不仅可以减少专业人工客服的工作量，增加预检效率，还能为患者提供个性化解答和服务，提供用药的提醒、术后问题解答等服务。
阅读原文
2. 目前企业落地大模型的路径有三种：直接调用模型、模型应用效果优化、大模型应用开发。
3. 百度智能云千帆大模型平台不仅加速了大模型技术在企业内部的普及，还为大模型应用产品的落地提供了基础设施支撑。
4. 百度智能云发布大模型服务品牌“知一”，未来将通过知行合一的专业服务，助力企业AI落地。
5. 大落地，首先要思考什么样的场景才能创造价值。
6. 好未来正在尝试实现大规模的个性化教育。
7. 高华证券正在尝试通过大模型模拟人类专业投资者的思维方式，进行信息处理和推理，最终为投资者形成投资组合建议。
8. 智联招聘正在通过大模型帮助企业更加快速、准确、高效得完成过去冗长的招聘流程。
9. 全景医学通过百度智能云千帆大模型平台打造智能问答系统和健康管家，借助企业RAG能力，不仅可以减少专业人工客服的工作量，增加预检效率，还能为患者提供个性化解答和服务，提供用药的提醒、术后问题解答等服务。
国产 AI 大模型神器，出击，再也不用担心幻觉问题了！
文章概要：
1. 企业对大模型的需求主要集中在开箱即用、微调和持续训练、模型开发应用方面。
2. 阿里云炼围绕这三个方向打造了模型中心和应用中心，提供最丰富的模型和最易用，包括直接调用模型进行推理、进一步微调训练模型、打造RAG应用。
3. 百炼大模型刚刚升级了RAG功能，能够减少模型生成内容幻觉。
阅读原文
2. 阿里云炼围绕这三个方向打造了模型中心和应用中心，提供最丰富的模型和最易用，包括直接调用模型进行推理、进一步微调训练模型、打造RAG应用。
3. 百炼大模型刚刚升级了RAG功能，能够减少模型生成内容幻觉。
热门开源大模型集合！
文章概要：
1. 文章介绍了热门开源大模型集合，包括Llama、Gemma、Qwen、InternLM、Baichuan等模型的参数版本、性能特点和开源情况。
2. 文章还介绍了趋动云『社区项目』，了相关模型的体验教程和入口。
阅读原文
2. 文章还介绍了趋动云『社区项目』，了相关模型的体验教程和入口。
超越 GPT-4o 和 Gemini-1.5，阶跃星辰拿下中国大模型第一
文章概要：
1. 阶跃星辰的Step-2在LiveBench榜单中位列国产基座大模型第一，超越GPT-4o、gemini-1.5-pro-002等国际主流模型，在多项测评标准中，Step-2在 Average（指令跟随）的表现上以86.57的分数排在第一
2. LiveBench是由AI科学家杨立昆（Yann LeCun）Abacus.AI、纽约大学等机构联合推出，提出了一种创新的基准测试方法，其中包含6大类18项任务，一向以权威性、客观公正、全面评估而获得业界认可
3. 阶跃星辰发布了Step-2语言大模型预览版，这是国内首个由创业公司发布的万亿参数模型，Step-2万亿参数语言大模型采用MoE架构，通过部分专家共享参数、异构化专家设计等创新MoE架构设计，Step2中的每个“专家模型”都得到充分训练
4. Step-1.5V是阶跃星辰Step系列里的多模态大模型，其视频理解能力不仅能够准确识别视频中的物体、人物和环境，还能够理解视频的整体氛围和人物情绪，因此被应用于各种视频分析和处理任务
5. Step-1X图像生成大模型具备了更强的深度语义对齐能力和细节生成能力与创新力，针对中国文化的深度优化，使得该模型在处理富含中国元素的内容时展现出独特优势
6. 阶跃星辰的产品开发应更加有底气，在定位为智能助手的跃问中，加入了智能视觉搜索功能「拍照问」
阅读原文
2. LiveBench是由AI科学家杨立昆（Yann LeCun）Abacus.AI、纽约大学等机构联合推出，提出了一种创新的基准测试方法，其中包含6大类18项任务，一向以权威性、客观公正、全面评估而获得业界认可
3. 阶跃星辰发布了Step-2语言大模型预览版，这是国内首个由创业公司发布的万亿参数模型，Step-2万亿参数语言大模型采用MoE架构，通过部分专家共享参数、异构化专家设计等创新MoE架构设计，Step2中的每个“专家模型”都得到充分训练
4. Step-1.5V是阶跃星辰Step系列里的多模态大模型，其视频理解能力不仅能够准确识别视频中的物体、人物和环境，还能够理解视频的整体氛围和人物情绪，因此被应用于各种视频分析和处理任务
5. Step-1X图像生成大模型具备了更强的深度语义对齐能力和细节生成能力与创新力，针对中国文化的深度优化，使得该模型在处理富含中国元素的内容时展现出独特优势
6. 阶跃星辰的产品开发应更加有底气，在定位为智能助手的跃问中，加入了智能视觉搜索功能「拍照问」
科技前沿 | 国产大模型独角兽，困在光环里
文章概要：
1. 11月16日，月之暗面举办媒体沟通会，发布了一款数学模型，并与其他模型进行了测试分数对比。
2. Kimi在今年年初热度冲高，获阿里超10亿美元领投，后因口碑下滑被质疑，如今被指“大模型营销咖”。
3. 月之暗面陷入麻烦，包括特长被复刻、出海失利、被前资方“逼宫”等。
4. 国产大模型独角兽面临人才、技术、产品、财力四重困局。
5. 大模型创企面临概念丰满但产品骨感的问题，以及如何自证造血能力的困扰。
阅读原文
2. Kimi在今年年初热度冲高，获阿里超10亿美元领投，后因口碑下滑被质疑，如今被指“大模型营销咖”。
3. 月之暗面陷入麻烦，包括特长被复刻、出海失利、被前资方“逼宫”等。
4. 国产大模型独角兽面临人才、技术、产品、财力四重困局。
5. 大模型创企面临概念丰满但产品骨感的问题，以及如何自证造血能力的困扰。
国产模型指令跟随全球第一！来自LeCun亲推的「最难作弊」大模型新榜单
文章概要：
1. 国内初创公司阶跃星辰的模型Step-2-16k-202411在LiveBench榜单上排名全球第五、国产第一。
2. 该模型在指令跟随项目上以最高分拿下全球第一，意味着其在语言生成上对细节有强控制力，理解能力max，然后更好地遵循人类指令。
3. Step-2-16k-202411采用了MoE架构，总参数量达到万亿级别，每次训练或推理所激活的参数量也超过了市面上的大部分Dense模型。
4. Step-2-16k-22411已经接入了阶跃星辰的C端智能生活助手「跃问」，Web端和App都可以试一把。br> 5. 阶跃星辰的多模态模型也很有看头，Step-1.5V在感知、推理和视频理解能力方面优势突出，Step-1X图像生成大模型则支持针对中国元素的深度优化。
6. 阶跃星辰的目标是开发出能够实现AGI的多模态大模型，并利用这些自主研发的大，创造新一代的AI应用。
阅读原文
2. 该模型在指令跟随项目上以最高分拿下全球第一，意味着其在语言生成上对细节有强控制力，理解能力max，然后更好地遵循人类指令。
3. Step-2-16k-202411采用了MoE架构，总参数量达到万亿级别，每次训练或推理所激活的参数量也超过了市面上的大部分Dense模型。
4. Step-2-16k-22411已经接入了阶跃星辰的C端智能生活助手「跃问」，Web端和App都可以试一把。br> 5. 阶跃星辰的多模态模型也很有看头，Step-1.5V在感知、推理和视频理解能力方面优势突出，Step-1X图像生成大模型则支持针对中国元素的深度优化。
6. 阶跃星辰的目标是开发出能够实现AGI的多模态大模型，并利用这些自主研发的大，创造新一代的AI应用。
超越 GPT-4o 和 Gemini-1.5，阶跃星辰拿下中国大模型第一
文章概要：
1. 阶跃星辰的底层基础模型能力很强，其自研的万亿参数语言大模型Step在LiveBench榜单中位列国产基座大模型第一，成绩逼近OpenAI的o1-mini-2024-09-12，超越GPT-4o-2024-08-06 、gemini-1.5-pro-002等国际主流模型。
2. 在LiveBench榜单中的多项测评标准中，Step-2在IF Average（指令跟随）的表现上以86.57的分数排在第一，超越包括o1-preview-2024-09-12在内的所有国内外语言大模型。
3. 阶跃星辰的Step-2万亿参数大模型采用MoE架构，通过部分专家共享参数、异构化专家设计等创新MoE架构设计，Step-2中的每个“专家训练，不仅总参数量达到了万亿级别，每次训练或推理所激活的参数量也超过了市面上的大部分Dense模型。
4. 阶跃星辰的Step-1.5V是Step系列里的多模态大模型，其视频理解能力不仅能够准确识别视频中的物体、人物和环境，还能够理解视频的整体氛围和人物情绪，因此被应用于各种视频分析和处理任务，如视频内容理解、视频问答等。
5. 阶跃星辰的Step-1X图像生成模型具备了更强的深度语义对齐能力和细节生成能力与创新力，通过Step-1V大模型对高标准训练图像实施精细化标签处理，可获得图文配对数据，极大提升了语义匹配的准确度与深度，即使面对包含多个对象、详细属性、复杂逻辑关系的文本指令时，也能确保生成图像与描述相符和。
6. 阶跃星辰的产品开发更加有底气，在定位为智能助手的跃问中，加入了智能视觉搜索功能「拍照问」。「拍照问」能够解决难以用语音和文字准确描述的问题，比如，拍一张今日晚餐，跃问就可以计算卡路里摄入；随手拍各种物体图片，跃问就能反馈正确的发音、例句。
阅读原文
2. 在LiveBench榜单中的多项测评标准中，Step-2在IF Average（指令跟随）的表现上以86.57的分数排在第一，超越包括o1-preview-2024-09-12在内的所有国内外语言大模型。
3. 阶跃星辰的Step-2万亿参数大模型采用MoE架构，通过部分专家共享参数、异构化专家设计等创新MoE架构设计，Step-2中的每个“专家训练，不仅总参数量达到了万亿级别，每次训练或推理所激活的参数量也超过了市面上的大部分Dense模型。
4. 阶跃星辰的Step-1.5V是Step系列里的多模态大模型，其视频理解能力不仅能够准确识别视频中的物体、人物和环境，还能够理解视频的整体氛围和人物情绪，因此被应用于各种视频分析和处理任务，如视频内容理解、视频问答等。
5. 阶跃星辰的Step-1X图像生成模型具备了更强的深度语义对齐能力和细节生成能力与创新力，通过Step-1V大模型对高标准训练图像实施精细化标签处理，可获得图文配对数据，极大提升了语义匹配的准确度与深度，即使面对包含多个对象、详细属性、复杂逻辑关系的文本指令时，也能确保生成图像与描述相符和。
6. 阶跃星辰的产品开发更加有底气，在定位为智能助手的跃问中，加入了智能视觉搜索功能「拍照问」。「拍照问」能够解决难以用语音和文字准确描述的问题，比如，拍一张今日晚餐，跃问就可以计算卡路里摄入；随手拍各种物体图片，跃问就能反馈正确的发音、例句。
视频干货精讲 | 大模型时代，你准备好了吗
文章概要：
1. 大模型时代的社会机遇与挑战：回顾大语言模型技术发展，将其总结为3个发展阶段并论述关键技术特征，然后基于技术与社会互动视角分别探讨大语言模型技术引发的机遇个人通用信息、科学研究范式、产业基础设施、治理能力现代化有力工具，以及面临的潜在挑战：信息问题、社会权力分配问题、伦理和法制问题、意识形态安全问题>2. 大模型时代网络基础设施研究：了阿里云专门为大模型设计的数据中心网络HPN以及任务通信调度方法Crux解决上述3个挑战
3. 大模型驱动的智能体：将大语言模型集成到个人助手中能有效个人助手与交互解决复杂问题物联网设备等能力，这类助手也被称为大模型驱动的体，也可称其为智能体
4. 大模型道德：为了防止大语言模型与人类协作中对人类伤害，如何确保大语言模型在日常场景中的判断能与人类道德观念成为了一个重要问题
5. 大模型存储针对模型训练的存储加速技术包括：基于大模型计算模式的分布式显存管理技术，依据大计算任务的划分模式和计算任务间的依赖关系，设计模型数据在集群中的划分、存储和策略；大模型训练访存感知的异构存储技术，借助大模型训练中的访存模式预测的特性，设计异构设备中的数据预取和传输策略；大模型数据缩减技术，针对模型数据的，对模型训练过程中的数据进行缩减
6. 大模型鲁棒性：大语言模型（large language models，LLMs）所展现的处理各种自然语言处理（natural language processing，的了广泛关注. 然而，它们在中各种场景时的鲁棒性尚未得到充分，这对于评估模型的稳定性和可靠性尤为重要
7. 大模型与安全专题：模型在显著提升人工智能模型通用理解和能力的同时，带来了前所未有的安全风险
阅读原文
3. 大模型驱动的智能体：将大语言模型集成到个人助手中能有效个人助手与交互解决复杂问题物联网设备等能力，这类助手也被称为大模型驱动的体，也可称其为智能体
4. 大模型道德：为了防止大语言模型与人类协作中对人类伤害，如何确保大语言模型在日常场景中的判断能与人类道德观念成为了一个重要问题
5. 大模型存储针对模型训练的存储加速技术包括：基于大模型计算模式的分布式显存管理技术，依据大计算任务的划分模式和计算任务间的依赖关系，设计模型数据在集群中的划分、存储和策略；大模型训练访存感知的异构存储技术，借助大模型训练中的访存模式预测的特性，设计异构设备中的数据预取和传输策略；大模型数据缩减技术，针对模型数据的，对模型训练过程中的数据进行缩减
6. 大模型鲁棒性：大语言模型（large language models，LLMs）所展现的处理各种自然语言处理（natural language processing，的了广泛关注. 然而，它们在中各种场景时的鲁棒性尚未得到充分，这对于评估模型的稳定性和可靠性尤为重要
7. 大模型与安全专题：模型在显著提升人工智能模型通用理解和能力的同时，带来了前所未有的安全风险
国产大模型独角兽，困在光环里
文章概要：
1. 月之暗面举办媒体沟通会，发布数学模型，并与其他模型进行测试分数对比
2. 月之暗面作风另类，只推拳头产品Kimi，其用户数快速攀升，但口碑逐渐下滑，被质疑模型乏善可陈，生态资源被大厂碾压，产品更新多为缝缝补补
3. 月之暗面陷入麻烦，特长被复刻，出海失利，被前资方“逼宫”，陷入套现疑云和仲裁风波
4. 国产大模型独角兽面临人才、技术、产品、财力四重困局，包括人才流失、模型提升见顶、产品同质化、烧钱问题等
5. 产业对大模型逐渐祛魅，大模型创企需解决概念丰满但产品骨感的问题，消除业界疑虑，自证造血能力
阅读原文
2. 月之暗面作风另类，只推拳头产品Kimi，其用户数快速攀升，但口碑逐渐下滑，被质疑模型乏善可陈，生态资源被大厂碾压，产品更新多为缝缝补补
3. 月之暗面陷入麻烦，特长被复刻，出海失利，被前资方“逼宫”，陷入套现疑云和仲裁风波
4. 国产大模型独角兽面临人才、技术、产品、财力四重困局，包括人才流失、模型提升见顶、产品同质化、烧钱问题等
5. 产业对大模型逐渐祛魅，大模型创企需解决概念丰满但产品骨感的问题，消除业界疑虑，自证造血能力
大模型深度学习
文章概要：
1. 温度参数T会应用于每一步的条件概率分布，将其幂变为1/T。当T值较高的时候，会获得更平均的概率分布，生成的结果更具随机性；当T值较低，模型会更倾向于生成概率较高的词元。
2. 语言模型是序列的概率分布。自回归语言模型允许有效生成给定提示的补全。
3. 熵是用来衡量将样本编码成比特串需要的预期比特数的度量。熵的值越小，表明序列的结构性越强，编码的长度越短。
4. 语言模型最初在信息理论的背景下研究，用来估计英语的熵。N-gram模型在计算上极其高效，但在统计上效率低下。N-gram模型在短上下文长度中与另一个模型（用于识别的声学模型或用于机器翻译的翻译模型）联合使用是有用的。神经语言模型在统计上高效，在计算上低效。
5. 语言模型的适应性：从语言模型到任务模型的转化。这个过程需要2个输入：任务的自然语言描述和一组训练实例。主要有两种方式进行这种适应：训练和提示学习。
6. 困惑度：衡量语言模型的性能。它反映了模型在预测下一个词时的平均不确定性。困惑度与语言模型的质量紧密相关，一个优秀的语言模型应能准确预测测试数据的词序列，因此困惑度应较低。序列的联合概率取决于长度，随着长度的增长，值趋近于零。
7. 语言模型可能会有两种类型的错误：召回错误和精确度错误。
8. 编码端架构，如BERT,RoBERTa等，生成上下文向量表征，但不能直接用于生成文本，常用于分类任务。上下文向量表征可以双向地依赖于左侧、右侧上下文。计算双向上下文嵌入。BERT的目标函数包含两部分：掩码语言模型和下一句预测。
9. 解码器架构，如GPT系列，是的自回归语言模型，给定一个提示，生成上下文向量表征，并对下一个词元生成一个概率分布。但是上下文向量表征只能单向的依赖于左侧上下文。计算单向上下文嵌入，一次生成一个token。使用最大似然原理定义负对数似然目标函数，对目标函数进行优化来训练解码器。
10. 编码-解码端架构：BART,T5等，可以使用双向上下文向量表征来处理输入，并生成输出。缺点就是需要更多的特定训练目标。编码输入，解码输出。
11. 大模型适配需要预训练语言模型、下游任务数据集、适配参数、任务损失函数和问题。主流的适配方法有Probing、Fine-tuning、Lightweight Fine-tuning。
12. 分布式训练有数据并行、模型并行、流水并行和混合并行。
13. 基于大模型智能体有无反馈规划和有反馈规划。无反馈规划的流行技术包括思维链COT和思维树TOT。有反馈规划的ReAct通过结合特定任务的离散动作与语言描述，实现了在大规模语言模型中融合推理与执行的能力。Reflexion是一个框架，旨在通过赋予智能体动态记忆和自我反思能力来提升推理技巧。
14. 记忆模块是智能体存储内部日志的关键组成部分，负责存储过去的思考、行动、观察、与用户的互动。短期记忆关注当前情境的上下文信息，短暂且有限，通常通过上下文窗口限制学习实现。长期记忆储存智能体的历史行为和思考，通过外部向量存储，以便快速检索重要信息。混合记忆整合，不仅优化了智能体对当前情境的理解，还加强了对过去经验的利用。
15. LLM以不同方式利用工具：MRKL、Toolformer、Function Calling和HuggingGPT。
16. agent的挑战有角色适应性问题、上下文长度限制、提示的鲁棒性、知识边界的控制和效率和成本问题。
阅读原文
2. 语言模型是序列的概率分布。自回归语言模型允许有效生成给定提示的补全。
3. 熵是用来衡量将样本编码成比特串需要的预期比特数的度量。熵的值越小，表明序列的结构性越强，编码的长度越短。
4. 语言模型最初在信息理论的背景下研究，用来估计英语的熵。N-gram模型在计算上极其高效，但在统计上效率低下。N-gram模型在短上下文长度中与另一个模型（用于识别的声学模型或用于机器翻译的翻译模型）联合使用是有用的。神经语言模型在统计上高效，在计算上低效。
5. 语言模型的适应性：从语言模型到任务模型的转化。这个过程需要2个输入：任务的自然语言描述和一组训练实例。主要有两种方式进行这种适应：训练和提示学习。
6. 困惑度：衡量语言模型的性能。它反映了模型在预测下一个词时的平均不确定性。困惑度与语言模型的质量紧密相关，一个优秀的语言模型应能准确预测测试数据的词序列，因此困惑度应较低。序列的联合概率取决于长度，随着长度的增长，值趋近于零。
7. 语言模型可能会有两种类型的错误：召回错误和精确度错误。
8. 编码端架构，如BERT,RoBERTa等，生成上下文向量表征，但不能直接用于生成文本，常用于分类任务。上下文向量表征可以双向地依赖于左侧、右侧上下文。计算双向上下文嵌入。BERT的目标函数包含两部分：掩码语言模型和下一句预测。
9. 解码器架构，如GPT系列，是的自回归语言模型，给定一个提示，生成上下文向量表征，并对下一个词元生成一个概率分布。但是上下文向量表征只能单向的依赖于左侧上下文。计算单向上下文嵌入，一次生成一个token。使用最大似然原理定义负对数似然目标函数，对目标函数进行优化来训练解码器。
10. 编码-解码端架构：BART,T5等，可以使用双向上下文向量表征来处理输入，并生成输出。缺点就是需要更多的特定训练目标。编码输入，解码输出。
11. 大模型适配需要预训练语言模型、下游任务数据集、适配参数、任务损失函数和问题。主流的适配方法有Probing、Fine-tuning、Lightweight Fine-tuning。
12. 分布式训练有数据并行、模型并行、流水并行和混合并行。
13. 基于大模型智能体有无反馈规划和有反馈规划。无反馈规划的流行技术包括思维链COT和思维树TOT。有反馈规划的ReAct通过结合特定任务的离散动作与语言描述，实现了在大规模语言模型中融合推理与执行的能力。Reflexion是一个框架，旨在通过赋予智能体动态记忆和自我反思能力来提升推理技巧。
14. 记忆模块是智能体存储内部日志的关键组成部分，负责存储过去的思考、行动、观察、与用户的互动。短期记忆关注当前情境的上下文信息，短暂且有限，通常通过上下文窗口限制学习实现。长期记忆储存智能体的历史行为和思考，通过外部向量存储，以便快速检索重要信息。混合记忆整合，不仅优化了智能体对当前情境的理解，还加强了对过去经验的利用。
15. LLM以不同方式利用工具：MRKL、Toolformer、Function Calling和HuggingGPT。
16. agent的挑战有角色适应性问题、上下文长度限制、提示的鲁棒性、知识边界的控制和效率和成本问题。
大模型｜人工智能时代的人类挑战
文章概要：
1. 基辛格遗作警告人工智能挑战人类主导地位
2. OpenAIChatGPT高级语音模式扩展至端
3. 谷歌AI聊天机器人Gemini引入“记忆>4.antic开发“大型地理空间模型”
5. 微软推出云端台式设备Windows 35
6. 微软推出Copilot Actions功能
7. AWS推出多代理AI管理新框架
8. 全新开源AI设计工具LogoCreator发布
9. El Capitan登顶超级计算机TOP500排行榜
阅读原文
2. OpenAIChatGPT高级语音模式扩展至端
3. 谷歌AI聊天机器人Gemini引入“记忆>4.antic开发“大型地理空间模型”
5. 微软推出云端台式设备Windows 35
6. 微软推出Copilot Actions功能
7. AWS推出多代理AI管理新框架
8. 全新开源AI设计工具LogoCreator发布
9. El Capitan登顶超级计算机TOP500排行榜
原创：大模型与AIGC的进一步融合与创新：探索未来趋势
文章概要：
1. 人工智能技术推动大模型与AIGC紧密结合，新大模型发布及A应用使行业迎来变革。
. 自ChatGPT问世以来，模型推动AI大模型在2023年爆发式增长，2024年新大模型发布刷新技术边界，多模态大模型成为行业共识。
3. 大型模型性能提升使AIG应用成为关注焦点，AIGC广告、影视等领域展现出巨大潜力价值。
. 大模型与AIG融合创新面临分散不足、政策法规、融入业务实践困难等。
. APUS在创新应用大模型与AIGC融合提供参考，未来大模型与AIGC应用更广泛。
阅读原文
. 自ChatGPT问世以来，模型推动AI大模型在2023年爆发式增长，2024年新大模型发布刷新技术边界，多模态大模型成为行业共识。
3. 大型模型性能提升使AIG应用成为关注焦点，AIGC广告、影视等领域展现出巨大潜力价值。
. 大模型与AIG融合创新面临分散不足、政策法规、融入业务实践困难等。
. APUS在创新应用大模型与AIGC融合提供参考，未来大模型与AIGC应用更广泛。
先维多模态大模型之视觉大模型的介绍及应用实践
文章概要：
1. 随着人工智能技术，视觉大模型成为热门话题，先维推出“卧龙明理”多模态大模型并应用于多个领域
2. 视觉大模型应用面临训练、、应用门槛高，不同场景下表现不稳定，缺乏自主进化能力等
3. 先维推出一站式视觉大模型应用平台，通过大模型蒸馏和快速自动生产场景模型，解决了视觉大落地应用面临的挑战
4. 先维通过数据回流和模型自主训练实现了视觉大模型的自主迭代优化
5. 先维视觉大模型应用方案包括智能制造、智慧交通、智慧能源、智慧水利多个领域
6. 先维将继续深造视觉大模型技术，不断拓展新的应用场景，同时不断优化视觉大模型能力，为更多的企业用户提供新质力
7. 南京先维信息技术有限公司成立于2013年，是一家专注于大数据、人工智能、移动协同、网络安全的国家级高新技术
8. 公司核心成员均来自世界500强企业和行业领军企业，技术人员占比超过80%，拥有众多核心技术，具备自主知识产权
9.坚持以创新、技术、服务为价值观，以“先破冰踏浪，维登峰弄潮”的磅礴气势作为我们的核心文化，秉承敢为人先、客户至上的经营理念，致力于打造技术一流的团队，为客户提供专业的信息技术服务，持续为客户创造价值
阅读原文
2. 视觉大模型应用面临训练、、应用门槛高，不同场景下表现不稳定，缺乏自主进化能力等
3. 先维推出一站式视觉大模型应用平台，通过大模型蒸馏和快速自动生产场景模型，解决了视觉大落地应用面临的挑战
4. 先维通过数据回流和模型自主训练实现了视觉大模型的自主迭代优化
5. 先维视觉大模型应用方案包括智能制造、智慧交通、智慧能源、智慧水利多个领域
6. 先维将继续深造视觉大模型技术，不断拓展新的应用场景，同时不断优化视觉大模型能力，为更多的企业用户提供新质力
7. 南京先维信息技术有限公司成立于2013年，是一家专注于大数据、人工智能、移动协同、网络安全的国家级高新技术
8. 公司核心成员均来自世界500强企业和行业领军企业，技术人员占比超过80%，拥有众多核心技术，具备自主知识产权
9.坚持以创新、技术、服务为价值观，以“先破冰踏浪，维登峰弄潮”的磅礴气势作为我们的核心文化，秉承敢为人先、客户至上的经营理念，致力于打造技术一流的团队，为客户提供专业的信息技术服务，持续为客户创造价值
唯一无障碍可用的外国知名大模型Mistral的LeChat，用它的Canvas可复现李继刚大神级的汉语新解，文生图插件还不带水印
文章概要：
1. 欧洲知名大模型厂商Mistral的LeChat是唯一无障碍可用的外国知名大模型官方应用，它提供了、Web搜索、文生三种插件。
2. 用户可以用微软邮箱账号登录LeChat，使用微软的Edge浏览器体验最佳。
3. 在LeChat的Canvas上，可以使用李继刚同学的“汉字新解”提示词生成网页。
4. 文生图功能生成的图片不带水印，但需要输入英文指令。
阅读原文
2. 用户可以用微软邮箱账号登录LeChat，使用微软的Edge浏览器体验最佳。
3. 在LeChat的Canvas上，可以使用李继刚同学的“汉字新解”提示词生成网页。
4. 文生图功能生成的图片不带水印，但需要输入英文指令。
M3DocRAG：文档问答用哪个多模态大模型效果最好？
文章概要：
1. 介绍了M3DocRAG框架，一种新颖的多模态RAG框架，能够灵活适应各种文档上下文、问题跳转和证据模式。
2. M3DocRAG分三个阶段运作：文档嵌入阶段、页面检索阶段、问答阶段。
3. 开放领域文档视觉问答的评估结果多模态RAG比文本RAG表现更出色，尤其是在非文本证据来源方面。
4. 封闭域文档视觉问答的评估结果：多模态RAG增强了MLM对长文档的理解能力。
5. 额外分析：不同页面索引的速度与准确性、不同的多模态语言模型、不同的多模态检索模型。
阅读原文
2. M3DocRAG分三个阶段运作：文档嵌入阶段、页面检索阶段、问答阶段。
3. 开放领域文档视觉问答的评估结果多模态RAG比文本RAG表现更出色，尤其是在非文本证据来源方面。
4. 封闭域文档视觉问答的评估结果：多模态RAG增强了MLM对长文档的理解能力。
5. 额外分析：不同页面索引的速度与准确性、不同的多模态语言模型、不同的多模态检索模型。
国产4o大模型，秒懂国风李子柒
文章概要：
1. 介绍了国产实时语音对话产品Skyo，它能对实时新闻热点进行精准掌握和总结。
2. 展示了Skyo在聊天时的多种能力，包括随意打断、中英切换、不让话掉到地上、情感陪伴和人声可变等。
3. 阐述了Skyo的技术原理和优势，包括端到端实时语音对话建模技术、全双工和低延迟的实时语音对话架构等。
4. 指出了实时语音对话助手市场存在的痛点，如多语言支持不足、情感理解和个性化记忆有待提升等。
5. 强调了Skyo在实时语音对话助手领域的发展意义，以及对昆仑万维在大模型时代自身发展的重要性。
阅读原文
2. 展示了Skyo在聊天时的多种能力，包括随意打断、中英切换、不让话掉到地上、情感陪伴和人声可变等。
3. 阐述了Skyo的技术原理和优势，包括端到端实时语音对话建模技术、全双工和低延迟的实时语音对话架构等。
4. 指出了实时语音对话助手市场存在的痛点，如多语言支持不足、情感理解和个性化记忆有待提升等。
5. 强调了Skyo在实时语音对话助手领域的发展意义，以及对昆仑万维在大模型时代自身发展的重要性。
大模型深陷版权博弈 数据训练坚冰将破
文章概要：
1. 美国多家唱片起诉Suno，Suno案是内容和娱乐行业针对人工智能的初次诉讼，具有特殊重要的意义。
2. 模型预训练是否应当适用合理使用，本质是法理问题。但在依据法理展开逻辑分析前，了解行业和技术实况仍然可以帮助我们全面观察问题。
3. 原告主张和法律依据，在RIAA诉Suno案（Case 1:24-cv-11611 ）起诉状中，原告（集体）主张的救济请求（PRAYER FOR RELIEF）和法律依据主要包括：A，....；B，依据《美国版权法》第17条、第2条申请对被告的初步和永久禁令 ；C，依据《美国法典》第17编第504(c)条主张 每件被侵权作品15万美元的赔偿 或依据《美国法典》第17编第504(b)条主张实际损害赔偿（原告将在庭审中公布金额）。
4. 模型训练与结果生成应该进行单独而不是整体判断，版权对AI版权侵权争议的通常分析，模型训练和结果生成两个阶段普遍被合并在一起讨论。
5. 模型训练和生成行为相互，数据训练和结果生成是两个在时间、对象和行为外观上都独立的行为，应该进行独立判断。
6. 模型训练和生成之间没有线性因果，模型训练与生成之间在行为上相互独立。
7. 模型生成内容的侵权判断，原告版权内容是Suno训练的必选项，被告承认使用，原告证据充分。
8. 预训练应当坚持适用合理使用，合理使用的重大争议，在去年《人工智能数据训练的法律竞争》和今年《人工智能立法与合规中的版权挑战》两篇文章中，我都认为全球范围主流国家和地区包括欧美日韩以色列等都倾向支持模型预训练适用合理使用，建议中国在既有规则和立法态度都不明确情况下应当向合理使用跟进 。10. 如果接受合理使用，这个世界还会好吗，对合理使用最好的批评者，然而合理使用依然合理，合理使用不排除其它策略。
阅读原文
2. 模型预训练是否应当适用合理使用，本质是法理问题。但在依据法理展开逻辑分析前，了解行业和技术实况仍然可以帮助我们全面观察问题。
3. 原告主张和法律依据，在RIAA诉Suno案（Case 1:24-cv-11611 ）起诉状中，原告（集体）主张的救济请求（PRAYER FOR RELIEF）和法律依据主要包括：A，....；B，依据《美国版权法》第17条、第2条申请对被告的初步和永久禁令 ；C，依据《美国法典》第17编第504(c)条主张 每件被侵权作品15万美元的赔偿 或依据《美国法典》第17编第504(b)条主张实际损害赔偿（原告将在庭审中公布金额）。
4. 模型训练与结果生成应该进行单独而不是整体判断，版权对AI版权侵权争议的通常分析，模型训练和结果生成两个阶段普遍被合并在一起讨论。
5. 模型训练和生成行为相互，数据训练和结果生成是两个在时间、对象和行为外观上都独立的行为，应该进行独立判断。
6. 模型训练和生成之间没有线性因果，模型训练与生成之间在行为上相互独立。
7. 模型生成内容的侵权判断，原告版权内容是Suno训练的必选项，被告承认使用，原告证据充分。
8. 预训练应当坚持适用合理使用，合理使用的重大争议，在去年《人工智能数据训练的法律竞争》和今年《人工智能立法与合规中的版权挑战》两篇文章中，我都认为全球范围主流国家和地区包括欧美日韩以色列等都倾向支持模型预训练适用合理使用，建议中国在既有规则和立法态度都不明确情况下应当向合理使用跟进 。
Science:如何理解大模型的智能本质
文章概要：
1. 本文主要探讨了大模型的本质，不同的隐喻如何影响我们对它们的理解和交互的方式。br>2. 文章提到，许多人大模型类比于一个单独的人类思维，而另一些人提出了的理解方式，将它们视为“角色扮演者”、“图书馆和百科全书”等
3. 文章还指出，人类倾向于拟人化人类事物，包括大模型，会影响我们对它们期望和信任程度。
4. 文章强调，我们大模型的不仅会我们如何与它们，还会影响我们如何科学地看待，以及如何法律和政策来规范它们。
阅读原文
3. 文章还指出，人类倾向于拟人化人类事物，包括大模型，会影响我们对它们期望和信任程度。
4. 文章强调，我们大模型的不仅会我们如何与它们，还会影响我们如何科学地看待，以及如何法律和政策来规范它们。
AI+教育：大模型引领全场景智能化革新（附股）
文章概要：
1. AI技术变革传统教育，AI+教育市场未来可期。海外企业接入GPT实现产品能力提升，国内企业自研AI大模型，未来商业化进程有望加速。
2. AI+教育需求空间巨大，K12教育或将成为AI主要落地领域。一方面，国家教育财政支出稳定增长，另一方面，居民教育投入意愿逐步增强。
3. AI+教育主要应用于“教、学、考、”四大场景，具体包括：教学上通过AI辅助实现教师减负，带来教学效果的提升；学习上针对学生进行个性化学习方案定制，实现因材施教；考试上对于出题-监考-阅卷-讲评等环节，AI实现全流程覆盖；管理上通过AI校园进行高效管理，从而达到智慧校园的阶段，覆盖教育产业全流程。
4. 以GPT为代表的生成式大模型突破AI旧瓶颈，有望重塑AI教育范式。具体而言，生成式大模型有望赋能以下场景：拍照解题、促进教师-学生互动、创建虚拟口语对话伙伴、智能助手协助教师备课、虚拟教师开展全流程教学工作。
5. 海外教育企业积极布局生成式大模型产品，个性化学习将是未来大模型发展的主要方向。海外语言学习平台Duolingo借助AI建立课程体系，旗下产品Duolingo Max接入GPT-4，模拟真人教学过程，2023-2024财年Duolingo的AI+教育应用加速落地，用户数量、收入均实现显著增长，商业化效果初显。
6. 国内竞争格局方面，企业普遍选择自研垂类教育大模型，互联网企业、教育科技企业、科研机构和高校团队纷纷入局。客户端和学习机将是AI+大模型教育的主要落地形式。
7. AI大模型有望应用于“教、学、考、管”教育全场景，推动全流程智能化，助力个性化学习。国内各大厂商积极投入大模型研发，看好AI在教育领域中的广泛应用，重点推荐：【科大讯飞】。
阅读原文
2. AI+教育需求空间巨大，K12教育或将成为AI主要落地领域。一方面，国家教育财政支出稳定增长，另一方面，居民教育投入意愿逐步增强。
3. AI+教育主要应用于“教、学、考、”四大场景，具体包括：教学上通过AI辅助实现教师减负，带来教学效果的提升；学习上针对学生进行个性化学习方案定制，实现因材施教；考试上对于出题-监考-阅卷-讲评等环节，AI实现全流程覆盖；管理上通过AI校园进行高效管理，从而达到智慧校园的阶段，覆盖教育产业全流程。
4. 以GPT为代表的生成式大模型突破AI旧瓶颈，有望重塑AI教育范式。具体而言，生成式大模型有望赋能以下场景：拍照解题、促进教师-学生互动、创建虚拟口语对话伙伴、智能助手协助教师备课、虚拟教师开展全流程教学工作。
5. 海外教育企业积极布局生成式大模型产品，个性化学习将是未来大模型发展的主要方向。海外语言学习平台Duolingo借助AI建立课程体系，旗下产品Duolingo Max接入GPT-4，模拟真人教学过程，2023-2024财年Duolingo的AI+教育应用加速落地，用户数量、收入均实现显著增长，商业化效果初显。
6. 国内竞争格局方面，企业普遍选择自研垂类教育大模型，互联网企业、教育科技企业、科研机构和高校团队纷纷入局。客户端和学习机将是AI+大模型教育的主要落地形式。
7. AI大模型有望应用于“教、学、考、管”教育全场景，推动全流程智能化，助力个性化学习。国内各大厂商积极投入大模型研发，看好AI在教育领域中的广泛应用，重点推荐：【科大讯飞】。
ICLR 高分：深入研究多模态大模型的对齐策略
文章概要：
1. 多模态大模型面临“幻觉”现象，即生成的描述可能不符合视觉内容，研究人员提出偏好对齐方法来增强模型与图像内容的契合度
2. 本文将偏好对齐方法分为离线方法和在线方法，并结合离线和在线方法可在某些情况下进一步提升模型性能
3. 回顾了多种已发布的多模态偏好数据集，并分析其构建细节如何影响模型表现
4. 提出了“偏差驱动幻觉采样”（Bias-Driven Hallucination SamHS），无需额外的人工标注或外部模型支持，仅依赖于偏差驱动的采样，即可生成具有竞争力的对齐数据
5. 在多个基准任务上验证BDHS的效果，展示了其在减少幻觉现象方面的有效性，与更大规模的偏好数据集相比，BDHS依然表现出色
6. 多模态偏好数据通常由一个或多个多模态大语言模型（MLLMs）生成的响应构建，且通常不包含待对齐的模型
7. 负样本的生成过程包括VID-Style图像和偏见驱动的幻觉采样（BDHS）
8. BDHS通过随机屏蔽部分图像嵌入来诱导模型响应
9. 为了避免生成的非优选响应只是对优选响应的简单改写，BDHS在生成非优选响应后进行语义相似度检测
10. 通过一系列实验发现了多模态大模型（MLLM）对齐的重要组件
11. 对于对齐数据集的不同构建方式，实验显示了一些关键要点
12. 为了更准确地分析偏好数据集对对齐效果的影响，实验控制了数据集大小
13. 进一步的实验了不同偏好数据构建方式的影响
14. 在RLHF对齐中，首先训练了一个奖励模型，用于评估模型生成的响应质量
16. 在POVID和RLHF-V数据集上应用了在线DPO和混合DPO策略
17. 为评估标注器的影响，实验中采用了LLaVA 1.6-7B和更强的LLaVA 16-34B标注器
18. 在主要使用DPO方法进行实验的基础上，还进行了IPO和SLiC等其他离线方法的探索
19. 本研究探讨了偏好对齐在提升多模态大模型（MLLMs）性能方面的作用，尤其是在减少幻觉现象方面的效果
20. 研究开发了一个新型偏好数据集，并提出了BDHS（Bias-Driven Hallination Sampling）数据采样策略
21. 本文展示了MLLM偏好对齐的关键进展和存在的挑战，并解决的重要问题
阅读原文
2. 本文将偏好对齐方法分为离线方法和在线方法，并结合离线和在线方法可在某些情况下进一步提升模型性能
3. 回顾了多种已发布的多模态偏好数据集，并分析其构建细节如何影响模型表现
4. 提出了“偏差驱动幻觉采样”（Bias-Driven Hallucination SamHS），无需额外的人工标注或外部模型支持，仅依赖于偏差驱动的采样，即可生成具有竞争力的对齐数据
5. 在多个基准任务上验证BDHS的效果，展示了其在减少幻觉现象方面的有效性，与更大规模的偏好数据集相比，BDHS依然表现出色
6. 多模态偏好数据通常由一个或多个多模态大语言模型（MLLMs）生成的响应构建，且通常不包含待对齐的模型
7. 负样本的生成过程包括VID-Style图像和偏见驱动的幻觉采样（BDHS）
8. BDHS通过随机屏蔽部分图像嵌入来诱导模型响应
9. 为了避免生成的非优选响应只是对优选响应的简单改写，BDHS在生成非优选响应后进行语义相似度检测
10. 通过一系列实验发现了多模态大模型（MLLM）对齐的重要组件
11. 对于对齐数据集的不同构建方式，实验显示了一些关键要点
12. 为了更准确地分析偏好数据集对对齐效果的影响，实验控制了数据集大小
13. 进一步的实验了不同偏好数据构建方式的影响
14. 在RLHF对齐中，首先训练了一个奖励模型，用于评估模型生成的响应质量
16. 在POVID和RLHF-V数据集上应用了在线DPO和混合DPO策略
17. 为评估标注器的影响，实验中采用了LLaVA 1.6-7B和更强的LLaVA 16-34B标注器
18. 在主要使用DPO方法进行实验的基础上，还进行了IPO和SLiC等其他离线方法的探索
19. 本研究探讨了偏好对齐在提升多模态大模型（MLLMs）性能方面的作用，尤其是在减少幻觉现象方面的效果
20. 研究开发了一个新型偏好数据集，并提出了BDHS（Bias-Driven Hallination Sampling）数据采样策略
21. 本文展示了MLLM偏好对齐的关键进展和存在的挑战，并解决的重要问题
聊一聊做角色扮演大模型的经验
文章概要：
1. 分享了一些角色扮演大模型的产品设计心得，包括产品设计的重要性、对角色扮演大模型的认知、谁在消费角色扮演大模型、碎碎念。
2. 分享了一些角色扮演大模型训练经验，包括数据生产、模型微调。
阅读原文
2. 分享了一些角色扮演大模型训练经验，包括数据生产、模型微调。