九个AI 大模型的功能特点与优势浅析（附链接）
文章概要：
1. 文心一言：属于大规模语言模型，可进行文本创作、翻译、答疑、辅助写作等任务，擅长生成高品质教育类文章。
. 讯飞星火：主要用于语音识别与合成，支持多语种翻译、智能对话以及教育测评等功能，语音识别技术在课堂录音、语音助手以及口语练习方面优势明显。4 天工AI：在图像、自然语言处理以及机器学习均有出色表现，广泛应用于评估和智慧校园管理，能够自动批改作业、分析学习数据，并借助图像识别技术辅助教师进行课堂管理和学生行为监控。
5. 百川AI：主要在智能客服、知识图谱构建以及教育资源推荐等方面发挥作用，在教育资源推荐方面表现突出。
6. 豆包AI：专注于情感计算与人机交互，在教育心理健康辅导和智能辅导员方面独具优势。
7. GPT-4O：是新一代大规模语言模型，以卓越的文本生成能力和深度理解能力著称，在教育的应用广泛。
8. 商汤：在计算机视觉和深度学习方面优势显著，应用于智能监控、在线教育平台和虚拟实验室等领域。
9. Kimi模型：主要有6项功能，长文总结和生成、联网搜索、数据处理编写代码、用户交互、，在自然语言处理领域表现出色，擅长情感分析和文本分类任务。
阅读原文
. 讯飞星火：主要用于语音识别与合成，支持多语种翻译、智能对话以及教育测评等功能，语音识别技术在课堂录音、语音助手以及口语练习方面优势明显。
5. 百川AI：主要在智能客服、知识图谱构建以及教育资源推荐等方面发挥作用，在教育资源推荐方面表现突出。
6. 豆包AI：专注于情感计算与人机交互，在教育心理健康辅导和智能辅导员方面独具优势。
7. GPT-4O：是新一代大规模语言模型，以卓越的文本生成能力和深度理解能力著称，在教育的应用广泛。
8. 商汤：在计算机视觉和深度学习方面优势显著，应用于智能监控、在线教育平台和虚拟实验室等领域。
9. Kimi模型：主要有6项功能，长文总结和生成、联网搜索、数据处理编写代码、用户交互、，在自然语言处理领域表现出色，擅长情感分析和文本分类任务。
大模型赋能生物制造：ChatGPT-4助力优化无细胞蛋白质合成系统，提升抗菌蛋白产量9倍
文章概要：
1. 研究团队利用ChatGPT-4实现了CFPS系统的自动化优化，显著提高了抗菌蛋白的产量。
2. 研究团队设计了一个完整的主动学习循环系统，包含五个主要模块：取样器、设计器指令生成器、实验执行器和学习器。
3. 研究团队采用了聚类边际(CM)方法进行样本选择，该方法在保持样本多样性的同时确保信息量最大化。
4. 研究团队通过这个系统成功优化两种抗菌蛋白的生产：Colicin M系统产量提升9倍，Colicin E1系统产量提升3倍。
5. ChatGPT-4在本研究中发挥了关键作用，包括代码生成、工作流程自动化和错误处理。
6. 这项研究展示了大模型在生物制造领域的巨大潜力，为生物工程领域提供了新的研究方向。
阅读原文
2. 研究团队设计了一个完整的主动学习循环系统，包含五个主要模块：取样器、设计器指令生成器、实验执行器和学习器。
3. 研究团队采用了聚类边际(CM)方法进行样本选择，该方法在保持样本多样性的同时确保信息量最大化。
4. 研究团队通过这个系统成功优化两种抗菌蛋白的生产：Colicin M系统产量提升9倍，Colicin E1系统产量提升3倍。
5. ChatGPT-4在本研究中发挥了关键作用，包括代码生成、工作流程自动化和错误处理。
6. 这项研究展示了大模型在生物制造领域的巨大潜力，为生物工程领域提供了新的研究方向。
深度揭秘：大模型如何学习理解蛋白质序列结构的内在规律？
文章概要：
1. 人工智能在蛋白质结构预测领域取得了突破性进展，特别是基于大语言模型的方法，如AlphaFold2、ESMFold等，展现出了惊人的预测能力。
2 研究团队从一个有趣的出发，LM基础的结构预测器错误地预测蛋白质异构体的非物理结构，由此展开了ESM-2模型预测机制的深入研究。
. 研究团队通过异构体结构预测分析、范畴Jacobian计算揭示了语言工作机制
4. 研究发现，所有已知蛋白质家族的协同进化统计信息需要约26亿参数采用每个位置最多4个接触的简化假设只需要约40参数，ESM-2模型实际使用约0亿参数就达到了很好的性能。
5. 研究发现，ESM主要依赖于局部序列窗口来预测，这表明该模型是通过存储成对接触的序工作的，而不是完整地理解蛋白质折叠的原理。
6. 研究还发现，由于模型采用了基于片段的压缩策略，在预测同一家族内多种稳定构象时可能会出现不准确的情况。
阅读原文
2 研究团队从一个有趣的出发，LM基础的结构预测器错误地预测蛋白质异构体的非物理结构，由此展开了ESM-2模型预测机制的深入研究。
. 研究团队通过异构体结构预测分析、范畴Jacobian计算揭示了语言工作机制
4. 研究发现，所有已知蛋白质家族的协同进化统计信息需要约26亿参数采用每个位置最多4个接触的简化假设只需要约40参数，ESM-2模型实际使用约0亿参数就达到了很好的性能。
5. 研究发现，ESM主要依赖于局部序列窗口来预测，这表明该模型是通过存储成对接触的序工作的，而不是完整地理解蛋白质折叠的原理。
6. 研究还发现，由于模型采用了基于片段的压缩策略，在预测同一家族内多种稳定构象时可能会出现不准确的情况。
央国企，开始猛扑大模型！（附30家名单）
文章概要：
1. 有人认为大模型不接地气无法落地，但央国企成为推动大模型的强劲动力。br> 2. 文章列举0家央国企已成功发布的包括中国海油、国家电网中核八所、国家能源集团、中国中煤能源集团、信移动科技、、煤炭科学研究总院、北大荒有限公司
3. 央国企发布和购买大模型风向标，其背后必然有整个模型支撑，也必将让众多ICT和AI企业受益。
阅读原文
3. 央国企发布和购买大模型风向标，其背后必然有整个模型支撑，也必将让众多ICT和AI企业受益。
ChatGPT4o、o1 谁才是最佳大模型？
文章概要：
1. ChatGPT已成为众多用户的助手，广泛应用于写作、编程、学习等详细这些模型的，并分析如何根据自身需求进行选择
-3.是Open的适合、普通的回答
3. GPT-4比GPT3.5更的版本更好的语言理解和推理能力> 4. G-4的增强版本速度更高的成本效益
5. GPT Mini是轻量化的模型，有限的环境设计
6.1 Mini是OpenAI专为初级用户或任务设计的
7. 在了解了各个模型的后，可根据任务复杂度、速度需求ChatGPT
8. OpenAI不断更新和优化其模型提升用户体验
9. GPTs是OpenAI新推出的功能，允许用户自定义ChatGPT的任务和行为
阅读原文
-3.是Open的适合、普通的回答
3. GPT-4比GPT3.5更的版本更好的语言理解和推理能力> 4. G-4的增强版本速度更高的成本效益
5. GPT Mini是轻量化的模型，有限的环境设计
6.1 Mini是OpenAI专为初级用户或任务设计的
7. 在了解了各个模型的后，可根据任务复杂度、速度需求ChatGPT
8. OpenAI不断更新和优化其模型提升用户体验
9. GPTs是OpenAI新推出的功能，允许用户自定义ChatGPT的任务和行为
大模型面试遇到RLHF，说明已成功一半！
文章概要：
1. 本文对RL的实现过程做通俗讲解，重点解析如何实现一个PPO算法。
2. 介绍了RLHF的基础知识，包括Actor model、Reference model、Reward model和Critic model。
3. 用几个例子帮助大家更好的认知强化学习基础知识。
4. 详细介绍了RLHF的完整流程，包括让模型生成答案并打分、修正reward、计算优势函数和Q函数、更新Actor模型和更新Critic模型。
5. 介绍了RLHF的其他细节。
阅读原文
2. 介绍了RLHF的基础知识，包括Actor model、Reference model、Reward model和Critic model。
3. 用几个例子帮助大家更好的认知强化学习基础知识。
4. 详细介绍了RLHF的完整流程，包括让模型生成答案并打分、修正reward、计算优势函数和Q函数、更新Actor模型和更新Critic模型。
5. 介绍了RLHF的其他细节。
前沿人工智能的发展现状｜算法与模型
文章概要：
1. 算法是人工智能产业发展的核心要素之一，具有多种表现形态，理想状态下，算法能够将人的思维过程以形式化的方式输入计算机，使其可以不停地执行命令从而实现所设定的目标。br>2. Transformer架构开启算法模型快速发展时代多模态通用AI大模型成为发展趋势。<>3. 我国AI大模型数量及研制主体数量可观，为市场增长提供发展新动力。
阅读原文
AI大模型原来这么简单！一篇文章拯救你的技术恐惧症
文章概要：
1. 解释什么是模型，包括参数、Token、上下文、多模态、温度等概念。
2. 解释什么是大模型（LLM），包括其本质、核心技术让模型更贴近需求等。br> 3 介绍大模型的应用场景，内容创作、智能客服、教育领域、医疗咨询等。<> 4 介绍如何正确使用大模型，包括保持批判性、加强知识库管理、设置适当值等。
阅读原文
2. 解释什么是大模型（LLM），包括其本质、核心技术让模型更贴近需求等。br> 3 介绍大模型的应用场景，内容创作、智能客服、教育领域、医疗咨询等。<> 4 介绍如何正确使用大模型，包括保持批判性、加强知识库管理、设置适当值等。
大模型变天了！一夜之间黑盒变白盒！2大创新思路带你顺利上分
文章概要：
1. 大模型的可解释非常重要，能优化实验结果，其方法本身也是一个可发paper的创新点>2. 按照大模型的训练范式分类：传统fine-tuning范式和基于prompting的范式
. 基于传统fine-tuning的模型解释，又可分为局部解释和全局解释
4. 基于prompting的，分为对基础的解释，和对助手模型的解释
5. 传统fine-tuning范式中的局部解释是对语言模型如何针对特定输入实例进行预测的理解，对单个样本预测解释
6. 传统fine-tuning范式中的全局解释从模型的角度出发，了解各个组件（神经元、隐藏层和更大的模块）编码的内容，为大模型的机制提供更高阶的解释
7. 基于prompting的范式中的基础模型解释的具体方法为解释上下文学习、解释CoT提示、表征工程
8. 基于prompting的范式中的助手模型解释的方法包括解释微调的作用、解释幻觉不确定性量化
9. 本文总结了LLM可解释性的方法，一共118篇论文已开源的代码
阅读原文
. 基于传统fine-tuning的模型解释，又可分为局部解释和全局解释
4. 基于prompting的，分为对基础的解释，和对助手模型的解释
5. 传统fine-tuning范式中的局部解释是对语言模型如何针对特定输入实例进行预测的理解，对单个样本预测解释
6. 传统fine-tuning范式中的全局解释从模型的角度出发，了解各个组件（神经元、隐藏层和更大的模块）编码的内容，为大模型的机制提供更高阶的解释
7. 基于prompting的范式中的基础模型解释的具体方法为解释上下文学习、解释CoT提示、表征工程
8. 基于prompting的范式中的助手模型解释的方法包括解释微调的作用、解释幻觉不确定性量化
9. 本文总结了LLM可解释性的方法，一共118篇论文已开源的代码
2024 年最适合生成 Rust 代码的大模型测评
文章概要：
1. 文章介绍了关于大语言模型（LLM在生成 Rust 代码方面的测评文章
2. 测评环境使用 Ollama 作为测试平台标准的 Gen9 刀片服务器上以 CPU 模式运行测试
3. 模型性能对比如下：Code Llama）：6.3%，Stable Code3B）：230%，Replit Code V1.5（3B）：21.5%，Wizard Coder（3B：204%，Deepseek Coder（1.3B）：18.5%StarCoder（3B）：16
4. 文章给出了建议：选择自己硬件配置模型大小，优先考虑 Code Llama 等专门针对代码优化模型，结合实际项目需求，权衡模型大小与性能的平衡
阅读原文
2. 测评环境使用 Ollama 作为测试平台标准的 Gen9 刀片服务器上以 CPU 模式运行测试
3. 模型性能对比如下：Code Llama）：6.3%，Stable Code3B）：230%，Replit Code V1.5（3B）：21.5%，Wizard Coder（3B：204%，Deepseek Coder（1.3B）：18.5%StarCoder（3B）：16
4. 文章给出了建议：选择自己硬件配置模型大小，优先考虑 Code Llama 等专门针对代码优化模型，结合实际项目需求，权衡模型大小与性能的平衡
大模型在逻辑推理中是否依赖记忆力？SciPIP: 基于大模型的科学论文创意生成器....
文章概要：
1. 大模型在逻辑推理中是否依赖记忆力？
2. TokenFormer：重新思考Transform规模化与token化模型参数
3. SciPIP：基于大模型的科学论文创意生成器
4. COMAL：一种一致元算法，用于与一般偏好对齐的模型
5. 大模型预训练中细粒度标签的作用
6. 慢-快学习用于动作驱动的长视频生成
7. 基于强化学习的尝试性检索以提升大模型的性能
8 A Large Recurrent Action Model：xLSTM实现机器人任务快速推理
9. 深度学习内部工作原理
10. Attribute-Delete：高效去除遗忘集对预训练机器学习模型影响的机器遗忘
11. Project MPG：通用的性能基准测试方法 for LLM capabilities
12. DexGraspNet 2.0：在大型合成杂乱场景中学习生成灵巧抓取
13. Image2Struct：评估视觉语言模型结构提取的基准
14. EvoCodeBench的演进：面向特定领域的代码生成基准测试
1. ProTransformer：通过即插即用模式增强Transformer的稳健性
16. MutaPLM：蛋白质语言建模用于突变解释与工程研究
17. Prune and Repaint：任意比例内容自适应图像重新调整
18. 文本到模型的样本多样性量化研究
19. VisualPredicator：利用神经符号谓词学习抽象世界模型以进行机器人规划
20. FuseAnyPart：基于多重参考图像的扩散驱动面部部分互换
21. AAAR-1.0：评估AI在助力科学研究中的潜力
22. 序列预测中的校准不确定性估计
23. OS-ATLAS：通用GUI代理的基础行动模型
24. 长文本检索增强生成（Long^2RAG）：评估长文本检索与生成式查询的关键点回忆
2. MAMMAL——分子对齐多模态架构与语言模型
26 多学生扩散蒸馏用于更好的一步生成器
27. 利用小对抗训练集教学语言模型区分相似细节的研究
28. 多模态结构保留学习
29. Babble to Words：使用连续音素流预训练语言模型
30. OpenSatMap：用于大规模地图构建的精细高分辨率卫星数据集
31. Kinetix：通过基于物理控制的开放端任务探究通用智能体的训练
32. 多语言沙盒 for LLMs
33. Neural Attention Field：3D场景中新颖点相关性的端到端灵活抓取
34. VisAidMath：视觉辅助数学推理的基准测试
35. Conflux-PS策略空间响应预言的有效整合策略优势
36. FlowDCN：探索DCN类架构实现快速任意分辨率图像生成
37. 大模型的关系幻觉评估
38. CopRA：一种渐进式LoRA训练策略
39. HijackRAG：针对大规模语言模型的检索性增强型攻击
40. 知识的知觉和遗忘的逻辑动态
41. 演示选择算法的比较分析对大模型上下文学习的应用
42. 极端多标签文本分类的迁移学习
43. is More：代码生成中的DocString压缩
44. FilterT和DropoutViT轻量级视觉Transformer模型用于高效注意力机制
45. SimpsonsQA：利用定制数据集增强基于探究的学习
46. FairSkin：皮肤疾病图像生成的公平扩散模型
47. 资源受限下的预训练模型训练：10万步与百日权衡
48. 下一个集合推荐的通用集级优化框架
49. Enhancing binary classification：一种利用计算几何的新堆叠方法
50. 重新思考代码优化：学习判断代码效率
51. Orb：一种快速、可扩展的神经网络势
52. Emotional RAG：通过情感检索增强角色扮演代理
53. EMMA：端到端的自动驾驶多模态模型
54. CrossEarth：CrossEarth模型55. 基于合成数据的多领域分类器训练分析
56. 一致性扩散桥模型研究
阅读原文
今年自动驾驶只有一个声音：端到端+大模型
文章概要：
1. 长安自研智驾交卷，名为天枢大模型的“大脑小脑”端到端架构核心是感知系统、和小脑。
2. 国内端到端的技术明确为端到端+大模型，融资案例增多，工作机会越来越多。
3. 大语言模型结合自动驾驶作为新兴技术领域，着巨大的潜力和影响。
4. 自动驾驶之心推出了端到课程和自动驾驶多模态大模型实战教程。
5. 课程内容包括多模态大模型、基础模块、通用多模态大模型、微调与强化学习、在自动驾驶中的应用、求职专题等。
6.人群包括高校研究人员与学生、企业技术团队、企业技术专家和骨干、想要转行从事大模型的。
7. 讲师是业内一线大厂高级算法工程师Sora，具有丰富的经验。
阅读原文
2. 国内端到端的技术明确为端到端+大模型，融资案例增多，工作机会越来越多。
3. 大语言模型结合自动驾驶作为新兴技术领域，着巨大的潜力和影响。
4. 自动驾驶之心推出了端到课程和自动驾驶多模态大模型实战教程。
5. 课程内容包括多模态大模型、基础模块、通用多模态大模型、微调与强化学习、在自动驾驶中的应用、求职专题等。
6.人群包括高校研究人员与学生、企业技术团队、企业技术专家和骨干、想要转行从事大模型的。
7. 讲师是业内一线大厂高级算法工程师Sora，具有丰富的经验。
央国企，开始猛扑大模型！（附30家名单）
文章概要：
1 有人认为大模型不接地气，无法落地，但央国企成为推动大模型落地的强劲动力。
2 文章列举30家央国企已成功发布的大模型包括中国海油、国家电网、国网湖南电科院、中核八所、国家能源集团数智科技公司、中国中煤能源天津设计公司信移动科技有限公司、中国石油、煤炭科学研究总院、北大荒有限公司等。
3. 央国企发布和购买大模型是风向标，其背后必然有整个大模型产业链的支撑也必将让众多ICT和AI企业受益。
阅读原文
2 文章列举30家央国企已成功发布的大模型包括中国海油、国家电网、国网湖南电科院、中核八所、国家能源集团数智科技公司、中国中煤能源天津设计公司信移动科技有限公司、中国石油、煤炭科学研究总院、北大荒有限公司等。
3. 央国企发布和购买大模型是风向标，其背后必然有整个大模型产业链的支撑也必将让众多ICT和AI企业受益。
双第一！百度智能云领跑中国大模型市场
文章概要：
1. 2024上半年，百度智能云在「中国MaaS市场」「中国AI大模型解决方案市场」，市场份额均为第一。
2. 百度智能云的M业务主要通过百度智能云千帆大模型提供服务，为企业提供大模型全生命周期工具和整套环境
3. 百度智能云针对千帆大模型平台在应用开发、服务、模型开发等层面不断精进迭代。
. 百度智能云中国最广最深的大模型产业落地规模，目前已有超6的央企正在使用百度智能云进行AI创新。
5. 百度智能云在汽车、互联网、教育、、、交通、政务等多个行业都在加速融合落地。
阅读原文
2. 百度智能云的M业务主要通过百度智能云千帆大模型提供服务，为企业提供大模型全生命周期工具和整套环境
3. 百度智能云针对千帆大模型平台在应用开发、服务、模型开发等层面不断精进迭代。
. 百度智能云中国最广最深的大模型产业落地规模，目前已有超6的央企正在使用百度智能云进行AI创新。
5. 百度智能云在汽车、互联网、教育、、、交通、政务等多个行业都在加速融合落地。
大模型在工业领域的应用：技术手册与用户指南的自动撰写
文章概要：
1. 达观数据专注智能知识管理软件系统开发，其自主研发的智能知识管理系统等产品，成功赋能百业
2.数字化浪潮的下工业领域的每一个角落都在经历着未有的变革，技术手册与用户指南作为连接企业与用户、指导实践的关键环节，其重要性凸显
3. 达观垂直大模型技术以的自然语言能力知识整合能力，为工业文档的自动化撰写开辟了一条全新的道路
4. 达观垂直大模型通过深度学习和自然语言的融合，能够深入理解并人类的语言习惯与思维模式，从而在海量数据中提取价值，并以前所未度符合需求
5. 本文将以达观大模型在技术手册与用户指南的自动撰写为例，分享大模型在工业领域应用经验与技巧
6.工业领域应用大模型进行文档自动化撰写，首要任务是选择或训练适用于领域的专用模型
7 为了技术手册与用户指南的自动化撰写，企业需要构建一个灵活且高效内容生成框架
8. 以某知名制造业企业，该企业达观模型智能写作成功实现了技术手册与用户指南的自动化撰写
9. 大模型在工业，尤其是技术手册与指南自动化撰写，不仅是一项技术创新，更是工业数字化转型的重要里程碑> 10. 达观数据智能写作平台是基于强大的曹植大模型生成能力和对专业领域写作的深度理解智能写作平台
阅读原文
2.数字化浪潮的下工业领域的每一个角落都在经历着未有的变革，技术手册与用户指南作为连接企业与用户、指导实践的关键环节，其重要性凸显
3. 达观垂直大模型技术以的自然语言能力知识整合能力，为工业文档的自动化撰写开辟了一条全新的道路
4. 达观垂直大模型通过深度学习和自然语言的融合，能够深入理解并人类的语言习惯与思维模式，从而在海量数据中提取价值，并以前所未度符合需求
5. 本文将以达观大模型在技术手册与用户指南的自动撰写为例，分享大模型在工业领域应用经验与技巧
6.工业领域应用大模型进行文档自动化撰写，首要任务是选择或训练适用于领域的专用模型
7 为了技术手册与用户指南的自动化撰写，企业需要构建一个灵活且高效内容生成框架
8. 以某知名制造业企业，该企业达观模型智能写作成功实现了技术手册与用户指南的自动化撰写
9. 大模型在工业，尤其是技术手册与指南自动化撰写，不仅是一项技术创新，更是工业数字化转型的重要里程碑> 10. 达观数据智能写作平台是基于强大的曹植大模型生成能力和对专业领域写作的深度理解智能写作平台
AAIG六大技术方向介绍——安全大模型(御风)
文章概要：
1. 阿里巴巴人工智能治理与可持续发展研究中心（AAIG）是阿里巴巴集团旗下的人工智能顶级研发团队，致力于利用AI技术解决安全风险问题，并推动AI技术更加安全、可靠、可信赖和可用
2. AAIG贯彻“科技创新是最好安全”的理念，所研发的人工智能产品涵盖内容安全、业务风控、网络安全、数据安全与算法安全等多个领域，为集团在全球的千万商家和十亿消费者更好的安全和体验
3. 本期主要介绍——安全大模型（御风打造内容安全大模型御风”，解决内容安全场景音、视、图、文、多模态、多语言的高难隐晦风险挑战
4. 安全大模型（御风）主要研究方向包括视频、语音、图文和多语言大模型领域预训练技术，增量学习方法，多模态融合技术，多模态内容理解和生成方法，模态安全，IGC防御技术，以及大小模型协同进化技术等
5. 相关技术已经在阿里巴巴安全商品、交互等多个业务场景落地。团队在计算机视觉、自然语言和语音等多个领域的国际顶CVPR、ACL、InterSpeech等发表论文数，与国内清华、中科院浙大和研究机构建立着密切交流与合作
6. 安全大模型（御风）成果包括持续图像问答、增强技术、模型幻觉应对、图像生成技术、多语言ASR、大模型理解、视频模型、图文大模型、大
阅读原文
2. AAIG贯彻“科技创新是最好安全”的理念，所研发的人工智能产品涵盖内容安全、业务风控、网络安全、数据安全与算法安全等多个领域，为集团在全球的千万商家和十亿消费者更好的安全和体验
3. 本期主要介绍——安全大模型（御风打造内容安全大模型御风”，解决内容安全场景音、视、图、文、多模态、多语言的高难隐晦风险挑战
4. 安全大模型（御风）主要研究方向包括视频、语音、图文和多语言大模型领域预训练技术，增量学习方法，多模态融合技术，多模态内容理解和生成方法，模态安全，IGC防御技术，以及大小模型协同进化技术等
5. 相关技术已经在阿里巴巴安全商品、交互等多个业务场景落地。团队在计算机视觉、自然语言和语音等多个领域的国际顶CVPR、ACL、InterSpeech等发表论文数，与国内清华、中科院浙大和研究机构建立着密切交流与合作
6. 安全大模型（御风）成果包括持续图像问答、增强技术、模型幻觉应对、图像生成技术、多语言ASR、大模型理解、视频模型、图文大模型、大
中国信通院可信AI端侧大模型第二轮评估正式启动
文章概要：
1. 端侧大正稳步渗透至终端设备中，实现万物智的重要方式，但在研发和应用过程中面临诸多挑战
2. 中国信通院人工智能研究所联合业内20余家单位编制并发布了《端侧模型应用方法》标准。
3. 中国信通为多家单位提供端侧大模型评估服务，评估结果来看，侧大模型实现多元化落地应用，展现出较强的发展。
4. 为进一步扩展应用效能、辅助产品选型，现启动端侧大模型第二轮评估。
5.范围包括模型能力、模型适配和模型服务。
6 评估流程主要分为商务确认和技术对接两个部分
7 评估时间为224年102年月。
阅读原文
2. 中国信通院人工智能研究所联合业内20余家单位编制并发布了《端侧模型应用方法》标准。
3. 中国信通为多家单位提供端侧大模型评估服务，评估结果来看，侧大模型实现多元化落地应用，展现出较强的发展。
4. 为进一步扩展应用效能、辅助产品选型，现启动端侧大模型第二轮评估。
5.范围包括模型能力、模型适配和模型服务。
6 评估流程主要分为商务确认和技术对接两个部分
7 评估时间为224年102年月。
AI大模型赋能航天仿真系统建设
文章概要：
1 202年8月oz Allen Hamilton宣布国际空间站上部署并运行了一个生成AI大模型（LL，Large Model）。
2. 大型语言模型（LLM）是专门设计用于理解和生成模型。
3. 与航天仿真推演系统相适配典型涌现能力主要有以下三点：上下文学习能力、指令遵循能力、逐步推理能力。
4. 近些年LLM发展，为航天仿真推演系统了更强大的能力支撑，主要体现在LLM应用开发、LLM与推演系统结合、LLM的应用三方面。
5 星图测控作为专业从事数字太空科技服务的航天企业，数字太空研究院致力于探索前沿科技在数字太空领域的应用落地，现阶段在从三个方面M优化迭代：跨技术综合应用、多模态学习、隐私保护。
阅读原文
2. 大型语言模型（LLM）是专门设计用于理解和生成模型。
3. 与航天仿真推演系统相适配典型涌现能力主要有以下三点：上下文学习能力、指令遵循能力、逐步推理能力。
4. 近些年LLM发展，为航天仿真推演系统了更强大的能力支撑，主要体现在LLM应用开发、LLM与推演系统结合、LLM的应用三方面。
5 星图测控作为专业从事数字太空科技服务的航天企业，数字太空研究院致力于探索前沿科技在数字太空领域的应用落地，现阶段在从三个方面M优化迭代：跨技术综合应用、多模态学习、隐私保护。
小语言模型SLM综述｜大模型论文日报
文章概要：
1的大模型前沿论文，包括SocialGPT、MCR、Flow-DPO、多模态人工智能、Kandinsky-3、MarDini、多视图生物医学基础模型、人工智能生成视频评估、小语言模型SLM综述、LARP等。
阅读原文
港科大成功研发四大AI医学大模型 革新医疗保健领域
文章概要：
1. 港科大成功研发四大AI医学大模型，包括MOME（乳癌诊断）、STAR（辅助工具Dr (全科、XAIM（可解释的人工智能）旨在协助全科及专科医生诊症，为多达30癌症及疾病提供预后评估。<>.OME（乳诊断）首个大模型方式分析多参数磁力共振（MRI）影像的AI模型，乳癌诊断而设助医生分析病人的MRI，辅助他们快速区分肿瘤属良性或恶性从而尽量避免病人进行不必要的病理穿刺化验。
3. mSTAR（病理辅助工具）是世界领先的病理学基础模型之一，解答问题、撰写医疗报告，并根据图像病人作初步等，为目前全科医学中最规模软体，医生做出快速、准确及可靠的诊断。br>4. XAIM（可解释的人工智能是一个创新AI框架，用于剖析各个AI医学系统如何决策，提升医疗人员对AI模型的度。
阅读原文
3. mSTAR（病理辅助工具）是世界领先的病理学基础模型之一，解答问题、撰写医疗报告，并根据图像病人作初步等，为目前全科医学中最规模软体，医生做出快速、准确及可靠的诊断。br>4. XAIM（可解释的人工智能是一个创新AI框架，用于剖析各个AI医学系统如何决策，提升医疗人员对AI模型的度。
【他山之石】NeurIPS 2024｜字节联合华师提出统一的多模态文字理解与生成大模型
文章概要：
1. 人工智能领域研究热点是赋予机器人的图像文字感知、、编辑和生成，目前视觉文字领域的模型主要聚焦于单模态任务在OCR领域的多数任务上仍难以达成全面整合，OCR领域亟需一个能够统一多模态的大模型。
2. 多模态生成大模型视觉与语言模态的固有不一致性，这往往导致模型性能显著下滑，为应对这一挑战，字节跳动与华东师范大学研究提出了创新性的多模态生成模型——TextHarmony。
3Harmony了ViT、MLL和Diffusion Model的组合架构实现了多模态的全面理解与生成。br>4. 为克服训练过程中的模态不一致问题提出了Slide-Lo技术，方法通过动态整合模态特定和模态无关的LoRA专家，在单一模型中实现了和文本生成空间的解耦
5. TextHarmony视觉文字感知、、生成和编辑方面展现出卓越性能，为复杂的视觉文本交互任务开辟新的可能性。
阅读原文
2. 多模态生成大模型视觉与语言模态的固有不一致性，这往往导致模型性能显著下滑，为应对这一挑战，字节跳动与华东师范大学研究提出了创新性的多模态生成模型——TextHarmony。
3Harmony了ViT、MLL和Diffusion Model的组合架构实现了多模态的全面理解与生成。br>4. 为克服训练过程中的模态不一致问题提出了Slide-Lo技术，方法通过动态整合模态特定和模态无关的LoRA专家，在单一模型中实现了和文本生成空间的解耦
5. TextHarmony视觉文字感知、、生成和编辑方面展现出卓越性能，为复杂的视觉文本交互任务开辟新的可能性。
当AI取代真相，大模型如何一步步诱骗了人类的文明？
文章概要：
1. 美国奥斯汀的一家餐厅Ethos在社交媒体instagram宣称是当地排名第一的餐厅，拥有7万余粉丝，但实际上这家餐厅根本不存在，食物和场地的照片都由人工智能生成。
2. 大型语言模型（LLMs）由于其幻觉及涌现特性，总让人们忧虑其传播虚假信息的可能。
3. AI生成的虚假信息会磨损我们彼此间的信任，我们判断一件事情是否为真时，有两种不同的思考方式，一是启发式，另一种则是费力的思考。
4. 大模型生成的文章往往会显得自信且流畅，这意味着当我们面对大模型生成的信息时，之前用来判断真假的第一种启发式——“表述是否自信”——失效了。
5. 大模型产生信息的速度远远大于人类它可以通过高度重复同质化的信息，人工创造出一种真实感，当大模型不加区分地向“思想市场”输出真假参半的同质化信息时判断信息真伪的第二个启发式机制“熟悉与否”也失效了。
6. 大多数人倾向于认为，我们的对话伙伴是真诚的、合作的，并会为我们提供与话题相关的有用信息。在与大模型对话时，人们也会不自觉地将其拟人化，忘记自己面对的是代码而非真实的人。
7. 大模型的训练目标是与用户持续对话，这样的对话特征会引发确认偏误（confirmation bias），趋向于输出我们想看见的，我们愿意相信的。
8. 按照目前大模型产生信息的速度发展下去，生成文本的词造句风格，将变得比人类自己的内容更为人熟知。那么，它就有能力大规模地生成看似真实但却严重误导的消息，从特定社区扩散到主流社会，让人类社会的信任问题再升级。
9. 大模型产生的虚假信息，还可能对群体智慧的涌现产生负面影响。在一个多样化的群体中，不同观点和背景的信息碰撞，会产生超出个体智慧的结果；但如果虚假信息充斥讨论，哪怕只是大家都依赖大模型获取信息和想法群体智慧的多样性和创造力也会受到抑制
阅读原文
2. 大型语言模型（LLMs）由于其幻觉及涌现特性，总让人们忧虑其传播虚假信息的可能。
3. AI生成的虚假信息会磨损我们彼此间的信任，我们判断一件事情是否为真时，有两种不同的思考方式，一是启发式，另一种则是费力的思考。
4. 大模型生成的文章往往会显得自信且流畅，这意味着当我们面对大模型生成的信息时，之前用来判断真假的第一种启发式——“表述是否自信”——失效了。
5. 大模型产生信息的速度远远大于人类它可以通过高度重复同质化的信息，人工创造出一种真实感，当大模型不加区分地向“思想市场”输出真假参半的同质化信息时判断信息真伪的第二个启发式机制“熟悉与否”也失效了。
6. 大多数人倾向于认为，我们的对话伙伴是真诚的、合作的，并会为我们提供与话题相关的有用信息。在与大模型对话时，人们也会不自觉地将其拟人化，忘记自己面对的是代码而非真实的人。
7. 大模型的训练目标是与用户持续对话，这样的对话特征会引发确认偏误（confirmation bias），趋向于输出我们想看见的，我们愿意相信的。
8. 按照目前大模型产生信息的速度发展下去，生成文本的词造句风格，将变得比人类自己的内容更为人熟知。那么，它就有能力大规模地生成看似真实但却严重误导的消息，从特定社区扩散到主流社会，让人类社会的信任问题再升级。
9. 大模型产生的虚假信息，还可能对群体智慧的涌现产生负面影响。在一个多样化的群体中，不同观点和背景的信息碰撞，会产生超出个体智慧的结果；但如果虚假信息充斥讨论，哪怕只是大家都依赖大模型获取信息和想法群体智慧的多样性和创造力也会受到抑制
九个AI 大模型的功能特点与优势浅析（附链接）
文章概要：
1. 介绍了九个AI大模型在教育领域的应用，包括文心一言、讯飞星火、通义千问、天工AI、百川AI、包AI、GPT-4O、商汤AI和Kimi模型。
2. 分析了各个模型的功能特点和，如文心一言擅长生成高品质教育类文章，讯飞星火的语音识别技术在课堂录音等方面优势明显，通义千问个性化教学方案设计方面表现卓越等。
3. 指出教育工作者可根据实际需求选择最合适的AI工具，为教育赋能。
阅读原文
2. 分析了各个模型的功能特点和，如文心一言擅长生成高品质教育类文章，讯飞星火的语音识别技术在课堂录音等方面优势明显，通义千问个性化教学方案设计方面表现卓越等。
3. 指出教育工作者可根据实际需求选择最合适的AI工具，为教育赋能。
安全GPT数据安全大模型，细节展开说
文章概要：
1. 介绍了深信服科技的技术服务，包括线上社区、远程技术支持中心和现场服务团队
2. 提到深信服安全GPT
3. 提示当前内容可能存在未经审核的第三方商业营销信息
阅读原文
2. 提到深信服安全GPT
3. 提示当前内容可能存在未经审核的第三方商业营销信息
视听大模型创新应用产业合作联盟成立，酷开科技引领AI技术赋能视听行业
文章概要：
1. 10月31日，“南宁道暨第28届智能视听科技创新产业论坛”于广西南宁开幕全国31省市的IPTV新媒体代表齐聚论道意在共同探寻智慧大屏新增长
2. 为响应国家广电总局要求，11省级以及大屏AI的领先企业开行业解决方案帕科科技倡议发起视听大模型应用产业合作联盟作为联盟首批核心成员共同签约
3. 联盟围绕AI大模型新技术，共同构建一个共建共享、开放的模型应用平台推进产业进步，从技术入手，服务用户
4. 在本届南宁论道上新媒携手开科技与帕科科技，联合打造特别展区，共同展出大屏大模型落地成果
5. 视听大模型创新应用产业合作将保持开放共赢的理念，拥抱更多合作伙伴的加入，共同为行业发展力量
6. 为了进一步深化人工智能技术在大行业创新应用和实践，多彩新规划院将于11月份联合广电视听人工智能联合共建实验室”，为行业高质量发展有力支撑
阅读原文
2. 为响应国家广电总局要求，11省级以及大屏AI的领先企业开行业解决方案帕科科技倡议发起视听大模型应用产业合作联盟作为联盟首批核心成员共同签约
3. 联盟围绕AI大模型新技术，共同构建一个共建共享、开放的模型应用平台推进产业进步，从技术入手，服务用户
4. 在本届南宁论道上新媒携手开科技与帕科科技，联合打造特别展区，共同展出大屏大模型落地成果
5. 视听大模型创新应用产业合作将保持开放共赢的理念，拥抱更多合作伙伴的加入，共同为行业发展力量
6. 为了进一步深化人工智能技术在大行业创新应用和实践，多彩新规划院将于11月份联合广电视听人工智能联合共建实验室”，为行业高质量发展有力支撑
小白学大模型：斯坦福CS25 Transformers与LLMs
文章概要：
1. 斯坦福CS25 Transformers与LLMs是斯坦福大学在2024年春季开设的一门课程，专注于深度学习领域中的Transformers和大模型
2. 课程内容包括技术发展时间轴、NLP技术介绍、RNN与Transformers对比、大型语言模型（LLMs）、强化学习与人类反馈HF）、ChatGPT、GPT-4和Gemini、链式思考（Chain-of-Thought，CoT)、大模型与智能体等
3. 文章还提供了两个链接，一个是到变换器模型的原始论文《Attention Is All You Need》的链接，另一个是到一个详细解释变换器模型的图解指南
4. 文章提到了一些大型语言模型，如ChatGPT、GPT-4和Gemini，并介绍了它们训练方法性能特点
5. 文章还介绍了链式思考（Chain-of-Thought，CoT)推理，这是一种提升大型语言模型复杂推理能力的方法
6. 文章最后讨论了大模型与智能体的关系，以及如何与AI代理进行交互
阅读原文
2. 课程内容包括技术发展时间轴、NLP技术介绍、RNN与Transformers对比、大型语言模型（LLMs）、强化学习与人类反馈HF）、ChatGPT、GPT-4和Gemini、链式思考（Chain-of-Thought，CoT)、大模型与智能体等
3. 文章还提供了两个链接，一个是到变换器模型的原始论文《Attention Is All You Need》的链接，另一个是到一个详细解释变换器模型的图解指南
4. 文章提到了一些大型语言模型，如ChatGPT、GPT-4和Gemini，并介绍了它们训练方法性能特点
5. 文章还介绍了链式思考（Chain-of-Thought，CoT)推理，这是一种提升大型语言模型复杂推理能力的方法
6. 文章最后讨论了大模型与智能体的关系，以及如何与AI代理进行交互
中文大模型「链式推理」基准测评榜单出炉！o1取得71.84分，推理等级7，其余32个大模型均未及格
文章概要：
1. SuperCLUE-CoT是中文大模型链式推理能力测评基准，旨在深入评估模型的思维链推理能力。该测评不仅关注模型的解题过程和最终答案，还重点考察其构建思维链和反思能力。测评内容涵盖了物理、化学、生物等科学领域的问题，以及编解码挑战，全面检验模型在复杂推理任务中的表现。
2. 本次测评了国内外33个代表性大模型的推理能力，o1-preview在推理能力上大幅领先，模型的推理能力尚处于发展初期，闭源模型在推理能力方面，普遍优于开源模型。
3. 为综合衡量当前国内外大模型在链式推理能力的发展水平，本次测评选取了13个海外模型和20个国内代表性模型。其中为进一步评估开源和闭源的不同进展，本次模型包括16个开源模型、17闭源模型。
4. 对GPT-4o-0513在链式推理评价任务中的人类一致性进行了评估，最终得到的回答一致性的平均结果为2.53分，思维得分一致性的平均结果为6.31分。
5. 链式推理综合能力，o1-preview保持领先，国内大模型在回答质量上尚有一定提升空间，国内大模型的思维链构建与自我反思能力有待加强。
阅读原文
2. 本次测评了国内外33个代表性大模型的推理能力，o1-preview在推理能力上大幅领先，模型的推理能力尚处于发展初期，闭源模型在推理能力方面，普遍优于开源模型。
3. 为综合衡量当前国内外大模型在链式推理能力的发展水平，本次测评选取了13个海外模型和20个国内代表性模型。其中为进一步评估开源和闭源的不同进展，本次模型包括16个开源模型、17闭源模型。
4. 对GPT-4o-0513在链式推理评价任务中的人类一致性进行了评估，最终得到的回答一致性的平均结果为2.53分，思维得分一致性的平均结果为6.31分。
5. 链式推理综合能力，o1-preview保持领先，国内大模型在回答质量上尚有一定提升空间，国内大模型的思维链构建与自我反思能力有待加强。
极智AI | 多模态大模型中的动态高分辨率
文章概要：
1. 动态分辨率技术允许模型根据输入图像的复杂度和处理需求，实时调整处理的分辨率。
2. 下面是LLava-Next中动态高分辨率的实现示意图，其实就是两个分支，一个是split切图，一个是resize直接对大图进行缩放，这是为了保留全局的语义信息。
3. 从代码实现来说，下面的动态高分辨率的代码实现InternVL2的图片预处理，主要就是对动态高分辨率的处理。
阅读原文
2. 下面是LLava-Next中动态高分辨率的实现示意图，其实就是两个分支，一个是split切图，一个是resize直接对大图进行缩放，这是为了保留全局的语义信息。
3. 从代码实现来说，下面的动态高分辨率的代码实现InternVL2的图片预处理，主要就是对动态高分辨率的处理。
为科技创新注入新动力｜河钢数字大模型项目成功获得河北省科技计划立项支持
文章概要：
1. 河钢数字自主研发的《多变量检索增强的大模型智能体研究及应用》成功入围河北省科技计划前沿技术名单，并获得省级专项资金支持。
2. 前沿技术专项是省级科技计划为落实“十四五”期间河北省科技创新有关部署安排所启动实施的，主要聚焦新一代电子信息、人工智能、生物技术、新能源、、高端装备制造等领域。
3. 河钢数字成立至今，始终坚持“以我为主、自主可控”的技术路线，聚焦工业互联网、人工智能、行业大模型、等技术研究及应用。
4.申请的《多变量检索及自适应增强的模型智能体研究及应用》通过集成丰富的行业数据、深厚的专业知识及实践经验，构建垂直领域大模型智能体能够处理和回答生产、、管理等方面的复杂问题
未来，河钢数字将科技创新引领产业创新，持续聚焦产业链关键共性技术问题，开展前沿技术攻关，科技成果向现实生产力转化，为钢铁行业高质量发展贡献数字力量”
阅读原文
2. 前沿技术专项是省级科技计划为落实“十四五”期间河北省科技创新有关部署安排所启动实施的，主要聚焦新一代电子信息、人工智能、生物技术、新能源、、高端装备制造等领域。
3. 河钢数字成立至今，始终坚持“以我为主、自主可控”的技术路线，聚焦工业互联网、人工智能、行业大模型、等技术研究及应用。
4.申请的《多变量检索及自适应增强的模型智能体研究及应用》通过集成丰富的行业数据、深厚的专业知识及实践经验，构建垂直领域大模型智能体能够处理和回答生产、、管理等方面的复杂问题
未来，河钢数字将科技创新引领产业创新，持续聚焦产业链关键共性技术问题，开展前沿技术攻关，科技成果向现实生产力转化，为钢铁行业高质量发展贡献数字力量”
大模型训练成本降一半！厦大和vivo联合推出预训练新策略，给LLM降本增效
文章概要：
1. 厦门大学和vivo AI lab联合提出预训练学习率调整新策略，降低训练42%成本的同时，还能保持大模型效果，该成果已发表于AI领域的顶级会议EMNLP2024
2. 现有的适Ms版本更新的训练范式可分为从头开始预训练继续预训练，为了对比现有两类训练范式，基于Cosine、Knee和Multi-Step学习率调度策略，模拟LLMs的版本迭代更新
3 作者从学习率的角度展开研究，把CPT分成确定初始化checkpoint和基于该checkpoint的继续预训练两个阶段，分别探索学习率对这两个阶段的影响
4. 作者提出一种基于学习率路径切换的训练范式作者所知是第一个尝试如何LLMs版本更新的模型性能和训练成本的研究
5. 实验结果深入分析有力地证明作者范式的有效性和泛化。在训练4个版本的LLMs时作者的范式仅用5%的总实现了与PT相当的预训练性能
阅读原文
2. 现有的适Ms版本更新的训练范式可分为从头开始预训练继续预训练，为了对比现有两类训练范式，基于Cosine、Knee和Multi-Step学习率调度策略，模拟LLMs的版本迭代更新
3 作者从学习率的角度展开研究，把CPT分成确定初始化checkpoint和基于该checkpoint的继续预训练两个阶段，分别探索学习率对这两个阶段的影响
4. 作者提出一种基于学习率路径切换的训练范式作者所知是第一个尝试如何LLMs版本更新的模型性能和训练成本的研究
5. 实验结果深入分析有力地证明作者范式的有效性和泛化。在训练4个版本的LLMs时作者的范式仅用5%的总实现了与PT相当的预训练性能
大模型训练成本降一半！厦大和vivo联合推出预训练新策略，给LLM降本增效
文章概要：
1 厦门大学和vivo AI lab联合提出预训练学习率调整新策略，降低训练42%成本的同时，能保持大模型效果，成果已发表领域顶级会议EMN204>2. 现有的适用于LLMs更新的范式可分为两类：从头训练和继续预训练。为了对比现有两类训练范式，Cosine、K和Multi-Step学习率策略，模拟LLMs的版本迭代更新
. 相比于从头开始继续预训练仅需要40%的成本就能训练4个LLMs，但训练得到的LLMs的性能明显不如开始预训练>4. 我们把继续预训练分成确定初始化checkpoint和基于该checkpoint的预两个阶段，探索学习率对这两个阶段的影响
5. 第一阶段的大学习率和第二阶段的学习率过程继续预训练的性能尤为重要
6. 我们的范式的学习率曲线由一条主路径和分支路径组成，每条分支路径对应一次版本更新
. 我们的范式从头开始训练成本更低，因为不同版本的LLMs基于路径的初始化checkpoint进行继续预所得到的
. 实验结果表明，我们的范式保持与从头开始预相当性能的将总训练成本降低至58%
9. 我们LLMs的版本更新提出了一种基于学习率路径切换的训练范式，这是第一个尝试如何平衡LLMs版本更新性能和训练的
阅读原文
. 相比于从头开始继续预训练仅需要40%的成本就能训练4个LLMs，但训练得到的LLMs的性能明显不如开始预训练>4. 我们把继续预训练分成确定初始化checkpoint和基于该checkpoint的预两个阶段，探索学习率对这两个阶段的影响
5. 第一阶段的大学习率和第二阶段的学习率过程继续预训练的性能尤为重要
6. 我们的范式的学习率曲线由一条主路径和分支路径组成，每条分支路径对应一次版本更新
. 我们的范式从头开始训练成本更低，因为不同版本的LLMs基于路径的初始化checkpoint进行继续预所得到的
. 实验结果表明，我们的范式保持与从头开始预相当性能的将总训练成本降低至58%
9. 我们LLMs的版本更新提出了一种基于学习率路径切换的训练范式，这是第一个尝试如何平衡LLMs版本更新性能和训练的
首批！腾讯云完成大模型数字人基础能力分级测试
文章概要：
1. 腾讯云的数字人产品“腾讯云数字人”完成中国信通院人工智能研究所组织的大模型数字人基础能力分级测试。
2. 该测试依据中国信息通信研究院人工智能研究所牵头制定的基于大模型的数字系统基础能力指标要求及评估方法》进行，涉及智能生成、智能交互、模型管理等能力模块，包含50个测试项。
3. 腾讯云是新一代多模态人机交互形象生产、交互对话、音视频播报等核心能力，具有形象自然度业界领先、覆盖企业服务周期、驱动技术业界领先、交互体验佳和场景应用拓展性强等产品优势，应用覆盖零售、证券、保险、医疗、传媒、在线教育等10+行业。
4. 腾讯云数字人包含2D精品、2D样本、3D写实、3D半写实和3D卡通5种的形象类型。
5. 近年来，随着元宇宙和AIGC技术的双轮数字从单一的虚拟形象逐步演变为“有头有脸有脑”的智能化形态，涌现出大量基于大模型的智能数字人技术产品。
6 中国信息通信研究院人工智能研究所依托元宇宙创新探索方阵，联合多家企业，共同编制了基于模型的数字人系统基础能力指标要求及评估方法》规范文件。
阅读原文
2. 该测试依据中国信息通信研究院人工智能研究所牵头制定的基于大模型的数字系统基础能力指标要求及评估方法》进行，涉及智能生成、智能交互、模型管理等能力模块，包含50个测试项。
3. 腾讯云是新一代多模态人机交互形象生产、交互对话、音视频播报等核心能力，具有形象自然度业界领先、覆盖企业服务周期、驱动技术业界领先、交互体验佳和场景应用拓展性强等产品优势，应用覆盖零售、证券、保险、医疗、传媒、在线教育等10+行业。
4. 腾讯云数字人包含2D精品、2D样本、3D写实、3D半写实和3D卡通5种的形象类型。
5. 近年来，随着元宇宙和AIGC技术的双轮数字从单一的虚拟形象逐步演变为“有头有脸有脑”的智能化形态，涌现出大量基于大模型的智能数字人技术产品。
6 中国信息通信研究院人工智能研究所依托元宇宙创新探索方阵，联合多家企业，共同编制了基于模型的数字人系统基础能力指标要求及评估方法》规范文件。
首批！马上消费完成大模型数字人基础能力分级测试
文章概要：
1. 马上消费的养老陪护数字人系统完成大模型数字人基础能力分级测试。<> 2. 测试依据《基于大模型的数字人系统基础能力要求及评估方法》进行，涉及智能生成、智能交互、模型管理等能力模块，共包含50个测试项。
3. 马上消费金融股份有限公司基于先进技术为业界提供助手自动化定制服务，其数字助手拥有海量知识库、心理分析、实时交互等功能。
4. 大模型数字人技术规范制定背景是数字从单一虚拟形象演变为智能化形态，涌现出大量基于大模型的智能数字人产品，目前数字人系统仍处于初步发展阶段，规范与引导。
. 中国信息人工智能研究所元宇宙创新方阵联合多家企业，共同编制了《基于大的数字人系统基础能力要求及方法》规范文件。br> 6.信通院人工智能研究所“大模型人基础能力分级测试正在火热报名中。
阅读原文
3. 马上消费金融股份有限公司基于先进技术为业界提供助手自动化定制服务，其数字助手拥有海量知识库、心理分析、实时交互等功能。
4. 大模型数字人技术规范制定背景是数字从单一虚拟形象演变为智能化形态，涌现出大量基于大模型的智能数字人产品，目前数字人系统仍处于初步发展阶段，规范与引导。
. 中国信息人工智能研究所元宇宙创新方阵联合多家企业，共同编制了《基于大的数字人系统基础能力要求及方法》规范文件。br> 6.信通院人工智能研究所“大模型人基础能力分级测试正在火热报名中。
璞华科技AI大模型应用的探索之路：从AI大模型开发与运营平台到应用宝库的最佳实践
文章概要：
1. AI大模型正逐渐成为各行各业数智化转型升级的核心动力，璞华科技“帮助客户实现数智化转型升级”为愿景，以强大的AI大模型开发与运营平台为基础，不断探索和验证AI大模型在实际业务应用中的可能性，推动企业的数智化转型升级。
2. 璞华科技的AI大模型开发与运营平台英璞来具有“一体多用”、“开箱即用”、“按需定制”这三大核心优势，从根本上为企业提供综合性的、全方位的AI大模型能力。
3. 英璞来作为运营平台，拥有可以开箱即用的智能助理工具集，更重要的是，英璞来拥有持续“下蛋”的能力，可以根据业务需求轻松搭建自己的AI原生应用。
4. AI大模型在特定行业的应用是AI大模型的主要价值之一，因为它能够针对不同行业的需求，提供高度定制化和智能化的解决方案。
5. 璞华科技在AI大模型的诸多应用实践中，逐渐总结出成功的关键因素在璞华科技称之为NTI实践模式。
阅读原文
2. 璞华科技的AI大模型开发与运营平台英璞来具有“一体多用”、“开箱即用”、“按需定制”这三大核心优势，从根本上为企业提供综合性的、全方位的AI大模型能力。
3. 英璞来作为运营平台，拥有可以开箱即用的智能助理工具集，更重要的是，英璞来拥有持续“下蛋”的能力，可以根据业务需求轻松搭建自己的AI原生应用。
4. AI大模型在特定行业的应用是AI大模型的主要价值之一，因为它能够针对不同行业的需求，提供高度定制化和智能化的解决方案。
5. 璞华科技在AI大模型的诸多应用实践中，逐渐总结出成功的关键因素在璞华科技称之为NTI实践模式。
开源大模型推理引擎现状及常见推理优化方法
文章概要：
1. 11月1日上午10点，南开大学在读博士李森茂，将以《基于扩散模型编码器模块的推理加速》为主题进行直播讲解，欢迎扫码报名。3. 主流推理引擎现状：tgi宣称使用了pagedattn技术，但实际上只是在decode时候用了名字叫做"pagedattn"的kernel，吞吐会非常差；tgi的cpu和gpu调度是串行模型，导致cpu调度计算时候gpu是闲置的；tgi使用了rust来实现调度逻辑，纯python的开发效果真的比rust高太多了；开发人员投入不够，版本更新太慢了，各种新的功能都没有，提issue也没什么反馈。
4.llm原本只是作为pagedattn的一个开源实现，但发展到今天已经成为llm推理引擎的标杆了。其优势在：背靠ucb，有着大量且稳定的开发者，作者基本都是在读博士生，github上Cont已经快600人了，相比于sglang的113人、tgi的134人、lmdeploy的75人、TensorRT的74人，vllm的开发人员投入是最高的；vllm的社区活跃度是最高的，github上和pr都很多；基础的各种优化以及进阶的权重量化、kv压缩、speculate decode、chunked prefill、promot cache、constrainted decoding等功能都是完备的。<>5 sglang也是ucb的团队，但是跟vllm是不同的一拨人，核心团队基本都是交大的。有借鉴了一款叫做lightllm的引擎，也import很多vllm代码，后续会完全去掉对vllm的依赖。其优势在于：sglang的性能是目前最优的；sglang代码可拓展性很高；sglang的社区活跃度虽然比不上vllm，但是作者都很积极地回复issue。
6. lmdeploy是上海人工智能实验室团队开发的，当时第一次尝试也是让我眼前一亮的。相比如vllm和sglang的python实现，lmdeploy的调度甚至是部分模型代码都是用了C++实现。其优势在于：cpu调度策略是最优的；对多模态模型的支持很好；对国内GPU厂商的硬件支持较好。
7. tensorrt-llm是英伟达官方的推理引擎，其优势在于：底层kernel有nvidia黑魔法加持，引擎性能总体来说不弱。8. 大模型推理的主要优化技术：pagedattn、kv cache、Continous Batching、Flash Attention、Prefix Caching、ulative Decoding、量化、kv cache 压缩、prefill-decode 分离架构、chunked Prefill、constrained decoding、CUDA Graph、FlashInfer、多模态推理、大模型RAG、function call、多卡推理、nvidia GPU工作原理。
9. 正如之前所言，LLM是近几年才真正火起来的，LLM的推理引擎实际上都处于摸索起步的阶段。其难点在于要面向各种五花八门的模型和硬件平台，且各种不同角度的优化方法错综复杂需要去想办法兼容。
阅读原文
4.llm原本只是作为pagedattn的一个开源实现，但发展到今天已经成为llm推理引擎的标杆了。其优势在：背靠ucb，有着大量且稳定的开发者，作者基本都是在读博士生，github上Cont已经快600人了，相比于sglang的113人、tgi的134人、lmdeploy的75人、TensorRT的74人，vllm的开发人员投入是最高的；vllm的社区活跃度是最高的，github上和pr都很多；基础的各种优化以及进阶的权重量化、kv压缩、speculate decode、chunked prefill、promot cache、constrainted decoding等功能都是完备的。<>5 sglang也是ucb的团队，但是跟vllm是不同的一拨人，核心团队基本都是交大的。有借鉴了一款叫做lightllm的引擎，也import很多vllm代码，后续会完全去掉对vllm的依赖。其优势在于：sglang的性能是目前最优的；sglang代码可拓展性很高；sglang的社区活跃度虽然比不上vllm，但是作者都很积极地回复issue。
6. lmdeploy是上海人工智能实验室团队开发的，当时第一次尝试也是让我眼前一亮的。相比如vllm和sglang的python实现，lmdeploy的调度甚至是部分模型代码都是用了C++实现。其优势在于：cpu调度策略是最优的；对多模态模型的支持很好；对国内GPU厂商的硬件支持较好。
7. tensorrt-llm是英伟达官方的推理引擎，其优势在于：底层kernel有nvidia黑魔法加持，引擎性能总体来说不弱。8. 大模型推理的主要优化技术：pagedattn、kv cache、Continous Batching、Flash Attention、Prefix Caching、ulative Decoding、量化、kv cache 压缩、prefill-decode 分离架构、chunked Prefill、constrained decoding、CUDA Graph、FlashInfer、多模态推理、大模型RAG、function call、多卡推理、nvidia GPU工作原理。
9. 正如之前所言，LLM是近几年才真正火起来的，LLM的推理引擎实际上都处于摸索起步的阶段。其难点在于要面向各种五花八门的模型和硬件平台，且各种不同角度的优化方法错综复杂需要去想办法兼容。
万字长文梳理端侧大模型进展(上篇)：由AutoGLM类Agent隐私安全有感
文章概要：
1. 大型语言模型的出现改变了自然语言处理领域，越来越多的研究关注在资源受限环境中部署LLMs的挑战与解决方案
2. 设备大型语言模型的演进与技术进步息息相关，自2023年以来的发展时间线展示了这一领域的快速进步
3. 传统文本大型语言模型和多模态大型语言模型的架构基础不同，端侧大语言模型训练需要解决内存和计算能力的挑战
4. 边缘-云协作部署是首选，而单纯云端部署并不广泛接受，设备端推理在减少延迟方面提供了令人信服的案例
5. 在评估设备端大型语言模型的性能时有几个关键指标需要考虑，包括延迟、推理速度、内存使用、存储和能耗
6. 设计用于设备端部署的语言模型需要考虑多项架构原则和创新，以克服移动和边缘设备的资源限制8. 高效的内存和计算资源利用对于在移动和边缘设备上部署大型语言模型至关重要，混合专家架构为在边缘设备上部署大语言模型提供了创新解决方案
9. 在边缘设备上高效部署大语言模型涉及一系列旨在提高整体性能同时管理计算和内存约束的策略
阅读原文
2. 设备大型语言模型的演进与技术进步息息相关，自2023年以来的发展时间线展示了这一领域的快速进步
3. 传统文本大型语言模型和多模态大型语言模型的架构基础不同，端侧大语言模型训练需要解决内存和计算能力的挑战
4. 边缘-云协作部署是首选，而单纯云端部署并不广泛接受，设备端推理在减少延迟方面提供了令人信服的案例
5. 在评估设备端大型语言模型的性能时有几个关键指标需要考虑，包括延迟、推理速度、内存使用、存储和能耗
6. 设计用于设备端部署的语言模型需要考虑多项架构原则和创新，以克服移动和边缘设备的资源限制
9. 在边缘设备上高效部署大语言模型涉及一系列旨在提高整体性能同时管理计算和内存约束的策略
大模型+小模型，成AI未来应用的新趋势？
文章概要：
1 大模型发展迅速，多个领域取得成果，推动企业创新发展，但也面临成本高昂、数据微调需求大、可解释性和隐私保护问题等> 2. 小模型在特定场景下具有优势，如计算复杂度和资源消耗低、针对特定任务优化、可解释性强等，但也存在处理复杂或大规模数据集困难、泛化不如大模型等局限
3. 大模型和小成为新趋势，可以充分发挥各自，AI系统整体性能，应用于自动驾驶、智能客服等领域
4. 大模型与小模型结合的目标是实现应用落地，需要考虑技术、产品、市场等多个因素的相互影响
阅读原文
3. 大模型和小成为新趋势，可以充分发挥各自，AI系统整体性能，应用于自动驾驶、智能客服等领域
4. 大模型与小模型结合的目标是实现应用落地，需要考虑技术、产品、市场等多个因素的相互影响
副业必备，国内最火的10款AI 大模型，建议收藏！
文章概要：
1. 副业必备，国内最火的10款AI大模型，建议收藏！
2. 文章推荐了0款国内的AI大模型，包括阿里云的通问、科大讯飞的星火大模型、百度的文心一言、字节跳动的豆包、智谱华章的智谱言、华为云的盘古、智能的百小应、腾讯的腾讯元宝、天工AI的昆仑万维、月之暗面的Kimi。
4. 文章还提到了对于AI领域的小白和渴望深入学习AI的用户，这些模型的作用和。
5. 最后，文章鼓励读者关注作者的公众号，并回复“AI”可以获得一份价值12元的AI工具大礼包。
阅读原文
2. 文章推荐了0款国内的AI大模型，包括阿里云的通问、科大讯飞的星火大模型、百度的文心一言、字节跳动的豆包、智谱华章的智谱言、华为云的盘古、智能的百小应、腾讯的腾讯元宝、天工AI的昆仑万维、月之暗面的Kimi。
4. 文章还提到了对于AI领域的小白和渴望深入学习AI的用户，这些模型的作用和。
5. 最后，文章鼓励读者关注作者的公众号，并回复“AI”可以获得一份价值12元的AI工具大礼包。
大模型如何打通行业应用落地“最后一公里”？｜AICon
文章概要：
1. 人工智能技术飞速发展，大模型技术技术革新，但如何将其应用于具体业务场景成为业界焦点。
2. 1213日14日，AI 全球人工智能开发与应用大会」将在北京举行，设置《大模型行业落地实践》专题。
. 挚文集团借助大模型能力在社交生态领域取得突破，生态技术负责人李波将相关经验。
5. 北京市计算中心有限公司副总经理智勇将分享大语言模型和政务知识库的政务智能服务解决方案。
7. 孩子王 CTO 王海龙将分享孩子王借助 AI 技术母婴行业用户体验和业务运营的经验。
8 华为中心高级工程师商恒超将分享盘古多语言模型在中低资源语种上的与业务落地探索。
9.电商技术部平台/研发负责人袁首超将分享大模型在电商 B 端的应用实践。
阅读原文
2. 1213日14日，AI 全球人工智能开发与应用大会」将在北京举行，设置《大模型行业落地实践》专题。
. 挚文集团借助大模型能力在社交生态领域取得突破，生态技术负责人李波将相关经验。
5. 北京市计算中心有限公司副总经理智勇将分享大语言模型和政务知识库的政务智能服务解决方案。
7. 孩子王 CTO 王海龙将分享孩子王借助 AI 技术母婴行业用户体验和业务运营的经验。
8 华为中心高级工程师商恒超将分享盘古多语言模型在中低资源语种上的与业务落地探索。
9.电商技术部平台/研发负责人袁首超将分享大模型在电商 B 端的应用实践。
技术分享 | 大语言模型赋能软件测试：开启智能软件安全新时代
文章概要：
1. 软件安全问题日益凸显，提升软件安全性成为企业首要任务，大模型和AIGC等技术推动软件安全检测技术变革。<>2. 大模型是指具备海量参数和复杂结构的深度学习模型，AIGC是指利用大模型生成高质量内容的技术，涵盖文本、代码等领域。
3. 在软件安全检测领域，静态应用程序安全测试（SAST）、软件组成分析（SCA）以及模糊测试（Fuzzing）是常用的核心技术，大模型的引入使这些技术迎来深刻的赋能与变革。
4. 云起无垠作为大模型驱动的网络安全智能体引领者，专注于应用大模型全流程赋能与提升研发、测试与运营阶段的智能化安全水平，致力于打造最懂安全的AI专家智能体。
5. 代码安全类智能体作为专注于程序语言和软件开发领域的智能服务，旨在辅助开发者和安全研究者深入理解并有效应对各种安全编程挑战，全面提升代码质量，促进开发和安全团队之间的紧密协作。
6. 大模型和AIGC技术的，对软件安全检测与修复的方式产生了深远且积极的影响，提升检测率和准确性，自动化与智能化，促进团队协作。
阅读原文
3. 在软件安全检测领域，静态应用程序安全测试（SAST）、软件组成分析（SCA）以及模糊测试（Fuzzing）是常用的核心技术，大模型的引入使这些技术迎来深刻的赋能与变革。
4. 云起无垠作为大模型驱动的网络安全智能体引领者，专注于应用大模型全流程赋能与提升研发、测试与运营阶段的智能化安全水平，致力于打造最懂安全的AI专家智能体。
5. 代码安全类智能体作为专注于程序语言和软件开发领域的智能服务，旨在辅助开发者和安全研究者深入理解并有效应对各种安全编程挑战，全面提升代码质量，促进开发和安全团队之间的紧密协作。
6. 大模型和AIGC技术的，对软件安全检测与修复的方式产生了深远且积极的影响，提升检测率和准确性，自动化与智能化，促进团队协作。
双第一！百度智能云领跑中国大模型市场【附案例集下载】
文章概要：
1. 近日IDC发布报告，2024年上半年百度云32.4%的份额位居中国MaaS市场，以17.0%的占比位居中国AI模型解决方案市场第一。
2.模型服务，为企业提供大模型全生命周期工具和环境。
3 目前，千帆平台累计帮助用户精调了3万个大模型，开发了超过70应用，上文心大模型的日均调用量超过7亿次。
4.智能云拥有中国最广最深的大模型落地规模，目前已有超60%的央企正在使用智能云进行AI创新br>5. 在汽车、互联网、在线教育、金融、工业、交通、政务等多个行业都在加速融合落地。
阅读原文
2.模型服务，为企业提供大模型全生命周期工具和环境。
3 目前，千帆平台累计帮助用户精调了3万个大模型，开发了超过70应用，上文心大模型的日均调用量超过7亿次。
4.智能云拥有中国最广最深的大模型落地规模，目前已有超60%的央企正在使用智能云进行AI创新br>5. 在汽车、互联网、在线教育、金融、工业、交通、政务等多个行业都在加速融合落地。
中国大模型，不必成为OpenAI
文章概要：
1. 杰弗里·辛顿因“通过人工神经网络实现机器学习发现和发明”拿了2024年诺贝尔物理学奖。
2. 科大讯飞对深度神经网络的产业化研究更加，开发的讯飞星火模型安卓端下载量超过2亿次，国内工具类通用模型排名第一。
3. OpenAI CEO奥特曼宣布从微软、英伟达、Thrive Capital等投资者那里又筹集到66亿美元，估值膨胀至1570亿美元（约合人民币1.1万亿元）。
4. 科大讯飞董事长刘庆峰对自家大模型的普及速度感到惊讶，在一周之内做了三个决策。
5. 科大讯飞副总裁、董事会秘书江涛解释称，这是公司加大星火大模型的研发投入和布局后，自然实现的收入增长。
6. 以科大讯飞为代表的中国AI企业给出的答案是：中国大模型很难成为OpenAI，也没有必要成为OpenAI。
阅读原文
2. 科大讯飞对深度神经网络的产业化研究更加，开发的讯飞星火模型安卓端下载量超过2亿次，国内工具类通用模型排名第一。
3. OpenAI CEO奥特曼宣布从微软、英伟达、Thrive Capital等投资者那里又筹集到66亿美元，估值膨胀至1570亿美元（约合人民币1.1万亿元）。
4. 科大讯飞董事长刘庆峰对自家大模型的普及速度感到惊讶，在一周之内做了三个决策。
5. 科大讯飞副总裁、董事会秘书江涛解释称，这是公司加大星火大模型的研发投入和布局后，自然实现的收入增长。
6. 以科大讯飞为代表的中国AI企业给出的答案是：中国大模型很难成为OpenAI，也没有必要成为OpenAI。
国知启迪之星-知风科创大模型发布！
文章概要：
1. 10月28日，顶尖科学家论坛大会在济南举行，省委书记武周乃翔主持，李德仁、薛其坤作主旨演讲。
2. 刘大响、陈润、张宏科、军曹进德、董勤喜六位院士发布由启迪之星与国家超级计算济南中心共同研建的知大模型。
3. 知风科创大模型是专为新质生产力创造转化等技术服务量身打造的高效自然语言生成预训练拥有全量独享领域数据约2，完成训练并上线的部分包含信息4800万
4. 知大模型拥有亿万级数据库，智能算法自动计算耗时单次＜12秒，科技成果转化效率提升9%，精准对接。
5. 知小风具有科技成果转化、招商引才、产业链分析、技术咨询等功能，能够智能响应用户的查询需求。
6. 此次发布是对知风模型技术的一次全面展示，对科技成果转化路径的一次探索。
阅读原文
2. 刘大响、陈润、张宏科、军曹进德、董勤喜六位院士发布由启迪之星与国家超级计算济南中心共同研建的知大模型。
3. 知风科创大模型是专为新质生产力创造转化等技术服务量身打造的高效自然语言生成预训练拥有全量独享领域数据约2，完成训练并上线的部分包含信息4800万
4. 知大模型拥有亿万级数据库，智能算法自动计算耗时单次＜12秒，科技成果转化效率提升9%，精准对接。
5. 知小风具有科技成果转化、招商引才、产业链分析、技术咨询等功能，能够智能响应用户的查询需求。
6. 此次发布是对知风模型技术的一次全面展示，对科技成果转化路径的一次探索。
大模型技术的崛起与未来
文章概要：
1 大模型技术的早期探索始于自然语言处理和计算机视觉领域，早期的语言模型仅能在有限的语料特征上简单预测。
2. 202卷积在ImageNet图像识别竞赛中的成功引发了深度学习的浪潮随后的几年里，深度神经网络、循环神经网络等模型被广泛应用于图像和文本任务。br>3. 207年，谷歌提出Transformer模型，开启了NLP领域的新篇章，一模型结构为BERT、GPT、T5等大规模预训练模型的出现奠定了基础。
4. 随着BERT和GPT系列模型的，预训练-微调范式逐渐成为主流，模型参数规模呈指数级增长，数据训练下的模型在生成、理解、等方面表现出色。<>5. 近年来，单一模态的模型逐渐向多发展，模态模型不仅提升了生成与理解的能力，还推动了人机交互的创新和智能系统的多维度应用。
6. 未来的大模型可能会采用更加分布式的算力结构和存储架构，来支撑更大规模的模型训练和推理。
7. 大模型计算和存储需求巨大，因此模型与优化成为重要的研究
8. 大模型训练和推理过程中的能耗问题日益受到关注的发展方向包括使用绿色能源、分布式算力中心和能效优化算法来减少碳排放。<>9. 未来的模型可能不仅能理解文本和，语音、视频空间等多模态信息的融合处理。
10. 随着大模型在社会生活中扮演的角色越来越重要，可解释性和伦理问题也被提上日程。
11. 未来的模型技术还将与量子计算、脑科学等前沿领域相结合，提升模型的计算效率和学习能力。
阅读原文
2. 202卷积在ImageNet图像识别竞赛中的成功引发了深度学习的浪潮随后的几年里，深度神经网络、循环神经网络等模型被广泛应用于图像和文本任务。br>3. 207年，谷歌提出Transformer模型，开启了NLP领域的新篇章，一模型结构为BERT、GPT、T5等大规模预训练模型的出现奠定了基础。
4. 随着BERT和GPT系列模型的，预训练-微调范式逐渐成为主流，模型参数规模呈指数级增长，数据训练下的模型在生成、理解、等方面表现出色。<>5. 近年来，单一模态的模型逐渐向多发展，模态模型不仅提升了生成与理解的能力，还推动了人机交互的创新和智能系统的多维度应用。
6. 未来的大模型可能会采用更加分布式的算力结构和存储架构，来支撑更大规模的模型训练和推理。
7. 大模型计算和存储需求巨大，因此模型与优化成为重要的研究
8. 大模型训练和推理过程中的能耗问题日益受到关注的发展方向包括使用绿色能源、分布式算力中心和能效优化算法来减少碳排放。<>9. 未来的模型可能不仅能理解文本和，语音、视频空间等多模态信息的融合处理。
10. 随着大模型在社会生活中扮演的角色越来越重要，可解释性和伦理问题也被提上日程。
11. 未来的模型技术还将与量子计算、脑科学等前沿领域相结合，提升模型的计算效率和学习能力。
什么会影响大模型安全？NeurIPS'24新研究提出大模型越狱攻击新基准与评估体系
文章概要：
1. 香港科技大学（Guangzhou）USAIL研究团队提出攻击分析系统性框架JailTrackBench，研究了不同攻击配置对LLMs性能的影响。
2. 团队通过对七种具有代表性的越狱攻击和六种防御方法的320项实验，以标准化的方式评估了这些攻击方法的效果。
3. 实验结果表明，模型的鲁棒性并不与其规模成正比，较大的模型并不总是比较小的模型更具防御能力。
4. 经过领域类的微调（fine-tuning）大模型，其安全能力会降低，相比之前没有微调的模型则更容易受到攻击。
5. 包含安全提示的系统消息能够显著增强模型的安全性，减少攻击成功率。
6. 使用提示的比使用零样本提示的模型更加安全。
7. 攻击者模型越强，越狱攻击的成功率越高。
8. 较长的对抗性后缀通常能提高攻击成功率，但超过一定长度后效果趋于平稳。
9. 对于令牌级别的攻击，攻击预算越大，攻击成功率越高；而对于提示级别的攻击，预算的影响则较为有限。
10. 不同的攻击意图会显著影响攻击的成功率，某些攻击意图（如经济损害）更容易成功，而其他意图（如隐私侵犯）则较难得逞。
11. USAIL团队联合百度搜索团队及英国伯明翰大学共同提出JAILJUDGE，旨在弥补现有越狱评估工具的不足，尤其是应对复杂场景下的挑战。
12. JAILJUDGE Guard是一种端到端的越狱评估模型，不需要API调用即可提供细粒度的越狱评分（评分范围从1到10），并伴随推理解释。
13. JailBoost在零样本设置下将攻击成功率提高了约29.24%，而GuardShield则将防御后的攻击成功率从40.46%大幅降低至0.15%。
14. 团队计划进一步扩展JAILJUDGE的功能和应用场景，包括动态场景测试、跨领域应用、多模态扩展、协作防御机制。
阅读原文
2. 团队通过对七种具有代表性的越狱攻击和六种防御方法的320项实验，以标准化的方式评估了这些攻击方法的效果。
3. 实验结果表明，模型的鲁棒性并不与其规模成正比，较大的模型并不总是比较小的模型更具防御能力。
4. 经过领域类的微调（fine-tuning）大模型，其安全能力会降低，相比之前没有微调的模型则更容易受到攻击。
5. 包含安全提示的系统消息能够显著增强模型的安全性，减少攻击成功率。
6. 使用提示的比使用零样本提示的模型更加安全。
7. 攻击者模型越强，越狱攻击的成功率越高。
8. 较长的对抗性后缀通常能提高攻击成功率，但超过一定长度后效果趋于平稳。
9. 对于令牌级别的攻击，攻击预算越大，攻击成功率越高；而对于提示级别的攻击，预算的影响则较为有限。
10. 不同的攻击意图会显著影响攻击的成功率，某些攻击意图（如经济损害）更容易成功，而其他意图（如隐私侵犯）则较难得逞。
11. USAIL团队联合百度搜索团队及英国伯明翰大学共同提出JAILJUDGE，旨在弥补现有越狱评估工具的不足，尤其是应对复杂场景下的挑战。
12. JAILJUDGE Guard是一种端到端的越狱评估模型，不需要API调用即可提供细粒度的越狱评分（评分范围从1到10），并伴随推理解释。
13. JailBoost在零样本设置下将攻击成功率提高了约29.24%，而GuardShield则将防御后的攻击成功率从40.46%大幅降低至0.15%。
14. 团队计划进一步扩展JAILJUDGE的功能和应用场景，包括动态场景测试、跨领域应用、多模态扩展、协作防御机制。
融资、投流、造血，大模型“新星”开启变现竞速
文章概要：
1. 2024年已过半，AI大模型行业变化太快，充斥着各种声音，行业正陷入“冰与火”的焦灼之中。
2. 国内大模型“新星”仍炙手可热，月之暗面、智谱AI等公司均在今年获得亿元以上融资。
3. 大模型热潮涌动近两年，资本追捧领跑的独角兽，但从整个行业来看，资本却更为冷静谨慎。
4. 大模型行业即将进入新的阶段，除了产品、应用外，找到一条属于自己的变现之路极为重要。
5. 国内初创大模型厂商最初商业化主要分两个阵营，一种是像月之暗面、百川智能、零一万物这样以C端业务为主的公司；另一种是兼顾B端和C端两条腿走路，以智谱AI、MiniMax为代表。
6. 大模型浪潮之下，互联网巨头和初创企业站在同一起跑线上，初创企业面临高昂的大模型训练成本、逐渐上涨的应用获客成本。
阅读原文
2. 国内大模型“新星”仍炙手可热，月之暗面、智谱AI等公司均在今年获得亿元以上融资。
3. 大模型热潮涌动近两年，资本追捧领跑的独角兽，但从整个行业来看，资本却更为冷静谨慎。
4. 大模型行业即将进入新的阶段，除了产品、应用外，找到一条属于自己的变现之路极为重要。
5. 国内初创大模型厂商最初商业化主要分两个阵营，一种是像月之暗面、百川智能、零一万物这样以C端业务为主的公司；另一种是兼顾B端和C端两条腿走路，以智谱AI、MiniMax为代表。
6. 大模型浪潮之下，互联网巨头和初创企业站在同一起跑线上，初创企业面临高昂的大模型训练成本、逐渐上涨的应用获客成本。
医疗大模型离商业化落地的拐点还有多远？ | ToB产业观察
文章概要：
1. AI技术辅助诊断场景越来越普遍，医疗行业成为当下行业大模型集中落地和未来最有潜力的领域之一。
2. 千亿级医疗领域AI技术应用前景下，国内医疗大模型层出不穷，从应用来看，除了常见的诊疗全流程、深度学习加持的医学影像，还有中医康复这类冷门但有潜力的场景。
3. 医疗大模型需要具备足够的专业知识，对于一些规划未来在临床应用的大模型，更要具备充足的、高质量的相关临床数据作为语料，加以训练才能具备专业的能力。
4. 大模型中出现诸多的应用场景，但是从目前的应用现状上看，大模型产品能为医生提供的帮助还是非常有限，其应用场景主要还是集中在一些非医疗决策的方面，更专业的能力有赖于模型产品获取的数据量进一步提升，以及模型能力的优化。
5. AI技术已经开始在医疗行业“大展身手”，但离“独当一面”还早。
6. 医疗行业本身就具有严肃性和安全性的特性，即便有很好的场景，应用过程中还是需要特别注意专业严谨性。
7. 医疗数据的安全性也非常关键。如何确保患者的数据是“可用不可见”的，一方面，需要监管部门对这部分数据进行监管；另一方面，需要打通医院之间的数据壁垒。
8. 数据也是困扰着医生应用AI技术的一大掣肘。
9. 对于医疗机构来说，现阶段的大模型产品还达不到足够的降本增效预期，成本（或者说ROI）也是阻碍大模型落地的一个关键点，当前各厂商大模型与医院合作也是从战略考虑。
10. 同样，对于产业链另一头的服务商而言，商业变现也影响着服务商。
阅读原文
2. 千亿级医疗领域AI技术应用前景下，国内医疗大模型层出不穷，从应用来看，除了常见的诊疗全流程、深度学习加持的医学影像，还有中医康复这类冷门但有潜力的场景。
3. 医疗大模型需要具备足够的专业知识，对于一些规划未来在临床应用的大模型，更要具备充足的、高质量的相关临床数据作为语料，加以训练才能具备专业的能力。
4. 大模型中出现诸多的应用场景，但是从目前的应用现状上看，大模型产品能为医生提供的帮助还是非常有限，其应用场景主要还是集中在一些非医疗决策的方面，更专业的能力有赖于模型产品获取的数据量进一步提升，以及模型能力的优化。
5. AI技术已经开始在医疗行业“大展身手”，但离“独当一面”还早。
6. 医疗行业本身就具有严肃性和安全性的特性，即便有很好的场景，应用过程中还是需要特别注意专业严谨性。
7. 医疗数据的安全性也非常关键。如何确保患者的数据是“可用不可见”的，一方面，需要监管部门对这部分数据进行监管；另一方面，需要打通医院之间的数据壁垒。
8. 数据也是困扰着医生应用AI技术的一大掣肘。
9. 对于医疗机构来说，现阶段的大模型产品还达不到足够的降本增效预期，成本（或者说ROI）也是阻碍大模型落地的一个关键点，当前各厂商大模型与医院合作也是从战略考虑。
10. 同样，对于产业链另一头的服务商而言，商业变现也影响着服务商。
大模型丛林，一家科技企业的创新样本
文章概要：
1. 快递100总经理陈登坤表示，每天有超10万用户在使用他们的大模型产品，并助力他们重构日均4亿次的查询能力。
2. 快递100在大模型应用和落地进展方面，交出了不少成果，如推出「快递100·AI寄快递」，实现一句话寄快递，将寄件从3分40秒减少到19秒。
3. 快递100将AI大模型能力用到客服场景后，在寄件业务指数级增长的同时，极大控制了售后客服的人力成本br>4. 快递100的大模型应用能落地，还与他们早早意识到要从企业架构层面来建设大模型的应用和开发能力有关。
5. 模型厂商的热烈关注之外，拥抱大模型还给快递100带来了切实的用户增长。
阅读原文
2. 快递100在大模型应用和落地进展方面，交出了不少成果，如推出「快递100·AI寄快递」，实现一句话寄快递，将寄件从3分40秒减少到19秒。
3. 快递100将AI大模型能力用到客服场景后，在寄件业务指数级增长的同时，极大控制了售后客服的人力成本br>4. 快递100的大模型应用能落地，还与他们早早意识到要从企业架构层面来建设大模型的应用和开发能力有关。
5. 模型厂商的热烈关注之外，拥抱大模型还给快递100带来了切实的用户增长。
大模型训练合规界限待厘清
文章概要：
1 大训练问题存在于生成式人工智能生命周期的伊始不能妥善解决，大模型的研发便始终处于备受争议的状态。
. 大模型的训练语料源自海量数据的与整合，一过程潜在地触及侵犯个人、企业合法著作权权益乃至公共利益的法律风险。<>3. 北京大学法学院教授、北京大学武汉人工智能研究院副院长张平认为此问题需要调整视角。
4.集团法务部诉讼总监张喆指出，在探讨大模型训练中的法律问题，往往将作品与数据混为一谈，这导致了许多问题的。
5. 中国社会科学院大学法学院副教授、中国社会科学院大学互联网法治研究主任刘晓春认为，人工智能训练数据的并非针对特定作品的使用，而是一种非特定性性的使用。
6. 华东政法学院教授王迁指出，中国目前缺乏成熟的集体管理机制和工会集体谈判机制，如果要求人工智能企业使用作品训练AI必须经过许可，这可能会导致许可难题。
7.发展脚步飞速，目前各国版权立法尚未能作出针对性的调整，但一些国家为本国新兴产业，进行了探索。<>8.知识产权研究院教授龙小宁则从经济学角度对人工智能训练中的作品使用问题进行了分析。
9. 无论是出于激励作品创作的目的，还是着眼于促进国内生成式人工智能产业的，大模型中的的问题都具有必要性。
0. 在探讨模型训练阶段版权问题凡建议，人们需要区分阶段和行为来讨论模型训练中的版权问题。
阅读原文
. 大模型的训练语料源自海量数据的与整合，一过程潜在地触及侵犯个人、企业合法著作权权益乃至公共利益的法律风险。<>3. 北京大学法学院教授、北京大学武汉人工智能研究院副院长张平认为此问题需要调整视角。
4.集团法务部诉讼总监张喆指出，在探讨大模型训练中的法律问题，往往将作品与数据混为一谈，这导致了许多问题的。
5. 中国社会科学院大学法学院副教授、中国社会科学院大学互联网法治研究主任刘晓春认为，人工智能训练数据的并非针对特定作品的使用，而是一种非特定性性的使用。
6. 华东政法学院教授王迁指出，中国目前缺乏成熟的集体管理机制和工会集体谈判机制，如果要求人工智能企业使用作品训练AI必须经过许可，这可能会导致许可难题。
7.发展脚步飞速，目前各国版权立法尚未能作出针对性的调整，但一些国家为本国新兴产业，进行了探索。<>8.知识产权研究院教授龙小宁则从经济学角度对人工智能训练中的作品使用问题进行了分析。
9. 无论是出于激励作品创作的目的，还是着眼于促进国内生成式人工智能产业的，大模型中的的问题都具有必要性。
0. 在探讨模型训练阶段版权问题凡建议，人们需要区分阶段和行为来讨论模型训练中的版权问题。
IDC《大模型驱动的移动端搜索引擎评估，2024》研究报告首次发布
文章概要：
1. IDC正式发布《大模型的移动端搜索引擎评估，2024》研究报告用户体验、搜索能力、APP用户数据、能力以及安全保障五个维度，综合评估了360AI搜索、搜索、夸克、塔AI、天工AI搜索APP
. 报告指出AI搜索市场热度持续攀升，其影响力体现在员工生产力提升、运营成本降低、直接收入增长等关键指标上
3. IDC搭建了移动端AI搜索评估模型V.0，从用户体验、搜索能力、APP用户数据、AI能力以及安全保障五个层面进行综合分析
4. 36AI搜索在用户体验赢得广泛好评，百度搜索在结果呈现上把控信息来源，夸克通过强化自身搜索核心竞争力同时，巧妙融合了网盘等实用功能，秘塔AI搜索在搜索资源的广度权威性上展现出优势，天工在当下蓬勃发展的AI原生搜索市场成功崭露头角
5. IDC对于用户选型的一些建议，搜索APP的选择应具体需求和偏好，同时考虑跨平台整合与多元化服务能力
6. IDC中国高级分析师杨雯表示AI搜索目前发展的关键在于寻找AI技术与用户需求之间的交汇点
阅读原文
. 报告指出AI搜索市场热度持续攀升，其影响力体现在员工生产力提升、运营成本降低、直接收入增长等关键指标上
3. IDC搭建了移动端AI搜索评估模型V.0，从用户体验、搜索能力、APP用户数据、AI能力以及安全保障五个层面进行综合分析
4. 36AI搜索在用户体验赢得广泛好评，百度搜索在结果呈现上把控信息来源，夸克通过强化自身搜索核心竞争力同时，巧妙融合了网盘等实用功能，秘塔AI搜索在搜索资源的广度权威性上展现出优势，天工在当下蓬勃发展的AI原生搜索市场成功崭露头角
5. IDC对于用户选型的一些建议，搜索APP的选择应具体需求和偏好，同时考虑跨平台整合与多元化服务能力
6. IDC中国高级分析师杨雯表示AI搜索目前发展的关键在于寻找AI技术与用户需求之间的交汇点
虚拟专题|大模型技术研究及其前沿应用
文章概要：
1. 大模型技术研究及其前沿应用，当前正处于快速发展与变革之中，其研究现状呈现出技术快速迭代、应用场景日益丰富的特点。
2. 大语言模型安全现状与挑战，大语言模型自身存在明显的安全问题，严重影响其应用的可信性与可靠性。
3. 基于大语言模型的移动应用可访问性增强方法，创新性地应用可访问性服务和大语言模型，兼顾安全性、自动化和智能化，实现了一种应用可访问性辅助工具AccessLink。
4. 基于大小语言模型协同增强的中文电子病历依存句法分析，提出基于大小语言模型协同增强的中文电子病历依存句法分析方法。
5. 大模型红队测试研究综述，大模型红队测试旨在让大语言模型接收对抗测试以诱使模型输出有害的测试用例，以发现模型中的漏洞并提高其鲁棒性。
6. 面向联邦大语言模型训练的传输优化技术综述，联邦大语言模型应运而生并得到越来越多的关注。
7. 基于大语言模型的电力知识库智能问答系统构建与评价，提出了基于大语言模型的电力知识库智能问答系统ChatPower。
8. 大模型驱动的多元关系知识图谱补全方法，提出了一种由大语言模型（LLM）驱动的多元关系知识图谱补全方法。
阅读原文
2. 大语言模型安全现状与挑战，大语言模型自身存在明显的安全问题，严重影响其应用的可信性与可靠性。
3. 基于大语言模型的移动应用可访问性增强方法，创新性地应用可访问性服务和大语言模型，兼顾安全性、自动化和智能化，实现了一种应用可访问性辅助工具AccessLink。
4. 基于大小语言模型协同增强的中文电子病历依存句法分析，提出基于大小语言模型协同增强的中文电子病历依存句法分析方法。
5. 大模型红队测试研究综述，大模型红队测试旨在让大语言模型接收对抗测试以诱使模型输出有害的测试用例，以发现模型中的漏洞并提高其鲁棒性。
6. 面向联邦大语言模型训练的传输优化技术综述，联邦大语言模型应运而生并得到越来越多的关注。
7. 基于大语言模型的电力知识库智能问答系统构建与评价，提出了基于大语言模型的电力知识库智能问答系统ChatPower。
8. 大模型驱动的多元关系知识图谱补全方法，提出了一种由大语言模型（LLM）驱动的多元关系知识图谱补全方法。
大模型那些事？你了解多少
文章概要：
1. 大模型，亦称为大型语言模型（LargeLanguageModels,LLMs），是指在人工智能领域中，具备参数和复杂计算结构的机器学习模型。
2. 大模型的设计目的在于通过训练海量数据来学习复杂的模式和特征，从而具备强大的泛化能力，能够对未见过的数据做出准确的预测。在实际应用中，大模型能够自动学习并发现新的、更高层次的特征和模式，这种能力被称为“涌现能力”，是大模型与传统小模型的主要区别。
3. 大模型可以根据其结构和应用领域被分为不同的类型，每种类型都有其独特的特点和应用场景。
4. 大模型的特点包括其巨大的规模、涌现能力、更好的性能和泛化能力、多任务学习、大数据训练、强大的计算资源需求、迁移学习和预训练能力、领域知识融合、自动化和效率提升等。 6. 大模型技术的发展伴随着多项技术突破和创新，这些进步不仅提升了模型的性能，也拓展了应用的边界。
7. 预训练与微调技术是大模型成功的基石，它们共同推动了模型性能的显著提升。
8. 多模态能力是大模型发展的一个重要方向，它结合了文本、图像、音频等多种数据类型，以实现更全面的理解。
9. 大模型产业生态是一个复杂的系统，涉及多个层面的参与者和环节。
10. 大模型的商业化路径多样，不同的企业根据自身优势和市场需求探索不同的商业模式。
11. 大模型技术的未来发展趋势将集中在以下几个关键领域：模型规模与性能的持续增长、多模态能力的深化、可解释性和透明度的提升、安全性和伦理问题的重视。
12. 大模型的应用领域预计将进一步拓展，覆盖的行业和场景。
阅读原文
2. 大模型的设计目的在于通过训练海量数据来学习复杂的模式和特征，从而具备强大的泛化能力，能够对未见过的数据做出准确的预测。在实际应用中，大模型能够自动学习并发现新的、更高层次的特征和模式，这种能力被称为“涌现能力”，是大模型与传统小模型的主要区别。
3. 大模型可以根据其结构和应用领域被分为不同的类型，每种类型都有其独特的特点和应用场景。
4. 大模型的特点包括其巨大的规模、涌现能力、更好的性能和泛化能力、多任务学习、大数据训练、强大的计算资源需求、迁移学习和预训练能力、领域知识融合、自动化和效率提升等。
7. 预训练与微调技术是大模型成功的基石，它们共同推动了模型性能的显著提升。
8. 多模态能力是大模型发展的一个重要方向，它结合了文本、图像、音频等多种数据类型，以实现更全面的理解。
9. 大模型产业生态是一个复杂的系统，涉及多个层面的参与者和环节。
10. 大模型的商业化路径多样，不同的企业根据自身优势和市场需求探索不同的商业模式。
11. 大模型技术的未来发展趋势将集中在以下几个关键领域：模型规模与性能的持续增长、多模态能力的深化、可解释性和透明度的提升、安全性和伦理问题的重视。
12. 大模型的应用领域预计将进一步拓展，覆盖的行业和场景。
启明星 | 云知声黄伟：通过长期、稳定的努力，打造解决特定行业问题的强大通用大模型
文章概要：
1. 近日，云知声的山海多模态大模型UniGPT-mMed在MMMU评测中排名第一。
2. 云知声创始人、CEO黄伟接受第一财经《中国经营者》栏目的邀约，分享了自己对于通用大模型和垂直大模型关系的见解，以及公司对山海大模型的愿景、选择细分产业领域时的考量、在物联网及医疗健康领域商业化的进展。
3. 黄伟指出，只有通过长期、稳定的努力，才有可能创造出真正有价值的成果，投资人与创业者都需要审慎地将资金投入到最需要的方向。
阅读原文
2. 云知声创始人、CEO黄伟接受第一财经《中国经营者》栏目的邀约，分享了自己对于通用大模型和垂直大模型关系的见解，以及公司对山海大模型的愿景、选择细分产业领域时的考量、在物联网及医疗健康领域商业化的进展。
3. 黄伟指出，只有通过长期、稳定的努力，才有可能创造出真正有价值的成果，投资人与创业者都需要审慎地将资金投入到最需要的方向。
大模型助力开发：如何让编程更高效、更精准
文章概要：
1. 大模型辅助开发生态：大模型在软件开发领域应用广泛，能协助程序员提高工作效率，但表现依赖于输入质量和上下文准确性，程序员需具备经验和判断力。
2. 利用大模型开发的模式：大模型不能完全替代人类创造力和判断力实际项目中，程序员需根据具体需求规划和设计，代码兼容性，利用大模型生成的，自身经验进行综合判断。
3. 实战案例：大模型辅助编程领域涵盖编码、规划和任务，这些任务分别关注实现功能、系统架构、项目计划和需求分析。在依赖方面，任务的完成可以依赖于个人或团队的经验知识，或者仅依赖于项目代码本身。方法类型则包括偏抽象的方法和具体的实例。
4. 辅助开发的词框架：提示词框架是一个用于指导和优化大模型辅助开发过程中知识应用的结构化方法。它Persona & Goal、Project Context、Task Experience ConstraintsTask Description & Tips等核心组成部分。
阅读原文
2. 利用大模型开发的模式：大模型不能完全替代人类创造力和判断力实际项目中，程序员需根据具体需求规划和设计，代码兼容性，利用大模型生成的，自身经验进行综合判断。
3. 实战案例：大模型辅助编程领域涵盖编码、规划和任务，这些任务分别关注实现功能、系统架构、项目计划和需求分析。在依赖方面，任务的完成可以依赖于个人或团队的经验知识，或者仅依赖于项目代码本身。方法类型则包括偏抽象的方法和具体的实例。
4. 辅助开发的词框架：提示词框架是一个用于指导和优化大模型辅助开发过程中知识应用的结构化方法。它Persona & Goal、Project Context、Task Experience ConstraintsTask Description & Tips等核心组成部分。
双第一！百度智能云领跑中国大模型市场
文章概要：
1. IDC发布报告，024年上半年百度智能云以32.%的市场份额位居中国MaaS市场第一，以17.0%的营收比位居中国AI大模型解决方案市场第一
2. 百度智能云的MaaS业务主要通过千帆大模型平台提供服务，为企业提供大模型全生命周期工具链和整套环境
3. 百度智能云千帆大模型平台在应用开发、服务、模型开发等不断迭代，目前已有超60%的央企正在使用百度智能云进行AI创新
4. 百度智能云在、互联网、在线教育、金融、工业、交通、政务等多个行业都在加速融合落地
5. 百度集团执行副总裁、百度智能云事业群总裁沈抖表示，大模型和云计算的紧密结合，正在成为新型的基础设施
6. 百度人工智能（重庆）产业基地核心技术，以百度智能云能力为服务底座，立足重庆，辐射西南，服务全国，为政企客户提供到端智能化转型解决方案，助力区域产业实现数字化、智能化升级
阅读原文
2. 百度智能云的MaaS业务主要通过千帆大模型平台提供服务，为企业提供大模型全生命周期工具链和整套环境
3. 百度智能云千帆大模型平台在应用开发、服务、模型开发等不断迭代，目前已有超60%的央企正在使用百度智能云进行AI创新
4. 百度智能云在、互联网、在线教育、金融、工业、交通、政务等多个行业都在加速融合落地
5. 百度集团执行副总裁、百度智能云事业群总裁沈抖表示，大模型和云计算的紧密结合，正在成为新型的基础设施
6. 百度人工智能（重庆）产业基地核心技术，以百度智能云能力为服务底座，立足重庆，辐射西南，服务全国，为政企客户提供到端智能化转型解决方案，助力区域产业实现数字化、智能化升级
基于大模型搭建的运力智能机器人
文章概要：
1. 背景：职能人员获取知识信息渠道分散，一线作业人员咨询问题重复，各级管理者缺少统一查询工具缺少统一通知渠道，体验层面缺少移动端功能。
2. 措施：搭建运力智能机器人“运力小智”，定位是一个集知识问答、数据分析功能于一体的便携式知识百科问答平台。
3. 实现细节：知识问答部分借助开源框架langchain和集团提供的大模型问答元数据萃取统一语义知识图谱，AI增强生成SQL与分析思路。
4. 能力展示：指标查询、知识问答、特定场景-轨迹查询、特定场景-行驶证图片查询、报表推送、信息主动推送。
5. 效果展示：使用人数和咨询次数逐步提升，用户体验较好，成功率较高。
6. 总结与规划：重点实现运力小智机器人交互数据分析、知识查询、报表推送的的功能交付，在后续需要持续打磨交付效果，在保证价值功能的前提下提升查询效率和查询结果召回稳定性，提升用户体验，并进行规模化推广。
阅读原文
2. 措施：搭建运力智能机器人“运力小智”，定位是一个集知识问答、数据分析功能于一体的便携式知识百科问答平台。
3. 实现细节：知识问答部分借助开源框架langchain和集团提供的大模型问答元数据萃取统一语义知识图谱，AI增强生成SQL与分析思路。
4. 能力展示：指标查询、知识问答、特定场景-轨迹查询、特定场景-行驶证图片查询、报表推送、信息主动推送。
5. 效果展示：使用人数和咨询次数逐步提升，用户体验较好，成功率较高。
6. 总结与规划：重点实现运力小智机器人交互数据分析、知识查询、报表推送的的功能交付，在后续需要持续打磨交付效果，在保证价值功能的前提下提升查询效率和查询结果召回稳定性，提升用户体验，并进行规模化推广。
NeurIPS 2024 | G3: 一种基于多模态大模型的高效自适应地理定位框架
文章概要：
1. 文章介绍了一种基于多模态大模型的高效自适应地理定位框架G3，该框架包括地理对齐、地理多样化和地理验证三个步骤，用于优化全球地理定位中的检索和生成阶段>2. 为了促进后续研究，作者提出了MP16-Pro数据集，这是在MediaEval Placing Tasks 2016 (MP-16) 数据集的上，为每个样本增加了地理文本描述
3. 文章在IM2GPS3K和YFCC4K数据集上进行了广泛的实验，证明了G3的有效性
阅读原文
3. 文章在IM2GPS3K和YFCC4K数据集上进行了广泛的实验，证明了G3的有效性
大模型-ALIGN 详细介绍
文章概要：
1. ALIGN模型是一种大规模图像和噪声文本嵌入模型，通过对比学习将图像和文本嵌入到同一向量空间，适用于跨模态匹配和检索任务。
2. 主要特点包括：使用大规模噪声数据集、双编码器架构、跨模态检索能力、图像分类性能、多模态嵌入和开源实现。
3. 通过使用大规模噪声数据集和简单的双编码器架构，ALIGN模型在多种视觉和视觉语言任务上表现优异，特别是在跨模态检索和零样本图像分类方面。
4. 开源实现促进了多模态学习领域的研究和应用。
阅读原文
2. 主要特点包括：使用大规模噪声数据集、双编码器架构、跨模态检索能力、图像分类性能、多模态嵌入和开源实现。
3. 通过使用大规模噪声数据集和简单的双编码器架构，ALIGN模型在多种视觉和视觉语言任务上表现优异，特别是在跨模态检索和零样本图像分类方面。
4. 开源实现促进了多模态学习领域的研究和应用。
当AI取代真相，大模型如何一步步诱骗了人类的文明？| 追问观察
文章概要：
1. 美国奥斯汀的一家餐厅Ethos通过AI生成食物和场地的照片，在社交媒体上宣称是当地排名第一的餐厅，引发了人们对大模型通过视觉形式误导公众认知的深刻思考。
2. 大模型生成的虚假信息影响深远，类似虚假餐厅的例子在现实生活中不止一次发生。br> 3. AI生成的虚假信息利用了人们判断真假的启发式弱点，让人们越来越难以判断一件事情真实与否，并失去对专业机构和彼此的信任。
4. 将AI拟人化使我们轻信大模型，大多数人倾向于认为，我们的对话伙伴是真诚的、合作的，并会为我们提供与话题相关的有用信息。
5. 大模型会影响我们的群体智慧与记忆，按照目前大模型产生信息的速度发展下去，生成文本的遣词造句风格，将变得比人类自己的内容更为人熟知。
6. 人类应对虚假信息的方式，与自身的历史一样悠久。只是大模型的出现，让我们传统的启发式应对机制失效了。
阅读原文
2. 大模型生成的虚假信息影响深远，类似虚假餐厅的例子在现实生活中不止一次发生。br> 3. AI生成的虚假信息利用了人们判断真假的启发式弱点，让人们越来越难以判断一件事情真实与否，并失去对专业机构和彼此的信任。
4. 将AI拟人化使我们轻信大模型，大多数人倾向于认为，我们的对话伙伴是真诚的、合作的，并会为我们提供与话题相关的有用信息。
5. 大模型会影响我们的群体智慧与记忆，按照目前大模型产生信息的速度发展下去，生成文本的遣词造句风格，将变得比人类自己的内容更为人熟知。
6. 人类应对虚假信息的方式，与自身的历史一样悠久。只是大模型的出现，让我们传统的启发式应对机制失效了。
大模型技术在金融领域数据挖掘场景中的运用【大模型行业应用实践系列】
文章概要：
1. 随着信息技术的发展，金融机构逐渐采用数据挖掘技术来应对数据挑战。
2. 数据挖掘在金融场景中主要运用在业务域，如风险管理、市场分析以及信贷评估。
3. 数据挖掘在金融行业的应用存在隐私和安全、数据质量和可靠性、解释性等问题。
4. 基于大模型的数据挖掘技术在各个领域应用越来越广泛。
5. 大模型在金融机构数据挖掘的实际应用中仍然存在一些挑战和难点。
阅读原文
2. 数据挖掘在金融场景中主要运用在业务域，如风险管理、市场分析以及信贷评估。
3. 数据挖掘在金融行业的应用存在隐私和安全、数据质量和可靠性、解释性等问题。
4. 基于大模型的数据挖掘技术在各个领域应用越来越广泛。
5. 大模型在金融机构数据挖掘的实际应用中仍然存在一些挑战和难点。
沙丘智库《“大模型+RAG”最佳实践报告》发布：RAG应用指南与18个典型案例
文章概要：
1. 沙丘智库发布《“大模型+RAG”最佳实践报告》，为企业提供一份全面的RAG应用指南，以及18个典型案例作为参考。br>2. 报告包括“大模型+RAG”应用指南和典型案例两部分，应用指南包括RAG定义与分类、RAG系统的设计原则AG建设的常见与六个最佳实践、企业级RAG系统的参考、企业级AG建设路线图。典型案例包括阿里云、中国三峡、AWS、Cap、字节跳动、哔哩、360集团、集团、啰出行、百度智能云、作业、安保险、火山引擎、华为云、联想、腾讯云、去哪儿等8家企业的RAG技术实践
阅读原文
AI大模型：制造业的智能化革命🏭🤖
文章概要：
1 介绍AI大，其在海量数据和计算资源的上训练出来的深度学习模型，正在改变制造业的游戏规则。
2. AI大模型的核心赋能方式包括直接赋能行业、场景化定制、任务化<> 3. AI大模型的产品形态包括大模型API调用或软件解决方案、成熟工业产品叠加基础模型、工具作为插件、用于私有部署的集成解决方案。
5. 工业各环节围绕语言、专用、多模态和视觉四类大模型开展探索，当前以大语言模型，交互为主要应用模式。
6. AI大模型是强大的工具，但并非适用于所有场景。通过与专业知识、定制化模型和创新技术的结合，我们才能的潜力，实现更高效、更智能的工业发展。
阅读原文
2. AI大模型的核心赋能方式包括直接赋能行业、场景化定制、任务化<> 3. AI大模型的产品形态包括大模型API调用或软件解决方案、成熟工业产品叠加基础模型、工具作为插件、用于私有部署的集成解决方案。
5. 工业各环节围绕语言、专用、多模态和视觉四类大模型开展探索，当前以大语言模型，交互为主要应用模式。
6. AI大模型是强大的工具，但并非适用于所有场景。通过与专业知识、定制化模型和创新技术的结合，我们才能的潜力，实现更高效、更智能的工业发展。
银行业AI大模型，从入局到求变
文章概要：
1. 银行业AI大模型从落地到场景深入，大行占据领先位置。国有大行在大模型和场景应用上取得了进展工行完成企业级金融大模型全栈自主可控训练和推理部署，邮储银行完成大模型算力云资源池试点建设，建行持续推进金融大模型建设及应用，农行加快以AI技术为驱动的智慧银行建设，中国银行试点代码辅助等大模型应用，交通银行积极探索AIGC前沿技术。股份制银行也在场景应用上不断开花，如兴业银行“随兴写”生成式大模型已经赋能洗钱，民生银行将大模型赋能研发。
2 银行业在大模型领域不断开拓的背后，是其源源不断对金融科技的投入。2023年，国有六大行的金融科技投入总金额达到了128.22亿元，同比增长5.38%。
3 AI大模型确实为银行业科技发展带来了无限可能，但实际应用效果如何，通过与它们的智能客服沟通，便可窥见一二。
4. 中小银行在AI技术的筹备和应用上有所滞后，不过，越来越多的中小银行已经“另辟蹊地行动起来，如就大模型项目进行招标，且目标性比较强。
阅读原文
2 银行业在大模型领域不断开拓的背后，是其源源不断对金融科技的投入。2023年，国有六大行的金融科技投入总金额达到了128.22亿元，同比增长5.38%。
3 AI大模型确实为银行业科技发展带来了无限可能，但实际应用效果如何，通过与它们的智能客服沟通，便可窥见一二。
4. 中小银行在AI技术的筹备和应用上有所滞后，不过，越来越多的中小银行已经“另辟蹊地行动起来，如就大模型项目进行招标，且目标性比较强。
字节GR-2来袭！开启国内具身大模型新时代！！
文章概要：
1. 字节跳动ByteDance Research部门发布第二代机器人大模型GR-2能够通过输入图片和语言指令预测未来的视频，并生成相应的动作轨迹，还能完成105项不同的桌面任务，平均成功率为97.7%。
2. GR-2在预训练阶段通过观看3800万个视频片段进行生成式训练，在微调阶段通过在机器人轨迹数据上进行微调，进一步提升了其预测和视频生成的能力。
3. GR-2在设置中的10任务上取得了97.7%的成功率，在未见背景和未见环境中的成功率分别为71.4%和71.7%，在未见操控中的成功率为55.8%。
GR-2能够与大语言模型相结合，完成复杂的长任务，并与人类进行。
5. GR2在工业环境中的能力也得到了评估，端到端bin-picking中，将平均成功率从33.3%提高79.%。
阅读原文
2. GR-2在预训练阶段通过观看3800万个视频片段进行生成式训练，在微调阶段通过在机器人轨迹数据上进行微调，进一步提升了其预测和视频生成的能力。
3. GR-2在设置中的10任务上取得了97.7%的成功率，在未见背景和未见环境中的成功率分别为71.4%和71.7%，在未见操控中的成功率为55.8%。
GR-2能够与大语言模型相结合，完成复杂的长任务，并与人类进行。
5. GR2在工业环境中的能力也得到了评估，端到端bin-picking中，将平均成功率从33.3%提高79.%。
人工智能教育大模型：体系架构与关键技术策略
文章概要：
1. 发展现状：国外已诞生多款人工智能教育大模型，用于支持学生的个性问答、深度思考辅助工具、提供定制化的学习指导、提升学校管理效率等。我国科大讯飞、网易、腾讯等科技企业也在积极开展和部署自主研发的大模型技术，致力于研发好用、易用的人工智能教育大模型。
2. 内涵与特征：人工智能教育大模型是利用大模型相关技术，针对教育特定数据和任务进行训练或优化，形成具备教育专用知识与能力的大模型及应用，旨在赋能教育领域，服务教育场景多样化的应用需求。其能力特征包括场景应用的专业性、内容生成的合规性、知识更新的持续性、技术应用的集成性。
3.架构：人工智能教育大模型体系由基础支撑、模型能力、智能体平台、场景应用、模型评测五部分构成。
4. 关键技术策略：采取何种技术策略，不仅是人工智能教育大模型的建设与应用从理论探索走向实践应用的桥梁，更是确保其在教育场景发挥最大效能、促进教育创新与变革的核心所在。探讨人工智能教育大模型建设与应用的关键技术策略，能为构建更智能、高效、安全的人工智能教育大模型生态提供策略支撑与实践指南。
阅读原文
2. 内涵与特征：人工智能教育大模型是利用大模型相关技术，针对教育特定数据和任务进行训练或优化，形成具备教育专用知识与能力的大模型及应用，旨在赋能教育领域，服务教育场景多样化的应用需求。其能力特征包括场景应用的专业性、内容生成的合规性、知识更新的持续性、技术应用的集成性。
3.架构：人工智能教育大模型体系由基础支撑、模型能力、智能体平台、场景应用、模型评测五部分构成。
4. 关键技术策略：采取何种技术策略，不仅是人工智能教育大模型的建设与应用从理论探索走向实践应用的桥梁，更是确保其在教育场景发挥最大效能、促进教育创新与变革的核心所在。探讨人工智能教育大模型建设与应用的关键技术策略，能为构建更智能、高效、安全的人工智能教育大模型生态提供策略支撑与实践指南。
人工智能教育大模型：体系架构与关键技术策略
文章概要：
1. 文章指出，以大模型为代表的生成式人工智能技术为破解教学难题、革新教学样态带来了机遇，但仅依靠海量数据训练带来的优势，满足教育场景下更高的知识准确度、价值观与安全性要求。因此，能够满足教育特定场景任务需要的人工智能教育大模型应运而生，能有效提升教育质量和推进个性化智能化教学。
2. 文章分析了人工智能教育大模型的发展现状、概念内涵技术特征和体系框架，旨在为人工智能教育大模型的未来发展提供理论与技术参考。
3. 文章提出了建设与应用框架及关键技术策略，以期推动中国版人工智能教育大模型在大规模因材施教、创新性与个性化教学中的应用，加快教育数字转型和智能升级。
阅读原文
2. 文章分析了人工智能教育大模型的发展现状、概念内涵技术特征和体系框架，旨在为人工智能教育大模型的未来发展提供理论与技术参考。
3. 文章提出了建设与应用框架及关键技术策略，以期推动中国版人工智能教育大模型在大规模因材施教、创新性与个性化教学中的应用，加快教育数字转型和智能升级。