起源：36氪“AI端侧模子与硬件模组一体化”欢迎智能终端年夜暴发。2025年伊始，DeepSeek的风潮无异于一声惊雷，把年夜模子再次炸出了圈。在海内，被这波巨浪打击到的模子厂——OpenAI、Anthropic、xAI纷纭颁布最新停顿，力证自家模子仍旧当先。海内，跟着微信接入DeepSeek-R1，海内挪动互联时期的王炸APP跟年夜模子时期的国运级翻新的年夜模子就此联手。而在工业场景更深处，DeepSeek此次激发热议的推理模子DeepSeek-R1也激发一些思考。比方，怎样顺遂把它应用在强隐衷保险维护、不克不及上互联网处置、须要多模态视觉AI剖析、须要更快呼应速率而且算力无限的终端侧场景？这些场景市场辽阔，包含：医疗东西（显微镜、内窥镜等）、手机相册、团体文件存储、家庭NAS、保密保险PC、汽车、腕表、智能家居、AI萌宠、呆板人等等。据估量，至2032年寰球AI端侧市场有1436亿美元。DeepSeek供给了蒸馏版模子（如1.5B版本），进一步优化了资本受限硬件的运转才能。以剖析苹果闻名的剖析师郭明錤，日前也发文指出，DeepSeek爆红后，端侧AI趋向将减速推动。这种趋向曾经开端浮现。在这两天的一场宣布会上，36氪看到，有着临时AI中心技巧积聚跟落地教训的“沉思考人工智能（iDeepWise.ai） 宣布了鸿蒙体系真个“TinyDongni” “DeepSeek”超小端侧多模态年夜模子，并与国产算力模组适配，构成一揽子的端侧AI处理计划。归纳综合来讲，沉思考做了多少项任务：1、应用其自研的Dongni-AMDC(Adaptive Multi-Dimensional Compression) 方式量化紧缩了DeepSeek R1模子为 DeepSeek R1 -1B端侧模子。2、使得DeepSeek R1-1B “长眼睛”具有视觉模态才能，从而加强为多模态模子。3、适配了开源鸿蒙操纵体系（据悉也同时适配了Linux Ubuntu 22.04 / 统信UOS/Windows 10 11/Android 14）4、将TinyDongni”及“deepseek”超小端侧多模态年夜模子优化运转至国产算力模组，推出一站式处理计划。36氪懂得到，这些计划的凸起上风在于：1、沉思考自研的Dongni-AMDC(Adaptive Multi-Dimensional Compression) 算法是沉思考专为端侧年夜言语模子计划的全新多元自顺应紧缩算法，努力于在低功耗、低耽误跟低资本占用的前提下实现出色机能。为边沿装备上的AI安排带来了冲破，使得精度与效力兼得，简略来讲就是固然模子尺寸变小了，但在重点落地场景下的指标却能保障精度，不会“掉智”跟“幻觉百出”。2、在医疗安康场景下做了加强练习，进修了超1600万篇威望医学安康论文、指南、专家共鸣。3、AI模子+AI体系套件+算力模组一站式计划，运转流利，据评测沉思考已将其自行量化的DeepSeek 1B版本模子端侧安排于瑞芯微 RK3588之上，且能到达每秒10.2个tokens的推理速率。而沉思考TinyDongni端侧多模态年夜模子在瑞芯微 RK3588上推理速率为：13.6tokens/s；4、沉思考提出的一种的多档次语义解码架构Dongni-v，经由过程自顺应的模态交互机制实现了图像跟文本特点的跨模态对齐。这一架构的中心上风在于它可能主动捕获多模态数据中的轻微语义关系，并经由过程全新的“语义连接度评价”技巧，确保差别模态信息的无缝连接。Dongni-v付与了Deepseek R1-1B模子“多模态“才能。做出这些翻新的沉思考人工智能（iDeepWise.ai），是一家专一于类脑人工智能与多模态年夜模子中心科技的公司，中心团队重要是来自中科院、清华、耶鲁年夜学一线的AI迷信家及范畴营业专家。Dongni.ai，是他们推出的多模态年夜模子。TinyDongni则是这家公司专为端侧计划的模子。早前，TinyDongni这一端侧模子曾经范围化落地在AI PC、AI手机、AI显微镜、AI NPU摄像优等场景中。这一次沉思考人工智能（iDeepWise.ai）最新带来的，是跟鸿蒙体系适配的“TinyDongni”及“deepseek”端侧多模态年夜模子。“这是鸿蒙体系上的首个端侧DeepSeek-R1-1B模子。”沉思考人工智能（iDeepWise.ai）开创人及CEO杨志明博士表现。而且，沉思考人工智能（iDeepWise.ai）还把国产的端侧年夜模子计划停止了一系列深入。它与国产头部模组厂商广跟通、深开鸿告竣深度配合，并推出适配国产算力的硬件处理计划。也就是说，这家公司曾经把端侧模子的可用国产计划，团体落地了。