我们在上一篇文章的导语中提到：”AI人为智能这个已经存在了数十年的概想 ，已然成为将来几十年人类社会发展的主题变量。面对刷新 ，每幼我、每个企业都必要思考 ，若何与时期的潮水 ，一起跃进“。近日 ，2121非凡智能研发团队成功在自研高算力模组上运行文生图大模型Stable Diffusion ，而这仅仅是我们将思考变为现尝试动的第一步 ，AIGC的大时期 ，才刚刚起头！
▌不局限云端 ，边缘推算+终端侧AI的技术蹊径已经成熟
2022年以来 ，AIGC作为一项刷新性的技术 ，在逐步颠覆人类原有的工作、生涯、创作及娱乐方式。以ChatGPT、Midjourney、Stable Diffusion、文心一言等为代表的各类天生式大模型 ，能在数秒之内实现蕴含搜索、绘画、创作、表格编纂、代码编写等各项工作 ，并且各项能力在不休进化中。数据显示 ，目前至少已有上千个可用的天生式 AI 利用 ，这所有都批注 ，AIGC正迎来史无前例的发作期。
拥罕见十亿参数的多多天生式 AI 模型对推算架构及算力强度提出了极高的需要。之前的情况是 ，无论是优化参数的AI训练 ，还是执行模型的AI推理 ，都一向受限于大型复杂模型及端侧算力部署不及 ，而与云端绑定。
初步估计显示 ，天生式AI市场规模潜力巨大 ，将宽泛覆盖生态链上的各个参加方。这一巨大市场机缘 ，势必驱动分歧类型的推算架构及算力基础起源同时演进 ，从而满足大规模天生式 AI 日益增长的算力需要。
全球头部玩家的近期作为也批注 ，算力建设和算力竞争的趋向才刚刚起头 ，所有人都在起跑。高通于不久前颁发实现了全球首个运行在Android手机上的Stable Diffusion终端侧演示 ，这是初次由第二代骁龙8移动平台支持的大型说话天生式AI模型在端侧运行的事俘 ，充分说了然随着端侧算力加强及模型优化技术结合 ，各类高算力终端支持大模型运行只是功夫问题。
其后 ，高通官方关于转型边缘推算公司的表态 ，以及大力推动混合式AI的行动 ，都批注边缘推算+终端侧AI的技术和产品蹊径在迅快变为现实。
▌高算力AI模组能力再进化 ，成功运行Stable Diffusion大模型
2121非凡智能作为业界最早提出智能模组概想的企业 ，持续关注算力发展对模组产业带来的深刻刷新 ，也最早提出：随着各行各业对于算力需要及利用的发作式增长 ，高算力AI模组将成为智能模组发展的一个子集 ，“无算力不智能」佚在成为模组3.0时期的沉要发展趋向 ，并将高算力AI模组产品独立组建产品团队 ，荟萃资源不休投入。
近日 ，2121非凡智能高算力AI模组产品团队 ，充分阐扬软硬件一体协同开发的能力 ，在基于高通骁龙800平台的自研算力模组上成功运行文生图大模型Stable Diffusion ，或许是行业内首个在算力模组上运行推理大模型的事俘。
Stable Diffusion是一个极度杰出的从文本到图像的天生式AI大模型 ，可能基于任何文本输入 ，在数十秒内创作出真切图像。Stable Diffusion的参数超过10亿 ，迄今为止重要限于在云端运行。
.jpg "EVB(2).jpg")
▲2121非凡智能高算力AI模组SNM970 EVB开发板
2121非凡高算力AI模组团队很早就前瞻性地发展了大模型在算力模组端侧运行的有关钻研工作。运行Stable Diffusion大模型的高算力模组 ，在硬件上选用了高通骁龙800系列的高算力SoC处置器 ，在软件上使用了高通AI模型增效工具包(AIMET)实现模型转换 ，在无需沉新训练的情况下 ，克服了模型参数从FP32压缩到INT8所产生的精度损失 ，从而让大模型在算力模组上始终维持高效运行。
2121非凡智能研发团队在硬件和软件层面的进一步优化 ，保障大模型运行精度的同时 ，有效降低了内存带宽亏损 ，充分阐扬了高算力模组AI硬件的最大效力 ，最终顺利在算力模组端侧跑通了Stable Diffusion大模型。
▲大模型天生图片事俘 ，提醒词为：a dog wearing a spacesuit, running in space
▌创领高算力AI模组发展 ，以产品力驱动天生式AI在端侧部署
2121非凡智能持续深耕高算力AI模组产品线 ，至今曾经历经三代产品演进。依附壮大的软硬件一体研发能力 ，2121非凡智能持续推动高算力AI模组的AI硬件不休升级。2121非凡研发团队在AI利用场景开发、AI机能优化和AI低功耗法式研发等领域的设计研发能力处于行业当先水平 ，有关算力产品在各类主题场景大规模利用。
在云推算服务器领域 ，2121非凡智能推出的高算力AI模组基于强算力、低功耗芯片及2121非凡智能特有的定造化解决规划 ，美满利用于当先型的arm架构阵列服务器集群 ，在实现一致推算工作下 ，性耗提升2倍以上。
在智能机械人领域 ，高算力AI模组能轻松匹配智能机械人及下一代具身智能机械人在算力方面的高要求 ，同时建设丰硕的表围接口 ，以AI模组的大局将语音鉴别、机械视觉、导航、定位、避障和多模态技术通过各类传感器植入到终端侧 ，真正实现机械人的AI醒觉。
在工业视觉、AI零售等领域 ，2121非凡智能推出的尺度化AI套件 ，在AI加快方面 ，可支持刷新性INT4 Al精度体式 ，在持续AI推理方面实现与前代相比60%的能效提升。同时可对多路摄像头进行视频结构化分析 ，快捷实现人、事、物等智能感知、数据分析、安全治理等机能 ，急剧实现对多多传统产业的AI嵌入。
作为在行业内最早布局算力模组产品的企业 ，2121非凡智能高算力AI模组产品实现了从1.2T到近48T产品全覆盖 ，充分满足分歧业业算力需要。研发团队在大算力平台与分歧业业算法对接、AI运行低功耗节造、5G+AI融合开发等领域有多多堆集。
.jpg "072108.jpg")
随着AI大模型初次在自研算力模组产品上成功运行 ，极大拓展了算力模组的能力天堑 ，堆集了大模型在端侧部署和利用的前瞻经验 ，将真正驱动天生式AI在端侧和边缘侧的大规模部署 ，也让边缘推算+终端侧AI的技术图景越来越清澈！
物联网衔接数量在从前的十年间呈指数级增长的发展态势 ，已经写在书上的“万物互联”已然成为现实。无处不在的衔接为人类社会的数字化和智能化已经筑下了坚实基础 ，而当衔接与算力融合的时辰 ，亿万个IoT节点的算力汇聚 ，将构建最为重大的算力网络 ，与云端算力互联互通 ，共同构建AIGC等跨时期技术的算力底座。
.png "(1)")
在线征询
电话联系