翼方健数发布「揽睿大模型流通解决方案」和「星舟·密方」机密可信计算智算集群,开启全新大模型生态协作模式...

本文主要是介绍翼方健数发布「揽睿大模型流通解决方案」和「星舟·密方」机密可信计算智算集群,开启全新大模型生态协作模式...,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

ff5263177dd5a88ecd033ae8903ec1ba.gif

8月30日,青岛国际会议中心迎来了一场人工智能盛会“2023智能要素流通论坛暨第三届DataX大会”。由青岛市大数据发展管理局、青岛市城阳区人民政府、翼健(上海)信息科技有限公司共同主办本次活动,汇聚了业界顶尖人士及专家学者。翼方健数董事长陈恂博士、集团总裁罗震博士、首席科学家张霖涛博士以及首席技术官赵玺相继上台,分享了翼方的发展战略,聚焦人工智能三要素——数据、算力、算法的“安全流通、高效匹配、价值释放”。

7d1302a36b23ebfe39b51296a266be34.png

翼方在本次大会上公布了揽睿星舟人工智能服务平台上实现的“揽睿大模型流通解决方案”和“星舟·密方”机密可信计算智算集群。

86f9a7d4d899d45461be92afe3b349a9.png

揽睿星舟:探索人工智能基础算力的揽睿之道

大型深度学习模型的训练与服务需要庞大的计算资源,但人工智能的专用算力,即智算算力,现今仍存在着明显的缺口,难以满足快速增长的需求。当下日益分散的算力对分布式计算和处理能力的需求也越来越高,相关基础设施的建设还需要进一步建设与完善。

揽睿星舟(简称“揽睿”)直面算力短缺和分散的现实挑战,提供了完善的算力基建解决方案。揽睿汇聚了来自不同供应商、不同地域、不同类别的算力供应,并以人工智能开发和使用的完整技术栈和工具链的产品形式呈现给客户,开箱即用,高效易用。

揽睿算力网络专注于集中生态优势实现算力统一标准、高效配置。通过跨云、跨节点、跨地域的算力调度体系,为算力需求方和算力供应商提供算力调度和需求匹配:

  • 异构计算:揽睿星舟支持异构的超级计算和私有平台,全面利用不同供应架构下的算力资源;

  • 充足多云算力:通过多云平台提供充足算力,实现实时调度匹配AI企业的算力需求和供给;

  • 资源战略合作:揽睿星舟平台向算力服务商批量采购算力,为算力需求方提供高性价比的算力资源;

揽睿全面保障用户的稳定体验。采用先进的云原生弹性架构,确保系统具有卓越的可伸缩性,避免单点故障风险,维护系统的高可用性和可靠性。系统持续监控和记录日志,既可提前预防潜在问题,也能在问题发生时快速解决,保障系统稳定运行。这些措施共同构成揽睿算力基建的坚实支持。

38596caf4541da535e63b2a8ebc02ce3.png

开启大模型生态协作新模式

人工智能大模型技术正蓬勃发展,在各个行业将产生深远的影响。技术进步带来了无限的潜力与机遇,也不可忽视模型和数据的安全问题以及开发利用大模型的商业困境。本次发布的“揽睿大模型流通解决方案”旨在通过机密可信计算环境“星舟·密方”、隐私安全计算、以及弹性、可信的商业实现开启人工智能大模型生态协作的新模式。

构建大模型需要巨大的时间和资金成本。既有因测试调优及广泛部署带来的模型产权风险问题,也有模型基于行业数据获得的调优参数泄露风险。未经授权的访问或复制会导致模型的非规范操作甚至恶意传播与使用。其次,大模型的训练和推理应用过程都离不开大量优质数据,特别是在调优和推理过程中,可能涉及个人隐私和商业核心竞争力的敏感信息,这些机密数据需要严格的安全保护。

常用的“私有化部署”模式,虽然一定程度上解决了数据安全问题,但对于绝大多数的企业和机构而言,私有化部署大模型、智算算力集群以及人工智能训练和推理环境的大额资本投入和后续维护管理都是不可企及的。同时,在大模型训练、微调、使用过程中对于算力的需求种类不一、变化巨大,而且在初期难以预估。广大的大模型使用者迫切需要弹性资源调度、按需使用、按量计费的共享的算力、工具和模型生态。而对于基础模型提供方而言,降低千行百业发展、使用专业行业模型的门槛,实现可持续的、按量收费的商业模式,也是亟待解决的问题。

揽睿大模型流通解决方案,集成了隐私安全计算和机密可信计算能力,为用户提供模型、数据集与服务有效串联,无论是数据提供方、基础模型拥有者、参与行业大模型调优的服务团队,还是使用大模型的业务部门,揽睿大模型流通解决方案都为您提供了数据和模型的隐私及产权的保护。人工智能大模型生态的各方参与者都能够在合法合规、保护本方数据、产权与权益的前提下,通过安全而高效的协作,共同推动大模型的技术进步和产业落地。

同时,揽睿大模型流通方案集成了区块链技术,提供可信而精确的用量计量、存证,形成弹性算力资源、共享的算力、工具和模型生态,并以此赋能“按需使用、按量计费”的商业模式。

defa120d82e82a3316a0b70c0330db63.png

5d69966aaf861c5a8874b10a9bc546d1.png

星舟·密方:机密可信计算集群

揽睿大模型解决方案的安全核心是翼方健数机密可信计算产品“星舟·密方”。“星舟·密方”是一个安全、通用、高效的“零信任”机密可信计算集群。以模型服务运行时的内存数据保护为例,高权限的攻击者可以对明文内存进行窥探,得到模型、参数、业务调用数据等一切计算过程中曾驻留在内存中的数据。“星舟·密方”利用机密可信计算软、硬件结合的能力,确保整个计算环境中,包括数据中心管理员,云平台管理员在内的任何一方都无法不经授权访问计算集群,或通过计算基础设施其他类型的攻击。

a0bb9f46cb8c1e3745f79704d5e24676.png

7bae81a815ffddc8aa5f43f7a77f9333.png

授权机制、推理服务、权益流通

翼方健数多年沉淀的隐私安全计算技术为大模型流通过程中的模型与数据提供了完善的授权与可用不可见机制。授权记录不可篡改。每次授权被视为区块链中的一个交易,并被添加到系统中的一个个区块中。每个区块包含了一批授权信息,并且与前一个区块通过加密哈希链接在一起,形成了一个不断增长的链条,确保单个区块的授权记录数据无法被随意修改。

c1065c31b97462a8dd45657bf5756a02.png

大模型流通过程中,用户可自由选择使用开源大模型或受限模型进行模型服务搭建。服务搭建支持在线服务与私有化部署。“星舟·密方”为每个企业提供独立的模型搭建和推理服务,确保企业的模型构建成果与业务数据不与其他企业共享。

411be09c6c50196f52c093365535d532.png

方案内置的精准计量模块,可集成翼方健数自研基于区块链的存证和激励系统,支持多种主流区块链技术,存储关键信息,在确保用户数据安全的前提下以不可篡改方式统计并存储推理服务的调用量。调用量与基础模型和数据集准确关联,支持智能合约,完美助力要素流通,实现价值激励,用于商业利润分配。

揽睿星舟(Lanrui-ai)是人工智能企业翼方健数自主研发的隐私安全计算与机密可信计算护航的一站式AI服务平台,提供开箱即用的训推环境、AI工具链及大模型流通解决方案。揽睿星舟旨在解决AI协作过程中的安全信任问题,通过生态力量加速AI价值释放。本次大会上,发布的基于隐私安全计算与机密可信计算的“揽睿大模型流通解决方案”、“星舟·密方”,为AI应用落地提供全流程安全保护、赋能生态协作的新商业模式。人工智能大模型生态的各方参与者都能够在合法合规、保护本方数据、产权与权益的前提下,通过安全且高效的协作,共同推动大模型的技术进步和产业落地。

未来,翼方健数希望与更多行业伙伴进行合作,共建算力、算法与数据的计算生态网络,在行业变革的浪潮中共同实现真正的智能价值发掘和流通。

这篇关于翼方健数发布「揽睿大模型流通解决方案」和「星舟·密方」机密可信计算智算集群,开启全新大模型生态协作模式...的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/428281

相关文章

部署Vue项目到服务器后404错误的原因及解决方案

《部署Vue项目到服务器后404错误的原因及解决方案》文章介绍了Vue项目部署步骤以及404错误的解决方案,部署步骤包括构建项目、上传文件、配置Web服务器、重启Nginx和访问域名,404错误通常是... 目录一、vue项目部署步骤二、404错误原因及解决方案错误场景原因分析解决方案一、Vue项目部署步骤

定价129元!支持双频 Wi-Fi 5的华为AX1路由器发布

《定价129元!支持双频Wi-Fi5的华为AX1路由器发布》华为上周推出了其最新的入门级Wi-Fi5路由器——华为路由AX1,建议零售价129元,这款路由器配置如何?详细请看下文介... 华为 Wi-Fi 5 路由 AX1 已正式开售,新品支持双频 1200 兆、配有四个千兆网口、提供可视化智能诊断功能,建

0基础租个硬件玩deepseek,蓝耘元生代智算云|本地部署DeepSeek R1模型的操作流程

《0基础租个硬件玩deepseek,蓝耘元生代智算云|本地部署DeepSeekR1模型的操作流程》DeepSeekR1模型凭借其强大的自然语言处理能力,在未来具有广阔的应用前景,有望在多个领域发... 目录0基础租个硬件玩deepseek,蓝耘元生代智算云|本地部署DeepSeek R1模型,3步搞定一个应

在MySQL执行UPDATE语句时遇到的错误1175的解决方案

《在MySQL执行UPDATE语句时遇到的错误1175的解决方案》MySQL安全更新模式(SafeUpdateMode)限制了UPDATE和DELETE操作,要求使用WHERE子句时必须基于主键或索引... mysql 中遇到的 Error Code: 1175 是由于启用了 安全更新模式(Safe Upd

Python安装时常见报错以及解决方案

《Python安装时常见报错以及解决方案》:本文主要介绍在安装Python、配置环境变量、使用pip以及运行Python脚本时常见的错误及其解决方案,文中介绍的非常详细,需要的朋友可以参考下... 目录一、安装 python 时常见报错及解决方案(一)安装包下载失败(二)权限不足二、配置环境变量时常见报错及

Deepseek R1模型本地化部署+API接口调用详细教程(释放AI生产力)

《DeepseekR1模型本地化部署+API接口调用详细教程(释放AI生产力)》本文介绍了本地部署DeepSeekR1模型和通过API调用将其集成到VSCode中的过程,作者详细步骤展示了如何下载和... 目录前言一、deepseek R1模型与chatGPT o1系列模型对比二、本地部署步骤1.安装oll

Spring AI Alibaba接入大模型时的依赖问题小结

《SpringAIAlibaba接入大模型时的依赖问题小结》文章介绍了如何在pom.xml文件中配置SpringAIAlibaba依赖,并提供了一个示例pom.xml文件,同时,建议将Maven仓... 目录(一)pom.XML文件:(二)application.yml配置文件(一)pom.xml文件:首

Java下载文件中文文件名乱码的解决方案(文件名包含很多%)

《Java下载文件中文文件名乱码的解决方案(文件名包含很多%)》Java下载文件时,文件名中文乱码问题通常是由于编码不正确导致的,使用`URLEncoder.encode(filepath,UTF-8... 目录Java下载文件中文文件名乱码问题一般情况下,大家都是这样为了解决这个问题最终解决总结Java下

Idea实现接口的方法上无法添加@Override注解的解决方案

《Idea实现接口的方法上无法添加@Override注解的解决方案》文章介绍了在IDEA中实现接口方法时无法添加@Override注解的问题及其解决方法,主要步骤包括更改项目结构中的Languagel... 目录Idea实现接China编程口的方法上无法添加@javascriptOverride注解错误原因解决方

Java实现状态模式的示例代码

《Java实现状态模式的示例代码》状态模式是一种行为型设计模式,允许对象根据其内部状态改变行为,本文主要介绍了Java实现状态模式的示例代码,文中通过示例代码介绍的非常详细,需要的朋友们下面随着小编来... 目录一、简介1、定义2、状态模式的结构二、Java实现案例1、电灯开关状态案例2、番茄工作法状态案例