Nvidia 推出了一款新型芯片,专为在家中运行人工智能而设计

本文主要是介绍Nvidia 推出了一款新型芯片,专为在家中运行人工智能而设计,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

每周跟踪AI热点新闻动向和震撼发展 想要探索生成式人工智能的前沿进展吗?订阅我们的简报,深入解析最新的技术突破、实际应用案例和未来的趋势。与全球数同行一同,从行业内部的深度分析和实用指南中受益。不要错过这个机会,成为AI领域的领跑者。点击订阅,与未来同行! 订阅:https://rengongzhineng.io/

去年 Nvidia 成为人工智能热潮的中心,原因是其昂贵的服务器图形处理器(例如 H100)对于训练和部署像OpenAI的ChatGPT这样的生成型AI至关重要。现在,Nvidia 正在发挥其在消费者GPU领域的优势,推广所谓的“本地”AI,这种AI可以在家庭或办公室的个人电脑或笔记本上运行。

Nvidia 在周一宣布了三款新的显卡 — RTX 4060 Super、RTX 4070 Ti Super 和 RTX 4080 Super,价格在599至999美元之间。这些显卡具有额外的“张量核心”,专为运行生成型AI应用程序设计。Nvidia 还将为Acer、Dell和Lenovo等公司的笔记本电脑提供显卡。

Nvidia 企业级GPU的需求激增,每个价格高达数万美元,通常以八个GPU一起工作的系统形式出现,这导致Nvidia整体销售额激增,市值超过1万亿美元。

对于个人电脑的GPU长期以来一直是Nvidia的主要产品,主要用于运行视频游戏,但公司表示,今年的显卡在运行AI模型时不需要将信息发送回云端,这方面已经有所改进。

公司表示,新的消费级图形芯片主要用于游戏,但仍然可以快速处理AI应用。例如,Nvidia 表示,RTX 4080 Super生成AI视频的速度比上一代型号快150%。公司最近宣布的其他软件改进将使大型语言模型处理的速度提高五倍。

Nvidia 的产品管理高级总监 Justin Walker 在新闻发布会上告诉记者:“随着1亿RTX GPU的出货,它们为强大的PC提供了大量安装基础,用于AI应用。”

Nvidia 预计,在未来一年中将出现新的AI应用,以利用增加的计算能力。预计微软将在今年晚些时候发布新版本的Windows操作系统 — Windows 12,该系统将进一步利用AI芯片。

Walker表示,新芯片可用于在Adobe Photoshop的Firefly生成器上生成图像,或在视频通话中去除背景。Nvidia 也在创建工具,允许游戏开发者将生成型AI集成到他们的游戏中,例如,生成非玩家角色的对话。

在Edge与Server方面,Nvidia 本周的芯片公告显示,尽管它一直是与大型服务器GPU最相关的公司,但它也将与Intel、AMD和高通在本地AI领域竞争。这三家公司都已经宣布了将为所谓的“AI PC”提供动力的新芯片,这些芯片专门用于机器学习。

随着科技行业正在探索部署生成型AI的最佳方式,这成为Nvidia的举措的背景,这种AI需要大量的计算能力,并且在云服务上运行成本非常高。

微软和Nvidia的竞争对手正在推广的一种技术解决方案是所谓的“AI PC”或有时称为“边缘计算”。这种方式不是通过互联网使用强大的超级计算机,而是设备内部拥有更强大的AI芯片,它们可以运行所谓的大型语言模型或图像生成器,尽管会有一些权衡和缺陷。

Nvidia 提出的应用程序可以使用云模型来处理复杂问题,同时使用本地

AI模型来执行需要快速完成的任务。

Nvidia 的 Walker 说:“云中的Nvidia GPU可以运行非常大的大型语言模型,并使用所有那些处理能力来支持非常大的AI模型,同时,您PC中的RTX张量核心将运行更具延迟敏感性的AI应用。”

公司表示,新的显卡将符合出口管制规定,可以运送到中国,为无法获得Nvidia最强大的服务器GPU的中国研究人员和公司提供了一种选择。

这篇关于Nvidia 推出了一款新型芯片,专为在家中运行人工智能而设计的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/598681

相关文章

eclipse运行springboot项目,找不到主类

解决办法尝试了很多种,下载sts压缩包行不通。最后解决办法如图: help--->Eclipse Marketplace--->Popular--->找到Spring Tools 3---->Installed。

22.手绘Spring DI运行时序图

1.依赖注入发生的时间 当Spring loC容器完成了 Bean定义资源的定位、载入和解析注册以后,loC容器中已经管理类Bean 定义的相关数据,但是此时loC容器还没有对所管理的Bean进行依赖注入,依赖注入在以下两种情况 发生: 、用户第一次调用getBean()方法时,loC容器触发依赖注入。 、当用户在配置文件中将<bean>元素配置了 lazy-init二false属性,即让

21.手绘Spring IOC运行时序图

1.再谈IOC与 DI IOC(lnversion of Control)控制反转:所谓控制反转,就是把原先我们代码里面需要实现的对象创 建、依赖的代码,反转给容器来帮忙实现。那么必然的我们需要创建一个容器,同时需要一种描述来让 容器知道需要创建的对象与对象的关系。这个描述最具体表现就是我们所看到的配置文件。 DI(Dependency Injection)依赖注入:就是指对象是被动接受依赖类

在线装修管理系统的设计

管理员账户功能包括:系统首页,个人中心,管理员管理,装修队管理,用户管理,装修管理,基础数据管理,论坛管理 前台账户功能包括:系统首页,个人中心,公告信息,论坛,装修,装修队 开发系统:Windows 架构模式:B/S JDK版本:Java JDK1.8 开发工具:IDEA(推荐) 数据库版本: mysql5.7 数据库可视化工具: navicat 服务器:SpringBoot自带 ap

java中查看函数运行时间和cpu运行时间

android开发调查性能问题中有一个现象,函数的运行时间远低于cpu执行时间,因为函数运行期间线程可能包含等待操作。native层可以查看实际的cpu执行时间和函数执行时间。在java中如何实现? 借助AI得到了答案 import java.lang.management.ManagementFactory;import java.lang.management.Threa

DDei在线设计器-API-DDeiSheet

DDeiSheet   DDeiSheet是代表一个页签,一个页签含有一个DDeiStage用于显示图形。   DDeiSheet实例包含了一个页签的所有数据,在获取后可以通过它访问其他内容。DDeiFile中的sheets属性记录了当前文件的页签列表。   一个DDeiFile实例至少包含一个DDeiSheet实例。   本篇最后提供的示例可以在DDei文档直接预览 属性 属性名说明数

基于Springboot + vue 的抗疫物质管理系统的设计与实现

目录 📚 前言 📑摘要 📑系统流程 📚 系统架构设计 📚 数据库设计 📚 系统功能的具体实现    💬 系统登录注册 系统登录 登录界面   用户添加  💬 抗疫列表展示模块     区域信息管理 添加物资详情 抗疫物资列表展示 抗疫物资申请 抗疫物资审核 ✒️ 源码实现 💖 源码获取 😁 联系方式 📚 前言 📑博客主页:

人工智能机器学习算法总结神经网络算法(前向及反向传播)

1.定义,意义和优缺点 定义: 神经网络算法是一种模仿人类大脑神经元之间连接方式的机器学习算法。通过多层神经元的组合和激活函数的非线性转换,神经网络能够学习数据的特征和模式,实现对复杂数据的建模和预测。(我们可以借助人类的神经元模型来更好的帮助我们理解该算法的本质,不过这里需要说明的是,虽然名字是神经网络,并且结构等等也是借鉴了神经网络,但其原型以及算法本质上还和生物层面的神经网络运行原理存在

比较学习难度:Adobe Illustrator、Photoshop和新兴在线设计平台

从入门设计开始,几乎没有人不知道 Adobe 公司两大设计软件:Adobe Illustrator和 Photoshop。虽然AI和PS很有名,有一定设计经验的设计师可以在早期探索和使用后大致了解AI和PS的区别,但似乎很少有人会系统地比较AI和PS。目前,设计软件功能多样,轻量级和网页设计软件已成为许多设计师的需求。对于初学者来说,一篇有针对性的AI和PS比较总结文章具有非常重要的指导意义。毕竟

人工智能做音乐

0 别人做的音乐demo https://yun.baidu.com/share/link?shareid=1799925478&uk=840708891 1 为什么人工智能能做音乐? 最下面蓝色的部分是你输入的音乐。 从上图可以看出,input是一个个的点,然后通过input来相互结合生成灰色的点,经过几层的连接之后,最后的Output就是新生成的音乐,也就是黄色的点。 把黄色的点