NVIDIA英伟达

NVIDIA英伟达（http://www.nvidia.cn//）

向厂商驻站专家提问

0/50开始提问

来自主题GPU 大语言模型大模型时代
在大模型计算中GPU如何加速计算？
wangshanshan NVIDIA英伟达, 擅长领域：人工智能，服务器，GPU
发布于 2023-07-12 · 1 会员关注
1）GPU如何加速后台的模型学习训练过程？大模型训练由于模型参数尺寸很大，很难在一块GPU上进行训练，所以采用模型并行和数据并行的方式进行训练，具体可以参考英伟达megatron-lm或megatron-deepspeed。2）在模型应用过程中，GPU是否也能起到加速作用？不知道您是不是指大模型推理阶段... (more)
赞同6
回答
浏览 1664
来自主题GPU GPU算力 GPU池化
金融企业做GPU算力资源池化，需要评估和考虑哪些方面？
wangshanshan NVIDIA英伟达, 擅长领域：人工智能，服务器，GPU
发布于 2023-07-11 · 1 会员关注
这不在我们这次课程的讨论范围
赞同
回答
浏览 942
来自主题人工智能 GPU GPU算力
老师介绍金融大模型大概需要1000张GPU，若GPU数量只有要求的10%左右，企业还有必要做大模型吗？
wangshanshan NVIDIA英伟达, 擅长领域：人工智能，服务器，GPU
发布于 2023-07-11 · 1 会员关注
如果计算资源比较少，可以相对应训练模型参数大小不会太大，比如训练 6B，8B 参数并不需要一千片计算卡
赞同4
回答
浏览 1811
来自主题GPU AI 大语言模型
大语言模型的 GPU 加速和生成式AI在金融中的应用
 wangshanshan NVIDIA英伟达, 擅长领域：人工智能，服务器，GPU
发布于 2023-07-05 · 1 会员关注
下载
评价 1
浏览 4107
来自主题智能化 GPU AI
GPU 加速计算创造智能交易的新时代
 wangshanshan NVIDIA英伟达, 擅长领域：人工智能，服务器，GPU
发布于 2023-07-05 · 1 会员关注
在快节奏的金融交易领域，毫秒之差可能意味着数百万美元的损失。持续的数据流有助于相关人员了解市场状况，而分析这些数据的速度和准确性对盈亏产生直接影响。这就是为什么金融服务行业历来都会快速采用新技术，因为这些技术会改变货币资产的交易方式。... (more)
下载
评价 1
浏览 622
来自主题GPU ChatGPT 大语言模型
大语言模型框架 Nemo Framework在金融行业有哪些落地实践？效果怎么样？
Monica Wang NVIDIA英伟达, 擅长领域：GPU，服务器，云计算
发布于 2023-04-26 · 2 会员关注
目前Nemo Framework EA版在被一些互联网公司和金融科技公司试用，试用反馈都非常正向。
赞同1
回答
浏览 1379
来自主题人工智能 GPU AI
AI Enterprise需要采购哪种GPU卡，以满足最小化搭建该产品？
Cui Xiaonan NVIDIA英伟达, 擅长领域：服务器，GPU，人工智能
发布于 2023-04-26 · 4 会员关注
NVAIE软件建议英伟达Ampere和Hoper系列的GPU，仅向下兼容支持到V100和T4
赞同1
回答
浏览 1201
来自主题容器 GPU GPU容器化
GPU资源容器化，在底层的GPU框架上需要做哪些改变？业务开发要注意哪些？
Cui Xiaonan NVIDIA英伟达, 擅长领域：服务器，GPU，人工智能
发布于 2023-04-26 · 4 会员关注
GPU资源的容器化，可以更高效更快速更自动化实现环境置备和部署，对于其中需要的资源准备部分，会通过kubernetes的插件或Operator的方式去实现，建议客户参考英伟达提供原生开源的GPU Operator，英伟达发布的原生插件对于GPU的驱动及其兼容的CUDA版本有最好的兼容和适配性，不建议... (more)
赞同3
回答
浏览 1322
来自主题基础设施人工智能 GPU
chatgpt在金融机构GPU等相关基础设施运行保障中如何发挥作用？
Cui Xiaonan NVIDIA英伟达, 擅长领域：服务器，GPU，人工智能
发布于 2023-04-25 · 4 会员关注
ChatGPT等LLM的应用，对于GPU等加速计算资源提出了更高的要求，特别是GPU集群的设计和高速低延时网络的设计，持续的运行中，更多的是在训练框架和推理框架会起到更重要的作用。
赞同1
回答
浏览 1588
来自主题人工智能 GPU ChatGPT
GPU池化管理？
Cui Xiaonan NVIDIA英伟达, 擅长领域：服务器，GPU，人工智能
发布于 2023-04-25 · 4 会员关注
1. 英伟达不提供远程GPU调用的能力。2. P2V的实现更多通过Hypervisor或K8s来实现。3. NVAIE的软件界面主要通过hypervisor和k8s平台进行展现，同时GPU的切分和聚合的能力，也会集成到环境制备的过程中... (more)
赞同1
回答
浏览 1818

推荐文章

迈入ChatGPT时代商业银行AI应用的发展趋势分析

边缘计算在钢铁行业应用场景解析

车企边缘计算应用场景探索解析

边缘计算在智能制造趋势下的应用场景探索

厂商驻站专家

Cui Xiaonan0624
DevRelNVIDIA英伟达
擅长领域：服务器，GPU，人工智能
关注 4
回答 64
获赞 26
wangshanshan0110
架构师NVIDIA英伟达
擅长领域：人工智能，服务器，GPU
关注 1
回答 5
获赞 13
Yongxiang002
EGX 产品总监NVIDIA英伟达
擅长领域：服务器，边缘计算，GPU
关注 1
回答 11
获赞 5
VinceXu002
SANVIDIA英伟达
擅长领域：服务器，边缘计算，GPU
关注 1
回答 3
获赞 4
Monica Wang0312
NVIDIA AI Enterprise 产品经理 NVIDIA英伟达
擅长领域： GPU，服务器，云计算
关注 2
回答 16
获赞 20
h1h3n3001
IT顾问NVIDIA英伟达
擅长领域： GPU，服务器
关注 1
回答 1

关于NVIDIA英伟达

英伟达（NVIDIA）公司是全球视觉计算技术的行业领袖及GPU（图形处理器）的发明者。NVIDIA 提供能够重塑行业和社会的核心技术. 加速计算需要的不止是强大的芯片。通过全栈发明，我们实现了从芯片和系统到其运行的算法和应用的惊人提速。NVIDIA 将 AI 引入各个行业 AI 从研究实验室开始，然后被云计算提供商采用。现在我们站在下一波 AI 采用浪潮的尖端：企业 AI 自动化。 AI 的下一波浪潮即将到来，它将彻底改变全球最大的产业。

联系NVIDIA英伟达

邮箱：liny@nvidia.com