支持中文对话了!全新 NVIDIA ChatRTX 已更新

wufei123 2024-05-24 阅读:19 评论:0
早在2月份,nvidia就推出了基于llm的聊天机器人chatwithrtx。而在5月份的时候,这个聊天机器人更新了,添加了新的模型和新的功能,包装包也从35g缩小为11g,并且软件正式改名为了chatrtx。 在上一篇关于 Chatwi...

早在2月份,nvidia就推出了基于llm的聊天机器人chatwithrtx。而在5月份的时候,这个聊天机器人更新了,添加了新的模型和新的功能,包装包也从35g缩小为11g,并且软件正式改名为了chatrtx。

 支持中文对话了!全新 NVIDIA ChatRTX 已更新

在上一篇关于 Chatwith RTX 的文章和视频中,我们提到 ChatwithRTX 并没有自带的中文答复。想要实现中文回答,就需要动手进行自行安装环境、大语言模型等。但这一步对用户来说有着比较高的门槛,得经过许多繁杂得步骤,才能实现中文问答。

 支持中文对话了!全新 NVIDIA ChatRTX 已更新

在介绍前,我们先简单说下 ChatRTX 是什么,ChatRTX 使用 RAG 技术,经由 NVIDIATensorRT-LLM 和 NVIDIARTX 加速,为 RTXWindowsPC 和工作站带来聊天机器人功能。所以使用 ChatRTX 的前提条件是,你得拥有一张 RTX30、RTX40 系显卡,并且达到 8GB 显存及以上。

 支持中文对话了!全新 NVIDIA ChatRTX 已更新

ChatRTX 的特色主要是运行于本地,与上传至云端的各家 AI 聊天机器人不同,本地运算在数据保存方面更加的安全,并且得益于 NVIDIATensorRT-LLM 的加持,在处理上也更为迅速,避免输入问题结果加载半天才憋出一句答案的情况出现。

 支持中文对话了!全新 NVIDIA ChatRTX 已更新

此次 ChatRTX 的更新除了具有原先的 Gemma 模型外,还拓展了一款支持中英双语的 ChatGLM3 模型,所以在使用上要更为方便,不必像上一版一样进行环境等安装,这次更新后也让更多用户易上手,中文对话也是对答如流,在导入文档后,能在文件夹内快速检索你所需的内容资料,并呈现给用户。

 支持中文对话了!全新 NVIDIA ChatRTX 已更新

除了新的大语言模型外,此次 ChatRTX 还加入了图像提示词检索的功能,在导入一个包含图片的文件夹后,ChatRTX 可以通过 OpenAICLIP 将图片的关键词提取出来,这样你输入图片的关键词,比如爬山,那么 ChatRTX 会将文件夹里关于爬山的图片提供给你,可以说是极大方便了本地图片的搜索,哪怕忘记了也可通过关键词检索搜到。

 支持中文对话了!全新 NVIDIA ChatRTX 已更新

另外,ChatRTX 还加入了语音识别功能,能识别 30s 内的语音并输入到对话框,其中也包括识别中英文,无论是工作中解放双手,还是后续拓展功能,语音识别都是有利于用户的,不过上一版的问题还是存在的,就是 ChatRTX 并不能联系上下文,也就是每问一个问题,他就会清空记忆,每次提问都只能是 " 一次性 " 问题。

 支持中文对话了!全新 NVIDIA ChatRTX 已更新

不过相信 ChatRTX 在后续也会持续更新,成为一个反馈快速的本地化聊天、文件检索的机器人,但这一切的前提,是你得拥有一张 NVIDIARTX 30 系显卡,正所谓买新不买旧,影驰 RTX4070 SUPER 金属大师 OC 这张新出不久的 RTX40 SUPER 系显卡,就是你的最佳选择。

 支持中文对话了!全新 NVIDIA ChatRTX 已更新

影驰 RTX4070 SUPER 金属大师 OC 采用了 NVIDIAAda Lovelace 架构,拥有强大的性能,并且 12GB 的显存容量,能轻松满足 LLM 的硬件需求,无论是游戏还是 AI 方面,影驰 RTX4070 SUPER 金属大师 OC 都能胜任,所以喜欢的朋友,欢迎前往影驰官方商城挑选与购买 ~

以上就是支持中文对话了!全新 NVIDIA ChatRTX 已更新的详细内容,更多请关注知识资源分享宝库其它相关文章!

版权声明

本站内容来源于互联网搬运,
仅限用于小范围内传播学习,请在下载后24小时内删除,
如果有侵权内容、不妥之处,请第一时间联系我们删除。敬请谅解!
E-mail:dpw1001@163.com

分享:

扫一扫在手机阅读、分享本文

发表评论
热门文章
  • 华为 Mate 70 性能重回第一梯队 iPhone 16 最后一块遮羞布被掀

    华为 Mate 70 性能重回第一梯队 iPhone 16 最后一块遮羞布被掀
    华为 mate 70 或将首发麒麟新款处理器,并将此前有博主爆料其性能跑分将突破110万,这意味着 mate 70 性能将重新夺回第一梯队。也因此,苹果 iphone 16 唯一能有一战之力的性能,也要被 mate 70 拉近不少了。 据悉,华为 Mate 70 性能会大幅提升,并且销量相比 Mate 60 预计增长40% - 50%,且备货充足。如果 iPhone 16 发售日期与 Mate 70 重合,销量很可能被瞬间抢购。 不过,iPhone 16 还有一个阵地暂时难...
  • 酷凛 ID-COOLING 推出霜界 240/360 一体水冷散热器,239/279 元

    酷凛 ID-COOLING 推出霜界 240/360 一体水冷散热器,239/279 元
    本站 5 月 16 日消息,酷凛 id-cooling 近日推出霜界 240/360 一体式水冷散热器,采用黑色无光低调设计,分别定价 239/279 元。 本站整理霜界 240/360 散热器规格如下: 酷凛宣称这两款水冷散热器搭载“自研新 V7 水泵”,采用三相六极马达和改进的铜底方案,缩短了水流路径,相较上代水泵进一步提升解热能力。 霜界 240/360 散热器的水泵为定速 2800 RPM 设计,噪声 28db (A)。 两款一体式水冷散热器采用 27mm 厚冷排,...
  • 惠普新款战 99 笔记本 5 月 20 日开售:酷睿 Ultra / 锐龙 8040,4999 元起

    惠普新款战 99 笔记本 5 月 20 日开售:酷睿 Ultra / 锐龙 8040,4999 元起
    本站 5 月 14 日消息,继上线官网后,新款惠普战 99 商用笔记本现已上架,搭载酷睿 ultra / 锐龙 8040处理器,最高可选英伟达rtx 3000 ada 独立显卡,售价 4999 元起。 战 99 锐龙版 R7-8845HS / 16GB / 1TB:4999 元 R7-8845HS / 32GB / 1TB:5299 元 R7-8845HS / RTX 4050 / 32GB / 1TB:7299 元 R7 Pro-8845HS / RTX 2000 Ada...
  • python中def什么意思

    python中def什么意思
    python 中,def 关键字用于定义函数,这些函数是代码块,执行特定任务。函数语法为 def (参数列表)。函数可以通过其名字和圆括号调用。函数可以接受参数作为输入,并在函数体中使用参数名访问。函数可以使用 return 语句返回一个值,它将成为函数调用的结果。 Python 中 def 关键字 在 Python 中,def 关键字用于定义函数。函数是代码块,旨在执行特定任务。 语法 def 函数定义的语法如下: def (参数列表): # 函数体 示例 定义...
  • python中int函数的用法

    python中int函数的用法
    int() 函数将值转换为整数,支持多种类型(字符串、字节、浮点数),默认进制为 10。可以指定进制数范围在 2-36。int() 返回 int 类型的转换结果,丢弃小数点。例如,将字符串 "42" 转换为整数为 42,将浮点数 3.14 转换为整数为 3。 Python 中的 int() 函数 int() 函数用于将各种类型的值转换为整数。它接受任何可以解释为整数的值作为输入,包括字符串、字节、浮点数和十六进制表示。 用法 int(object, base=10) 其中...