1 :うんこ:2024/02/14(水) 15:18:06.58 ID:UlW1H+GX0●.net ?PLT(13000)
https://img.5ch.net/ico/999991500948658.gif
NVIDIAは13日(米国時間)、PC上のローカルデータを使って自分にパーソナライズしたAIチャットボットを作ることができるツール「Chat with RTX」を公開した。
GeForce RTX 30/40シリーズまたはNVIDIA RTX Ampere/Ada世代、かつVRAM 8GB以上のGPUを搭載したPCで利用できる。ツール自体は無償で入手可能。
外部の情報を用いて生成AIモデルの精度を高める手法であるRAG(Retrieval-Augmented Generation)に加え、NVIDIA TensorRT-LLM、NVIDIA RTXアクセラレーションを用いて、Windows PC上で生成AI機能を実現するツール。
MistralやLlama2といったオープンソースの大規模言語モデル(LLM)に、PC上のローカルファイルをデータセットとして読み込むことで、「この前家族が教えてくれたオススメのレストランってどこだっけ?」といった、私的なユーザーの質問に対する回答をチャットボットが返してくれる。
クラウドを経由せず、ローカルPC上でGPUとデータセットを用いて処理するため、高速な処理が可能。
また、機密性の高いデータについても第三者に共有することなく処理できるとしている。
データセットとしては、テキスト(.txt)、PDF(.pdf)、Word文章(.doc/.docx)、XML(.xml)などさまざまなファイル形式をサポート。
ツール上からフォルダを指定すると、その中のファイルを読み込んで回答に活用する。
また、YouTubeの動画やプレイリストのURLを読み込むことも可能で、その内容について尋ねることもできる。
NVIDIA、PC上で動くカスタムAI「Chat with RTX」を無償公開
https://pc.watch.impress.co.jp/docs/news/1568624.html
55 :名無しさん@涙目です。(東京都) [ニダ]:2024/02/14(水) 16:29:18.52 ID:NrpC0TBK0.net
156 :名無しさん@涙目です。(大阪府) [US]:2024/02/16(金) 23:18:10.63 ID:W3oMmWA00.net
90 :名無しさん@涙目です。(茸) [US]:2024/02/14(水) 17:04:40.04 ID:StrYny/d0.net
9 :名無しさん@涙目です。:2024/02/14(水) 15:28:22.88 ID:ufgIjOdq0.net
153 :名無しさん@涙目です。:2024/02/16(金) 21:01:27.94 ID:uiwoViLN0.net
74 :名無しさん@涙目です。(大阪府) [ニダ]:2024/02/14(水) 16:50:21.62 ID:/f0QFJdg0.net
139 :名無しさん@涙目です。:2024/02/16(金) 00:39:01.74 ID:fOIFTXPF0.net
10 :名無しさん@涙目です。:2024/02/14(水) 15:29:33.62 ID:uAbQRM1l0.net
87 :名無しさん@涙目です。(やわらか銀行) [SE]:2024/02/14(水) 17:02:14.25 ID:DtjIJA060.net
79 :名無しさん@涙目です。(東京都) [MA]:2024/02/14(水) 16:55:58.49 ID:R4t+p/7z0.net
128 :名無しさん@涙目です。:2024/02/15(木) 23:50:06.82 ID:RSBCnKY50.net
137 :名無しさん@涙目です。:2024/02/16(金) 00:28:46.19 ID:yj7HsIqz0.net
133 :名無しさん@涙目です。:2024/02/16(金) 00:18:23.55 ID:NsdPC4u70.net
8 :名無しさん@涙目です。:2024/02/14(水) 15:27:15.54 ID:ynzfzaWh0.net
2 :名無しさん@涙目です。:2024/02/14(水) 15:19:54.28 ID:Gr/BBo1C0.net
141 :名無しさん@涙目です。(やわらか銀行) [CH]:2024/02/16(金) 00:40:46.32 ID:l8MyYDMl0.net
34 :名無しさん@涙目です。:2024/02/14(水) 16:06:01.03 ID:S4zDueOg0.net
13 :名無しさん@涙目です。:2024/02/14(水) 15:34:13.19 ID:NqpAGK0l0.net
147 :名無しさん@涙目です。:2024/02/16(金) 20:37:46.26 ID:bFXURVMG0.net
110 :名無しさん@涙目です。(大阪府) [GB]:2024/02/14(水) 17:57:45.02 ID:MEx1zzmS0.net
118 :名無しさんがお送りします:2024/02/15(木) 12:47:22.51 ID:YVDo8ZZc0
54 :名無しさん@涙目です。(京都府) [ニダ]:2024/02/14(水) 16:28:34.98 ID:Yb5OCgyL0.net
84 :名無しさん@涙目です。(東京都) [US]:2024/02/14(水) 16:59:19.83 ID:ja6W6aXm0.net
75 :名無しさん@涙目です。(福島県) [US]:2024/02/14(水) 16:51:58.94 ID:9AjbM0WQ0.net
81 :名無しさん@涙目です。(福岡県) [IN]:2024/02/14(水) 16:58:05.82 ID:w7fKqDr20.net
42 :名無しさん@涙目です。:2024/02/14(水) 16:16:08.29 ID:yC5f10wZ0.net
97 :名無しさん@涙目です。:2024/02/14(水) 17:15:57.75 ID:71gkPe/i0.net
145 :名無しさん@涙目です。:2024/02/16(金) 20:34:40.35 ID:f3rDinxC0.net
80 :名無しさん@涙目です。(茨城県) [CN]:2024/02/14(水) 16:57:50.30 ID:jPpWwFN20.net
129 :名無しさん@涙目です。:2024/02/16(金) 00:04:01.16 ID:KlQdSulZ0.net
123 :名無しさん@涙目です。:2024/02/15(木) 23:33:54.75 ID:mBattAqW0.net
146 :名無しさん@涙目です。:2024/02/16(金) 20:35:44.62 ID:Xr11CnIP0.net
36 :名無しさん@涙目です。:2024/02/14(水) 16:06:54.68 ID:Oa5rQpu50.net
149 :名無しさん@涙目です。:2024/02/16(金) 20:45:35.31 ID:B93WZeFE0.net
16 :名無しさん@涙目です。:2024/02/14(水) 15:35:45.12 ID:eRqFq9pq0.net
35 :名無しさん@涙目です。:2024/02/14(水) 16:06:43.53 ID:P+GLhb3o0.net
40 :名無しさん@涙目です。:2024/02/14(水) 16:13:06.21 ID:IKisxdUP0.net
144 :名無しさん@涙目です。:2024/02/16(金) 20:33:10.12 ID:WHctno5j0.net
152 :名無しさん@涙目です。:2024/02/16(金) 20:58:09.77 ID:Vd3c7KXJ0.net
106 :名無しさん@涙目です。:2024/02/14(水) 17:25:58.38 ID:XMJiZgS20.net
140 :名無しさん@涙目です。:2024/02/16(金) 00:39:09.80 ID:FoOiUJV00.net
155 :名無しさん@涙目です。(愛知県) [US]:2024/02/16(金) 22:59:28.32 ID:irmzi2yG0.net
44 :名無しさん@涙目です。(北海道) [GB]:2024/02/14(水) 16:21:25.69 ID:WkTvFnTN0.net
62 :名無しさん@涙目です。(みかか) [CN]:2024/02/14(水) 16:35:52.38 ID:n0i4PBLl0.net
89 :名無しさん@涙目です。(埼玉県) [FI]:2024/02/14(水) 17:04:00.07 ID:osEAfyc00.net
78 :名無しさん@涙目です。(ジパング) [RU]:2024/02/14(水) 16:52:29.19 ID:09s8cOP60.net
104 :名無しさん@涙目です。:2024/02/14(水) 17:22:54.87 ID:1Rp396Mz0.net
3 :名無しさん@涙目です。:2024/02/14(水) 15:24:00.30 ID:VMrDC9s/0.net
37 :名無しさん@涙目です。:2024/02/14(水) 16:10:17.72 ID:JjrQduLY0.net
46 :名無しさん@涙目です。(福井県) [US]:2024/02/14(水) 16:21:57.36 ID:fnm35pWD0.net