Chat with RTX Nvidia: así funciona la IA de Nvidia que no necesita Internet

Esta app permite personalizar un modelo de lenguaje mediante una conexión local, por lo que no requiere estar online para su uso

Imagen del modelo de lenguaje Chat with RTX
14 de febrero, 2024 | 06:36 PM

El gigante tecnológico Nvidia lanzó una fuerte apuesta en el mundo de la inteligencia artificial (IA): Chat with RTX, una aplicación que permite personalizar un chatbot y tiene la particularidad de permitir al usuario utilizar la herramienta sin necesidad de estar conectado a Internet.

Chat with RTX implementa generación de recuperación aumentada (RAG) para mejorar la precisión y la fiabilidad de los modelos de IA, pero también el software TensorRT-LLM de Nvidia y aceleración NVIDIA RTX.

VER +
Nvidia y Cisco se unen para ayudar a empresas a crear sus propios sistemas de IA

A partir de esta herramienta, se puede crear un chatbot personalizado para consultas en un formato conversacional, al estilo Copilot, Gemini o ChatGPT. Asimismo, habilita la utilización de diversos formatos de texto e incluso se pueden incorporar urls de vídeos de YouTube para consultas contextuales.

.

Esta nueva herramienta diseñada por uno de los principales gigantes tecnológicos a nivel mundial, está diseñado para su uso en ordenadores Windows 10 u 11 que cumplan unas características mínimas, como tener una GPU GeForce RTX de la Serie 30 y 8GB de memoria de acceso aleatorio de vídeo (VRAM).

PUBLICIDAD

En su Blog, Nvidia explica: “Chat con RTX admite varios formatos de archivo, como texto, pdf, doc/docx y xml. Sólo tienes que apuntar la aplicación a la carpeta que contiene tus archivos y los cargará en la biblioteca en cuestión de segundos. Además, puedes proporcionar la url de una lista de reproducción de YouTube y la aplicación cargará las transcripciones de los vídeos de la lista, permitiéndote consultar el contenido que cubren”.

La compañía añade que la tecnológica Chat with RTX (que por ahora está en versión demo) está construida a partir del proyecto de referencia para desarrolladores TensorRT-LLM RAG disponible en GitHub. Los desarrolladores pueden utilizar esa referencia para desarrollar y desplegar sus propias aplicaciones basadas en RAG para RTX, aceleradas por TensorRT-LLM.

Una de las empresas más valiosas del mundo

Nvidia cuenta con una capitalización de mercado de casi 1,8 billones de dólares, lo que la convierte en la cuarta empresa con mayor cotización bursátil en el mundo, tras superar en los últimos días a Amazon. Además, se trata de un papel que le ha traído una importante alegría a quienes apostaron por en el último lustro, ya que las acciones de Nvidia subieron más de 1.750% en los últimos cinco años.

PUBLICIDAD

Habrá que ver el nivel de éxito que tiene este nuevo producto entre los consumidores de tecnología y cómo ayuda a la empresa a posicionarse en la carrera de la inteligencia artificial, en la que compite, entre otros, con gigantes de la industria como Microsoft o Google.

El acuerdo con Cisco

Nvidia y Cisco se están uniendo para facilitar a las corporaciones la construcción de su propia infraestructura de computación de inteligencia artificial, en un intento de llevar la tecnología más allá de los proveedores de grandes centros de datos. Bajo un acuerdo anunciado el martes 6 de febrero, Cisco ofrecerá equipos basados en Nvidia, populares para el desarrollo de modelos de inteligencia artificial, junto con su equipo de redes.