nVIDIA lanza un chat con IA capaz de funcionar en local

Os grandes modelos de linguaxe non paran de avanzar para poder correr sen grandes recursos, de xeito que xa temos aplicacións de solucións de IA que corren en local en móbiles (como os Galaxy S24 de Samsung) e agora, dende nVIDIA, sorprenden presentando Chat with RTX, unha aplicación que serve de demostración dun GPT personalizado conectado cos nosos propios contidos (documentos, notas, vídeos...) capaz de correr nun ordenador con Windows 11 que conte cun mínimo de 16 GB de RAM e cunha gráfica nVIDIA RTX 30 ou 40 cun mínimo de 8 GB de VRAM.
Esta solución de nVIDIA pode servir para procesar os nosos documentos e poder localizar os seus contidos rapidamente (podendo incluso procesar transcricións de vídeos, para coñecer os contidos que abordan) e incluso sería capaz de funcionar como un chat para desenvolvedores.
Estamos ante un exemplo máis dos tipos de solucións que chegarán nos vindeiros anos, buscando unha renovación tecnolóxica que permita tirar un maior proveito da IA en local, evitando a dependencia de servizos en liña (que moi probablemente rematarán sendo de pagamento).