NVIDIA práve vydali bezplatné demo chatbota, ktorý beží lokálne na vašom PC. Je to veľmi výhodné, pretože to chatbotovi umožňuje prístup k vašim súborom a dokumentom. Môžete poskytnúť Chatujte s RTX určité osobné údaje a požiadať ho, aby na základe týchto informácií vytvoril životopis. Môžete mu tiež položiť otázky ako ktorýkoľvek chatbot a on sa ponorí do vašich údajov, aby našiel odpovede.
Spoločnosť tvrdí, že používateľom umožňuje „rýchlo a jednoducho pripojiť lokálne súbory PC ako súbor údajov k veľkému modelu jazyka s otvoreným zdrojovým kódom, ako je Mistral alebo Llama 2“. NVIDIA uvádza príklad, keď sa používateľ pýta chatbota na reštauráciu odporúčanú partnerom v Las Vegas. Softvér skenuje lokálne súbory, aby našiel odpoveď. Podporuje celý rad formátov súborov vrátane .txt, .pdf, .doc, .docx a .xml. Spoločnosť tvrdí, že nahrá relevantné súbory do svojho súboru údajov „v sekundách“.
Chat s RTX tiež integruje videá a zoznamy skladieb YouTube. Môžete pridať adresu URL videa do súboru údajov a integruje znalosti obsiahnuté vo videu pre kontextové otázky. NVIDIA hovorí, že to bude užitočné pri vyžiadaní cestovných odporúčaní „na základe obsahu obľúbených videí od influencerov“ alebo pri hľadaní návodov a zhrnutí odvodených zo vzdelávacích zdrojov.
Znie to ako veľký krok smerom k niečomu ako skutočný digitálny asistent, ktorý funguje v kontexte vašich osobných údajov. Väčšina chatbotov posiela dáta do cloudu, ale Chat with RTX „umožňuje používateľom spracovávať citlivé dáta na lokálnom počítači bez toho, aby ich museli zdieľať s treťou stranou alebo mať internetové pripojenie“. Je to teda bezpečnejšia a kontextovo orientovaná komunikácia.
Existujú určité obmedzenia. Toto je demo produkt, takže očakávajte veľa chýb NVIDIA mali by ste ich začať opravovať hneď, ako používatelia začnú písať správy o chybách a podobne. Aj tu existujú určité prísne hardvérové obmedzenia. Chat s RTX funguje iba na počítačoch so systémom Windows 11 s GPU NVIDIA GeForce RTX 30 séria alebo vyššia a najmenej 8 GB VRAM.
Nedávno NVIDIA skutočne predvádza svoju zdatnosť v oblasti AI, pretože spoločnosť práve uviedla na trh svoju ďalšiu generáciu superpočítačových čipov AI. Jednoducho sa vyhrieva na ziskoch, predovšetkým vďaka segmentom AI a dátových centier.
Prečítajte si tiež: