Una cosa che ci viene sempre detta: volete usare un LLM ma siete preoccupati di non voler dare i vostri dati a OpenAI. E vi abbiamo ascoltato. Con MastroGPT di Nuvolaris avrete a disposizione anche i vari LLM open source, usando un server dedicato. Solo per voi. In collaborazione con SeeWeb, abbiamo adesso a disposizione un potentissimo server dotati di una GPU A100 con 80 GB di memoria GPU. Lo abbiamo usato per implementare un ChatBot per Telegram che parla con una AI. Di sotto potete vedere il demo. Il chat server ovviamente gira su Nuvolaris, e si connette al LLM per rispondere alle vostre domande. Abbiamo lanciato un modello Falcon e lo abbiamo interrogate, e funziona abbastanza bene, Ma ne possiamo usare molti, molti altri. Come potete vedere sa rispondere a delle semplici domande. Si è confuso in una semplice domanda di matematica con i numeri espressi in parole, ma poi si è ripreso. Comunque per ora stiamo usando un modello “piccolo", ce ne sono di più grandi e potenti. Nel video potete vedere a sinistra il log del server che riceve le vostre domande e genera le risposte. Non è OpenAI, è un LLM che gira su un server che si trova in Italia. Dateci qualche giorno e daremo accesso pubblico anche al chatbot su Telegram. Intanto, se vi interessa avere un early access anche a questa feature, potete registrarvi alla waitlist di MastroGPT.com, troverete un amichevole chatbot (questo è ancora basato su OpenAI) che registrerà il vostro interesse.