Nel precedente articolo ho dimenticato di citare la prova di DeepSeek R1 8b ma comunque non cambia molto rispetto alla 7b .
Oggi ho provato DeepSeek R1 14b
Dato che il PC Salagiochi ha 16 Gb di ram DDR3 ho voluto fare questa prova, sembra andare bene, come al solito ho fatto la domanda classica sul calcolare il volume di una piramide, come sapete le risposte in se mi interessano relaltivamente sono piu curioso di sapere come va in generale e la comprensione delle domande.
In questa prova mi sono collegato via SSH cosi da non cosumare risorse in altro 😛
Se non sbaglio il prossimo modello di DeepSeek è 27b che di sicuro è oltre le possibilità del mio HW anche per il PC bestiale che ha 20 Gb di ram.
Comunque ci sono altre LLM da provare come Gemma3:12b
se avete suggerimenti lasciate un commento.
Se volete sapere di più sul PC salagiochi vi invito a leggere gli articoli “Giocare su Linux”
Ho provato anche la versione deepseek r1 7b (7 miliardi di parametri) che gira accettabilmente bene (ovviamente per me che sono un hobbista se ci lavorate o studiate le cose cambiano non poco) sul mio secondo pc con CPU i3 ed 8 Gb di ram.
Dalle prove fatte occupa circa 6 gb di ram su 8 la CPU sembra reggere bene, la temperatura durante l’elaborazione delle risposte rimane sui 60 gradi, e questo è gia un risultato interessante, la versione 7b rispetto alla 1,5b, provata negli scorsi giorni, ha un italiano migliore e riesce ad elaborare rispote più complesse anche se non ho fatto domande particolari.
Di solito mi limito a domande basilari come moltiplicazioni e calcolare il volume di una piramide dato che la cosa che mi interessa è il livello di comprensione delle domande.
Mi sembra anche abbastanza ovvio che il livello delle risposte e il tempo dipendano soprattutto dall’HW a disposizione.
Ho fatto una prova anche sul RPi, il mio RPi5 ha 4 Gb di ram quindi ho voluto provare la versione 7b sul RPi4 che è l’unico di quelli che possiedo con 8Gb di ram, consapevole che sto comunque chiedendo qualcosa che va oltre le possibilità di questo RPi ho notato che durante l’elaborazione delle risposte la CPU è al 100% la Ram usa è circa 5.5 Gb su 8 la temperatura sui 65 gradi e ovviamente le risposte solo lente.
Ho notato anche una certa lentezza nella fase inizale quando il modello di LLM viene caricato in ram, ipotizzo che dipenda dal lettore SD usb che sto usando dato che in questo RPi quello integrato è danneggiato,
me ne farò una ragione essendo solo una prova.
In conclusione devo dire che l’idea di avere una AI che gira in locale è interessante per vari motivi di utilizzo, di privacy, ecc ecc.
Ovviamente se avete una necessita particolare potreste valutare l’idea di acquistare HW dedicato cosi da avere il controllo di cosa sta facendo l’AI e come.
II progetto Deepseek essendo opensource dovrebbe essere Forkabile (cioè crearne una variante) che si possa allenare da zero, dato che il progetto è di origine Cinese non è difficile immaginare che ci possano essere state interferenze nella scelta delle informazione con cui sia stata addestrato questa LLM, ma non entro nel merito dato che non mi sembra il momento di trattare argomenti di questo tipo.
Nel articolo precedente trovate anche i comandi per installare Ollama e Deepseek su Linux ovviamente,
ci sono diverse versioni
deepseek r1 1,5b (1,5 miliardi di parametri)
deepseek r1 7b (7 miliarci di parametri)
ecc ecc il resto del comando da terminale non cambia.
Aggiornamento:
Oggi Lunedi 3 febbraio 2025 ho bubblicato l’articolo “Deepseek in locale” condividendo il link con amici, conoscenti e sui social.
Preso da un attacco di megalomania l’ho invio anche a sue maestà MorroLinux! Che risponde “Merda, sei arrivato pure prima di me”
Allego prova screenshotistica
Questo è il punto più alto della mia carriera informatica 🙂
Sempre oggi ho letto di Velvet un AI svilippata in italiana,
Molto bene 😛
Nei prossimi giorni lavorerò al video del test di Deepseek sul thinkpad X230
Vi aspetto nei commenti per sarepe le vostre opinini
oltre a farci i complimenti per l’ottima riuscita del Linux Day
abbiamo parlato delle attività in programma per il 2024
Tra le varie cose abbiamo (in realtà l’ho fatto io :P)
provato Bard l’AI di Google
per chi volesse farlo non dovete registrarvi se avete un account Google
Oltre all’immagine vi trascrivo per intero la risposta alla prima domanda che gli ho fatto
“Ciao, puoi scrivere un programma in Python per fare una calcolatrice?
Certo, posso aiutarti a scrivere un programma in Python per fare una calcolatrice. Ecco un esempio di codice che puoi usare:
def calcola(op, n1, n2):
"""
Funzione per eseguire un'operazione matematica.
Args:
op: Operatore matematico.
n1: Primo numero.
n2: Secondo numero.
Returns:
Risultato dell'operazione.
"""
if op == "+":
return n1 + n2
elif op == "-":
return n1 - n2
elif op == "*":
return n1 * n2
elif op == "/":
return n1 / n2
else:
raise ValueError(f"Operatore matematico non valido: {op}")
def main():
"""
Funzione principale.
"""
op = input("Operatore matematico ( +, -, *, / ): ")
n1 = float(input("Primo numero: "))
n2 = float(input("Secondo numero: "))
risultato = calcola(op, n1, n2)
print(f"Il risultato è: {risultato}")
if __name__ == "__main__":
main()
Questo programma implementa le operazioni matematiche di base: somma, sottrazione, moltiplicazione e divisione. La funzione calcola() prende in input l’operatore matematico, il primo numero e il secondo numero, e restituisce il risultato dell’operazione. La funzione main() legge gli input dall’utente e chiama la funzione calcola() per calcolare il risultato.
Ecco un esempio di utilizzo del programma:
Operatore matematico ( +, -, *, / ): +
Primo numero: 10
Secondo numero: 5
Il risultato è: 15
Puoi modificare il codice per aggiungere altre funzionalità alla calcolatrice, ad esempio:
Supportare più operatori matematici, come la radice quadrata, il logaritmo, l’elevamento a potenza, ecc.
Consentire all’utente di inserire espressioni matematiche complesse, con parentesi e operatori di precedenza.
Visualizzare il risultato dell’operazione con un formato personalizzato.
Spero che questo ti sia utile!”
Volutamente non ho testato il risultato,
di sicuro tra di voi ci sono persone piu competenti per valutare il risultato
provatela e fatemi sapere cosa ne pensate nei commenti 😛
live long and prosper
se apprezzate quello che faccio da un occhiata al resto 🙂
Come nelle altre prove riporto la risposta di chat GPT integralmente in quanto l’idea è mostrare il suo potenziale come strumento e non per fargli fare le cose al posto mio 😛
Domanda:
Mi racconti una storia ambientata il giorno di San Patrizio su una band di nome Mortimer Mc Grave che suona musica celtica ad una festa in un paese chiamato torre san Patrizio?
Risposta: Certo, ecco una breve storia ambientata durante il giorno di San Patrizio su una band di nome Mortimer Mc Grave che suona musica celtica ad una festa in un paese chiamato Torre San Patrizio. Era il giorno di San Patrizio, e la città di Torre San Patrizio era in piena festa. La strada principale era chiusa al traffico e affollata di gente che indossava abiti verdi e festosi. Nella piazza del paese, una band di nome Mortimer Mc Grave stava per esibirsi, suonando musica celtica. La band era formata da quattro membri, ciascuno vestito con abiti tradizionali irlandesi. C’erano Jack, il cantante e chitarrista, Tom, che suonava il violino, Kate, la flautista, e Sean, il batterista. La band aveva suonato in molti locali irlandesi, ma questa era la loro prima esibizione in Italia. Appena la band ha iniziato a suonare, la gente si è radunata attorno al palco. La musica aveva un ritmo contagioso e le persone iniziavano a ballare e cantare insieme alla band. Jack ha introdotto la prossima canzone, una ballata tradizionale irlandese, e la folla ha iniziato a cantare insieme alla band. Dopo un po’ di tempo, la band ha deciso di suonare una canzone originale. Si chiamava “San Patrizio”, ed era una canzone allegro che parlava del santo patrono dell’Irlanda. La folla ha reagito positivamente alla canzone, ballando e cantando con ancora più entusiasmo. Quando la band ha finito di suonare, la folla ha chiesto un bis, e la band ha risposto con una cover di “Whiskey in the Jar”. La folla ha cantato insieme alla band, ballando e divertendosi ancora di più. Alla fine della loro esibizione, la band ha ricevuto un caloroso applauso e molti complimenti per la loro performance. Dopo lo spettacolo, i membri della band hanno incontrato molti dei loro fan, che volevano scattare una foto con loro e ringraziarli per aver reso la loro festa di San Patrizio ancora più speciale. La band era felice di aver potuto condividere la loro musica con il pubblico italiano, e si sentiva fortunata di avere un nome che si adattava perfettamente alla festa del giorno di San Patrizio.
Dite la vostra nei commenti 😛
Se apprezzate quello che faccio qui trovate tutti i miei Link
test numero 3, se non sapete di cosa parlo recuperate gli altri ChatGPT 01
Come per la volta precedente non ho modificato la risposta avuta da ChatGPT in quanto non credo sia già un lavoro completo ma un ottimo punto di partenza 😛
Ciao, puoi scrivere un articolo per il mio blog in cui spieghi perche è meglio spostarsi con i mezzi pubblici anzichè usare la macchina?
Vi sono molte ragioni per cui utilizzare i mezzi pubblici è preferibile rispetto all’utilizzo della propria auto. Ecco alcune delle ragioni più importanti:
Ambiente: l’utilizzo dei mezzi pubblici riduce le emissioni di gas serra e contribuisce a migliorare la qualità dell’aria.
Traffico: utilizzando i mezzi pubblici si riduce il numero di automobili in circolazione, riducendo così il traffico stradale e i tempi di percorrenza.
Risparmio: utilizzando i mezzi pubblici si risparmiano soldi sui costi di carburante, manutenzione e assicurazione della propria auto.
Salute: utilizzando i mezzi pubblici si fa un po’ di movimento e si evita di restare seduti in auto per lungo tempo.
Accessibilità: i mezzi pubblici consentono di raggiungere zone della città che potrebbero essere difficili o impossibili da raggiungere in auto, come zone pedonali o aree con parcheggio limitato.
Socializzazione: Viaggiare in mezzi pubblici è un’occasione per incontrare nuove persone e socializzare.
In generale, utilizzare i mezzi pubblici è una scelta più sostenibile, economica e salutare rispetto all’utilizzo della propria auto. Ciò non significa che non ci saranno mai situazioni in cui è necessario utilizzare l’auto, ma utilizzare i mezzi pubblici ogni volta che possibile può avere un impatto significativo sulla vita personale e sulla comunità.
che ne pensate?
dite la vostra nei commenti
Se apprezzate quello che faccio qui trovate tutti i miei Link
Come per la volta precedente non ho modificato la risposta avuta da ChatGPT in quanto non credo sia già un lavoro completo ma un ottimo punto di partenza 😛
Ciao puoi scrivere un articolo per spiegare alle persone perché bisogna fare scorrere la fila quando si va in un ristorante self-service (e non fermarsi esempio davanti i primo o davanti i dolci)?
Sì, posso scrivere un articolo sull’importanza di fare scorrere la fila in un ristorante self-service. I ristoranti self-service sono luoghi in cui i clienti possono servirsi da soli, prendendo ciò che desiderano dai banchi espositori. In questi ristoranti, è comune trovare una fila di persone in attesa di essere servite. Tuttavia, non tutti i clienti rispettano la fila e alcuni tendono a fermarsi davanti al banco delle pietanze calde o dolci, causando confusione e frustrazione per gli altri clienti in attesa. Fare scorrere la fila significa che ognuno dovrebbe aspettare il proprio turno per essere servito, senza cercare di saltare avanti o di fermarsi a guardare cosa c’è nel banco. Questo permette a tutti i clienti di essere serviti in modo equo e senza problemi. Inoltre, fermarsi davanti al banco delle pietanze calde o dolci crea ingorghi e rallenta il processo per tutti, causando una lunga attesa per gli altri clienti. Inoltre, questo può anche causare il surriscaldamento o il deterioramento del cibo esposto nel banco, compromettendo la qualità del cibo che gli altri clienti otterranno. In generale, fare scorrere la fila è importante per garantire che tutti i clienti siano serviti in modo equo e per evitare problemi di congestione e di qualità del cibo. In questo modo, tutti possono godersi la loro esperienza al ristorante self-service in modo confortevole e soddisfacente. Ricordati che rispettare le regole e gli altri clienti non solo aiuta a creare un ambiente piacevole per tutti, ma anche a evitare problemi e possibili conflitti.
Che ne dite? Vi piace questa rubrica?
Lasciate un commento e suggerite altre domande da porgli 😛
Se apprezzate quello che faccio qui trovate tutti i miei Link
Ho provando ChatGPT per qualche giorno e confermo il fatto che sia il fenomeno del momento,
pur essendo ancora all’inizio (praticamente è un bambino) promette molto bene.
Ogni giovedi pubblicherò un test fatto su ChatGPT dove gli chiedo di scrivere un articolo per il mio Blog, non modificherò la risposta in quando ciò che penso è che questa intelligenza artificiale sia un ottimo strumento e fornisce una base da cui creare ciò di cui abbiamo bisogno quindi nel mio caso quello che leggerete di seguito non è ciò che io pubblicherei ma un ottimo punto di partenza.
Cosa chiedergli?
Dato il tipo di esperimento l’argomento non è cosi importante ma ciò che conta è la sua comprensione della domanda e ovviamente come risponderà.
Ciao, puoi scrivere un articolo per spiegare alle persone perché sulla scala mobile bisogna stare a destra per fra passare chi ha fretta?
La tradizione di stare a destra sulla scala mobile deriva dall’abitudine, risalente alla fine del XIX secolo, di camminare sul lato destro delle strade e delle scale mobili, perché nei paesi anglosassoni è la norma perché venga rispettato il senso di marcia. Il motivo per cui è stato adottato questo costume è perché, essendo la maggior parte delle persone destrimani, era più naturale per loro camminare sul lato destro. Inoltre, mantenere il lato destro libero consente alle persone di superare agevolmente quelle che procedono più lentamente, come i genitori con i bambini piccoli o le persone anziane. Inoltre, stando a destra si evita di creare ingorghi, consentendo un flusso più agevole di persone. In questo modo, chi ha fretta può superare chi procede a passo più lento senza causare intralci o rallentamenti per gli altri. In sintesi, la norma di stare a destra sulla scala mobile è stata adottata per ragioni di sicurezza e di praticità, per permettere a tutti di muoversi in modo ordinato e fluido all’interno degli edifici.
Ovviamente c’è da limare e correggere qualcosa ma dire che capito la domanda, già solo le ultime righe sono piu che esaustive.
Spero che questa idea vi piaccia, lasciate un commento e suggerite altre domande da porgli.
Se apprezzate quello che faccio qui trovate tutti i miei Link