LLM in locale E 3

Scritto da

in

, ,

Salve bentornati in officina

Nel precedente articolo ho dimenticato di citare la prova di DeepSeek R1 8b ma comunque non cambia molto rispetto alla 7b .

Oggi ho provato DeepSeek R1 14b

Dato che il PC Salagiochi ha 16 Gb di ram DDR3 ho voluto fare questa prova, sembra andare bene, come al solito ho fatto la domanda classica sul calcolare il volume di una piramide, come sapete le risposte in se mi interessano relaltivamente sono piu curioso di sapere come va in generale e la comprensione delle domande.

In questa prova mi sono collegato via SSH cosi da non cosumare risorse in altro 😛

Se non sbaglio il prossimo modello di DeepSeek è 27b che di sicuro è oltre le possibilità del mio HW anche per il PC bestiale che ha 20 Gb di ram.

Comunque ci sono altre LLM da provare come Gemma3:12b

se avete suggerimenti lasciate un commento.

Se volete sapere di più sul PC salagiochi vi invito a leggere gli articoli “Giocare su Linux”

Lunga vita e prosperità.

Commenti

2 risposte a “LLM in locale E 3”

  1. Avatar Rogilok
    Rogilok

    Se vuoi più ram alloca un file di swap, avrai si e no 2-3 token/s ma funziona 😀

    1. Avatar Ribby
      Ribby

      Per ora va abbastanza bene cosi 😛
      grazie del commento

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *