LLM

E’ stato pubblicato un interessante video su Youtube intitolato “Security in the LLM Age” tenuta da Greg Kroah-Hartman (un noto manutentore del kernel Linux) alla conferenza Kernel Recipes.

Nella sua presentazione, Greg Kroah-Hartman affronta l’impatto dell’intelligenza artificiale generativa e dei modelli linguistici (LLM) sulla sicurezza informatica e sulla manutenzione del software open source, in particolare del kernel Linux.

Il video analizza come i modelli di linguaggio di grandi dimensioni (LLM) vengano ora utilizzati (altro…)

Mistral AI ha presentato Mistral Large 4, il suo nuovo modello di intelligenza artificiale a peso aperto (open weight), con l’obiettivo di competere ai massimi livelli del mercato globale. Il modello conta circa 1.000 miliardi di parametri, di cui 49 miliardi attivi, ed è multimodale: è in grado di elaborare testi, immagini, documenti e dati complessi. Mistral sostiene che Large 4 offra prestazioni di altissimo livello nei settori della programmazione, della (altro…)

Avere accesso ai pesi di un modello #AI significa davvero poterlo validare? Non necessariamente. Gli #OpenWeight promettono più controllo rispetto ai modelli chiusi, ma lasciano spesso fuori dalla porta proprio ciò che serve per capire fino in fondo come quel modello sia stato costruito, addestrato e validato. E quando l'AI entra in un contesto regolamentato, la domanda non è più soltanto quanto un modello sia #Open, ma quanta parte di ciò

Leggi il contenuto originale su Mia mamma usa Linux!

#IBM e #NASA vogliono portare l'#AI sulla Luna. Ma c'è un dettaglio curioso: il modello che dovrebbe aiutare a esplorare il nostro satellite è open-source, mentre per addestrarlo sono servite 16 GPU NVIDIA H100. Quindi quanto è davvero "open-source" un modello AI? E soprattutto: servirà davvero una GPU da 35 mila dollari sulla Luna?

Leggi il contenuto originale su Mia mamma usa Linux!

Terza (e ultima per ora) puntata che cerca di combattere il sensazionalismo intorno all'#AI con prove pratiche e dimostrazioni che quello a cui stiamo assistendo è l'avanzare di una tecnologia molto potente, non senziente. In questa puntata, con tre script Python, dimostriamo come dare le chiavi di casa, il portafoglio e l'account di root ad un LLM.

Leggi il contenuto originale su Mia mamma usa Linux!

Seconda puntata della serie che sfrutta le notizie catastrofiche, questa volta è Mythos di Anthropic ad aver fatto l'impensabile, per capire meglio le tecnologie AI, lasciare da parte l'hype e provare a capire come funzionano nella pratica le cose. In questa puntata parliamo di ollama e del modello qwen, nella versione standard ed in quella abliterata o, per meglio dire, senza censure.

Leggi il contenuto originale su Mia mamma usa Linux!

Nell'analisi post-mortem dell'attacco perpetrato ai danni di Hugging Face da parte degli agenti OpenAI, "talmente potenti da impressionare i loro creatori", tralasciando tutti gli aspetti di marketing ci sono alcuni aspetti tecnici e tecnologici che vale la pena approfondire. Capiamo insieme cosa sono gli LLM open-weight, cosa significa abliterare un modello e, pubblicità a parte, dove l'evoluzione degli LLM potrà arrivare.

Leggi il contenuto originale su Mia mamma usa Linux!

Eccoci con la rubrica ormai settimanale dedicata all’intelligenza artificiale usata male, diventata un vero e proprio trend sul portale, dal titolo AI, Ahi. Si parte dalla notizia riportata da Phoronix, a proposito di Chardet, un rilevatore di encoding dei caratteri scritto in Python, sul cui repository GitHub è stata aperta una issue dall’utente a2mark, ossia...

Leggi il contenuto originale su Mia mamma usa Linux!

Se frequentate il blog da tempo il nome di Kent Overstreet non vi sarà per nulla nuovo: si tratta infatti dello sviluppatore che da diversi anni ha intrapreso una crociata personale per far accettare Bcachefs, il filesystem da lui sviluppato, come parte del Kernel Linux. Abbiamo detto “diversi anni”, proprio perché la telenovela a proposito...

Leggi il contenuto originale su Mia mamma usa Linux!

Abbiamo sempre raccontato come uno dei problemi principali degli LLM sia il fatto che nessuno, in fondo, sa da dove arrivino i dati che contengono. Anche i tentativi di rilasciare una definizione di cosa sia un LLM open-source non hanno (ancora) dato alcuno degli effetti sperati. È quindi con una certa sorpresa che abbiamo letto...

Leggi il contenuto originale su Mia mamma usa Linux!