La nuova versione di EngGPT, il Large Language Model (LLM) di proprietà di Engineering, risponde in maniera sempre più puntuale e precisa alle esigenze di aziende e pubbliche amministrazioni attraverso un modello di Private GenAI sicuro e conforme all’AI Act.
Già adottato da numerose realtà che il Gruppo affianca nel processo di digitalizzazione, EngGPT evolve ora con una nuova architettura/modello in grado di migliorare ulteriormente l’accuratezza delle risposte, di cogliere le sottigliezze linguistiche, espressioni idiomatiche e i diversi contesti economico-sociali, industriali e normativi italiani.
Gianmarco Ciarfaglia, Senior Manager Ai & Advanced Analytics di Engineering, e Igor Bailo, Executive Director Eng AI & Data di Engineering, ci hanno spiegato in che modo questa soluzione supporta realtà pubbliche e private nell’adozione di una GenAI per rispondere a specifici contesti e settori di utilizzo.
Key4biz. Che cos’è EngGPT e come nasce questa nuova versione dell’LLM proprietario di Engineering?
Gianmarco Ciarfaglia. EngGPT nasce con l’intento di voler fornire a aziende e pubbliche amministrazioni la possibilità di sfruttare la potenza dell’Intelligenza Artificiale Generativa in modo completamente privato, senza utilizzare servizi esterni all’organizzazione. EngGPT è infatti il nostro set di Large Language Model installabile direttamente sulle infrastrutture dei nostri clienti, garantendo che tutti i dati utilizzati non lascino in alcun modo il perimetro aziendale. Già oggi EngGPT è utilizzato da molte realtà che mettono al primo posto la privacy e il controllo completo del dato. Ma in un panorama dove l’AI gioca un ruolo sempre più importante, è fondamentale che i sistemi di intelligenza artificiale siano non solo privati e sicuri, ma anche capaci di cogliere ed elaborare le peculiarità della nostra lingua, in modo da operare al meglio nel contesto nel quale vengono utilizzati.
La nuova versione di EngGPT nasce proprio dalla volontà di Engineering di rispondere in modo puntuale alle esigenze dei nostri clienti, garantendo sicurezza, privacy ed efficacia dei sistemi realizzati, attraverso una soluzione capace di operare sempre meglio nel contesto italiano e, non ultimo, che sia pienamente conforme alle normative vigenti. Con l’entrata in vigore dell’AI Act, i fornitori di sistemi di AI dovranno essere in grado di fornire diverse informazioni sul processo di sviluppo del sistema, per questo è importante progettare sin dal principio i futuri sistemi con in mente il nuovo impianto normativo. La nuova versione di EngGPT risponde proprio all’esigenza di sviluppare un Large Language Model che possa integrare tutte le indicazioni contenute nella nuova normativa europea.
È importante anche sottolineare che l’obiettivo di EngGPT non è quello di sfidare i modelli prodotti dai grandi player del mercato, che sono peraltro nostri partner, bensì quella di colmare un gap nel mercato, ovvero quella della Private GenAI on-premise, mettendo i nostri clienti in condizione di essere sin da subito aderenti alle normative future.
Key4biz. Quali vantaggi offre l’Intelligenza Artificiale Generativa Privata – Private GenAI alle imprese e alle amministrazioni pubbliche?
Gianmarco Ciarfaglia. Siamo stati tra i primi a parlare di private Generative AI, facendo riferimento alla possibilità di implementare casi d’uso di intelligenza artificiale generativa e di ottenerne tutti i benefici, sia che si tratti di un’azienda privata che di una pubblica amministrazione, senza però rinunciare alla completa e totale privacy dei dati utilizzati.
Questo vuol dire che, per esempio, i dati utilizzati per addestrare il sistema AI possono non lasciare mai il perimetro aziendale del cliente, che sia esso rappresentato dal suo cloud privato o, addirittura, dalle sue macchine fisiche locali. Non solo, una AI generativa privata viene realizzata per uno specifico cliente e può quindi essere customizzata in ogni sua sfumatura per fare in modo che funzioni al meglio per i casi d’uso target. In ultimo, una AI generativa privata è un’AI che, a meno non sia strettamente necessario, non è esposta al web in alcun modo, mitigando in questo modo eventuali vulnerabilità per il cliente sul versante della cybersicurezza.
Gli elementi citati, che caratterizzano quindi il concetto di Private GenAI, si traducono nella capacità, espressa ampiamente negli ultimi anni da Engineering, di poter sviluppare da zero sistemi complessi di Generative AI, che si basano su Large Language Model proprietari -tra i quali il nostro EngGPT- e di installarli sull’hardware dedicato al cliente che, a seconda del caso d’uso, non è detto debba tradursi per forza in enormi costi infrastrutturali.
Key4biz. Per questa nuova versione di EngGPT, Engineering sta collaborando con ICSC – Centro Nazionale di Ricerca in HPC, Big Data e Quantum Computing, beneficiando delle capacità computazionali offerte da CINECA: ci spiega in cosa consiste queta collaborazione?
Gianmarco Ciarfaglia. Engineering è tra i membri fondatori del Centro Nazionale di Ricerca in HPC, Big Data e Quantum Computing, uno dei cinque Centri Nazionali istituiti dal PNRR per supportare settori strategici per lo sviluppo del Paese. Il Centro riunisce università, istituti di ricerca e importanti aziende italiane come la nostra, dando vita a un ecosistema di ricerca e innovazione d’eccellenza a livello nazionale e internazionale.
La collaborazione con ICSC per Engineering significa portare l’innovazione ai massimi livelli lavorando a fianco delle più prestigiose università e centri di ricerca nel settore. Un esempio è il progetto di innovazione HAIR (Hub for Artificial Intelligence Research): un’iniziativa che, grazie alle capacità computazionali offerte da ICSC attraverso il suo affiliato CINECA, ci permette di sviluppare, addestrare e validare soluzioni prototipali per i Large Language Models (LLM).
In altre parole, con HAIR abbiamo l’opportunità di sperimentare, progettare e costruire nuovi prototipi di AI generativa, che, in seguito, attraverso varie fasi di maturazione tecnologica e industrializzazione, saranno integrati nella suite EngGPT. ICSC è come un motore della trasformazione digitale in grado di combinare finanziamenti pubblici e investimenti privati per accelerare lo sviluppo di soluzioni IT innovative per aziende e istituzioni, una collaborazione tra pubblico e privato fondamentale per il nostro Paese per rafforzarne la competitività.
Key4biz. Engineering, con il suo CEO, Maximo Ibarra, è stata l’unica azienda italiana che ha partecipato ad ottobre 2024 alla “Riunione Ministeriale G7 Industria e Innovazione Tecnologica”. In che modo l’Italia può sfruttare a pieno le proprie potenzialità in un settore così altamente competitivo come quello dell’AI?
Igor Bailo. In Engineering crediamo fortemente che l’Italia possa dare un enorme contributo all’avanzamento tecnologico Europeo e Mondiale, e l’AI è solo uno dei tanti esempi dove siamo pienamente in grado di dimostrare la nostra eccellenza e competenza.
Dal nostro punto di vista è fondamentale dare ai tanti talenti presenti nel nostro paese la possibilità di esprimere le proprie capacità qui in Italia e questo è proprio uno degli obiettivi che ci poniamo aziendalmente: costruire terreno fertile per la ricerca e l’innovazione tecnologica, in modo che il nostro paese possa giocare un ruolo da protagonista in settori all’avanguardia come quello dell’intelligenza artificiale.
Ciò vuol dire investire nella ricerca e prendersi il rischio di sperimentare, per sviluppare soluzioni che possano gettare le fondamenta e fornire valore nel medio periodo. Fra queste soluzioni, oggi giocano un ruolo particolarmente importante i Large Language Models che, in quanto modelli general purpose, fungono da vero e proprio motore di ragionamento per un’enorme moltitudine di use case e saranno sempre più centrali nei sistemi intelligenti del futuro; è proprio per questo che crediamo che la competitività del nostro paese debba iniziare proprio dalla capacità di progettare i Large Language Models fin dalle fondamenta.
Key4biz. Con un’infrastruttura di data center all’avanguardia e un centro di competenze avanzate che conta più di 400 professionisti, Engineering continua ad offrire nuove soluzioni AI a supporto della trasformazione digitale del Paese. Quali saranno i prossimi passi?
Igor Bailo. In un panorama tecnologico dove l’AI impatterà sempre di più ogni settore del business, Engineering si pone come punto di riferimento e partner di Digital Transformation per tutte le realtà pubbliche e private, e questo è vero in tutti gli ambiti tecnologici ma soprattutto per quello che riguarda l’intelligenza artificiale. Con questo obiettivo, continueremo a sviluppare componenti core strategiche come EngGPT, che permetteranno ai nostri clienti e al sistema Italia di essere competitivi nel panorama internazionale.
Ciò è possibile grazie alle forti competenze acquisite nella più che trentennale esperienza nell’ambito della data science, machine learning e intelligenza artificiale, che hanno gettato le basi e ci permettono oggi di avere le skill necessarie ad affrontare le grandi sfide tecnologiche che attendono il paese. Lo sviluppo di Large Language Models e più nello specifico di EngGPT si pone infatti come la naturale continuazione di un percorso iniziato nel 1987, con l’apertura del primo centro di ricerca AI in Italia di Engineering.
Per quello che riguarda i prossimi passi possiamo sicuramente citare la costruzione di dati sintetici che permettano di incrementare le capacità di ragionamento dei nostri modelli avendo al contempo un totale controllo su ciò che il sistema ha avuto modo di osservare durante la fase di apprendimento. Al contempo stiamo lavorando allo sviluppo di nuove architetture AI che mantengano una grande efficacia incrementando però l’efficienza dal punto di vista computazionale e quindi energetico.
In ultimo, ma di enorme importanza, stiamo investendo molto nello step di valutazione dei Large Language Models che ci permetterà non solo di valutare le capacità di ragionamento del sistema, ma anche di analizzare in dettaglio gli aspetti legati all’etica e al bias: questo ci consentirà di poter intervenire tempestivamente nel processo di sviluppo per fare in modo che il sistema sia sempre allineato rispetto alle aspettative che tutti noi abbiamo di un’AI affidabile sotto tutti i punti di vista.
