Agenti AI event-driven: orchestrazione di agenti con contesto di grandi dimensioni su larga scala
Agenti AI event-driven: orchestrazione di agenti con contesto di grandi dimensioni su larga scalaSpeaker:

Luca Bianchi
CTIO @ MESA
Questa presentazione è il riassunto di un lungo lavoro di selezione e di prove svolto nell’arco di un anno su decine di modelli, diverse architetture di GPU (Nvidia e AMD), vari client per i medesimi modelli e i modi di pilotarli (harness, o come va di moda dire al momento).
Il nostro obiettivo era capire che cosa si potesse realizzare on-premises su hardware per HPC di fascia media, quindi non il tipico calcolatore casalingo, ma nemmeno un investimento che un’azienda non si possa permettere.
Abbiamo impiegato parecchio tempo ed energia e quello che abbiamo concluso ve lo presentiamo, così non dovete rifare la fatica.