L’“ICL Visualizer” di Domyn a VISXAI 2025: dietro le quinte dell’apprendimento dei modelli linguistici

Alla conferenza VISXAI del 2 novembre, Reetu Raj Harsh, AI Engineer di Domyn, ha presentato l’ICL Visualizer — una piattaforma di ricerca interattiva che consente di esplorare in modo trasparente i meccanismi attraverso cui i Large Language Model (LLM) apprendono dal contesto.

In termini semplici, l’ICL Visualizer offre la possibilità di osservare in tempo reale i processi di in-context learning. Attraverso un insieme di visualizzazioni dinamiche — tra cui attention heatmap, induction timeline, grafici di rilevanza a livello di token e viste sull’attività delle induction heads — gli utenti possono analizzare come il modello identifica i pattern, elabora gli esempi forniti e formula le proprie previsioni.

Il sistema registra i pattern di attenzione e quantifica il comportamento induttivo del modello mentre elabora ogni token. Riconoscendo le induction heads specializzate, distingue tra mera copiatura e autentico apprendimento di regole, misurando l’intensità e la qualità del processo attraverso metriche computazionali come gli induction e copying scores, l’entropia e la sparsità dell’attenzione. L’interfaccia utilizza segnali visivi a colori per mostrare in modo intuitivo gli spostamenti dell’attenzione: viola per il riconoscimento dei pattern, blu per la copia, verde per il contesto e giallo per la scansione.

Progettato per ricercatori e professionisti dell’intelligenza artificiale, l’ICL Visualizer integra tour guidati e dimostrazioni automatiche, offrendo un’esperienza interattiva che rende tangibile il modo in cui i modelli “imparano a imparare”.