LaCulturaDelDato #182

Dati & algoritmi attraverso i nostri 5 sensi

For my English speaking friends, click here for the translated version

Ciao,

sono Stefano Gatti e questo è il centoottantaduesimo numero della newsletter LaCulturaDelDato: dati & algoritmi attraverso i nostri 5 sensi. Le regole che ci siamo dati per questo viaggio le puoi trovare qui.

Ecco i cinque spunti del centoottantaduesimo numero:

👃Investimenti in ambito dati e algoritmi. Dal SEO al LLMO: cosa ci raccontano i numeri e gli esperti …

Uno degli impatti che ritengo più importanti, e che per la verità mi appassionano di più, dei cambiamenti indotti dall’intelligenza artificiale generativa è quello legato al nostro modo di cercare informazioni e, di conseguenza, a come cambierà l’e-commerce (e non solo). Questo avrà anche effetti enormi sui processi di posizionamento nella ricerca per quasi tutte le organizzazioni. Non si tratta infatti solo di e-commerce: a cambiare sarà anche la visibilità che ciascun professionista avrà nell’ecosistema economico futuro.

Non sono un esperto di SEO (Search Engine Optimization), tantomeno di quello in cui il SEO evolverà: qualcuno lo sta già chiamando LLMO (LLM Optimization), ma c’è ancora molta nebbia persino sull’acronimo da usare. Pur non essendo un esperto, sto leggendo molto sul tema e cerco di capirne almeno il presente confrontandomi con alcuni esperti. Alcuni di loro sono stati ospiti della newsletter anche diverso tempo fa, come Eric Enge (numero 87) e Giorgio Taverniti (numero 140).

Tra le letture che sto facendo te ne voglio segnalare alcune davvero interessanti, perché riescono a fotografare meglio l’evoluzione attuale e ti possono aiutare a rimanere aggiornato su un fenomeno che difficilmente non avrà un impatto sul tuo lavoro o sulla tua azienda nei prossimi 3 anni.

La prima caratteristica di questo cambiamento nel nostro modo di cercare è la velocità: sembra esponenziale. Fino a marzo 2025 i cambiamenti erano numericamente piccoli (in valori assoluti). Poi, quasi per magia, da aprile le dinamiche sono diventate importanti e hanno iniziato a toccare in modo significativo anche la ricerca tradizionale.

Tra i tanti dati impressionanti dell’articolo, questi sono i più forti:

“Matthew Prince, CEO di Cloudflare, una società di infrastrutture web, ha rivelato che il rapporto tra pagine sottoposte a scansione e visitatori indirizzati da Google è salito alle stelle, passando da 2:1 dieci anni fa a 18:1 oggi.
Il rapporto tra crawler e referral di OpenAI è passato da 250:1 a 1.500:1, mentre quello di Anthropic è esploso da 6.000:1 a 60.000:1.”

Numeri così sono un forte predittore di cambiamenti per l’intera industria.

Se vuoi leggere in modo più dettagliato questa trasformazione raccontata con i dati, ti consiglio l’articolo di Andrea Zurini “La morte del clic: come l’AI sta riscrivendo la SEO”. E se vuoi andare ancora più in profondità sulla “guerra” in corso per la leadership (futura) della ricerca tra lo storico incumbent Google e la start-up rampante Perplexity, non puoi perderti il pezzo di Andrea Macrì.

Nel frattempo, non credo ti sia sfuggita la notizia: proprio Perplexity si è offerta di acquistare da Google il motore di ricerca Chrome, a un valore più alto del suo stesso valore di mercato (!). E a proposito di LLMO, ti consiglio di seguire su LinkedIn quello che scrive Leonardo Ubbiali . Forte dell’esperienza diretta sul campo, condivide materiali e riflessioni molto utili per capire in concreto alcune strategie che si stanno sperimentando. I documenti che cita in questo post, e che mi ha mandato, sono davvero interessanti.
Se vuoi puoi chiederli anche tu: Leonardo è decisamente aperto a discutere su quello che sta facendo.

🖐️Tecnologia (data engineering). Context Engineering secondo Karpathy: il nuovo cuore degli LLM

Ancora una volta, Andrej Karpathy è riuscito a condensare in poche frasi uno dei cambiamenti più importanti che stiamo osservando nell’evoluzione delle intelligenze artificiali generative. Karpathy ha infatti definito il context engineering come quella delicata arte e scienza di riempire la finestra di contesto degli LLM con la giusta quantità di informazione per il passo successivo.

E in questa affermazione ci sono tantissime cose, tantissime trasformazioni e tantissimi strumenti che ruotano sempre più attorno agli LLM. Al punto che le migliorie più importanti nell’esperienza di noi utenti, anche per utilizzi in ambito aziendale, arrivano sempre più non dai miglioramenti dei modelli in sé (che dipendono soprattutto dalla loro dimensione), ma dalla corretta ed efficace orchestrazione dei dati (quelli giusti, non tutti), degli strumenti (soprattutto software già esistente) e dalla persistenza dello stato delle informazioni del processo tra diversi agenti, in diversi momenti. Che poi è un’altra forma di usare bene i dati.

Te ne avevo già parlato, tempo fa, di questo fenomeno di migrazione dal semplice prompt engineering con interazione in tempo reale (molto più stocastica, nel senso del pappagallo 😊) a un’interazione più “differita” nel tempo, che sfrutta dati e strumenti esterni agli LLM. Ora il fenomeno è sotto gli occhi di tutti, e la direzione sembra chiarissima, anche perché è l’unica via per rendere davvero efficaci (direi “per mettere a terra”, per usare un po’ di lessico aziendalese 😄) i grandi investimenti che tante organizzazioni stanno facendo in tutto il mondo.

E questa direzione, francamente, mi piace. Anche perché restituisce centralità a due asset, i dati di contesto e gli strumenti informatici esistenti, che sembravano spariti di scena, travolti dalla magia (e uso questo termine con un pizzico di astio...) degli LLM.

Esplorare e capire questa migrazione dal “solo” prompt engineering verso il context engineering è molto importante per tutti, ma per chi si occupa di tecnologia è fondamentale.

Non posso, in questa sezione della newsletter, andare in profondità sul tema, ne scalfisco solo la superficie, ma, come al solito, poggiandomi sulle spalle dei giganti, ti suggerisco un percorso (o alcune tappe, a seconda del tempo che hai) per approfondire. Questa volta gli approfondimenti sono tanti, ma spero di essere perdonato: sia per l’importanza e la complessità del tema, sia per il tempo che ho dedicato a studiarlo e cercare di capirlo negli ultimi mesi.

Ecco il percorso, in ordine crescente di complessità e lunghezza:

1. Puoi cominciare con questo post di Ajit Jaokar, che evidenzia in modo pratico e sintetico la differenza tra prompt engineering e context engineering.

2. Questo post di LangChain entra nel dettaglio delle varie categorie di azioni/strumenti legati al context engineering.

3. In questo post di Machine Learning Pills trovi un esempio pratico, tratto dal contesto medico, di cosa significhi fare context engineering in pratica, suddividendo i passaggi nei 4 gruppi (Write, Select, Compress e Isolate Context) a cui fa riferimento il post di LangChain.

4. Andrea Zurini e Stefano Maestri , nelle loro newsletter in italiano, spiegano in modo molto chiaro perché il context engineering sia cruciale: rispettivamente per l’evoluzione degli agenti e per gli sviluppatori in carne e ossa ☺️

5. E una volta che ti è chiaro cos’è il context engineering e quanto vada oltre il prompt engineering, può essere utile capire cos’è il system prompt, anch’esso, di fatto, parte strutturale del context engineering. In questo post lo trovi spiegato bene, con un esempio tratto da Anthropic.

👂🏾Organizzazione e cultura dei dati e algoritmi nelle organizzazioni. L’era del lancio rapido: Product Hunt & co non sono mai stati così centrali

Back to 61

Nel numero 61 della newsletter avevamo ospitato l’amico Davide Cervellin, che ci aveva parlato, da grande esperto quale è, di produttività personale. Tra gli strumenti che usa e che consigliava alla nostra community, c’era anche Product Hunt. E guarda caso, il link che vi aveva incuriosito di più, dati alla mano 😉.

Product Hunt nasce nel 2013 come progetto laterale di Ryan Hoover, con un’idea semplice: creare un luogo dove scoprire ogni giorno nuovi prodotti digitali. In poco tempo diventa il punto di riferimento per startup, maker e investitori curiosi. La logica è quella del forum unita a una classifica: ogni giorno si aprono le “hunt” e la community vota i prodotti che trova più interessanti. Dietro questo meccanismo c’è un mix di entusiasmo e validazione sociale: apparire in cima alla lista di Product Hunt può garantire una visibilità enorme a una startup nelle sue prime ore di vita. Col tempo, intorno al sito si è creato un vero e proprio ecosistema: newsletter, podcast, community di maker e angel investor. Nel 2016 Product Hunt è stato acquisito da AngelList, mantenendo però la sua identità di “piazza pubblica” per le novità tech. Oggi è forse meno dirompente rispetto agli inizi, ma resta quasi un passaggio obbligato per chi lancia un nuovo prodotto digitale e cerca feedback immediati.

Strumenti simili a Product Hunt, come Betalist e Indie Hackers, stanno diventando sempre più importanti in un’epoca in cui la fase di prototipazione è stata accelerata in modo drastico dagli strumenti di AI generativa. Di conseguenza, la fase iterativa di sviluppo e il design di ogni prodotto o servizio diventano assolutamente critici per il successo di qualsiasi nuova azienda (non parlo volutamente di “startup”, perché sarebbe riduttivo).

Questo concetto lo esprime in modo molto più chiaro e profondo Rex Woodbury in questo articolo, di cui condivido pienamente la visione: “In the Costco Era of Software, Design Is the Differentiator”. E no, questo non significa che lo sviluppo software perde importanza, ma che è sempre più intrecciato con il design 👀.

👀 Data Science. Simpson, ma non Homer: il paradosso che confonde a volte (anche) i data scientist

“In statistica, il paradosso di Simpson indica una situazione in cui una relazione tra due fenomeni appare modificata, o perfino invertita, dai dati in possesso a causa di altri fenomeni non presi in considerazione nell'analisi (variabili nascoste). È alla base di frequenti errori nelle analisi statistiche nell'ambito delle scienze sociali e mediche, ma non solo.”
Così recita la definizione della pagina italiana di Wikipedia per spiegare il Paradosso di Simpson (che, no, non ha nulla a che fare con il popolare cartone animato americano... come pensai anch’io la prima volta che ci sbattei contro, nei mitici anni ’90 😄).

Devo confessarti che più di una volta il paradosso di Simpson mi ha fatto perdere ore di analisi, e mi sono ritrovato a dover spiegare all’interlocutore a cui raccontavo i dati che sì, era tutto perfettamente corretto... dal punto di vista matematico-statistico.

Se vuoi ripassare o scoprire il fenomeno in modo semplice, l’esempio riportato nella voce italiana di Wikipedia è perfetto e (relativamente) accessibile.

Come conclude Wikipedia nell’esempio:
“Questo paradosso è dovuto al fatto che il tasso di disoccupazione è nettamente maggiore nel gruppo che ha una maggiore percentuale di diplomati; trascurare l'esistenza di due relazioni fondamentali (quella tra disoccupazione e età, nonché quella tra età e titolo di studio) fa giungere a conclusioni errate”.

Se invece vuoi vedere questo fenomeno all’opera in un contesto più complesso, ti consiglio questo post della bravissima data scientist Nina B. Zumel (da seguire!), che mostra con un esempio molto chiaro come anche in una regressione logistica si possano ottenere coefficienti controintuitivi, e in quel caso sbagliati, se non si prendono le giuste contromisure contro variabili confondenti nascoste. (Grazie a Giuseppe Sollazzo per la segnalazione del post 🙌)

👅Etica & regolamentazione & impatto sulla società. Fantascienza californiana o lentezza europea? L’IA vista da due (mondi) documenti

Oggi, in questa sezione della newsletter, ti presento e ti suggerisco di dare almeno un’occhiata (la lettura integrale è decisamente impegnativa 😅) a due documenti molto utili ma piuttosto agli antipodi tra loro. Rappresentano, anche nel modo in cui sono realizzati, le differenze, prima di tutto culturali, in questo momento tra Europa e Stati Uniti nell’approccio all’intelligenza artificiale.

Il primo ha avuto grande risonanza mediatica: l’ho trovato citato in decine di newsletter, anche italiane, all’inizio di aprile quando è uscito. Il secondo, invece, non ha avuto praticamente nessuna attenzione, come spesso accade con i documenti enciclopedici prodotti dalla Commissione Europea.

Il primo, probabilmente ne hai già sentito parlare, è AI2027, uno scenario-predizione sul futuro dell’impatto dell’AI, pubblicato da un gruppo di esperti dell’AI Futures Project, un’organizzazione no-profit con sede a Berkeley, California.
Il documento è graficamente molto accattivante e, nonostante la lunghezza, ha una notevole gradevolezza di lettura, anche grazie all’ottima interazione grafica.
Ha ricevuto recensioni e giudizi molto diversi: alcune positive, altre decisamente critiche.
Per me è un mix, in successione temporale durante la lettura, tra una previsione in stile McKinsey (la parte 2025/26), un racconto di fantascienza (dal 2027 in poi), e un libro-game (il finale).
Non è una critica: non voglio mancare di rispetto agli autori e al loro background, ma più ci si allontana dal presente, più emergono limiti nella considerazione di aspetti come la psicologia sociale o gli impatti economici. Mi trovo molto d’accordo con la lettura che ne dà Il Foglio, che lo descrive non come una profezia, ma come “un modello mentale per ragionare sul futuro dell’intelligenza artificiale”, utile per allargare l’immaginazione pubblica e democratizzare il dibattito sull’IA.
Comunque, è fatto talmente bene ed così coinvolgente che ti confesso di averlo letto due volte. Mi ha fatto riflettere su diversi temi di geopolitica che tendo a trascurare.
Non ti spoilero i due finali della previsione perché, da amante della fantascienza, li considero la parte più affascinante. Scommetto che ne preferirai uno… ma io immagino realistico un terzo finale, e sono pronto a scommetterci sopra! 😉

Molto meno sexy, ma non per questo meno utile, è il secondo documento: il Generative AI Outlook Report, che, come recita l’inizio dell’abstract, “esamina il ruolo trasformativo dell'intelligenza artificiale generativa (GenAI) con particolare attenzione all'Unione Europea.”

Non fa previsioni roboanti come AI2027 ed è molto più ancorato al presente, con numeri anche un po’ “tristi” sugli investimenti (non solo economici) dell’UE sull’AI.
Proprio per questo, però, è estremamente utile se vogliamo immaginare, anche in questo caso, un terzo scenario, quello auspicabile, lontano dagli estremi di AI2027.

📅 Nel Mio Calendario (passato, presente e futuro)

Mercoledì 10 Settembre parleremo al DAMA Italy Book Club del libro Intelligenza artificiale in 4D, uscito tre mese e scritto con Alberto Danese. Se vuoi partecipare all’evento e anche farci qualche domanda vai qui.

Se hai ulteriori suggerimenti e riflessioni sui temi di questo numero o per migliorare questa newsletter scrivimi (st.gatti@gmail.com) o commenta su substack.

Se ti è piaciuta e non sei ancora iscritto lascia la tua mail qui sotto e aiutami a diffonderla!

Alla prossima!