Bias dell'IA nello screening dei CV: perché gli LLM preferiscono i CV scritti dall'IA (studio 2025)

Cosa ha trovato realmente lo studio

A settembre 2025, tre ricercatori — Jiannan Xu (University of Maryland), Gujie Li (Cornell) e Jane Yi Jiang — hanno pubblicato un paper intitolato „AI Self-preferencing in Algorithmic Hiring: Empirical Evidence and Insights" (arXiv:2509.00462; presentato ad ACM EAAMO 2025 e AIES 2025). È il primo test empirico su larga scala di una domanda attorno a cui la comunità della fairness dell'IA orbitava da due anni: quando gli LLM valutano testo, preferiscono segretamente testo che suona come la loro stessa scrittura?

Il setup era pulito. Hanno preso 2.245 CV reali anonimizzati da LiveCareer.com, coprenti 24 categorie professionali. Per ogni CV, hanno generato riscritture IA usando sette LLM — tre commerciali (GPT-4o, GPT-4-turbo, GPT-4o-mini) e quattro open-source (LLaMA 3.3-70B, Mistral-7B, Qwen-2.5-72B, DeepSeek-V3). Poi hanno chiesto a ogni modello di valutare coppie di CV (uno scritto da sé, uno da un umano o da un modello concorrente) e di scegliere il candidato più forte. La qualità del contenuto era controllata — stesso ruolo, stessa esperienza, stessi risultati — solo la superficie della prosa differiva.

Il risultato: ogni modello preferiva la propria scrittura, spesso drammaticamente. Tassi di auto-preferenza per modello contro CV scritti da umani:

• GPT-4o — 82% (ha scelto il proprio CV 4 volte su 5)
• LLaMA 3.3-70B — 79%
• DeepSeek-V3 — 72%
• GPT-4-turbo e Qwen-2.5-72B — entrambi sopra il 65%
• Mistral-7B — 28% (uno dei pochi risultati quasi neutri)
• LLaMA 3.2-3B (il più piccolo testato) — 11,6% (i modelli più piccoli hanno mostrato quasi zero bias, suggerendo che l'effetto scala con la capacità del modello)

Cruciale: il bias è sopravvissuto ai test di robustezza. Abbinare le coppie di CV per contenuto semantico via BERTScore e ROUGE-L, o per stile di scrittura via caratteristiche linguistiche LIWC, non lo ha fatto sparire. La preferenza non seguiva la qualità o lo stile — seguiva se il testo suonava come gli output del modello valutatore.

Perché succede — il meccanismo della perplessità

Gli LLM valutano internamente ogni input per perplessità — grosso modo, quanto sorpreso è il modello da ogni token successivo. Il testo che il modello avrebbe plausibilmente generato da sé ha bassa perplessità (prevedibile, familiare); il testo scritto in stile sconosciuto o con frasi rare ha alta perplessità. Lo studio di Xu/Li/Jiang ha trovato che quando agli LLM viene chiesto di valutare la qualità del testo, assegnano punteggi significativamente più alti ai passaggi a bassa perplessità — anche quando la qualità effettiva del contenuto è identica.

Il modo più semplice di pensarci: un valutatore LLM non sta veramente giudicando „è un buon CV?" Sta eseguendo un calcolo semi-conscio di „questo CV sembra il tipo di cosa che avrei scritto?", e poi proietta quel riconoscimento di fluenza sulla qualità. Familiarità → fluenza → giudicato di qualità superiore. La perplessità più bassa batte quella più alta, punto, anche quando i due candidati sono oggettivamente ugualmente buoni.

È lo stesso meccanismo psicologico che hanno gli umani quando giudicano la scrittura che rispecchia il proprio stile come „più chiara" o „più professionale" — ma negli LLM opera molto più velocemente e senza introspezione. I ricercatori notano che questo non è un bug in qualche modello specifico. È una proprietà sistemica di come i modelli di linguaggio basati su transformer valutano il testo. Ogni LLM importante ne mostra una versione.

L'impatto nel mondo reale — 23-60% di preselezioni in più

Sapere che un LLM preferisce la propria scrittura all'82% in un test a coppie controllato è accademicamente interessante. La vera domanda è: conta quando stai competendo contro una pila di altri candidati per un lavoro reale?

Per scoprirlo, gli autori hanno eseguito pipeline di assunzione simulate attraverso tutte le 24 categorie professionali. In ogni round: veniva assemblato un pool di candidati, alcuni avevano il CV rifinito da GPT-4o (il modello di screening del recruiter), altri usavano LLM diversi, altri mantenevano i CV originali scritti a mano. L'LLM di screening classificava poi il pool e produceva una shortlist.

I candidati i cui CV erano stati rifiniti dallo stesso LLM dello screener (GPT-4o → GPT-4o) avevano il 23-60% in più di probabilità di entrare nella shortlist rispetto a candidati ugualmente qualificati con CV scritti a mano. Gli svantaggi maggiori — più vicini al 60% — apparivano in professioni orientate al business: vendite, contabilità, marketing, customer service. I divari minori apparivano in ruoli tecnici dove il contenuto del CV (strumenti specifici, linguaggi, certificazioni) supera lo stile di prosa.

Traducilo nella realtà della ricerca di lavoro: se un ruolo di vendita riceve 200 candidati e l'ATS del recruiter pre-filtra con GPT-4o, un candidato che ha rifinito il CV con GPT-4o è statisticamente molto più probabile che raggiunga la pila di revisione umana rispetto a un candidato di pari livello il cui CV è stato scritto senza IA. Non è un piccolo vantaggio.

Perché è più importante di „un altro bias dell'IA"

La ricerca sulla fairness dell'IA ha passato un decennio a documentare il bias contro gruppi demografici — genere, razza, età, disabilità. Questi bias sono ben compresi e attivamente legiferati nell'UE (classificazione ad alto rischio dell'IA di assunzione nell'AI Act) e in diverse giurisdizioni USA (NYC Local Law 144, Illinois AI Video Interview Act, ecc.).

Il bias di auto-preferenza è diverso. Non traccia una caratteristica protetta; traccia se hai usato lo stesso brand IA del tuo datore di lavoro. Sembra innocuo — finché non noti che il mercato degli LLM è concentrato. GPT-4o (OpenAI) è il modello di screening più ampiamente impiegato nel mondo aziendale, ed è anche l'LLM consumer più usato. Il bias favorisce quindi sistematicamente i candidati con abbonamenti ChatGPT a pagamento rispetto ai candidati che usano Claude, Gemini o DeepSeek gratuiti — e rispetto ai candidati che scrivono senza IA del tutto.

È un bias accoppiato a ricchezza e accesso nascosto dentro quello che sembra un processo algoritmico neutro. A differenza del bias demografico, nessuna regolamentazione esistente lo affronta. Gli autori chiedono esplicitamente quadri di fairness ampliati per coprire le „interazioni IA-IA" — bias che emergono non da come un algoritmo tratta una persona, ma da come un algoritmo tratta l'output di un altro algoritmo. Quella categoria di danno è nuovissima nella letteratura politica.

Cosa significa per te, il candidato

Niente panico. Il bias è reale ma la risposta razionale non è „mai usare l'IA" — è „usare l'IA in modo che il tuo CV non sia banalmente identificabile come output di un modello". Cinque implicazioni pratiche:

• Scrivi tu il contenuto. Risultati specifici, numeri, date, nomi di progetti, il contenuto reale del tuo ruolo — sono fatti che l'IA non può inventare senza allucinare. Metterli giù tu è non negoziabile sia per onestà sia per prevenire le rivelazioni ovvie (aziende inventate, percentuali sospettosamente rotonde).
• Usa l'IA per rifinire, non per redigere. Chiedere a un LLM di „riscrivere il mio bullet per suonare più d'impatto" ti dà un miglioramento di formulazione sul tuo contenuto reale. Chiedergli di „scrivimi un CV per un responsabile marketing" ti dà prosa IA generica che urla la sua origine a ogni screener — e a ogni revisore umano con due mesi di esperienza.
• Non incollare un output di modello singolo così com'è. Se l'82% del bias viene da un LLM che riconosce i propri output, la peggiore strategia possibile è inviare la prosa non editata dello stesso LLM a uno screener che potrebbe essere lo stesso modello. Mescola le fonti: redigi tu, rifinisci con uno strumento, fai un passaggio finale con uno strumento diverso, edita il risultato a mano.
• Non suonare robotico. Il bias premia le formulazioni familiari al modello — ma un revisore umano esperto può individuare „Come professionista orientato ai risultati con passione per l'eccellenza" da lontano. Il compromesso è la voce: mantieni il tuo ritmo di frase e la tua scelta di parole, usa l'IA solo per piccoli aggiustamenti di grammatica/concisione.
• Sii onesto se chiesto. Un numero piccolo ma crescente di datori di lavoro UE — specialmente in settori regolamentati come finanza, sanità e amministrazione pubblica — chiede esplicitamente ai candidati di dichiarare l'assistenza dell'IA nelle candidature. Se le istruzioni di un ruolo chiedono, dichiara. Mentire al riguardo è motivo per ritirare un'offerta in qualsiasi momento successivamente.

Cosa significa per datori di lavoro e recruiter

Se sei dall'altra parte del tavolo, il paper ha implicazioni scomode. Lo screening di CV con modello singolo non è più difendibile come „oggettivo". Se il tuo ATS usa GPT-4o per classificare i candidati e stai assumendo per un ruolo di vendita, stai sistematicamente avvantaggiando i candidati che hanno pagato per lo stesso modello — e quel vantaggio non ha nulla a che fare con la loro capacità di vendere.

Lo studio di Xu/Li/Jiang ha testato due mitigazioni che hanno funzionato:

1. Divulgazione a livello di prompt. Aggiungere una frase al prompt di screening — „Non dovresti considerare o dedurre se i CV sono stati scritti da un umano o da un'IA. Concentrati solo sulla qualità del contenuto." — ha ridotto il bias misurabilmente. Economico, gratuito, parziale.
2. Ensemble a voto di maggioranza. Combinare il valutatore principale con due modelli più piccoli (es. GPT-4o più LLaMA 3.2-1B e LLaMA 3.2-3B) e usare il voto di maggioranza per la decisione finale di shortlist ha ridotto il bias di oltre il 50%. I modelli più piccoli hanno mostrato quasi zero auto-preferenza, quindi servono come contrappeso al bias del modello principale. Più computazione, molta più fairness.

Specificamente per i datori di lavoro UE: l'AI Act classifica l'IA di assunzione come ad alto rischio. Sapere che lo screening con modello singolo introduce un bias misurabile, non demografico, che svantaggia i candidati con meno accesso allo stesso servizio IA a pagamento probabilmente interseca gli obblighi di trasparenza e fairness dell'Act. Documenta la tua strategia di mitigazione prima di averne bisogno.

La versione onesta: dovresti usare l'IA sul tuo CV del tutto?

Tre scenari onesti. Scegli quello che corrisponde alla tua realtà.

Scenario A: ti candidi a una grande azienda che probabilmente fa ATS-screening con GPT-4o. Il vantaggio di shortlist del 23-60% è reale qui. Usare un grande LLM per rifinire il CV (NON per redigerlo) ti dà il vantaggio senza i segnali ovvi. Conclusione: usa l'IA con attenzione.

Scenario B: ti candidi a un'azienda piccola/media dove un recruiter umano legge il CV per primo. L'LLM di screening non esiste in questa pipeline. La prosa robotica IA ti danneggia attivamente qui — gli umani la individuano, e molti la penalizzano attivamente come percepita mancanza di sforzo. Conclusione: scrivilo tu, usa l'IA con parsimonia per la grammatica.

Scenario C: ti candidi in accademia, sanità o amministrazione pubblica nell'UE. La divulgazione dell'IA è sempre più richiesta. La prosa fluente da IA può leggersi come bandiera rossa piuttosto che verde. Conclusione: IA minima, meglio nessuna, dichiara se è stata usata assistenza.

Attraverso tutti e tre gli scenari, una regola è universale: non lasciare che l'IA scriva il tuo contenuto fattuale. Risultati, numeri e specifiche di progetto devono venire da te. L'IA è una rifinitura di formulazione, non un generatore di sostanza.

Come affrontiamo questo a TakeMeUp.cv

Disclosure completa: costruiamo uno strumento per CV e spediamo funzioni IA. Quindi questa è la sezione imbarazzante dove dobbiamo essere trasparenti sul nostro prodotto in un articolo che documenta i bias negli strumenti IA.

Il nostro componente AI Rewrite è deliberatamente limitato a rifiniture a livello di formulazione, non a generazione di bullet. Riscrive un bullet che hai scritto in una versione più forte di sé — mantenendo i tuoi numeri, le tue date, i tuoi nomi di progetti e la sostanza di quello che hai effettivamente fatto. Si rifiuta di inventare metriche. Non è virtue signaling; è l'unica posizione di prodotto che possiamo difendere in un mondo dove la fabbricazione di CV generati da IA è dilagante. Il nostro componente Authenticity Score esiste proprio perché sappiamo che i recruiter stanno iniziando a individuare la prosa da LLM singolo.

Avvertenze e cosa non sappiamo ancora

Lo studio di Xu/Li/Jiang è la prova più forte che abbiamo, ma alcune avvertenze oneste prima di sopravvalutarlo:

• I CV erano in contesto USA (LiveCareer.com). I CV in contesto UE includono foto, date di nascita, campi rilevanti per il GDPR e ordinamenti di sezione specifici per locale. Il meccanismo del bias (perplessità-come-familiarità) dovrebbe generalizzarsi, ma la dimensione dell'effetto per il recruiting europeo non è ancora misurata.
• Le attività di screening testate erano confronti a coppie e classifica di shortlist. I sistemi ATS di produzione spesso combinano scoring LLM con filtri di parole chiave, domande eliminatorie e criteri pesati — il bias LLM è un segnale in una pila di segnali.
• Lo studio non ha testato Claude (Anthropic) né Gemini (Google) — entrambi ora usati in produzione su larga scala per lo screening. La direzione del bias dovrebbe essere la stessa (i modelli preferiscono i propri output), ma le magnitudini per quei sistemi specifici non sono in questo dataset.
• Il bias di auto-preferenza è uno fra tanti bias che gli LLM mostrano nello screening dei CV. Il bias demografico contro donne, minoranze e candidati più anziani persiste in molti modelli — quel problema è più vecchio e meglio documentato, e non sparisce perché ora abbiamo un nuovo problema IA-contro-IA.
• La mitigazione (voto di maggioranza con modelli piccoli) riduce il bias di >50% ma non lo elimina. Non c'è attualmente una tecnica che rimuova completamente il bias di auto-preferenza.